真実か偽りか…あなたの目は判別できるか？新たなプロパガンダ「ディープフェイク」！！

2023.11.05 16:00 文＝ナオキ・コムロ（ミステリーニュースステーションATLAS編集部）

Xでポスト

真実か偽りか…あなたの目は判別できるか？新たなプロパガンダ「ディープフェイク」！！の画像1 — 画像は「Getty Images」より

　最近、研究者らの間でディープフェイクによる誤報が進化していく様子が研究されている。

　ディープフェイクは、AIが作り出す実在の人物のように見える動画や音声で、オンラインの偽情報の新たな段階と言える。このリアルな加工映像は、政治家や有名人を偽装するだけでなく、詐欺の手口や女性を標的にするポルノなどにも使われる恐れがある。

　この技術は新しく、その社会への影響はまだ完全には把握されていない。アイルランドの研究者たちは、ロシアとウクライナの紛争におけるディープフェイクの使用を調査している。その結果、ディープフェイクの進化が情報の信頼性の低下、誤情報の拡散および真実の定義に関する問題を引き起こす可能性が示唆されている。

　ディープフェイクは、人工知能、特にディープランニング(深層学習)技術を利用して生成される精巧なデジタル偽装である。大量のデータを用いて訓練されたアルゴリズムにより、実在の人物が実際には言っていない言葉や行っていない行動をリアルなビデオや音声で再現することが可能となる。

　「ディープ」という言葉は、使用されるディープニューラルネットワークを指している。この技術は、映画制作やビデオゲームのデザイン、音声合成などの合法的な用途にも応用されているが、倫理的およびセキュリティ上の問題も存在する。

　AI倫理学者の間では、この技術によって大量のリアルなフェイクニュースの中から何が本当なのかを見分けることがますます難しくなるのではないかという不安が広がっている。そしてあらゆる可能性の中でディープフェイクが最も懸念されるのは、おそらく戦争である。

　ユニバーシティ・カレッジ・コークの研究者たちは、戦時中におけるティープフェイクの影響を調査した。これはこの種の研究では初めてである。研究チームは、2022年の最初の7ヶ月間にX(旧Twitter)の5,000近くのツイートを分析することで、これらのデジタル詐欺に対する世間の反応を理解しようとした。

　「この研究の意義は、ディープフェイクの偽情報がソーシャルメディアに及ぼす実際の影響についての研究が少ない点にあります。多くの人はディープフェイクが未来に与える影響に目を向けがちですが、私たちの調査は、ロシアとウクライナの戦争の中でディープフェイクがどのような効果を持ったかを明らかにしています」と研究者の一人であるジョン・トゥーメイは指摘している。

　研究チームは、テーマ分析を使ってツイートの内容や意味を深く調査し、それぞれのツイートにタグをつけて共通点を探し出した。「この方法は、現実世界のテキストデータを分析するのに適しています。テキストデータに何が含まれているかを正確に把握するために使用できるからです」とトゥーメイは言う。

真実か偽りか…あなたの目は判別できるか？新たなプロパガンダ「ディープフェイク」！！の画像2 — 画像は「Getty Images」より

　さらに「私たちの研究では、ディープフェイクは疑いをまき散らすために使われる方が簡単で、一般的であることが示されています。例えば、メディアをディープフェイクだと偽って、その信憑性に異議を唱えることです。しかし、それは決してディープフェイクが人々を欺くために使用される可能性を減少させるものではありません」とも述べている。

　調査で明らかになったように、ディープフェイクの可能性があるというだけで、多くの人が紛争の実際の映像の信憑性を疑った。これは、すでに不安定になっているメディアの状況における信頼の大きな危機に発展する可能性がある。ディープフェイクは、ビデオや音声に対する私たちの信頼を変えるだけでなく、悪意のある計画に合わせて歴史そのものを変えてしまう恐れがある。

　「心配なことが2つあります。第一に、本物のコンテンツがAIによって生成されたものだと偽ることの弊害。第二に、ディープフェイクが本物の動画を軽視するきっかけになるのではないかという懸念です。私たちの調査によると、政治家の本物の動画は、ディープフェイクだと非難する陰謀論がすでにあります」とトゥーメイは述べた。

　ディープフェイクに対する認識を改善することは、私たちの民主主義を守るためにますます重要になるだろう。しかし、今回の研究では逆説的な効果が明らかになった。つまり、認知度を高めることはディープフェイクについて一般市民を教育するのに役立つが、合法的な動画に対する信頼を損なう可能性もあるということだ。ディープフェイクの存在を知っている人の数が増えれば、正当なメディアを取り巻く虚偽の告発や疑惑の数も増える。

　本物のコンテンツが人工的なものとして軽視されるこのような不健全な懐疑主義は、今後何年にも渡って取り組まなければならない新しい重要な課題である。ディープフェイクがより巧妙になるにつれて、ニュースの消費者である私たちには真実を追求する責任が課せられる。

　最後に「すべてが偽物というわけではありませんが、ディープフェイクとは何か、そしてディープフェイクの疑いがある場合の対処法を知っておくことは良いことでしょう」とトゥーメイは述べている。

参考：ZME Science

【文　ナオキ・コムロ】

【本記事は「ミステリーニュースステーション・ATLAS（アトラス）」からの提供です】