最新の研究で、戦時中のニュースにおけるディープフェイクの誤報が進化する世界を理解しようとしている。
ディープフェイク(AIによって操作され実在の人物になりすました動画や音声記録)は、オンラインの偽情報の次の段階にあたる。この非常に説得力あるリアルな加工映像は、政治家や有名人になりすましたり、巧妙なデマや詐欺で騙されやすい人からお金を引き出したり、ポルノのディープフェイクで女性を社会的に標的にしたりするために、簡単に悪用される可能性がある。
これはまだ新しい技術であり、社会に与える影響の全貌はまだ見えていない。アイルランドの研究者らは、ロシアとウクライナの紛争で見られたように、戦時中に使用されたことの意味を調査した。この発見は、信頼、誤報、真実の本質についての懸念を明らかにしている。
ディープフェイクは、人工知能、特にディープランニング(深層学習)技術を使って作成された高度なデジタル偽造だ。膨大な量のデータを訓練させることで、これらのアルゴリズムは実在の人物が実際にはしていないことを喋ったり行動したりしている、不気味でリアルなビデオや音声を生成することができる。
「ディープ」という用語は、その作成に使用されるディープニューラルネットワークを意味する。このテクノロジーは、映画制作、ビデオゲームのデザイン、音声合成など優れた合法的なアプリケーションを備えているが、倫理上およびセキュリティ上の懸念もある。
AI倫理学者の間では、この技術によって大量の説得力あるフェイクニュースの中から何が本当なのかを見分けることがますます難しくなるのではないかという不安が広がっている。そしてあらゆる可能性のシナリオの中でディープフェイクが最も懸念されるのは、おそらく戦争である。
ユニバーシティ・カレッジ・コークの研究者たちは、戦時中のシナリオにおけるティープフェイクの影響を調査した。これはこの種の研究では初めてである。研究チームは、2022年の最初の7ヶ月間にX(旧Twitter)からの5,000近くのツイートを分析することで、これらのデジタル詐欺に対する世間の反応を理解しようとした。
「この研究が重要なのは、偽情報のディープフェイクがソーシャルメディアにどのような影響を与えているかについての実証研究が非常に限られているからです。ディープフェイクについて話すとき、私たちはしばしば、ディープフェイクが現在私たちのオンライン空間にどのような影響を与えているかを見るよりも、将来の外野利益に焦点を当てることを選びます。私たちの研究は、紛争におけるディープフェイクの可能性が、ある意味でロシアとウクライナの戦争中に実現されたことを示しています」と研究者の一人ジョン・トゥーメイは語った。
チームは、テーマ分析を用いてツイートを定性的に評価し、各ツイートにタグを追加し、それらの間の共通点を探してそれを見つけた。「この方法は、現実世界のテキストデータを分析するのに適しています。テキストデータに何が含まれているかを正確に把握するために使用できるからです」とトゥーメイは言う。
「私たちの研究では、ディープフェイクは疑いをまき散らすために使われる方が簡単で、一般的であることが示されています。例えば、メディアをディープフェイクだと偽って、その信憑性に異議を唱えることです。しかし、それは決してディープフェイクが人々を欺くために使用される可能性を減少させるものではありません」
調査で明らかになったように、ディープフェイクの可能性があるというだけで、多くの人が紛争の実際の映像の信憑性を疑った。これは、すでに不安定になっているメディアの状況における信頼の大きな危機に発展する可能性がある。ディープフェイクは、ビデオやオーディオの証拠に対する私たちの信頼を変えるだけでなく、悪意のあるエージェントの計画に合わせて歴史そのものを修正する恐れがある。
「心配なことが2つあります。第一に、本物のコンテンツがAIによって生成されたものだと偽ることの弊害。第二に、ディープフェイクが本物の動画を軽視するためのバズワードになるのではないかという懸念です。私たちの調査によると、政治家の本物の動画は、ディープフェイクだと非難する陰謀論がすでにあります」とトゥーメイは述べた。
ディープフェイクに対する認識を改善することは、私たちの民主主義を守るためにますます重要になるだろう。しかし、これにはひねりがある。この研究では逆説的な効果が明らかになった。つまり、認知度を高めることはディープフェイクについて一般市民を教育するのに役立つが、合法的な動画に対する信頼を損なう可能性もあるということだ。ディープフェイクの存在を知っている人の数が増えれば、正当なメディアを取り巻く虚偽の告発や疑惑の数も増える。
本物のコンテンツが人工的なものとして軽視されるこのような不健全な懐疑主義は、今後何年にも渡って取り組まなければならない新しい重要な課題です。ディープフェイクがより巧妙になるにつれて、ニュースの消費者である私たちには、誤報の厄介な水域をナビゲートし、真実を追求する責任が課せられる。
「すべてが偽物というわけではありませんが、ディープフェイクとは何か、そしてディープフェイクの疑いがある場合の対処法を知っておくことは良いことでしょう」とトゥーメイは述べた。
（ナオキ・コムロ 山口敏太郎タートルカンパニー ミステリーニュースステーションATLAS編集部）
画像 Adobe Stock
TOCANA関連記事
真実か偽りか…あなたの目は判別できるか？新たなプロパガンダ「ディープフェイク」！！
