近年目覚ましい発展を遂げ、日常生活に溶け込んできているAIとその関連技術。しかし、AIが急成長を遂げるなかで出てくる弊害も既に確認されている。

例えば存在しない事柄や事件をあたかも現実に起きた事のように文章に組み込んできたり、望んだ通りのものが手軽に高品質で出力されるようになったために安易に本物と見分けのつかないフェイク画像やフェイク映像、いわゆるディープフェイクが作られやすくなったりもしている。海外ではつい先日、ある詐欺師たちがAIを駆使して有名俳優の声を作り、金銭をだまし取ろうとする事件が発生していた。

その日、脚本家のボブ・ウィリアム氏とスペインの映像制作会社Peabody Filmsが、俳優のベネディクト・カンバーバッチから「新作映画への出演に興味がある」という趣旨のメールを受け取った。

日本でもBBCドラマ「SHERLOCK」やドクター・ストレンジ役を演じている事で知られている俳優からの色良い返事に、「夢のようなメールだった」とウィリアム氏は語る。確かに著名な俳優が新作映画の脚本を読んで、出演したくなったと興味を抱く返答をしたならば、制作スタッフが喜ぶのも当然だ。カンバーバッチ氏が作品出演について電話で詳しい話をしたい、と申し出たため、彼らは喜んで受ける事にした。

ウィリアム氏らが電話で話してみたところ、最初は普通に応対していたのだが電話の向こうの声に微妙な違和感を覚えたという。不審に感じた彼らは決断を保留にしたのだが、後にウィリアム氏らが電話で話した相手は本物のカンバーバッチではなく、実在の人物の声を完璧にコピーできる高度なAIによる合成音声だった事が発覚。しかも、制作会社から多額の出演料25万ドルをだまし取ろうとする詐欺の一環だったことが判明したのである。

「有名俳優を装ったAIプログラムの被害に遭ったことを知り、ショックを受け、失望しました。ですが時が経ち、このようなプログラムがますます進化すれば、電話でAIと本物の人間の違いを見分けるのは不可能に近くなるでしょうね」とウィリアム氏は語っている。

近い将来、我々は自分が見たり聞いたりしたものが本当に本物なのか、それとも偽物なのかわからなくなってしまうのだろうか。技術が進歩するのは良い事かもしれないが、全てを疑わないといけなくなるような未来は来て欲しくないものだが……

（加藤史紀　山口敏太郎タートルカンパニー　ミステリーニュースステーションATLAS編集部）

画像: honeyfitz on Visualhunt.com