フランスの日刊紙『ル・フィガロ』が最近、イスラエルがSNS上でイランに対する大規模なサイバー戦争をしかけたと報じた。その狙いは、イランの若者の中に体制転覆の世論を広げることであり、そのシンボルとして元国王の息子レザー・パーレビが使われた。そして、ＸやインスタグラムなどSNS上に大量の偽アカウント（bot）があったことも確認されており、これらのbotは8億4000万件のフェイク投稿や17億件のフェイクの「いいね」を投稿していたという。

 

　日本でも最近、金と権力を持つ側がSNSを選挙などでの世論操作に使うことが頻繁になっているが、それが政権転覆や戦争といった場面で使われていることを示した。

 

　そうしたなかで、ディープフェイクという新たな手法が登場している。ディープフェイクとは、人工知能（AI）の技術を使って合成された、本物と見分けがつかないほどリアルな人物などの画像、音声、動画のことだ。この技術を使うと、どんな人物に対しても、実際にはいっていないことをいったように加工したり、やっていないことをやったように捏造したりと、人をだますために悪意を持って操作することができる。ディープランニング（深層学習）という機械学習の手法の発展と、利用できるデータが爆発的に増大したことで、それが可能になった。

 

　著者によれば、AIとは人間の知的行動の一部をコンピュータで人工的に再現したものだ。そのAIをつくるための手段の一つが機械学習で、たくさんのデータから機械がみずから学習し、データのなかに潜むルールや知識を発見する。機械学習のなかでも、ニューラルネットワークという、人間の脳の中にある神経回路網の情報処理を模したアルゴリズムを使い、それを多層にすることで性能を高めた学習方法がディープランニングである。

 

　著者は東京工業大学准教授で、ディープフェイク関連技術の歴史や仕組み、それが生み出す社会的問題、その功罪と可能性について論じている。

 

大量の捏造ポルノや詐欺も　犯罪行為が蔓延

 

　ディープフェイクは、これまでどんな事件を引き起こしてきたか。2017年にディープフェイクが登場したとき、それはAI技術で合成されたポルノだった。有名人や無名の個人の顔をすげかえた偽ポルノビデオが頻繁に投稿されるようになった。

 

　日本ではディープポルノで逮捕者も出た。2020年10月、AIを使ってポルノ動画の人物の顔を女性タレントにすり替えた動画をインターネットで公開し、80万円以上の収益を得たとして、男性2人が名誉毀損と著作権法違反で逮捕された。

 

　今年1月、イーロン・マスクとの間に子どもがいる女性が、マスク率いるAI企業・XAIを提訴した。同社のAIチャットボット「Grok」が自分自身の同意なしに、自分の性的ディープフェイク動画を流したという理由で。「Grok」で大人や子どものディープフェイクヌード画像が生成され投稿されていることに社会的批判が高まっていた時期であり、プラットフォーム企業の責任も大きく問われている。

 

　次に、ディープフェイクを使った詐欺事件も頻発している。香港で2024年9月、ビデオ会議の場で、本社のCFO（最高財務責任者）の顔と声のディープフェイクで支社の従業員に送金を指示し、約38億円をだましとる事件がおこっている。

 

　さらに2022年8月、米国コロラド州で開催された美術品評会で、画像生成AIがつくった絵画が優勝するという出来事があった。生成AIとは、入力したデータから新たな画像や音声、文章などをつくり出すAIのことだ。この絵画をつくったのは米国のボードゲームメーカーのCEOで、画像生成AIの一つであるミッドジャーニーを使ってプロの画家が描いたようなクオリティの高い絵画を作成し、優勝後にAIがつくったことを明かした。

 

　ディープフェイクで最悪なものは、政権転覆や戦争で利用されることだ。冒頭のイランへの攻撃でも、生成AIによるフェイク動画がたくさん使われたことが指摘されている。

 

　ディープフェイクは権力を持つ側のプロパガンダの武器となり、人々のなかに誤った情報を大規模に拡散させ、世論と人々の行動を操作しようとする。ツイッターやフェイスブック、インスタグラムやティックトック、ユーチューブなどのプラットフォームは、人々が真実を広げる場ともなるが、それが権力を持つ側に握られるとデマ拡散装置となる。

 

都合悪ければ“捏造だ”　議論の土台失う

 

　著者はディープフェイクがもたらす社会的弊害として、第一に、本物と見分けがつかないニセ物の画像や動画が大量に出回ることで以上のような社会問題を引き起こすこと、第二に、都合の悪い真実は「捏造されたものだ」として、否定できるようになってしまうこと、をあげている。根拠や証拠を積み重ねることができなくなり、議論の拠り所がなくなってしまう――つまり民主主義の根幹にも関わる問題が生じるとしている。

 

　しかし、よく考えてみれば、戦前も国民を戦争へと動員する大きな力となったのは、軍部や特高警察による弾圧もさることながら、大新聞やラジオというメディアだった。それは戦後もかわらず、大新聞やテレビが、世論を反映しているかのように見せかけつつ、実際には支配権力に都合のいい世論をつくりあげ、国民のなかに流れている真実の声を圧倒的な物量でかき消す役割を果たしてきた。それが今ではSNSにかわっただけである。そのような情報操作を、だれがなんのためにやっているのかを見逃すことはできない。

 

　（PHP新書、208ページ、定価1000円＋税）