「ChatGPT」やグーグルの「Gemini」、アンソロピック社が開発した「Claude」などAI（人工知能）アプリが日常生活に溶け込み、スマホやパソコンを使って文章作成や画像・動画生成、業務効率化、語学翻訳など多岐にわたって利用が進んでいる。翻訳打ち起こしや動画生成など、一般人が利用するモデルはまだまだ完全な領域といえるほどではないにしても、人工知能は驚異的なスピードで日々進化を遂げており、この春には前述の米AI新興企業であるアンソロピック社がこれまでの最先端AIをはるかに凌駕する「Claude Mythos（クラウド・ミュトス）」という危険過ぎて一般公開を見送るほどのモデルを発表した。

　このミュトスがサイバーセキュリティー領域において、OSやブラウザなどのソフトウェアの脆弱性（欠陥）を発見したり、サイバー攻撃の経路を分析したり、セキュリティ防衛を支援するだけでなく、逆に使い方によっては強力なサイバー攻撃を仕掛けることも可能であることから、「危険すぎて一般公開を見送る」ことになり、アップルやグーグル、マイクロソフトなど巨大IT企業界隈だけが「防衛目的」を掲げて限定利用することになった。ミュトスはこれまでサイバーセキュリティーを専門にしてきた人間の実力をはるかに上回り、世界中の専門家が27年間にわたって見つけられなかった脆弱性を特定した例もあったという。AI自身が判断して動き、防衛だけでなく攻撃にも使えるという「デュアルユース」の怖さも兼ね備えているのである。すなわちハッカーなどの高い技術力や専門的知識を持っていなくても、誰もがこうしたAIツールを使って攻撃側にもなれることを意味し、目的によっては金融システムが狙い撃ちにされたり、社会インフラのシステムが乗っとられたりされかねない。犯罪側に悪用された場合の大きすぎる社会的弊害が指摘され、メガバンクや日本政府も対応を協議しているほどである。

　人工知能が発達して人類の暮らしが向上するなら進歩であり歓迎すべきことだろう。ただ一方で、かつてＳＦ映画で人工知能を備えた人型ロボットが暴走して人類を攻撃するというのがあったが、人間側が制御できないレベルでAI自身が判断して動き、暴走を始めたときのリスク等々も以前から警鐘が鳴らされてきたことだ。一般的には翻訳機能が発達してどこの国の人とでもスマホを通じて会話ができたり、調べものを瞬時にこなしてくれたり、メールの文案まで作成してくれたり、動画編集までこなしたり、日常生活のなかで利用するには確かに便利なツールにもなっている。しかし同時に、自分の頭で考えないのが当たり前になったり、AI依存でそれなしには生活できないような人間側の退化にもつながったり、利便性の裏で幾つもの弊害も抱えているのが現実だ。知性を高めるはずの大学では、卒論もAIが書いた――等々の事象も起こり得るのだろう。発展的な側面があるのと同時に負の側面も持ち合わせているのである。

　AIを通じてディープ・フェイクの動画を作成し、まるで本人が話しているように見せかけて作り物の動画がばらまかれたり、ウクライナ戦争を巡っても幾つもの偽情報動画がＳＮＳ上に拡散されたり、イラン攻撃に際してもAI搭載のドローン攻撃機がみずからの判断で他のドローンと連携しながら攻撃対象に攻撃を加えたり、軍事的、政治的支配の道具としてもAIはフル活用されるようになった。誰が何の目的で使うのか――。これはすべての分野に共通する普遍的な問題だろうが、発展する技術を誰がどう使うのかによって進歩にもなれば危険な代物にもなり得るのである。情報戦の時代に、世論を宣伝扇動するグーグルやマイクロソフト、アップルといった巨大IT企業の側が「防衛」を掲げてこうした最先端AIを占有した場合に何が起こるのかは注視すべき点となっている。

吉田充春