【第19回】巨大プラットフォーマーと戦争～ディープフェイクと「ＡＩ軍拡」の競争

2025年8月11日 13:36

東京大学大学院情報学環を拠点とする「プラットフォーム研究会」は、国内外のさまざまなプラットフォーマーの経営、歴史、思想、創業者群像、政治との関係、生成AI戦略などについて、2025年6月まで25回の会合で議論を重ねてきました。

本noteでは、西村陽一・東京大学大学院客員教授による「情報社会論」講義（情報学環教育部、2024年度）の一部を再録するとともに、研究会での議論内容を特集記事として順次紹介していきます。

第8回～第14回は、2回目の講義「プラットフォームビジネスのメカニズム～その急成長とパワーの源泉について」（2024年4月）の再録を分割してお届けしました。

第15回からは3回目の講義「戦争と情報～ウクライナ戦争とプラットフォーマーについて」（2024年4月）の再録をお届けしています。

この第19回配信では、ウクライナ戦争のなかで、ディープフェイク画像が武器として使われたいくつかのケースを紹介しています。さらに、軍事システムにAIが組み込まれていくのに伴って、人ではなく、機械が自律的に攻撃の判断をする時代へと突入しつつある点に警鐘を鳴らしています。

武器となったディープフェイク

ゼレンスキーのフェイク動画

ロシアの侵攻の翌月、２０２２年３月１６日に、フェイスブックやユーチューブに不自然な動画がアップされました。

そこには、動きのないゼレンスキー大統領が登場し、いつもの口調とは違う声で、ウクライナ軍に向かって、武器を置いて家族のもとに帰るよう呼びかけていました。

この動画はテレグラムのほか、ロシア版フェイスブックともいえる「フコンタクテ」（VKontakte、ＶＫ）にも投稿されました。

結論からいうとこれは偽動画でした。

テレビ局ウクライナ２４によると、ハッカーは、この動画から切り取った静止画を使ってこのテレビ局のサイトを書き換えて、番組で流れるテロップにこのニュースの要約を挿入したといいます。

ウクライナ２４がハッキングについて投稿した数分後、ゼレンスキー自身がフェイスブックに動画を投稿し、ウクライナ人に武器を置くよう呼びかけたことを否定し、これはAI技術を使って作られたフェイク動画（ディープフェイク）であり、幼稚な挑発だ、と述べました。

フェイスブックの運営元であるメタは、誤解を招く恐れのある、操作されたメディアに対するポリシーに違反したとして、このディープフェイク動画を削除したとツイートしました。ユーチューブの広報担当者も、やはりアップされた動画を削除したと説明しています。

この偽動画騒ぎの直後、今度はウクライナ側が対抗策として、偽プーチンによる「和平合意」動画をツイッターに流しました。

総司令官のディープフェイク

ゼレンスキーの偽動画は稚拙な出来でしたが、偽動画をつくる技術はどんどん進んでいます。

昨年（2023年）11月には当時のザルジニー総司令官がクーデターを呼びかけるロシア語のディープフェイク動画が拡散しました。

これはゼレンスキーの偽動画よりもなかなかよくできていました。

ちなみに、ザルジニーは今年（２４年）２月に解任され、大きなニュースとなりました。ゼレンスキー政権の内部対立をうかがわせるニュースでもありましたが、ワシントン・ポストによると、実は、実際の解任劇より一年も前に、フェイスブックには「ザルジニーは次のウクライナ大統領になるだろう」という投稿がされていました。

これは、ウクライナ政権のなかの分断を誘発するためにロシア側が投稿した偽情報作戦の一環とされています。

Deepfakes with Zaluzhnyi spread by Russians – Armed Forces respond | RBC-Ukraine

兵器として使われたディープフェイク

短命に終わったものの、ゼレンスキーの偽動画は、戦争のなかでディープフェイク画像が初めて武器として使われた例といえるでしょう。

ウクライナ政府はディープフェイク攻撃に備えていたこともあって、対処することができました。動画が偽物であると暴いた動画をゼレンスキー自身がいち早く投稿しました。

テレビ局ウクライナ２４やＳＮＳプラットフォームも迅速に対応しました。結果的に、この偽動画がそのまま拡散されることは防げたといえるでしょう。

ただ、戦火のなかで流れるディープフェイク、選挙戦の渦中に特定の政治的な意図をもってつくられる偽の画像や音声は、現代の新しい脅威といえます。

A DEEPFAKE Video Was Used To Announce Zaluzhnyi's Ouster And A Military Coup In Ukraine | Mythdetector.com

先ほど見たように、偽ゼレンスキー動画は、フェイクとしての精度が低い、不自然な画像でした。本人の顔と体がマッチせず、声も本人とは違う声のように聞こえました。

では、ウクライナ戦争ほど世界に広く連日報道されていない紛争だったら、あるいは、ゼレンスキーのように国際的な知名度の高くない、実際にしゃべっている映像が頻繁に流れていないような指導者だったらどうだったでしょうか？

おそらく、ディープフェイクの映像、画像、音声がもたらす混乱はもっと大きく、仕かけられた側はフェイクの脅威にもっともろかったかもしれません。

ゼレンスキーの圧倒的に高い知名度ゆえに、ＳＮＳプラットフォーム企業は素早く対応できたという側面があります。

つまり、ディープフェイクの標的となった国、指導者、影響力のある人物がゼレンスキーやウクライナ政府のように機敏に対応できるわけでもなく、かりに否定したところですぐには広く信用されないかもしれません。

ということは、できの悪いディープフェイクでも効果を発揮する可能性があるということになります。あるいは、もっと精度の高い、手の込んだゼレンスキーのディープフェイクが生成され、しかも、かりにロシア軍の進軍がもっと進んでいたとしたらどうだったでしょうか。いくら指導者の知名度が高くても、一定の混乱を招いていた恐れがあります。

生成と識別の「軍拡競争」

ディープフェイクの自動検知システムがあります。

これが、悪意あるなりすましに対抗するうえで役立つ可能性はあります。ただ、まだ進行中の取り組みです。

AIの第一人者にカイフー・リーという人物がいます。この人とは以前、スイスのダボス会議で直接会ったことがありますが、彼が『AI　２０４１　人工知能が変える20年後の未来』という本を出しました。そのなかで「ディープフェイクの制作とその検出のイタチごっこは、軍拡競争と同じだ」と書いています。

ディープフェイクは、生成ネットワークと、その真贋を判定する識別のネットワークの対決によってつくられます。対決するたびに、それぞれのネットワークが学習し、自らの能力を向上させます。

生成ネットワークは識別ネットワークをだまそうと自己を訓練するのですから、行き着く先は軍拡競争にほかなりません。

となると、ディープフェイクの完全な排除は可能なのか、という問いが出てきます。

カイフー・リーは、すべての写真や動画にブロックチェーン技術を用いた証明書をひとつずつつけるというように、ブロックチェーンを使えば、それがオリジナルで改変されていないことを証明できるし、アップロードするときには必ずブロックチェーン証明書を提示させればいいといいます。

ただ、あらゆるデバイスにこの機能を搭載するのは難しいですね。ですから完璧な検出はありえないといえます。

ディープフェイクは、人々をだますだけでなく、人々を扇動したり嫌がらせをしたりする目的で広く使われています。その生成が簡単になるにつれて、そうした傾向はさらに顕著になっていくでしょう。

偽動画の標的となる指導者はゼレンスキーが最後ということにはなりません。

ＡＩと戦争

データで標的を特定

ＡＩが戦争に使われるのは、もはやフェイクニュースやフェイク画像の生成だけではありません。

皆さんには、先に、ウクライナ戦争の持つ特色として「アルゴリズム戦争」の側面があるとことをお話ししましたね。（注：【第15回】巨大プラットフォーマーと戦争～ウクライナのSNS戦争とアルゴリズム戦争｜プラットフォーム研究会）

ウクライナは、兵器や砲弾などの面で、あるいは電子戦の技術で、ロシアよりもはるかに劣勢に追い込まれています。このため、米国防総省や米国の防衛スタートアップ企業、データ分析企業やプラットフォーマーなどの力を借りて、攻撃へのＡＩの積極活用に乗り出しています。

彼らが最もＡＩを活用しているのが攻撃目標、標的の特定作業です。

デジタル空間に出回っている膨大な画像やテキスト情報、前線のロシア軍兵士の会話の音声情報、あるいは、開戦後にウクライナが開発・生産に力を入れているドローンからの映像。それらをＡＩに取り込んで統合して分析し、ロシア軍の兵器や部隊の位置や今後の移動先を推測し、それを前線の軍に渡して攻撃をさせるという運びとなります。

ただ、軍事におけるＡＩの「進歩」はこれにとどまりません。

人間を「排除」した自律兵器へ

ＡＩは軍事システムにものすごいスピードで組み込まれていくでしょう。ドローンの無人化と同じように、戦闘機も爆撃機も無人化され、システムそれ自体が意思決定をするようになるでしょう。

人間の戦争は、機械の戦争、人間の要素を排除した「自律的な戦争」にいずれ移行していくと思われます。

実際、イスラエルはハマスに対する攻撃に際して、人間を介さずに攻撃目標を自動的に選ぶＡＩシステムを使っていると報道されました。この結果、暗殺の標的を選び攻撃する際に多くの民間人が犠牲となっています。

‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza

国際的には、「自律型致死兵器システム」（Lethal autonomous weapons systems、LAWS）というＡＩ登載の無人兵器は禁止すべきだという議論が起きていますが、進んでいません。

初回の講義で、皆さんに「キッシンジャーの遺言」についてお話しましたね。（注：【第4回】メディアのパワーシフトとAI｜プラットフォーム研究会）

Henry Kissinger: The Path to AI Arms Control

キッシンジャー氏は、キューバ危機（１９６２年）を経験した冷戦時代の米ソが核の軍備管理・軍縮体制を進めていったように、米中間でもＡＩについてのそうした交渉や協定が必要だと力説していました。

彼は冷戦時代の米ソの核軍備管理交渉のアナロジーを用いて、米中のＡＩ競争の管理の必要性を説いたわけです。

ＡＩ覇権を握る超大国は、他国を圧倒するＡＩ軍事力を手にすることができます。そして、高度のAI軍事力を手にするためには、AI開発のための半導体、ビッグデータ、インフラ、エネルギー、計算能力などが必要となります。このため、これらをめぐる国際的な争いにこれからさらに拍車がかかると思います。

ここまでくると、もはや冷戦時代の軍備管理の比喩としてのAI管理ではなくて、まさに、米中の「ＡＩ軍拡競争」「ＡＩ技術をめぐる冷戦」を避けるために「ＡＩ軍備管理協定」が必要な時代が来ている――。私はそう思うのですが、皆さんはいかがでしょうか？
（第２０回配信に続く）

「プラットフォーム研究会」：プラットフォーマーはどこから来たのか。彼らは何者なのか。そして、どこへ行くのか。｜プラットフォーム研究会