あなたの「いいね」は本物？生成AIが操る世論工作と詐欺の恐ろしい構造-OpenAI レポートより

2025年2月、OpenAIが公開した報告書の内容が衝撃的でした。中国やロシアなど国家の後ろ盾を持つ組織が、生成AIを使って世界中で世論工作や詐欺を仕掛けている——その手口がここまで「仕組み化」されているとは、正直思っていませんでした。

公認心理師の資格を持つ医療職として、私が特に注目したのは「人間の心理をどう突いてくるか」という部分です。恋愛感情、恐怖、自尊心。人が持つ自然な感情を巧みに利用して、ターゲットを追い込んでいく。しかもそのプロセスが、AIによって「工業化」されています。

今回はOpenAIの分析資料をもとに、その全体像をできるだけ分かりやすくまとめてみました。長めの記事ですが、SNSを使う人なら知っておいて損はない内容だと思います。

Disrupting malicious uses of AI | OpenAI
https://openai.com/index/disrupting-malicious-ai-uses/

生成AIは「単体の武器」ではなく「能力増幅器」だった

まず押さえておきたいのが、生成AIの使われ方のリアルです。

映画みたいに、AIが一人で全部やってくれるわけじゃありません。実際は、偽アカウント群やWebサイトといった従来型のインフラ（SNSアカウント、サイト、広告）と組み合わされて使われています。OpenAIの報告書では、AIを「フォース・マルチプライヤー（能力増幅器）」と表現しています。つまり、元からある攻撃の手段を何倍にもパワーアップさせる"ブースター"としての役割です。

しかも攻撃者は、一つのAIモデルに頼りません。作戦の段階によって複数のAIモデルを使い分ける「モデル・ホッピング」という戦略をとっています。

たとえば、文章の推敲や計画段階ではChatGPTのような西側の高性能モデルを使おうとします。でも、いざ実行段階に入ってプラットフォームの安全フィルターに引っかかると、DeepSeek-R1やQwen2.5といった自国産のモデルにパッと切り替えます。西側モデルの倫理的制約をすり抜ける「バイパス・メカニズム」として、かなり合理的に運用されています。

これが防御する側にとって厄介なのは、「どのAIで作られたか」を追跡すること自体が意味を失いつつあるということです。

詐欺の型は3段階——「Ping, Zing, Sting」

報告書の中で繰り返し登場するのが、「Ping, Zing, Sting」というフレームワークです。現代のAI詐欺は、この3段階で構造化されています。

第1段階：Ping（接触）

ターゲットの関心事に合わせた"餌"をAIで自動生成して、最初の接触を図ります。

たとえば「ピッグ・ブッチャリング（豚の屠殺）」と呼ばれる詐欺ネットワークの事例があります。ターゲットは40代の米国人医療従事者。その人がFacebookに投稿したゴルフの話題に対して、AIが生成した自然なリプライを送りつけて近づきました。ほかにも、ヨットや高級ダイニング、TikTokショップの求人広告など、ターゲットの属性（40代の米国人医師、インドネシアの若年男性など）に合わせた精密な"フック"が仕掛けられます。

ここが怖いところで、以前なら外国人犯罪者の書く不自然な言語表現がバレバレだったのに、AIの登場でその弱点が完全に消失しました。

第2段階：Zing（感情操作）

ターゲットの感情的なトリガーを引く段階です。恋愛感情、性的な好奇心、「絶好の投資機会」への興奮、法的リスクへの恐怖。こうした強い感情を誘発して、警戒心を低下させます。

心理師の視点で言うと、これはまさに「情動焦点型」のアプローチです。人は強い感情に支配されると、論理的な思考が止まります。そこを突いてくるわけです。

「LoveCode」「SexAction」「Klub Romantis」といった偽プラットフォームに誘導して、AIが生成したメッセージでトーンを巧みに調整し続けます。ターゲットが攻撃者に「依存」あるいは「盲従」する状態になるまで、心理的に追い込んでいきます。

第3段階：Sting（搾取）

仕留める段階です。架空の投資への送金、「VIPカード」の購入、システム不具合修正のための虚偽の「手数料支払い」などの名目で金を巻き上げます。

驚くべきことに、攻撃者は個々のターゲットから搾取可能な予測最大額を「Nominal Kill（目標殺害額）」として設定しています。カンボジア拠点のある事例では、最終的に2,050万ルピア（約12,000ドル＝約180万円相当）を要求した記録が残っています。

目標額を達成したら、被害者はブロックされて切り捨てられます。

人間とAIの「ハイブリッド分業体制」

ここで一つ、重要な事実があります。これらの詐欺は「AIだけ」で回っているわけじゃありません。人間とAIが高度に役割分担した「ハイブリッド・オペレーティング・モデル」が確立されています。

具体的にはこうです。

リードジェネレーション部門がAIでターゲットの関心事に合ったメッセージを大量投稿します。受付チームはAIチャットボットが「思わせぶりな接待担当」を演じて、多言語で24時間対応します。監督者（メンター）は中国語を話す上位者で、インドネシア人労働者との意思疎通にAI翻訳を使いながら、個別ターゲットへの搾取を指示します。技術・運用部門はDeepSeekやQwenなどのオープンウェイトモデルをローカルで運用し、攻撃の最適化や内部報告書の作成を行います。

年間数億ルーピア規模の「キル・バリュー」を管理する、もはや犯罪というより工業化されたビジネスプロセスです。

一度騙された人を、もう一度騙す「リカバリー詐欺」

個人的に最も胸が痛くなったのが、「Operation False Witness（偽証人作戦）」と呼ばれるスキームです。

これは、過去の詐欺被害者を再び標的にする「二重搾取」の手口です。FBIのインターネット犯罪苦情センター（IC3）やニューヨーク州弁護士会（NYSBA）を装って接触してきます。

AIを使って本物と見紛うようなNYSBA会員証や守秘義務契約書を生成し、専門的なトーンのメッセージで信頼を得ます。「あなたの被害を回復できます」と持ちかけて、また金を巻き上げるんです。

被害者の「お金を取り戻したい」という切実な気持ちを利用する。人間の心理を知り尽くした上での犯行です。

中国「サイバー特別作戦」——数百人規模の組織的世論工作

ここからは、個人の詐欺から国家規模の話に移ります。

中国の法執行機関に関連するアクターが主導する「サイバー特別作戦（网络特戦）」は、少なくとも数百人のスタッフ、数千の偽アカウントを擁し、数十のプラットフォームにまたがって展開されています。100以上の戦術を体系化した「プレイブック」に基づいた、極めて組織的な活動です。

日本の高市早苗氏への攻撃事例がとりわけ象徴的です。内モンゴル自治区の人権状況を批判した後に標的となった高市氏に対して、ネガティブ・キャンペーンが仕掛けられました。当初は「#右翼共生者」というハッシュタグが使われましたが、のちに「#右翼の共生者」とより自然な日本語表現に修正されています。これは、アクターがリアルタイムで言語的な洗練を図っている証拠です。

それだけではありません。米国による関税への怒りを煽る工作や、偽の不満メールの作成も依頼されていました。ChatGPTはこれらへの協力を拒否しましたが、アクターはDeepSeekやQwenといった国産モデルに切り替えて工作を続行しました。

民主活動家への攻撃も凄まじいものがあります。著名な中国系活動家（李老師、恵波、王丹など）に対して、性スキャンダルの捏造、死亡説の流布（偽の訃報や墓石画像の生成）、SNSでの集団嫌がらせ、プラットフォームへの虚偽通報によるアカウント凍結、偽のアメリカの裁判所文書を使った削除申請など、ありとあらゆる手段が動員されています。

さらに、「精日展览館（revealscum.com）」というサイトを通じた活動家の個人情報晒し、Blueskyで主要な反対意見の人物をなりすましアカウントで埋め尽くして本人の利用を事実上ブロックする手法、Pixiv・Blogspot・X・YouTubeなどでのミーム拡散も確認されています。

特に注目すべきは、この工作がオンラインとオフラインをシームレスに融合させている点です。ターゲットの自宅付近へのポスター掲示や家族への圧力といった「物理的な脅迫」とデジタルの嫌がらせが一体化しています。国家背景を持つアクターの脅威は、もうスマホの画面の中だけの話ではありません。

ロシアの情報戦——「存在しない博士」が50本以上の記事を書いた

ロシア起源のネットワークは、AIを「大規模コンテンツ工場」として活用し、地政学的な対立を煽っています。いくつかの作戦を見てみましょう。

Operation Fish Food（Rybar）

ロシアの軍事系ネットワーク「Rybar」は、AIで大量のSNSコメントを生成し、XやTelegramの偽アカウント群に投稿させる「コンテンツ・ファーム」として活動していました。アフリカでの選挙干渉や、「ドイツがモルドバに影響力ネットワークを構築している」という虚偽情報の拡散も試みています。

ここで興味深い分析があります。同じプロンプトから生成された7つのツイートの反応を比較したところ、フォロワー60万超のアカウントが投稿した場合は15万回以上閲覧されたのに対し、フォロワーの少ないアカウントではわずか57回にとどまりました。

つまり、AIが作ったコンテンツの質より、既存アカウントの「権威性（影響力）」の方がはるかに拡散を左右します。拡散を支配しているのはAIの文章力ではなく、アカウントの「看板」だったということです。

この活動のために年間最大60万ドルの予算が見積もられており、「影響力サービス（Influence-as-a-Service）」としてのビジネス化が進んでいます。

Operation No Bell

こちらはもっと手が込んでいます。「Dr. Manuel Godsin」というベルゲン大学（ノルウェー）の博士号を持つと称する架空の専門家を捏造した作戦です。ノルウェーの国内研究レポジトリにも大学図書館にも一切の記録がないにもかかわらず、アフリカの主要ニュースサイトに50本以上の寄稿記事を掲載させることに成功しています。その内容はロシアを称賛し、米国やウクライナを批判するものでした。

存在しない権威をAIで作り上げ、メディアを欺く。報告書の評価によれば、この工作はCategory 4（主流メディアへの浸透）に達しています。

Operation Trolling Stone

アルゼンチンで逮捕されたロシア人カルト指導者の擁護活動です。地元メディア「Rolling Stone Argentina」への攻撃やアルゼンチン司法制度の批判を展開し、パキスタンやアルメニアなどのアクターを雇った「アストロターフィング（偽の草の根運動）」も確認されています。

標的型ソーシャルエンジニアリング——公務員が狙われる

国家アクターの矛先は、一般市民だけでなく公務員や政策アナリストにも向かいます。「Operation Silver Lining Playbook」では、中国を拠点とするアクターが米国の政府高官やアナリストを狙い撃ちにしました。

手口はこうです。まず、LinkedInに偽のコンサルティング会社「Nimbus Hub Consulting」と偽の役員プロフィール「Andy Chau」を構築します。次に、ターゲットの経歴をAIに分析させ、「あなたの専門性は唯一無二だ」と自尊心をくすぐるパーソナライズされたメールを自動生成します。高額な報酬を提示して、ZoomやWhatsAppのオンライン会議に誘い出します。

さらに恐ろしいのは、ビデオ会議での発覚を防ぐために「FaceFusion」によるリアルタイムの顔交換（ライブ・フェイススワップ）の導入を計画していたことです。AIが「ビデオ会議を通じたなりすまし」へと進化している証左です。

ちなみに、この作戦には致命的な痕跡がありました。香港企業を装いながら、文書のドラフト作成時に簡体字（中国本土で使われる字体）を使用していたんです。こうした細部の矛盾が、防御側にとっての重要な検知指標になります。

攻撃者が「AIの痕跡」を消す手口

攻撃者も、AIで作った文章がバレないよう隠蔽工作を行っています。その手口は、実はロシア系コンテンツ・ファームに共通する「シグネチャ（署名）」にもなっています。

代表的なのは、AI特有の記号（エムダッシュ「—」など）を一括削除する手法です。AI生成コンテンツ検知器を回避する目的ですが、皮肉なことに、この処理の結果として文脈の破綻や「garbled text（文字化け・支離滅裂なテキスト）」が発生し、逆にそれが検知の手がかりになっています。

ほかにも、VPNの使用や現地のビジネスタイムに合わせた活動で発信元を隠す手法、AIで生成した弁護士登録証や身分証で偽の権威を捏造する手法なども報告されています。

報告書は、防御側の焦点を「コンテンツがAI製かどうか」ではなく、アカウントのメタデータ（作成時期の不自然な重複、ウルグアイ・アルメニア・パキスタンといった不自然な管理場所の混在）や組織的な拡散パターンに置くべきだと提言しています。

心理の専門家として思うこと

ここまでの話を読んで「自分は大丈夫」と思った方もいるかもしれません。でも、心理学的に言えば、それが一番危ないんです。

Ping-Zing-Stingの構造を見てもらえばわかるように、攻撃者は人間の「普通の感情」を利用します。恋愛したい気持ち、投資で成功したい気持ち、騙されたお金を取り戻したい気持ち。どれも人として自然な欲求です。

報告書は最後にこう結んでいます。

「AI技術がいかに進化し、欺瞞の精度を高めようとも、情報の背景を疑い、真偽を精査する『批判的思考』こそが、このデジタル化された戦場における人類最後の、そして最強の防波堤である」

私もこの言葉に深く共感します。テクノロジーで防げる部分には限界があります。結局最後は、「ちょっと待てよ」と立ち止まれる自分自身の心がいちばんの防御になります。

特に気をつけてほしいのは、以下のパターンです。

どれか一つでも当てはまったら、一拍おいて冷静になってください。

AIが進化しても、僕らの「疑う力」は錆びさせちゃいけないと思っています。

#生成AIの闇 #AI詐欺の手口 #世論工作 #サイバーセキュリティ #公認心理師の視点