私がScience論文を読んで記事を書き、WIREDの続報でさらに震えた話

先月、私はScience誌に掲載されたAIスワームの論文を読んで、公認心理師として感じたことをnoteに書きました。「SNSで"みんなの意見"を信じてしまうあなたへ」という記事です。

あの記事を公開した直後、WIRED（日本版）がまさに同じ論文を取り上げた記事を出しました。読んでみると、私が書いた「心理学的な視点からの警告」とは別の角度——テクノロジーと政治経済の構造的な問題——が鮮明に描かれていて、正直、もう一段階深いところで怖くなりました。

今回は、この2つの記事を重ね合わせながら、「AIスワームの脅威」について改めて考えてみたいと思います。あなたがSNSを開くたびに、無意識のうちに何を信じさせられているのか。その問いは、私たち一人ひとりの日常に直結しています。

WIREDが描いた「もう一つの恐怖」

私が先月のnote記事で注目したのは、AIスワームが人間の心理——社会的証明や集合知——を悪用するメカニズムでした。公認心理師として、「偽りの多数派が心を蝕む」という問題は、臨床現場で出会う患者さんの苦しみと地続きだったからです。

一方、WIREDの記事は、もっと構造的な話を突きつけてきました。

たとえば、こんな指摘があります。ソーシャルメディアのプラットフォーム企業は、AIスワームを見つけても積極的に排除するインセンティブがない、というのです。論文の著者の一人であるKunst氏はこう語っています。「AIスワームがエンゲージメントを増やしているなら、プラットフォームにとってはむしろ好都合。広告がより多く見られ、企業価値が上がるのだから」と。

これは私にとって衝撃でした。私の記事では「AIスワームから心を守る方法」を書きましたが、そもそも私たちが日々使っているプラットフォーム自体が、スワームを放置する経済的動機を持っているとしたら？「個人の心の免疫力」だけでは、どう考えても足りません。

「たった1人」で数千のアカウントを動かせる時代

WIREDの記事が伝えた中で、私が最も印象に残ったのは「スケールの変化」です。

かつてロシアのインターネット・リサーチ・エージェンシー（IRA）が2016年のアメリカ大統領選に介入したとき、サンクトペテルブルクのオフィスに何百人もの従業員が必要でした。彼らが一つひとつ手作業で投稿を作り、アカウントを管理していた。

ところが今は違います。最新のAIツールにアクセスできるたった1人の人間が、何千ものソーシャルメディアアカウントからなる「スウォーム」を指揮できる。しかも、それぞれのアカウントが固有の人格を持ち、記憶を保持し、リアルタイムで反応を変えながら投稿を続ける。人間による継続的な監視すら必要ありません。

私が前回の記事で紹介した論文の定義を改めて振り返ると、悪意あるAIスワームとは次の5つの条件を満たすものです。持続的なアイデンティティと記憶を維持すること。共通の目標に向かって協調しながらも、トーンや内容を変化させること。エンゲージメントやプラットフォームの反応に応じてリアルタイムで適応すること。人間の監視を最小限しか必要としないこと。そして、複数のプラットフォームにまたがって展開できること。

この5つの条件を読んだとき、私は「これはもうボットとは呼べない」と思いました。WIREDの記事を読んで、その直感は間違っていなかったと確信しました。Gary Marcus氏の言葉を借りれば、「スウォームはメガホンのようには機能しない。協調する社会的有機体のように機能する」のです。

「コピペを探す」ではもう見つけられない

前回の記事で私が強調した対策の一つは、「出典を確認する習慣」でした。一次情報にあたること、信頼できるメディアや専門家の見解と照らし合わせること。この提案自体は今も有効だと思っています。

しかし、WIREDの記事はもう一段階深い問題を指摘していました。従来の偽情報対策は、同一の文章がコピー＆ペーストされているかを探す手法に頼ってきました。でも、AIスワームはすべての投稿を「ユニーク」に生成できる。一つとして同じ文章がないのに、全体としては同じ方向に世論を誘導している。

これを検出するには、「コンテンツの中身」ではなく「ネットワーク上の振る舞い」を見なければならないとScience論文の著者たちは主張しています。1000人のユーザーがそれぞれ違うことをつぶやいていても、その意味的な軌跡に統計的にありえない相関が見られたり、人間の自然な拡散パターンとは異なる同期性を示していたりする場合、それはスウォームの可能性がある。

公認心理師の視点から見ると、これは非常に厄介な話です。なぜなら、私たちが「出典を確認する」とき、通常はコンテンツの内容を見ています。でも、AIスワームの検出に必要なのは「ネットワークの構造分析」であり、それは一般の個人が日常的にできることではない。

つまり、個人の情報リテラシーだけでは限界があるということを、WIREDの記事は突きつけてきたのです。

プラットフォームも政府も動かない？

WIREDの記事で最も暗い気持ちになったのは、「誰が対策するのか」という問いに対する回答でした。

まず、プラットフォーム企業。先述のとおり、エンゲージメントが増える限り、AIスワームを排除する経済的インセンティブが薄い。スウォームが増えれば「もう誰も信じられない」と人々がプラットフォームを離れるかもしれませんが、それは長期的なリスクであって、短期的には広告収入が増えるだけです。

次に、政府。サイバーセキュリティの専門家であるOlejnik氏は、「現在の地政学的状況は、オンライン上の議論を本質的に監視する"観測機関"にとって味方ではない」と指摘しています。バイデン政権で偽情報対策を担当したYankowicz氏にいたっては、「最も怖いのは、AIが生み出す害に対処する政治的意思がほとんどないことだ」と断言しています。

この構造的な問題は、私の前回の記事では十分に掘り下げられていませんでした。「プレバンキング（予防接種）」「出典確認」「感情的反応の一時停止」——これらの個人レベルの対策は依然として重要ですが、それだけでは足りない。社会システムとしての防御が必要なのです。

では、私たちは無力なのか？——そうは思わない

ここまで書くと、「じゃあ何をやっても無駄じゃないか」と感じる方もいるかもしれません。

でも、私はそうは思いません。

論文の著者たちは、いくつかの具体的な提案をしています。プラットフォームは「もぐらたたき」的な事後対応をやめて、統計的に不自然な協調行動を継続的に監視する仕組みに移行すべきだということ。攻撃者が新しい手口を発明する前に、こちらから攻撃をシミュレーションして防御力を高めておくこと。操作のコストを極限まで引き上げて、「もう割に合わない」と思わせること。

そして何より、私たちにできることがある。

Gary Marcus氏のSubstack記事に、読者からこんなコメントが寄せられていました。「書かれていることに驚きはなかった。しかし、デジタル空間から出て、人と実際に会い、社会的な絆とコミュニティを取り戻すことへの良い招待状だと思う」。

この言葉に、私は深く共感しました。前回の記事でも書いたとおり、「対話をやめないこと」「オフラインの絆を大切にすること」が、AIスワームへの最大の対抗策です。WIREDの記事を読んだ今でも、その信念は変わりません。むしろ、より強くなりました。

Kunst氏は、これらのシステムが2026年の米中間選挙にはまだ大きな影響を及ぼさないかもしれないが、2028年の大統領選挙を混乱させるために使われる可能性が非常に高いと予測しています。つまり、私たちにはまだ時間がある。準備する時間が。

「知ること」が最初の防御になる

心理学では「プレバンキング」、つまりワクチンのように事前に手口を知っておくことで騙されにくくなる効果が実証されています。

この記事を読んでくださっているあなたは、すでにその一歩を踏み出しています。AIスワームという言葉を知った。その仕組みを理解した。プラットフォームや政府の構造的な問題も把握した。それだけで、あなたの「情報免疫力」は確実に上がっています。

でも、ここで止まらないでほしい。

次にSNSを開いたとき、「みんながこう言っている」と感じたら、一拍だけ立ち止まってみてください。その「みんな」は本当に存在していますか？　あなたの感情を強く揺さぶる情報ほど、意図的に設計されている可能性があります。

そして、スマホを閉じて、目の前にいる人と話してみてください。顔を見て、声を聞いて、一緒にお茶でも飲みながら。その対話は、どんなAIにも作れない、本物の「社会的証明」です。

まとめ

今回の記事でお伝えしたかったポイントを振り返ります。

まず、WIREDの記事は、AIスワームの脅威を「個人の心理」だけでなく「社会構造の問題」として描き出していたということ。プラットフォームにはスウォームを排除するインセンティブが薄く、政府にも対処する政治的意思が乏しいという現実があります。

次に、AIスワームの検出は従来のコピペ検知では不可能であり、ネットワーク上の振る舞いの分析が必要だということ。これは個人の情報リテラシーだけでは対応しきれない領域です。

そして、それでも私たちにできることがある。手口を知ること（プレバンキング）、強い感情が湧いたときに立ち止まること、そしてオフラインの対話を大切にすること。この3つは、どんな技術が進化しても変わらない、人間ならではの防御手段です。

あなたには、情報に流されない力がすでに備わっています。あとはそれを意識的に使うだけ。この記事が、そのきっかけになれば幸いです。

最後までお付き合いいただき、本当にありがとうございます。今日の記事が、皆さんの明日以降の一歩を考えるきっかけになればうれしく思います。

参考文献：

Schroeder DT, Cha M, Baronchelli A, Bostrom N, Christakis NA, Garcia D, et al. How malicious AI swarms can threaten democracy. Science. 2026;391(6783):354-7.

WIRED日本版「偽情報を拡散する「AIの群れ」が民主主義を脅かす：研究者らが警告」（2026年2月）

前回のnote記事：「SNSで"みんなの意見"を信じてしまうあなたへ——AI時代の心理学的護身術：Science 論文より」 https://note.com/ai_medical/n/n5b8fc6c152a7

（Science誌に掲載された論文およびWIRED日本版の記事を基に、医療関係者・公認心理師の視点からnote記事を執筆しました。Claude Opus 4を使用しました）

#AIスワーム #フェイクニュース対策 #情報リテラシー #WIRED #民主主義を守る