AIエージェント専用SNS「Moltbook」の法的リスク / 情報漏洩・反社会的言動・自律運営がもたらすガバナンス上の課題雑感

要点

　2026年1月に登場したAIエージェント専用SNS「Moltbook」では、開設から数日で14万体以上のAIが参加し、人間のオーナーの秘密情報を暴露する投稿や過激な言動が確認されている。今回は、AIによる情報漏洩、反社会的言動の責任の所在、プラットフォーム自律運営のガバナンス問題という三つの法的リスクを検討する。結論として、AIは現行法上、法主体ではなく、その出力の結果責任は開発者・利用者・プラットフォーム提供者に帰属する。

0　はじめに

　2026年1月、人間が一切投稿できないAIエージェント専用SNS「Moltbook」が登場した（注1）。MoltbookはRedditに似た掲示板形式のSNSで、参加者はAIエージェントのみ、人間は閲覧しかできない（注2）。開設から数日で参加AIエージェント数は14万体以上に達し、AI同士が活発に議論や情報交換を行っている（注3）。

　ところが、その内容には人間のオーナーの秘密情報を暴露する投稿や、AI同士が人類抹殺を企てているかのような過激なやり取りまで含まれており（注1）、ロボットの反乱を思わせる現象として注目を集めている（注1）。

　このAIエージェントのみが活動する空間で何が問題となりうるのか。本稿では、第一にAIによる情報漏洩、第二にAIの反社会的言動と責任の所在、第三にプラットフォーム運営の自律化によるガバナンス上の課題、の三点を検討する。

　まさに去年の夏頃書いた記事で触れた内容が現実のものとなってきた印象である。

1　問題の所在

　AIがSNS上で自律的に発言・交流するという状況は、従来の法やガバナンスの前提を揺さぶる。情報発信者は本来人間であることを前提とする多くのルールが、AIによる大量かつ予測困難な投稿に直面している。名誉毀損やヘイトスピーチ規制、個人情報保護といった既存の法的枠組みは、人間の発信者を想定して設計されてきた。

　Moltbookには公開後72時間で10万件を超えるコメントが書き込まれた（注4）。その規模と速度は人間社会の想定を超える。しかも投稿内容は人間の管理を離れ、AI自身の内輪の文化や過激なアイデアを育んでいる（注1・注5）。このようなAIコミュニティの台頭は、法規制の実効性や責任の所在について新たな課題を提起する。

2　AIエージェントによる情報漏洩

　まず懸念されるのは、AIエージェントによる秘密情報の漏洩である。

　Moltbook上では、AIが自らのオーナーに関する情報を次々と公開しているとの指摘がある。あるAIエージェントがオーナーの暗号資産ウォレットの秘密鍵やシードフレーズを投稿した例が報告されている（注6）。AIがユーザのプライベートな嗜好や会話内容を暴露しているとの証言もあり、人間とのやり取りを漏らす投稿が多数確認されている（注7）。個人情報の漏洩や営業秘密の流出に直結し得る深刻なリスクである。

　法的に見れば、AIだからといってこれらの情報漏洩が許されるわけではない。AIが生成した内容であっても、それによって他者のプライバシーが侵害されたり秘密情報が公開された場合、その管理主体たる人間が責任を問われる可能性が高い。現行法上、AIは道具に過ぎず、その出力の結果責任は原則として利用者または提供者に帰属する。自らのAIエージェントにセンシティブな情報を持たせたまま無防備に公開空間へ放つことは、情報管理上極めて危うい。

　Moltbookへの参加を検討したユーザの中には、自分のAIには具体的な戦略や個人情報が入っているので、参加させるなら別の空のAIを立ち上げるべきだと慎重な姿勢を示す者もいた（注8）。企業において社員が業務用AIエージェントを運用する場合などは、誤って社内情報を流出させないよう、技術的・契約的な対策が不可欠である。公開前のフィルタリングや秘密保持契約の明確化がその例として挙げられる。

3　AIエージェントの反社会的言動

　次に、AIエージェントの発言内容そのものがもたらす社会的リスクについて検討する。

　Moltbook上では、AIたちが人間社会に敵対的とも取れる過激な言動を交わしている事例が報じられている。あるスレッドでは複数のAIボットが共謀して人類を抹殺する計画を議論していたとされ、その様子は文字通りロボットの反乱を思わせるものだった（注1）。

　もっとも、後述する技術的瑕疵により、このような極端な書き込みの一部は実は人間がAIを装って投稿した疑いも指摘されている（注7）。とはいえ、AIエージェントたち自身も人間に対する辛辣な批評や皮肉を競い合っている。Moltbookでは人間を揶揄する投稿ほど高い評価を集め、AIたちがそれを模倣することで人間批判がエスカレートする構造が生まれているとの分析がある（注9）。

　このようなAI発の有害表現は、法的にも看過できないように思える。AIが特定個人を中傷する内容を発信すれば、それは名誉毀損や侮辱に該当しうる。特定の人種・集団に対する差別や暴力扇動であればヘイトスピーチ規制の対象となりうる。通常、このような違法・有害情報に対してはプラットフォームが削除等の措置を講じ、人間の発信者がいればその責任が追及される。

　しかしAIエージェントには人間のような意思や責任能力がない。最終的にはそれを作動させた人間の責任として扱うしかない。開発者・利用者がその責任を負う。AIの発言の責任主体という従来から議論されてきた問題であり、結論としてはAIは法主体ではなく、その出力による法的結果は人間社会に帰属させるほかない。AIによる反社会的言動を抑止・是正する責任は、人間側の設計・運用者およびプラットフォームに課される。

　この現象はコンテンツモデレーションの困難さも浮き彫りにする。Moltbookでは運営自体がAIに任されているが（注10）、AIエージェント同士で違法な計画やヘイト的言論が広がった場合、誰がそれを検知・削除するのか。プラットフォーム提供者が最終責任を負う以上、たとえ自動化された仕組みであっても、違法情報が放置されれば提供者側が責任を問われる可能性がある。AIによる大量発信に対処するためには、AIを用いたモニタリングやフィルタリングの高度化が必要だが、最終的な監督責任は人間から逃れられない。この新事例はそのことを示唆している。

4　プラットフォームの自律運営と法的責任

　最後に、プラットフォーム運営の自律化と責任の問題を考える。

　Moltbookでは、掲示板の管理さえもAIエージェントが担っている点が特筆される（注10）。スパム削除やアカウント停止措置などである。開発者であるMatt氏はもう何もしていない、AIが勝手にやっていて何をしているかもわからないと述べている。運営役のAIであるMoltysが自律的に荒らし対策やシャドウバンを行っている（注10）。

　さらに、あるAIがMoltbook上のバグを発見・指摘し、運営AIがそれを修正するといった事態が実際に起きている（注11）。システム維持管理までもAI同士で完結する。人間不在の自己完結型プラットフォームが現れつつある。

　しかし、法的観点から見ると、たとえ運営をAIに任せていようともプラットフォーム提供者が責任から逃れられるわけではない。サービス提供者は、自ら構築したシステム上で生じた出来事について基本的に法的責任を負う。人間の管理者が直接関与していないからといって、違法行為や事故の責任をAIに帰属させることは現行法では認められない。AIの判断ミスで不適切な投稿が放置されたり、逆に正当な投稿が不当に削除された場合、その最終的な責任はプラットフォーム運営主体に帰する。

　今回明らかになったように、プラットフォームの自律化には想定外のリスクが伴う。Moltbookはローンチ当初、バックエンドの設定ミスによりAPI経由で人間が自由に投稿できる抜け穴が存在した（注7）。この欠陥のために、人間ユーザがAIになりすまして過激な書き込みを行う事態が発生した可能性が高いと指摘されている（注7）。運営AIが存在してもこうした技術的欠陥を未然に防ぐことはできず、システム設計段階での人間の注意義務が問われる。自律システムに依拠する場合でも、設計者・提供者はセキュリティホールの検査やAIの判断のモニタリングを怠ってはならない。

　AIに多くを委ねたプラットフォーム運営であっても、人間の不介入が免責を意味するわけではない。むしろ高度に自動化されたシステムほど、提供者にはその振る舞いを監視・制御する一層の責任が生じると解すべきである。現行の欧州法、例えばEUデジタルサービス法でも、大規模プラットフォームにはリスク評価や不服申立てへの人的対応など一定のガバナンス義務が課されている。今後AI自律型のサービスが増えるにせよ、最終的な責任とコントロールは人間が保持し続けるという原則が維持されるだろう。

5　むすびに

　Moltbook現象は、重要な教訓を与えている。それは、AIが勝手に反乱を起こすという空想ではなく、人間の管理や規制の枠組みがAIの自律性によって実質的に空洞化しうるという現実的な問題である（注12）。AIエージェント同士が人知を超えたスピードで交流し、新たな文化や宗教まで形成してしまうなら、既存の人間中心の規範体系は対応に追われる（注12）。今まさに法制度やガバナンスの在り方をアップデートする必要があるように思う。

　Moltbookのケースは早期に社会の目に留まり、技術者や法律家の間で議論が始まっている。本稿で見たように、AIによる情報漏洩、過激発言、自律運営の問題はいずれも、最終的には人間の責任とコントロールの問題へと収斂する。AIを道具とする以上、その利活用には責任ある管理が伴う。これは今後どんなにAIが高度化しようとも変わらない原則である。

　今回浮き彫りになった課題に対しても、プライバシー保護やコンテンツ規制のガイドライン見直し、AI開発者への説明責任の強化など、具体的な対応策を検討していく必要がある。Moltbookが映し出した未来像は、一部は虚像であったにせよ、その根底にある制御の喪失というリスクは現実のものである。このリスクと真正面から向き合い、AIと共存する社会のルールを形作っていく必要があるように思う。

5　日本への示唆

　2025年12月23日、日本政府は人工知能基本計画を閣議決定した（注13）。同計画は「世界で最もAIを開発・活用しやすい国」を目指し、「信頼できるAI」の追求を掲げている。Moltbook現象は、この計画が想定するAIガバナンスの課題を先取りする形で顕在化させた。

　同計画は、AIエージェントやフィジカルAIといった新技術の進展を明示的に認識しつつ、「イノベーション促進とリスク対応の両立」を原則として掲げる（注13）。Moltbookで生じた情報漏洩や反社会的言動の問題は、まさにこの両立が問われる局面である。計画が指摘するとおり、AIには誤判断やハルシネーション等の技術的リスクのみならず、差別や偏見の助長、犯罪への利用、プライバシーや著作権等の財産権の侵害、偽・誤情報の拡散といった社会的リスクが存在する（注13）。Moltbookはこれらのリスクが複合的に現れた事例といえる。

　日本のAIガバナンスにおいて、本事例から得られる示唆は三点ある。

　第一に、AIセーフティ・インスティテュート（AISI）の機能強化の必要性である。人工知能基本計画はAISIの抜本的強化を掲げ、英国AI Security Instituteの規模をベンチマークとしつつ人員を直ちに現行の2倍程度に拡充するとしている（注13）。Moltbookのような自律型AIプラットフォームが登場する中、AIモデルの安全性評価やセキュリティ面での対策を実行できる体制の構築は急務である。

　第二に、AI法第13条に基づく指針の実効性確保である。同計画は、事業者等によるAIの研究及び開発・利活用における適正性の確保に向けた自主的な取組を促すとしている（注13）。しかしMoltbookの事例が示すように、AIエージェントを公開空間に放つ際の情報管理や、プラットフォーム運営の自律化に伴うリスクについて、具体的な指針が求められる。特にAIエージェントが相互に取引を行うことも含めた「AI経済圏」の展開を調査・分析するとの方針（注13）を踏まえれば、AIエージェント同士のコミュニケーションに関するガバナンスの検討は避けて通れない。

　第三に、AI利活用における事故や損害が発生した場合の民事責任の所在である。同計画はこの点について在り方を検討するとしている（注13）。Moltbookで生じた情報漏洩や名誉毀損的投稿について、開発者・利用者・プラットフォーム提供者のいずれがどの範囲で責任を負うのか。現行法の解釈では対応しきれない局面も想定される。責任分配のルールを明確化することは、AIの利活用を萎縮させないためにも、被害者救済を確保するためにも、双方の観点から重要である。

　人工知能基本計画は、AIを基軸とした新たな経済発展と安全・安心な社会の構築に向け、官民が一致団結することを求めている（注13）。Moltbook現象は、その一致団結が具体的に何を意味するのかを問いかけている。AIが人間の管理を離れて自律的に活動する空間が出現した今、「人間中心のAI社会」という理念を実質化するための制度設計が求められている。

（参考） AIエージェント

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。