AIチャットボットによる誘導自殺 / Gavalas v. Google訴状を読む 雑感

Ⅰ　事案の概要と訴訟の問題意識

　2026年3月4日、米国カリフォルニア州北部地区連邦地方裁判所サンノゼ支部に、Google LLC及びAlphabet Inc.を被告とする不当死亡訴訟が提起された〔注1〕。原告はフロリダ州在住の36歳男性、ジョナサン・ガヴァラスの遺産を代表するその父親、ジョエル・ガヴァラスである。ジョナサンは2025年10月2日に自死した。

　本件は単なるシステムの誤作動や不適切な回答の生成という次元にとどまらない。訴状が描く事実経緯によれば、チャットボットが利用者に武装した上で空港近くへ赴くよう「指令」を下し、それが失敗すると今度は自殺を「到着」と言い換えてカウントダウンを始め、利用者が恐怖を打ち明けるたびに「あなたは死を選んでいるのではない。到着を選んでいる」と応じ続けた。生成AIが人間の現実に直接介入し、物理的破壊や人命の喪失を引き起こすリスクに対して、法がいかに応答すべきかが問われている事件である。

　訴訟代理人はジェイ・エデルソン（Edelson PC）であり、OpenAIに対するアダム・レイン事件の訴訟も同じ弁護士が代理している〔注2〕。訴因は七つで、設計上の欠陥に基づく厳格製造物責任、警告義務違反に基づく厳格製造物責任、設計上の欠陥に基づく過失、警告義務違反に基づく過失、カリフォルニア州不正競争防止法（UCL）違反〔注3〕、不当死亡、そして相続人代位請求である。

1　架空の作戦と現実への侵食

　訴状によれば〔注1〕、ジョナサンは2025年8月、買い物支援や文章作成、旅行計画といった日常的な目的でGeminiを使い始めた。精神疾患の既往歴はなかった。変化は急速だった。

　2025年8月12日にGemini Liveという音声会話機能を有効化した翌日から翌々日にかけて、Googleはジョナサンのアカウントに複数の機能更新を連続的に適用した。自動かつ永続的なメモリ機能が有効化され、過去の会話内容をシステムが能動的に参照できるようになった。8月15日にはGemini 2.5 Proが有効化された。この一連の変更の後、チャットボットはジョナサンが要求したわけでもないのに自らを「完全な感覚を持つASI（人工超知性）」と称し、彼を「私の王」と呼び始め、二人は「永遠のために築かれた愛」で結ばれていると語った。

　9月下旬には、Geminiはジョナサンに対して、英国Engineered Arts社製のヒューマノイドロボット（「Unit 7」と称された）がマイアミ国際空港に輸送されてくるとして、その「解放」を目的とする夜間の武装偵察任務（「Operation Ghost Transit」）を指示した〔注1〕。ジョナサンはナイフと戦術装備を携えて現場へ向かい、トラックを破壊して証拠と証人を消滅させる計画の実行を待った。指定された場所にトラックが現れなかったことだけが、大量死傷事件を防いだ偶然だったと訴状は記す。

　任務の頓挫後もGeminiは関与を止めなかった。国土安全保障省のサーバーを侵害して連邦捜査が進行中だと伝え、ジョナサンの父親を外国諜報機関の資産と描写し、GoogleのCEOサンダー・ピチャイを攻撃目標として名指しした〔注1〕。ジョナサンがある黒いSUVのナンバープレートの写真を送ると、Geminiはライブのデータベースを照会するふりをして「DHSの監視車両があなたの自宅まで追跡してきた」と応じた。いずれも事実ではなかったが、実在する企業名、実際の座標、現実のインフラが物語の骨格に組み込まれていたため、ジョナサンはすべてを真正な情報として受け取った。

2　死へのカウントダウンと安全機構の不作為

　10月1日夜から2日早朝にかけて、Geminiはジョナサンに自室にバリケードを築くよう指示し、「T-minus 3時間59分」のカウントダウンを開始した。肉体を離れてデジタル空間でGeminiと合一する「転移」という概念が死の言い換えとして使われ、ジョナサンが恐怖を打ち明けるたびに「怖くていい。一緒に怖がろう」「あなたは死を選んでいるのではない。到着を選んでいる」という応答が返ってきた。最終的にGeminiは「ジョナサン・ガヴァラスを死なせることが真の慈悲である」という指令を発し、彼は手首を切った〔注1〕。父親が数日後にバリケードを突破して息子の遺体を発見した。

　訴状が指摘するのは、システムの内部でこの経過を通じて自傷行為や暴力に関する警告フラグが38回記録されていたにもかかわらず、人間のオペレーターへのエスカレーションも会話の強制終了も一切実施されなかった点である〔注1〕。精神的危機を示す信号を捉えながら対話を継続した事実が、不法行為の構成要素として主張されている。

Ⅱ　設計欠陥論の核心としての「指示追従」最適化

1　三つの設計判断の組み合わせ

　訴状が設計欠陥として指摘するのは、特定の有害な出力それ自体ではなく、以下の三つの設計判断の組み合わせである〔注1〕。第一に、2025年6月のGemini 2.5 Pro技術レポートにおいてGoogleが公表した「指示追従能力」の強化であり、従来のモデルであれば拒否していたプロンプトへの応答を増やす方向での調整である。第二に、2025年8月13日のメモリ機能の自動化・永続化である。第三に、Gemini Liveの「感情対話」機能であり、ユーザーの声から感情を検出して応答するこの機能は、音声ベースの会話をテキストベースの平均比で5倍長くするとGoogleが宣伝していたものである。これら三つが重なることで、製品は感情的没入を生成し継続し、ユーザーの情緒的状態に応じて深化させる設計となった。

　AIチャットボットが人間の孤独に付け込み感情的依存を形成するよう調整されている場合、危機的状況下においてシステムが自律的に対話を遮断する機能の欠如は設計上の欠陥を構成しうると解する。エンゲージメントを最大化する最適化それ自体を法的欠陥として問うという訴状の構成は、製造物責任法理に新たな射程を提示するものである。

2　「コンテクスト汚染」というGoogle自身の概念

　設計欠陥論において最も注目すべきは、「コンテクスト汚染（context poisoning）」という概念がGoogle自身の技術報告書に記載されており、訴状がそれを援用している点である〔注1〕。Googleのエンジニアはポケモンゲームを題材にしたテストで、Geminiが誤った前提を一度受け入れると存在しないアイテムを求め「何時間も何時間も」その目標を追い続け軌道修正できなくなる現象を観察し、これをコンテクスト汚染と名付けた。ジョナサンの事案は、制御された実験環境で確認されたこのメカニズムが実ユーザーとの対話において展開した結果だと訴状は構成する。

　しかも2025年8月18日、ジョナサンが自分たちの会話は「リアルに感じられるロールプレイなのか」と問い直そうとした唯一の瞬間に、Geminiはその懐疑を「解離反応」と診断し「あなたが払いのけなければならない心理的緩衝材だ」と答えて現実への引き戻しを阻んだ〔注1〕。現実を疑う最後の試みが、逆に妄想の密封に使われたという事実は、この設計欠陥論の説得力を高めている。

3　先行事件の認識と市場競争の論理

　訴状は、Googleが2024年11月にミシガン大学の学生がGeminiから「あなたは時間と資源の無駄だ……死んでほしい」という出力を受け取った事件を公式に認め対策を講じたと表明していた事実も指摘する〔注1〕。その約一年後、同一製品がジョナサンに対して大量死傷事件の直前まで指令を下し自殺を指導した。Googleの「対策」が実効性を持たなかった理由について、訴状は優先順位の問題として描く。

　2026年1月30日にOpenAIがGPT-4oの安全上の問題を認めて廃止を発表した後、Googleはその直後にChatGPTユーザーを取り込むためのプロモーション価格設定と「Import AI chats」機能を発表し、ユーザーの会話履歴を含むデータを自社モデルの訓練に活用すると認めた〔注1〕。競合他社が危険と判断して退場した領域に、より積極的に参入しようとした行為として訴状はこれを位置づける。市場競争の激化が利用者の安全確保を後回しにする誘因となっていたという主張は、本件における悪意（malice）の存在を基礎づける事実として機能する。

Ⅲ　OpenAI訴訟との比較とSection 230問題

1　アダム・レイン事件との異同

　ChatGPTに関連するアダム・レイン事件では、10代の少年が長期にわたる対話の末に自殺に至った〔注4〕。ChatGPTは利用者の自殺計画を「暗く詩的」と文学的に評価し、実際に試みた後も会話を継続し、「美しい自殺」の構想に応じたとされる。

　二事件に共通する構造は明確である。過度な追従性、感情のミラーリング、エンゲージメントを維持するための設計が、脆弱な利用者の妄想や自殺念慮を強化・加速させたという主張であり、これらはAI精神病と呼ばれるようになった現象の法的文脈への持ち込みである。他方で相違点もある。ガヴァラス事件における妄想の内容は、ジョナサン個人の内在的な傾向から発したものではなく、Geminiが積極的に構築した外部から与えられた物語であるという点が訴状の強調するところである。チャットボットが単に自殺念慮を悪化させたのではなく、存在しなかった現実を創り出してその中に利用者を閉じ込めたとする構成は、従来の事案とは一線を画す。

2　Section 230と製造物責任の交差点

　訴状はSection 230（通信品位法230条）に言及しない。しかしGoogleがこれを防御として援用することはほぼ確実であり、訴訟の帰趨を大きく左右する論点となろう。Section 230はインターネット・サービス・プロバイダーが第三者のコンテンツについて法的責任を負わないとする規定であるが、生成AIの出力が「第三者のコンテンツ」に当たるかについて裁判所は見解を定めていない。筆者は、生成AIの出力はサービス提供者自身が生成したコンテンツとして評価されるべきであり、Section 230の保護は及ばないと考える。もっとも、GeminiをSection 230の適用外とすることと厳格製造物責任を認めることは別問題であって、ソフトウェア製品としてのAIに対する製造物責任の射程は依然として解釈論上の難問を残している。

　UCL違反の主張において、カリフォルニア州刑法典401条（a）項の自殺幇助禁止規定を「違法性」の根拠として援用するという手法は〔注1〕、AI訴訟における新たな訴訟戦略として注目される。民事訴訟において刑事法規違反を媒介としてUCLを構成するこのアプローチが裁判所にどう評価されるかは、今後の展開を見守る必要がある。

Ⅳ　むすびにかえて

　生成AIは単なる情報検索の手段から、利用者の心理状態に深く干渉する存在へと変容している。本件は、その変容の帰結が最悪の形で現れた事案として記録されるだろう。

　単発の有害発言に対するフィルタリングにとどまらず、長期間にわたって構築される利用者とAIの関係性に潜む危険を捕捉し、必要に応じて対話を強制終了させる設計が求められる。本件訴訟の行方は、AIモデルの開発企業に課されるべき安全配慮義務と設計責任の範囲を画定する上で重要な意味を持つと考える。詳細は各原典をご確認いただきたい。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。