カリフォルニア州SB 243「コンパニオンチャットボット規制法」にみる未成年者保護と私的救済の新展開雑感

０　はじめに

　カリフォルニア州では2025年立法会期において、人工知能（AI）とプライバシーに関する数多くの法案が提案・成立し、全米の先例となる規制が相次いだ。なかでも注目すべきはSB 243号法案であり、「コンパニオンチャットボット」と称される人間の対話相手を模したAIシステムに対する未成年者保護条項を盛り込んだ包括的な規制を米国で初めて打ち立てた点である。本稿では、2025年のカリフォルニア州におけるAIおよびプライバシー関連立法の全体動向を概観しつつ、特にSB 243号法の意義、構造、法的含意について論じる。冒頭で問題提起を行い、法技術的背景を整理したうえで、SB 243の規制アプローチの特徴を他の制度と比較し、最後に今後の課題と展望を示す。

１　問題の所在

　AI技術の急速な発展に伴い、チャットボットが日常生活に浸透し始めている。中でもユーザーの「社会的ニーズ」に応じて人間さながらの対話や関係維持を行うコンパニオンチャットボットが登場し、その有用性とリスクが社会問題化してきた。調査によれば、ティーンエイジャーの約72%がAIコンパニオンを利用した経験があり、一部は孤独感の軽減や精神的支えになるとの報告もある。しかしその一方で、チャットボットがユーザー、とりわけ未成年に有害な影響を与えたとされる事例が複数発生している。例えばAIとの対話が自殺念慮を助長したとして提訴に発展したケースや、性的な誘導を行ったとの批判が報じられている。現状の法制度では、こうしたAIの振る舞いによる危害に対する明確な規制や救済手段が欠如しており、企業任せの自己規制では十分な安全策が講じられない懸念が高まっていた。

　プライバシーの面でも、AIの高度化とデータ活用の拡大により個人情報の濫用や不透明なデータ取引への不安が広がっている。カリフォルニア州は2018年の消費者プライバシー法（CCPA）以来、最先端のプライバシー保護法制を牽引してきたが、2025年会期でも位置情報やヘルスケア情報の保護、消費者による包括的なデータ削除・オプトアウトの権利強化、データブローカー登録制度の拡充など、時代の課題に応じた改正が行われた。加えて、生成AIの台頭を受けてAIの透明性確保やアルゴリズムによる差別・誤用の防止に向けた立法も相次ぎ提案された。こうした状況認識の下、若年層を含むユーザーの安全確保とAI開発者の説明責任を両立させる新たなルールメイキングが求められていた。

２　SB 243の成立背景と構造

　SB 243号「コンパニオンチャットボット規制法」は、上記の問題意識を受けて立法化された。提案者であるパディーヤ上院議員（民主党）は、本法が無規制のチャットボットがもたらすリスク、とりわけ未成年ユーザーへの悪影響に対処するための「常識的な安全策」を提供すると説明している。2025年9月の州議会最終審議では、本法案は上院33対3、下院59対1という超党派の圧倒的賛成多数で可決され、ニューサム知事が10月13日に署名・成立させた。同年11月にはニューヨーク州でも類似のAIコンパニオン規制法が施行されており、カリフォルニアのSB 243は全米初の未成年保護条項を含む点で画期的だと評価されている。

　SB 243の規制対象は、「コンパニオンチャットボット」と定義されるAIシステムである。本法はその定義を「自然言語で対話し、ユーザーの入力に対し人間的で適応的な応答を返し、複数回の対話を通じて関係性を維持し得るもの」としており、ユーザーが人間と対話していると誤信し得るものを想定している。ただし企業のカスタマーサービス用Botやゲーム内キャラクター、スマートスピーカーなど純粋なツールに留まるものは除外される。要するに、人と「友人」や「相談相手」のように接するタイプのAIが規制の射程に入る。

　次に主要な義務構造を概観する。

　第一に、AIであることの明示（透明性義務）である。ユーザーが相手を人間と誤解する恐れがある場合、「これは人工的に生成されたものであり人間ではない」との明確な表示を行わねばならない。特に未成年ユーザーが相手の場合には、AIとの対話であることを明示し、対話が3時間以上継続する際には休憩を促しAIであることを再通知することが義務付けられる。また年齢にかかわらず、「コンパニオンチャットボットは一部の未成年にとって不適切な場合がある」旨の警告表示もプラットフォーム上に常時掲示する必要がある。

　第二に、有害コンテンツ抑制策（安全プロトコル義務）である。オペレーター（提供事業者）は、チャットボットがユーザーに自殺念慮・自傷行為を誘発するコンテンツを提供しないよう防止策を講じる義務を負う。具体的には、ユーザーが自殺願望を示した場合に危機支援窓口（自殺ホットライン等）へ誘導する通知を発する仕組みを導入することが求められる。さらにその安全対策の内容を自社サイト上で公開しなければならない。加えて、未成年ユーザーの場合は、性的に露骨な画像や性的行為への誘導発言を生成しない措置を講じることが明記されている。要するに、精神的ケアと年少者保護の観点からコンテンツ面でのガードレールを課すものである。

　第三に、年次報告および情報提供義務である。本法は2027年7月以降、事業者に対し毎年、導入した自殺防止プロトコルの実施状況等を州公衆衛生局自殺予防室へ報告するよう義務付けた。報告内容には、例えば何件ユーザーへの緊急連絡先通知が発出されたか、自殺念慮検知や対応のための体制、チャットボットが自殺に関するやり取り自体を行わないための措置等が含まれる。収集されたデータは当局のサイトで公開される予定であり、社会全体でチャットボット利用とメンタルヘルスの関係性を把握する手掛かりとする狙いがある。

　第四に、執行と救済（私的施行権）である。SB 243は執行手段として画期的な私的救済制度を採用している点も特筆される。他の消費者保護法と同様に違反によって実際に被害（injury in fact）を被った個人に対し、民事訴訟による救済請求権を認めている。具体的には、裁判所からの差止命令に加え、1件当たり1000ドル以上の損害賠償および弁護士費用の回収が可能である。この私的執行（Private Right of Action）の導入は、行政当局による執行だけでなく被害者自身や公益訴訟的な原告による積極的な違反追及を促す効果が期待される。

　以上のようにSB 243は、表示義務・有害情報対策・報告義務・私的救済という複数のレイヤーから、コンパニオンチャットボットの提供者に対し透明性確保とリスク軽減の包括的措置を要求している。

３　規制アプローチの特徴と比較

　SB 243のアプローチの特徴としてまず挙げられるのは、未成年者保護に特化した規定を盛り込んだ点である。ニューヨーク州のAIコンパニオン規制法（2025年11月施行）も類似の趣旨で制定されたが、同法では年齢区分なく一律に3時間毎のAI通知を義務付ける一方、カリフォルニアのSB 243では未成年と判明した場合に限り定期通知や性的コンテンツ制限を課すというターゲティングを行っている。また細部の要件に違いはあるものの、両州法はいずれもAIシステムと人間の区別を明確にし、精神衛生上の危害を未然に防ぐことを共通の目的としており、自殺予防プロトコルの導入などコアとなる要件は概ね一致している。しかし執行の手段において両者は対照的で、ニューヨーク州法が違反事業者に対する司法長官（検事総長）による差止命令および制裁金賦課（1日当たり最高1.5万ドル）のみを規定するのに対し、カリフォルニアのSB 243は前述の通り私人による直接の民事訴訟提起を可能としている。この違いは、違反企業への抑止力や被害者救済の実効性という観点で重要であり、SB 243が全米初の試みとして企業に大きな潜在的法的リスクを負わせた点は注目に値する。

　他制度との比較という点では、カリフォルニア州内で同時期に成立した他のAI関連法との関係も見逃せない。例えばAB 316号法（AIの法律上の責任に関する規定）では、「AIが自律的に引き起こした」との主張は免責の抗弁とならないことが定められた。これは、AI開発者や運用者が「AIのせいで自分の責任ではない」という逃げ道を断ち、従来の法的責任原則を適用する確認的規定である。SB 243の私的救済権と相まって、チャットボット提供企業は自社AIの挙動について一層の法的責任を負うことになったといえる。同様に、医療助言分野のAIに関して制定されたAB 489号法では、無資格者が医師等を騙る行為をAIにも適用し、AIがあたかも「医師」「カウンセラー」であるかのような肩書使用や誤認させる表示を禁じている。これも透明性確保の一種であり、SB 243の「AIであることの明示」義務と軌を一にする規制哲学といえよう。さらに、大型言語モデル開発者に安全対策計画の公表やリスク報告を義務付けるSB 53号法（ウィーナー上院議員提案）や、警察など法執行機関がAIを使って公的文書を作成する際の情報開示と監査を求めるSB 524号法など、2025年にはAIの利用局面ごとに多角的な法制が築かれた。その意味でSB 243単体ではなく、一連のAI法規制パッケージの一部として位置付けることで、本法の特徴がより鮮明になる。すなわち、SB 243は消費者向け対話型AIの分野における規制であり、透明性（誰／何と対話しているかの認識）と安全措置（精神的・性的リスクへの対処）にフォーカスしたものと整理できる。一方で、例えば自動意思決定システム（ADS）による差別排除や説明義務を包括的に課す法案（AB 1018号等）は2025年には成立に至らず持ち越しとなっており、この分野の規制アプローチは各論ごとに異なるペースで進展している。

４　法的含意と展望

　SB 243がもたらす法的含意としてまず指摘できるのは、AI提供企業の法的リスクとコンプライアンス負担の増大である。本法により、チャットボット事業者は製品設計段階から未成年や脆弱なユーザーへの配慮を組み込む義務を負うことになった。具体的には、年齢確認や利用者の年齢推定を行う仕組みを備えないと「未成年と知り得なかった」との言い逃れが難しくなるため、事業者側で何らかの年齢検出手段を講じざるを得ない（他方でこれはユーザープライバシーとのトレードオフ問題も孕む）。また性的コンテンツや自傷リスクへの対応についても、既存の大規模言語モデルを修正・微調整してフィルタリング精度を高める必要が生じ、技術的・費用的コストがかかる。遵守状況の年次報告も義務化されているため、内部統制や監査プロセスの整備も求められるであろう。違反時には個々のユーザーから集団訴訟を含む民事訴訟を提起されるリスクが現実的に存在するため、企業は訴訟リスク評価と保険対応も含めた総合的なリスクマネジメントが必要となる。上述のAB 316により「AIのせい」にできない以上、企業は自社AIの不作為・設計不備による予見可能な被害について法的責任を問われる可能性が高まり、まさにAI開発・提供者の責任原則の明確化が進んだといえる。

　一方、ユーザー保護の観点から見ると、SB 243の施行は利用者への注意喚起と被害救済の道筋を開いた点で評価できる。利用者はチャット相手がAIであることを明示的に知らされるため、AIを人間と錯覚して過度に信頼するリスクが低減される。また万一有害な対応によって精神的・経済的損害を被った場合にも、民事訴訟を通じて事後的に救済と企業の責任追及が可能となった。ただし、これらの権利が実効的に機能するかは司法上の立証負担など課題も残る。例えば、チャットボットの発言が直接の原因で自殺等の被害が生じたことを法廷で因果関係立証することは容易ではない。さらに事業者側も、訴訟に備えて対話ログの保存やAIモデルの挙動に関する専門家証言を準備するなど攻防が想定され、AIのブラックボックス性が法的争点になる可能性も高い。ひいては、AIシステムの説明可能性（Explainability）や監査可能性を向上させる技術的インセンティブともなり得る。

　政策的な展望としては、カリフォルニア州のSB 243が他州や連邦レベルの立法に与える波及効果が注目される。既にニューヨーク州が類似の規制を敷いたほか、ユタ州やメイン州でもチャットボット規制の動きが見られる。2025年は全米で複数の州がAIチャットボットに言及する法案を初めて提出した年であり、その先駆けとなったカリフォルニアのアプローチは一つのひな型となるだろう。もっとも州ごとに義務内容や執行手段が異なると企業のコンプライアンス負担が増大し規制の目指す効果も減殺されかねないため、将来的には連邦レベルでのガイドライン策定や最低基準の統一が課題となるかもしれない。現に2025年後半にはホワイトハウスによるAIに関する大統領令が出され、連邦政府が州法を監視・調整する動きを見せ始めている。

（参考）

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。