AIコンパニオン規制 / 米国における「AIセーフティ」規制の二潮流 / NY州とCA州の法案比較 雑感

　今回は以下の記事の続編的位置付けである。そのため、まずは以下の記事をご一読いただければ幸いである。

導入

　連邦レベルでの包括的なAI規制が未だ形成途上にある米国において、AIの安全性（AI Safety）に関する立法が、州レベルで急速に具体化しつつある。特に、経済とテクノロジーの中心地であるニューヨーク州とカリフォルニア州が、生成AI等の対話型AIがもたらすリスク（特に、人間との誤認、依存、精神的危機への対応）に対し、それぞれ独自のアプローチを法案として提示している点は注目に値する。

　両州の法案は、一見すると「AIが人間でないことの通知」や「危機対応プロトコル」といった共通の課題に取り組むものだが、その細部の設計思想—義務の範囲、未成年者保護の在り方、そして法執行のメカニズム—において、顕著な相違がみられる。本稿では、この二つの法案を「反復通知義務」「危機対応と説明責任」「執行と救済」の3つの側面から比較・分析する。

1.1　反復通知義務（人間同一視の防止）

　AIへの過度な依存や誤認を防ぐための行動介入として、両州は「明確かつ顕著な」通知を要求するが、その頻度と条件は異なる。
　ニューヨーク州法（GBS Art.47）は、一般向けには、対話の開始時に加え、継続する（continuing）対話が3時間に達するごとに、そのAIが非人間であることを繰り返し明示することを一律に義務付ける。
　他方、カリフォルニア州法（B&P Code Ch.22.6）は、「合理的人」がAIを人間と誤認しうる場面での通知を求めるという状況依存型の義務設計である。
　未成年に関しては対照的で、ニューヨークには特段の規定がないのに対し、カリフォルニアは“既知（known）”の未成年に対し、対話開始時および3時間ごとに休憩の喚起（break）と非人間性の再通知をデフォルトで実施することを求める。
　総じて、ニューヨークは全ユーザー横断の機械的な「3時間ルール」を採りつつも、“継続（continuing）”セッションの定義が不明確で実装上の不確実性を残す。他方、カリフォルニアは未成年保護に焦点を絞って3時間ルールを導入し、休憩喚起という依存防止策に踏み込んでいる（Davis Polk）。

1.2　危機対応と説明責任

　自傷・自殺念慮への対応プロトコルの整備義務は両州に共通するが、カリフォルニアは透明性と実効性の担保を一段と強く求めている。
　ニューヨークは、検知から危機支援先の案内等に至る合理的（reasonable）プロトコルの整備を求めるにとどまるのに対し、カリフォルニアは検知・抑止・対応の各段階に関するプロトコル整備を義務付けるうえ、プロトコルの詳細を事業者のウェブサイトで公開する義務（§22602(b)(2)）と、2027年7月1日以降、当局（Office of Suicide Prevention）への年次報告義務を課している。さらに、対応の有効性を「エビデンスに基づく測定（evidence-based measurement）」によって評価することを明記しており（§22603(d)）、形式的な手順整備にとどまらない実効性の説明責任を制度化している。したがって、ニューヨークの基準が抽象的な「合理性」にとどまるのに対し、カリフォルニアは公開・報告・測定までを求め、事業者に格段に重い負担を課す構造である。

1.3　執行と救済（リスクの所在）

　コンプライアンスを担保する執行メカニズムの差は、事業者のリスク構造に直結する。ニューヨークでは執行主体は司法長官（AG）に限定され、救済は差止めに加え、1日あたり最大15,000ドルの民事制裁金が科されうる。
　他方、カリフォルニアでは司法長官や地区検事等の公的執行に加え、私人による訴え（private right of action）が認められる。救済としては実損害賠償に加え、1件あたり1,000ドル以上の法定損害賠償、差止め、そして弁護士費用の付与が可能である。
　結果として、ニューヨークは行政執行中心である一方、制裁金は日単位で累積しうるため軽視できない（Hunton Andrews Kurth）。カリフォルニアは私的訴権の導入により、クラスアクションを含む大規模訴訟のリスクが現実化し、より厳格なコンプライアンス体制を事業者に要請する（Skadden）。

雑感　規制アプローチの分岐と「準拠法」問題の現実化

　ニューヨークとカリフォルニアの法案を比較すると、AIに対する規制思想の分岐が明確に表れている。
　ニューヨークのアプローチは、ある意味で伝統的な消費者保護法の発想に基づき、全ユーザーに一律のルール（3時間ルール）を課す「規範的」なものである。
　他方、カリフォルニアは、リスクが顕在化しやすい場面（合理的人の誤認）や脆弱な主体（未成年）に焦点を当て、単なる手順整備を超えた「実効性の測定」と「説明責任」までを求める点で、より踏み込んだ設計と言える。特に、未成年者への「休憩の喚起」は、デジタル・ウェルビーイングの観点を取り入れた興味深い介入策である。

　事業者にとって最も深刻な違いは、やはり「1.3 執行と救済」であろう。ニューヨークが司法長官による行政執行を軸とするのに対し、カリフォルニアが「私人による訴え（private right of action）」を導入した点は、決定的な差である。CCPA（カリフォルニア州消費者プライバシー法）がそうであったように、私的訴権、とりわけクラスアクションの脅威は、事業者に「形式」だけではない、防御的かつ徹底したコンプライアンス体制の構築を強いる最大の動機付けとなる。

　両州の法案は、いずれも域外適用（extra-territoriality）を内包している。インターネット上でサービスを提供する事業者にとって、州境は意味を持たない。結果として、事業者は「ニューヨーク基準」と「カリフォルニア基準」の双方を（そして、今後登場するであろう他の州法も）満たす必要性に迫られる。

　実務的には、より厳格なカリフォルニア法の基準（特に、未成年者保護、危機対応プロトコルの公開・報告、そして私的訴権への備え）が、事実上の「デファクト・スタンダード」として機能していく可能性が高いであろう。AIガバナンスの文脈において、規制の「断片化（fragmentation）」と「準拠法」の選択という、古くて新しい法務課題が、現実のものとして突きつけられている。

（参考）

※目次は以下を参照

（マガジン）「AIと法雑感」

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。