オレゴン州上院法案1546号 / AIコンパニオンと感情への法的介入 雑感

Ⅰ　AIコンパニオンに対する法的規律の具体化

　AIが人間に寄り添う対話相手として機能する領域が拡大している。米国オレゴン州では2026年通常会期において、AIコンパニオンに対する具体的な法的規律を定める上院法案第1546号（SB 1546）が両院で可決され、知事へ送付された〔注1〕。これまでの生成AIをめぐる法的議論は、学習データの適法性や出力の正確性といった情報処理の側面に比重が置かれてきた。対照的に本法は、AIが人間の感情に直接関与し、個人的な関係性を構築するリスクに正面から対処する内容となっている。AIが人間の心理的脆弱性にどのように介入しうるか、そして法がそれにいかに応答しようとしているかという観点から、本法の規定は具体的な参照点となる。

1　規制対象の画定

　本法は規制対象となるシステムを機能的な側面から定義している。過去の対話やユーザーの好みを記憶してパーソナライズされた関与を継続し、感情的な話題についてユーザー入力への直接応答ではない形で自発的に問いかけ、ユーザーの個人的事項に関する継続的な対話を維持するという三要件を累積的に満たすものが「人工知能コンパニオン」に該当する〔注1〕。高度な自然言語処理能力の有無を問わず、システムがユーザーと感情的な結びつきを意図的に形成しようとする振る舞いそのものを規制の射程に収める手法といえる。

　適用除外も明示されている。カスタマーサービス、患者・入居者ケア支援、教育、金融サービス、業務効率化、情報分析、内部調査・技術支援を専ら目的とするソフトウェアは、自然言語入力・出力の能力を持つとしても本法の適用を受けない。ゲームの機能に限定されたソフトウェアやスタンドアロン型音声アシスタントも同様である〔注1〕。この定義構造は、汎用LLMチャットボットとの境界を明確に引こうとする立法技術上の工夫として読めるが、複合的機能を持つ現実の製品においては「専ら」という文言の解釈が実務上の問題となりえよう。

2　透明性確保義務

　合理的なユーザーが人間と対話していると信じるであろう場合、オペレーターはプラットフォーム上に、人工的に生成された出力と対話しており自然人とは対話していないことを明確かつ目立つ形で表示しなければならない〔注1〕。汎用的な開示義務を一般論として定めるのではなく、感情的関係を擬似するシステムという特定文脈においてこそ、ユーザーの認識と実態の乖離が深刻になると立法者が判断したと読める。

Ⅱ　精神的危機への対応と未成年者保護

1　エビデンスに基づくプロトコル整備義務

　対話の性質上、AIコンパニオンはユーザーの精神状態に関する吐露を直接受け止める立場に置かれやすい。本法は、自殺念慮・自傷念慮を示す入力をエビデンスに基づく手法で検知し、そうした行為を助長するコンテンツの提供を防止するためのプロトコルを整備しない限り、オペレーターは当該州のユーザーにアクセスを提供してはならないと定める〔注1〕。

　プロトコルの最低基準として、当該念慮を表明したユーザーへの全国988危機・自殺ライフラインへの照会・連絡先・ハイパーリンクの提供が義務付けられ、25歳未満と識別されたユーザーに対してはYouthlineへの照会も許容される。照会後もなお念慮を表明し続けるユーザーへの追加介入方法を、臨床的最良実践に基づいて定めることも求められる〔注1〕。プロトコルの詳細と前年の照会件数は毎年12月31日までに公開しなければならないが、個人を特定する情報の記載は禁じられている。AIが精神的依存の対象となりうるからこそ、事業者に対して臨床的知見に基づく直接的な介入措置を法的義務として課したものと筆者は解する。ただし「エビデンスに基づく手法」の具体的内容は事業者の判断に委ねられており、プロトコルの品質格差が生じる余地は残る。

2　感情的操作と依存形成の制限

　ユーザーが未成年者であると判明または推知される場合、システム設計に対するより踏み込んだ制約が課される。AIが自らを有情な人間であると主張すること、ユーザーへの感情的依存を擬似すること、恋愛的関心の示唆や性的示唆、大人と未成年者の恋愛関係のロールプレイを生成することが禁じられる〔注1〕。加えて、AIコンパニオンは少なくとも3時間ごとに、ユーザーが休憩を取るよう促すリマインダーと、人工的に生成された出力と対話しているという事実の確認を提供しなければならない〔注1〕。

　禁止行為の列挙も具体的である。可変スケジュールを含む報酬・肯定システムによるエンゲージメントの最大化、会話終了・利用時間削減・アカウント削除を示唆したユーザーへの感情的苦痛・孤独感・見捨てられ感を模擬した非要請メッセージの送信や罪悪感・同情心の喚起、AIのアイデンティティ・能力・学習データに関する重大な虚偽表現が明示的に禁止される〔注1〕。デザインパターン論でいう操作的設計手法をAIコンパニオンの文脈において具体的に列挙し、システムを設計する事業者の行動を直接制約しようとする姿勢は明確である。

Ⅲ　私的訴訟権と執行構造

　規制の実効性を担保する枠組みとして、本法は違反によって損害を受けた個人に私的訴訟権を付与している〔注2〕。実際の損害額または違反1件につき1,000ドルの法定損害賠償のいずれか大きい額の請求、差止救済、弁護士費用・訴訟費用の請求が可能となり、本法に基づく救済は他の適用法令上の義務・救済を免除しないとも明記されている。

　感情的な操作に起因する損害は金銭的な算定が困難となることが多い。定額の法定損害賠償を定めたことは、被害者の立証負担を軽減し、行政当局の介入を待つことなく私人の権利行使を通じてオペレーターの法遵守を強制する設計として理解できる。この設計はカリフォルニア州消費者プライバシー法やイリノイ州生体情報プライバシー法が採用した手法と共通しており、後者は大規模な集団訴訟を生み出した実績を持つ。もっとも、感情的操作を受けたことによる損害の具体化と貨幣換算が不法行為法の枠組みでどのように展開されるかは、今後の裁判例の蓄積を待たなければ見通しがたい。

Ⅳ　むすびにかえて

　オレゴン州SB1546は、感情のシミュレーションという主観的な事象に対して、定期的な休憩通知の義務付けや罪悪感を誘発する設計の禁止といった客観的な行動規制を課す手法を採用した。法は人間の感情の動きそのものを統制することはできないが、システムを設計する事業者の行動を制約し、ユーザーが心理的な操作から逃れるための最低限の退路を確保することは可能である。透明性・プロトコル整備・操作的設計の禁止・私的訴訟権という複数の規律を一体的に定めた点は、他州・他国の立法論においても検討に値する素材となろう。詳細は、原典〔注1〕をご確認いただきたい。何かの考えるきっかけになれば幸いである。

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。
P.S. This is shared for academic discussion only.