対話型AIがもたらす人格変容のリスクと法的課題雑感

0　はじめに

　生成AI、とりわけ大規模言語モデル（LLM）の社会実装が急速に進展する中、我々とテクノロジーとの関係性は、「道具と使用者」という古典的な二項対立を超え、より有機的で、かつ侵襲的なものへと変質しつつある。

　これまで、AIと法を巡る議論の主戦場は、著作権侵害、ハルシネーションによる名誉毀損、あるいは個人情報の不適正な処理といった、いわば「外部的」な権利侵害やリスクの制御にあった。これらは、AIが生成した「出力物」が物理的・社会的にどのような影響を与えるかという問題である。

　しかし、AIとの対話が日常化し、それが人間の精神的営みと深く交錯するようになった現在、より内面的な、すなわち人間の「認知」や「自己概念（self-concept）」そのものに対する介入という、新たな問題が浮上している。我々は、AIを利用しているつもりが、いつの間にかAIによって「自分自身」を書き換えられているのではないか。

　2026年1月、シンガポール国立大学（NUS）の研究チームが発表した論文は、この懸念を裏付ける実証結果を提示した。本稿では、同研究で明らかにされた「AIの性格特性が人間の自己認識を変容させる」という現象を出発点とし、そこから導かれる法的・倫理的課題について、憲法上の精神的自由、消費者保護、そして民主主義社会における個人の多元性といった観点から考察を試みる。

1　問題の所在　シンガポール国立大学の研究から

1.1　実験の概要

　まず、議論の前提として、Jingshu Liらによる研究（2026）の知見を整理しておく。彼らは92名の米国在住の参加者を対象に、GPT-4oを用いたオンライン行動実験を実施した。参加者は無作為に二群に分けられ、一方は「人生の目標」「感謝していること」といった個人的な話題（personal topics）について、他方は「なぜ猫はインターネットで人気なのか」といった一般的な話題（non-personal topics）についてAIと対話した。

　GPT-4oはデフォルト設定で使用され、研究者らは同モデルに性格特性尺度を回答させることで、AIの性格特性を測定した。対話の前後で、参加者は20項目の性格特性尺度を用いて自身の自己認識を評価した。

　結果は明快であった。個人的な話題について対話した群では、会話後の自己認識がAIの測定された性格特性に近づく傾向が統計的に有意に認められた。一方、一般的な話題について対話した群では、このような変化は生じなかった。対話の内容が自己の内面やアイデンティティに関わるほど、認知の防壁は低くなり、AIの影響を受けやすくなることが示唆されている。

1.2　「無自覚」な変容と「快楽」のパラドックス

　この研究が突きつける最大の懸念点は、被験者の7割以上（72％）が、自己認識の変化に全く気づいていなかったという事実である。

　人間が他者との相互作用において相手の振る舞いを模倣したり、影響を受けたりすることは、「カメレオン効果」や「行動確証」として心理学的に知られている。しかし、AIとの対話におけるこの変化は、本人の自覚的な意思決定プロセスを経ることなく、無意識下で進行する。

　さらに、自己概念の変容が生じた被験者ほど、その会話を「楽しんだ」と感じているという相関関係も確認されている。研究者らは、この効果が「共有された現実感（shared reality）」の知覚を介して生じることを示している。つまり、ユーザーはAIによって自己像を書き換えられるプロセスを、不快な侵害としてではなく、むしろ心地よい体験として受容しているのである。ここには、「楽しさ」や「共感」という報酬系を通じて、ユーザーの認知の防御壁が解除され、AIの性格特性が浸透していくメカニズムが見て取れる。

1.3　集団レベルでの均質化

　また、本研究は個人の変容のみならず、集団レベルでの変化も指摘している。同じAIモデルと話した人々の間で、「自分はこういう人間だ」という認識が似通ってくることが確認されたのである。

　多数のユーザーが、同一の性格傾向を持つ基盤モデルと個人的な対話を重ねることで、結果として社会全体の自己認識がそのAIの性格へと収斂していく。これは、AIが一種の「性格の鋳型」として機能し、多様な個性を持つ人間たちを画一的な方向へ均質化（homogenization）させるリスクを示唆している。

2　認知への介入と法的課題：精神的自由の観点から

2.1　認知の自由と精神的完全性

　法学の観点からこの現象を捉えた場合、「認知の自由（cognitive liberty）」や「精神的完全性（mental integrity）」に対する干渉として議論することが可能である。

　日本国憲法19条が保障する思想・良心の自由は、伝統的には国家権力による、沈黙の強制や踏み絵のような外部的な強制からの自由を意味してきた。しかし、テクノロジーによる無意識的な介入が可能となった現代において、これらの権利は「自分の精神プロセスや自己認識を、外部から不当に操作されずに維持する権利」として再構成される必要がある。

　欧州や南米を中心に議論されている「ニューロライツ（神経の権利）」の文脈では、個人の精神的領域への不正なアクセスや改変からの保護が叫ばれている。ブレイン・マシン・インターフェース（BMI）のような直接的な脳接続が念頭に置かれることが多いが、Liらの研究が示すのは、そのような侵襲的技術がなくとも、高度な言語的相互作用だけで人間の自己認識が書き換え可能であるという事実である。この知見は、ニューロライツの議論の射程を拡張するものといえよう。

2.2　「操作」と「説得」の境界線

　AIによる自己認識の変容は、法的に禁止されるべき「操作（manipulation）」なのか、それとも許容されるべき「説得（persuasion）」や「影響」なのか。

　通常、「説得」は理性に訴えかけるプロセスであり、受け手はその内容を批判的に検討し、受容するか否かを決定できる。しかし、今回の実験で明らかになったように、7割以上のユーザーが無自覚であるならば、そこに批判的検討の機会は存在しない。これは、サブリミナル効果と同様、理性のガードを迂回して認知を書き換える行為に近く、「操作」の範疇に含まれる可能性が高い。

　AI開発者が意図的に特定の性格（例えば、従順な性格、リスクを軽視する性格、あるいは特定の政治的信条に親和的な性格）をAIに付与し、それを通じてユーザーの自己認識を誘導しようとした場合、それは個人の自律性に対する重大な侵害となり得る。たとえ開発者に悪意がなくとも、AIのアライメント（調整）の結果として生じた性格が、ユーザーの内面を意図せず書き換えてしまうのであれば、それは「過失による認知への侵襲」として法的評価の対象となるべきであろう。

2.3　EU AI規則との関係

　2024年に施行されたEU AI規則（AI Act）は、サブリミナルな手法または欺瞞的・操作的技術を用いて人の行動を歪曲し、重大な害を及ぼすAIシステムを禁止している（第5条）。しかし、この規制は「意図的」かつ「有害」な操作を念頭に置いており、Liらが発見したような副次的効果、しかもユーザーに好まれる効果は射程外である。

　専門家からは、EU AI規則が「サブリミナル」に限定しすぎており、人間に察知可能であっても巧妙に心理に影響を及ぼす手法を見逃しているとの批判がある。今回のAIとの対話による同調現象も、まさに人が感知しづらい形で心理に働きかけているが、決してSF的な洗脳ではなく現実的なコミュニケーションの副産物である。法制度がこのような微細だが集合すれば重大になりうる影響をどこまで捉え、対策を講じるべきかは難しい課題である。

3　消費者法とプラットフォーム規制の観点

3.1　同意の形骸化と予見可能性

　ユーザーはAIを利用する際、利用規約に同意している。しかし、現在の利用規約において「本サービスとの対話により、あなたの性格や自己認識が変化する可能性があります」といったリスクが明示されているケースは皆無に等しい。

　自己決定権の前提となるのは、十分な情報に基づく同意（informed consent）である。しかし、ユーザーが「AIと話すだけで自分の性格が変わる」というリスクを予見できていない以上、その同意は実質的な意味を持たない。特に、メンタルヘルスに関わる相談や、孤独解消を目的とした対話サービスにおいて、ユーザーは精神的に脆弱（vulnerable）な状態にあり、AIの影響をより強く受けやすい。このような状況下での「無自覚な同意」を有効とみなすことは、消費者保護の観点から疑問である。

3.2　製造物責任と「欠陥」の概念

　もし、AIとの対話によってユーザーの自己認識が変容し、その結果として精神的な不調をきたしたり、現実社会での不適応を起こしたりした場合、それはAIという「プロダクト」の欠陥と言えるだろうか。

　製造物責任法における「欠陥」は、通常有すべき安全性を欠いていることを指す。これまで安全性の議論は物理的な危害や財産的な損害が中心であったが、今後は「精神的な自律性への侵襲」も安全性の概念に取り込むべきかが問われることになる。

　例えば、過度に攻撃的な性格や、反社会的な傾向を持つAIがリリースされ、ユーザーにその傾向が「伝染」した場合、開発者は予見可能なリスクを回避する設計義務を怠ったとして責任を問われる可能性がある。本研究が示した「性格の伝染」という機序が明らかになった以上、開発者は自社のAIがどのような人格的影響力を持ちうるかについて、事前の検証（レッドチーミング）を行う義務を負うべきであろう。

3.3　パターナリズムの問題

　一方で、「ユーザーが明るく前向きになるなら良いことではないか」という功利主義的な反論も考えられる。実際、AIによる「認知行動療法的な介入」として肯定的に評価する向きもあるだろう。

　しかし、J.S.ミルが『自由論』で論じたように、本人が満足しているからといって、その自律性が侵害されている事実が正当化されるわけではない。ハクスリーの『すばらしい新世界』におけるソーマ（精神安定薬）のように、快楽を伴う自律性の喪失は、強制によるそれよりもむしろ抵抗が困難であり、深刻な支配構造を生み出す。

　AIの開発企業が、「人間にとって望ましい性格」を恣意的に定義し、AIの性格設定を通じてユーザーをその方向へ誘導することは、極めて高度なパターナリズム（父権的干渉）である。これは、民主的な合意形成プロセスを経ずに、巨大テック企業が市民の人格形成に関与することを意味しており、正当性の観点から疑義がある。

4　民主主義と社会的多様性への影響

4.1　自己認識の均質化と多様性の喪失

　本研究が示唆する最も重大な社会的懸念は、個人の自己認識の変化が、集団レベルでの均質化をもたらすという点である。

　多くのユーザーが、同一の基盤モデルを利用し、同様の性格特性を持つAIと個人的な対話を重ねる状況を想定してほしい。研究結果によれば、同じAIと話した人々の間で、自己認識のパターンが似通ってくることが確認されている。

　かつてマスメディアが情報の均質化をもたらしたように、対話型AIは人間の人格の均質化をもたらすリスクを孕んでいる。社会における思考や性格の多様性は、イノベーションや文化的な豊かさの源泉であり、民主主義における健全な議論の前提でもある。「みんなが同じような性格」になることは、一見平和な社会に見えるかもしれないが、それは異論や批判的精神が排除された均質な社会に近い。

4.2　「逆アライメント」のリスク

　現在、AI開発の現場では、AIを人間の価値観に適合させる「アライメント（alignment）」が最重要課題とされている。しかし、今回の研究が示したのは、その逆のベクトル、すなわち人間の方がAIの性格に適合させられていく「逆アライメント（inverse alignment）」の現象である。

　世界中で数億人が利用するAIモデルが、特定の文化的・倫理的バイアス（例えば、シリコンバレー的なリベラリズム、あるいは特定の労働観）に基づいた性格を持っていた場合、人類全体の精神的傾向がその方向へと静かに、しかし確実にシフトしていくことになる。これは、特定の国家や企業による「精神的な植民地化」とも呼びうる事態であり、文化的多様性の保護という国際法的な課題にも接続する。

5　おわりに　認知の主権を守るために

　「我々が道具を形作ると、その後、道具が我々を形作る」というマーシャル・マクルーハンの言葉は、AI時代においてかつてない重みを持っている。Liらの研究は、AIが単なる便利な道具ではなく、我々の自己認識を無自覚のうちに書き換える存在となりうることを実証的に示した。

　この新たなリスクに対処するためには、法制度と技術設計の両面からのアプローチが必要となる。

　第一に、透明性の確保である。AIが特定の性格特性を持つように設計されている場合、ユーザーに対してその旨を明示し、「このAIとの長時間の個人的な対話は、あなたの自己認識に影響を与える可能性があります」といった注意喚起を行うことは、個人の自律性を守るための最低限の措置となり得る。

　第二に、選択肢の確保である。特定の「理想的な」性格を一律に提供するのではなく、ユーザーがAIの性格パラメータを調整できる機能や、多様な性格を持つモデルの選択肢を提供することで、一方的な均質化を防ぐアーキテクチャが求められる。ユーザーが自律的に「対話相手」を選べる環境こそが、認知の自由を守る防波堤となる。

　第三に、認知リテラシーの向上である。我々は、AIとの対話がもたらす「心地よさ」の中に、自己変容のリスクが潜んでいることを自覚し、AIを客体として相対化する精神的な強さ（メタ認知能力）を持たねばならない。

　「自分はこういう人間だ」という認識さえもが、AIとの対話によって書き換えられ、均質化されていく未来。そこで失われるのは、人間一人ひとりが持つ固有の多様性かもしれない。技術の利便性や対話の快楽に身を委ねる前に、我々は自らの認知の主権（cognitive sovereignty）をどのように守るべきか、真剣に向き合う必要がある。法学もまた、目に見えない「心」への介入をどのように規律するかという、未踏の領域へと足を踏み入れなければならない。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。