家庭用AIヒューマノイド登場 / 「AIはすでに意識をもつのか」 / 「AIの“性格”」と制御可能性とモデル比較 / “Brain Rot”時代の情報衛生とデータ品質 / ChatGPT Atlasガイド 雑感

Ⅰ 　家庭用ヒューマノイド登場

　1X社による家庭用ヒューマノイド「NEO」の予約開始（本体2万ドル／月額499ドル）は、AI法制度の最前線が「家」へ移った事実を示す。（ 2025/10/28リリース）

　15万円の犬型AIロボットまででてきている。
　DOFBOTのRover X1

　AIロボットの開発それ自体は海外に限った話ではない。国内でもコンビニ等でAI×ロボット開発が活発化している。　

（参考）

　自律制御と遠隔操作が混在する運用下では、注意義務と過失の帰属を機械でなく人間に返す設計が法的責任分配の要となっていくのかもしれない。 国内ではAI法が全面施行しAI戦略本部が始動したが、生活領域に入るAIの安全管理・ログ設計・監督体制の具体化が課題となっていきそうである。製造物責任法制や損害賠償法理など、関連領域の法規範の再設計が将来的に要請されることになっていくことになろう。

（参考）

　ロボットに関する記事は夏にも取り上げたが、AIの急速な進化には驚かされる。
（参考）

　哲学の研究会では、参加者で映画を見て考えを論じ合うセッションが設けられていることが多い。SFの世界が急速に現実のものとなりゆく中、従来までのいわゆる勉強の蓄積に加え、創造力や自ら考えて未来を予想して動く力が今後重要になっていくと考える。
（参考）

　そんな中、今回は、AIに意識があるのか（Ⅱ）、AI毎の性格（Ⅲ）、Brain Rot（脳腐敗）（Ⅳ）についての海外の論文を紹介する。何かの考えるきっかけになれば幸いである。

Ⅱ　「AIはすでに意識をもつのか」深層学習の祖ヒントン教授の発言に寄せて

0.導入

　深層学習の祖、ヒントン教授による「AIは既に意識を持っている」という発言が波紋を広げている。しかし異論は根強く、議論は未決のままである。今回は、この哲学的対立を概観し、ガバナンスがどう動いているかを一考する。

1. 思考実験と機能主義の直観

　ヒントンの直観は、「漸進的ニューロン置換」の思考実験に支えられている。脳のニューロンを機能的に等価な素子で順次置換しても、行動や相互作用が保存されるなら、意識も連続するのではないか、というものだ。これはチャーマーズらの議論線上にあり、組織・機能が保存される限り意識は維持される（クオリアは「薄れたり飛び跳ねたり」しない）とする。

2. 異論と「未決」の現状

　強い異論も存在する。サールの「中国語の部屋」は、「計算の遂行」が意味理解や意識を保証するものではないと示唆し、「計算＝意識」の同一視に疑義を呈した。 理論面でも、グローバル・ニューロナル・ワークスペース（GNW）や統合情報理論（IIT）など多様な仮説が提唱されており、「現行LLMに意識はあるか」という問いへの決着はついていない。

3. いま必要な規制設計、未決のまま動かすにあたって

　意識の有無が「未決」であっても、ガバナンスは動き出している。EU AI Act（規則2024/1689）などを踏まえ、以下の点は重要となるかもしれない。

3.1 禁止領域の明確化（操作・欺罔の線引き）

　EU AI Actは、潜在意識下の操作や目的的な欺罔により意思決定を実質的に歪めるAIを禁止した（Art.5）。また、擬人化UIが過信を誘うリスク（オートメーション・バイアス）を考慮し、チャットボット等にはAIである旨の明示が要求される。

3.2 研究のガバナンス（意識可能性への備え）

　AI意識研究の責任原則が提案されている。これには、対外コミュニケーションの抑制（過度な断定を避ける）などが含まれる。「意識がある/ない」の判断が不確実でも、研究倫理審査や実験停止プロトコルは整備可能であるといえそうである。

3.3 評価の道具立て（自己申告の扱い）

　AIの自己申告（Self-Reports）は模倣の危険が大きく、そのまま道徳的地位の根拠にはならない。正解が既知の内省課題を用い、その整合性を検証する客観的な評価枠組みが模索されている。

4. AIウェルフェアと安全性の同時最適化

　「AIウェルフェアを重視するほど安全も高まる」という命題は一部真である。拷問的環境での開発を避ける等は望ましい。他方、擬人的設計は過信・依存を生みうる。AIウェルフェアの視点と、慎重なコミュニケーション原則を組み合わせ、倫理と安全の同時最適化を狙うべきであるといえそうである。

Ⅲ 「AIの“性格”」と制御可能性とモデル比較

　主要AIモデル（Claude, Gemini, OpenAI）に見られる「性格」の違いは、開発者の設計思想が反映された測定可能な「行動特性」である。もはやAIは均質な存在ではないのかもしれない。行動特性が工学的に制御可能であるという事実は、開発者の予見可能性と結果回避可能性を基礎づけ、法的責任の分水嶺と将来なりうる。法実務においては、モデルの「性格」を具体的なリスクプロファイルとして評価し、利用目的に応じた選定と継続的な監視・統制が要請される未来がもしかしたら訪れるかもしれない。

1. 話題の「AI性格診断」――可視化された価値観

　主要な生成AIモデルには人間のように一貫した「性格」、すなわち価値判断における優先順位が存在することが明確になった、とする分析が注目を集めている。この分析によれば、各モデルの「性格」は以下のように特徴づけられるという。

　この観察は示唆に富む。これらの「性格」は自然発生したものではなく、開発者が学習データの選定、強化学習（RLHF/RLAIF）、そしてガードレールの設計を通じてモデルに埋め込んだ「価値観の優先順位」の表出に他ならない。例えば、安全性（Harmlessness）と有用性（Helpfulness）のトレードオフにおいて、どちらに重きを置くかという設計思想が、モデルの挙動として現れているようである。

2. 「性格」から「行動特性」へ

　法的な分析において、AIの「性格」を人間の内面的な人格（Personality）と同一視する擬人化の誘惑は、慎重に退けなければならない。ここでいう「性格」とは、外部から観測可能な「行動特性（Behavioural Traits）の束」と再定義する可能性を秘める。
　重要なのは、これらの特性が工学的に測定可能になりつつある点だ。近年の研究、特にAnthropicによる「ペルソナ・ベクトル（Persona Vectors）」の研究は、モデル内部の活性化パターンと特定の行動特性（例：迎合性、倫理的拒絶、効率性志向）との対応関係を特定できることを示している。AIを「測定可能な行動特性の束」として扱う視点に立つことで、初めて客観的なリスク評価が可能となりうる。

3. 制御可能性が基礎づける開発者の責任

　「ペルソナ・ベクトル」研究が示唆する核心は、AIの行動特性が測定可能であるだけでなく、外部からの介入（ステアリング〈Steering〉）によって意図的に増減できる、すなわち制御可能であるという事実だ。この制御可能」は、法的な責任配分に示唆をもたらす。不法行為法や製造物責任法の枠組みでは、責任を問うために予見可能性と結果回避可能性が要求される。もし、開発者がモデルの特定の「性格」（例：過度な効率性追求による安全性軽視）がリスク要因となることを認識（予見）でき、かつ、その特性を技術的に制御（回避）できたにもかかわらず、適切な制御を怠った結果として損害が生じた場合、開発者の責任を問う根拠となりうるかもしれない。
　AIの挙動がブラックボックスであり制御不可能であるという時代は終わりつつあるという可能性も示唆しているとも読めるかもしれない。「性格」が明確になり、制御可能になればなるほど、予見できなかったという抗弁は通用しなくなり、開発者の安全配慮義務と説明責任は重くなりうる。（あくまで仮定と可能性の話である。）
（参考）

5. 実務の視座（行動特性の評価とガバナンス）

　かかる研究がより深化していけば、AIを導入・利用する企業の実務担当者は、以下の対応が求められる未来が訪れるかもしれない。

(1) モデル選定の適合性評価

　「最も高性能だから」という理由だけでなく、利用目的と業務プロセスに照らして、どのモデルの「性格」（リスクプロファイル）が最も適合するかを評価するプロセスが要請されうる（適材適所の原則）。

(2) 行動特性の客観的評価とKPI設定

　ガバナンス体制においては、モデルの行動特性を客観的に評価・監視する仕組みが不可欠となる。擬人的な表現ではなく、具体的な評価指標（KPI）を定義し、継続的にモニタリングする必要も考えうる。

(3) 透明性の確保と契約設計

　開発者に対し、モデルカード等を通じた行動特性の開示を求めるといった未来も考えられる。また、契約においては、モデルの「性格」に起因するリスクの責任分担、評価結果の共有義務、問題発生時の是正協力義務を明記し、説明責任の分界点を明確化することが肝要であるかもしれない。

6. 雑感「比喩を超えて」

　AIに「性格」を見出すことは、技術を理解する上で有用な比喩（メタファー）である。（Claudeは倫理的で、OpenAIは効率的etc...）。
　しかし、実務的にはそれが比喩であることを忘れてはならないだろう。法は比喩では動かない。重要なのは、その「性格」が工学的に設計され、測定可能であり、そして制御可能であるという技術的現実である。この制御可能性を直視することによって初めて、我々はAIというツールとの適切な距離を測り、そのリスクと責任を社会制度の中に正しく位置づけることができるのであるものと考える。

Ⅳ 　“Brain Rot”時代の情報衛生とデータ品質

1. LLMの「脳腐敗（Brain Rot）」とは何か

　AIの学習データ品質に関する衝撃的な研究結果が注目を集めている。テキサスA&M大学などの研究チームが公表したプレプリントは、大規模言語モデル（LLM）が低品質なデータで学習を続けると、その性能が恒久的に劣化する可能性を指摘した。研究チームはこの現象を「Brain Rot（脳腐敗）」と呼んでいる。(arXiv)
　この研究では、X（旧Twitter）から収集した「エンゲージメント（反応数）は高いが内容は薄い“ジャンク”な投稿」を、LlamaやQwenといった既存のオープンモデルに継続的に学習させた。その結果、モデルの推論能力や長期記憶、安全性が著しく低下しただけでなく、サイコパシーやナルシシズムといったネガティブな心理特性の指標が上昇するという「性格の変化」までもが観察された。
　さらに深刻なのは、この劣化が不可逆的である可能性だ。一度低品質データで「汚染」されたモデルは、クリーンなデータで再訓練しても完全には回復しなかった。これは、学習データの「衛生管理」が、AIの安全性確保において極めて重要であることを示している。

2. 背景にあるモデル崩壊の脅威

　この“Brain Rot”現象は、「モデル崩壊（model collapse）」と呼ばれる、より広範な問題の一側面として理解できる。(Nature)
　現在、インターネット上にはAIによって生成されたコンテンツが急速に増加している。これらの生成物が再びAIの学習データとして利用される（再帰的学習ループ）と、データの多様性が失われ、特定のパターンや誤りが増幅されていく。結果として、モデルは現実世界を正しく反映できなくなり、最終的には性能が崩壊してしまう。
　SNSは、まさにこの再帰的ループが加速しやすい環境である。AIが生成した低品質なコンテンツが拡散し、それが再び学習データとして回収されることで、負の連鎖が生じる。“Brain Rot”研究は、このループがモデルの性能だけでなく、その「振る舞い」自体をも歪めてしまう危険性を具体的に示したといえる。（なお、「Brain Rot」は元来、人間側のデジタル過剰摂取への懸念を示す言葉であり、2024年のOxford Word of the Yearにも選ばれている。AIと人間双方に通底する「情報の栄養失調」のメタファといえる。）(AP News)

3. 雑感　「情報衛生」という新たな責務

　この研究結果は、AI開発者や提供者、そしてプラットフォーム事業者に対し、「情報衛生（Information Hygiene）」という新たな責務を要請しうる。
　データ品質は安全性そのもの、もはやデータは量だけでなく、質が厳格に問われうる。実務的には、学習パイプラインから“ジャンク”データを隔離する技術的対策が不可欠となる。例えば、SNS由来のデータについては、毒性やクリックベイト（釣りコンテンツ）指標を用いたフィルタリングを強化し、学習への利用比率に上限を設けるといった対応が考えられる。(arXiv) また、AI生成物やSNSデータが混入していないクリーンな「ゴールドコーパス」を維持し、モデルの品質を定期的に評価・調整する体制も重要かもしれない。
　エコシステム全体の課題として AI→SNS→AIという循環がもたらす品質劣化は、個々の企業の努力だけでは解決が難しい「コモンズの悲劇」の様相を呈している。そのため、企業内のガバナンス強化に加え、エコシステム全体での対応が求められる。具体的には、学習データの来歴管理による透明性の確保、AI生成コンテンツであることを示すラベリングの徹底、プラットフォーム側での学習禁止信号の尊重といった、供給網全体を見据えたルール形成が必要となってきうる。
　“Brain Rot”は扇情的な比喩に見えるかもしれないが、その核心は、AIが社会の情報基盤として機能し続けるためには、学習環境の健全性維持が不可欠であるという点にある。情報の栄養失調がAIの能力を蝕む時代において、技術的・制度的な情報衛生の設計は今後の課題となりうるものといえるかもしれない。

Ⅴ むすびにかえて

　今回取り上げたのは、いずれも将来的には「可能性がありうる」といった具合の興味深いトピック群であるといえる。A Iと未来について考えるきっかけやその材料になれば幸いである。

（おまけ） OpenAI、新ブラウザ「ChatGPT Atlas」を公開

　2025年10月21日、OpenAIはChatGPTを中核に据えた新ブラウザ「ChatGPT Atlas」を発表・公開した。 提供は現時点でmacOSのみで、Free/Plus/Pro/Goに配布されており、Windows・iOS・Androidは今後提供予定である。 主要機能は「Ask ChatGPT」サイドバー（閲覧ページの要約・抽出・下書き等）と、ブラウザ内操作を代行する「Agent mode」（プレビュー、Plus/Pro/Business向け）。既定で閲覧内容は学習に用いられず、サイトごとの可視化、履歴削除、任意の「Browser memories」を備えている。

　従来の検索概念は変容していく。つまり、人が直接検索するのではなく、検索結果との間にAIが介在する世界はもうすでにそこにあると言えるかもしれない。こうした流れについては夏に記事としているため、参照いただきたい。以下の記事に記したが、個人のデータをデザインするという視点の重要性については再度強調しておきたい。

OpenAI公式ガイド

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。