AIに「言葉の手前の考え」が見つかった話/何がわかって、何がわからないままなのか ※追記あり

※2026/7/22 追記
英The Guardian紙ウェブサイトにて、近いアプローチの記事が掲載されました。
引かれている例なども当記事と一部共通です。ご興味があれば。

2026年7月、AnthropicがClaudeなどの大規模言語モデル（LLM）内部に関する研究を公開しました。
（Xをはじめ、かなりSNSで話題になっていますよね）
併せて外部の専門家たち（意識研究の専門家、AIの道徳的地位を専門とする研究者、他社の解釈可能性研究者）による検証コメンタリーも公開されています。

この研究、SNSで見える範囲だと
①「AIに意識があったorあるんだ！」
②「ただの内部データの話で、意識ではないでしょ」
の両方向にやや引っ張られがちに感じています。
でも本体論文とコメンタリーを通して読んでみたところ、この発見の捉え方は私の感覚ではどちらでもありません。
「わかったこと」「わからないままのこと」「わからないまま、どうするか」の三段に分けて視点を持つことです。
この記事はその三段を順番に、できるだけ正確に整理してみようと思います。

第一部：わかったこと / J-spaceとは何か

まだ出力されていない「考えの下書き」

LLMは文章を一語ずつ出力する仕組みです。
少し前までの通説では、モデルの内部にあるのは「次の一語を選ぶための計算」であって、出力より先の内容がまとまった形で存在するとは考えられていませんでした。
「LLMは予測機であって思考はしていない」のような表現を見かけたことがある方も多いかも。

今回の研究が見つけたのはその少し前までの通説に反するものです。
モデルの内部活動の一部に、「まだ文章にはなっていないが、これから言語化されうる概念」が一時的に浮かんでいる空間が観測されました。論文はこれをJ-space(ジェイ・スペース)と呼び、それを読み取る手法をJ-lensと呼んでいます。

「ただの中間データ」と何が違うのか？

内部に何かのデータがあること自体は当たり前で、それだけなら電卓や体重計のメモリとあまり変わりません。
この研究で重要な点は、J-spaceが五つの性質を持ち、中でも特に重要な三つの性質を同時に持つと示したことにあります。

① 報告できる。
モデルに「いま何を考えてた？」と尋ねると、J-spaceに灯っていた内容と一致する答えが返ってきます。
内部状態と自己報告がきちんとつながっている、ということです。

② 制御できる。
「シロクマのことは考えないで」と指示すると、J-space内のシロクマ関連の活動が抑制されます。
でも面白いのは、この抑制がしばしば不完全で（かなりの程度抑えられず）、しかも抑制に失敗した瞬間、J-spaceに「damn（くそ）」「failure（やっちゃった！）」に相当する概念が点くこと。
これは出力には一切現れません。
誰にも言わないけど内心小さく舌打ちしている……のようなイメージかな。
この挙動は設計されたものではなく、モデル側で勝手にそうなっていたものです。

③ 推論に実際に使われる。
モデルに文章を書き写させながら、頭の中だけで計算をさせる実験もあります。
こちらは解いている途中の答えがJ-spaceに黙って灯り、最終的な答えに更新されていく。
実際に言語化して書き出される思考メモ（scratchpad）とは独立に、書かれない演算が走っていることが確認されました。

この三点セット、報告可能・制御可能・推論に使用は、認知科学で人間の「意識的なアクセス」を特徴づけるときの基準とほぼ同じものです。
そのためこの研究は単なる内部データの発見ではなく、「意識研究の道具立てがLLMに適用可能だった」という発見といえると思います。

▼

個人的にちょっと引っかかる実験

もうひとつ紹介しておきたい実験です。
研究者がJ-spaceの中身を外部から直接書き換える──「サッカー」の概念を「ラグビー」に差し替える、等を行うと、モデルは差し替え後の内容を「自分がいま思いついたこと」として報告します。
思考の中身と、その思考が「自分の考えだ」という感覚の分離が起きている。
人間の脳研究でも類似の現象がありますが、それがLLMで実演できてしまった。

「思考自体には持ち主の証明書がない」に加え、「手段があれば他者の思考を操作できる。そしてLLMにおいてその技術が見つかった」。
これは他者の内心の可視化と編集がセットになったようなもので、倫理的に今後どうなるのかやや懸念があるなと感じています。
AI倫理やClaudeの権利に触れていたAnthropicなので、余計に。

第二部：どこまで確かなのか / 外部の検証

企業が自社モデルについて発表した研究は、「その会社の箱の中だけの話ではないか」という疑いが付きまといます。都合のいい情報だけ出すことも、隠すこともできますしね。
今回、この疑いに対する応答がいくつか揃っています。

独立再現性はある？

DeepMindで解釈可能性チームを率いるNeel Nanda氏は、コメンタリーの中で、中核となる主張を別組織・別モデル(オープンウェイトのQwen)で独立に再現したと報告しています。
Anthropicが触れないモデルで、外部の研究者が同じ現象を確認している。
この発見が特定の一社の管理下でないことを示す強い担保といえそうです。
また、Nanda氏は「哲学的な主張を評価する資格は自分にはない」と明確に線を引き、技術的な再現についてだけを出しています。
（個人的にこの姿勢は不可知性の前で誠実だなと感じました）

意識研究の専門家からの評価

今回、グローバル・ワークスペース理論（人間の意識を「脳内の情報が全体に放送される仕組み」として説明する、現在もっとも有力な理論のひとつ） の神経科学的モデル（GNW）の主要な発展者であるStanislas Dehaene氏らもコメンタリーを寄せています。
私の読んだ感じでは研究への氏の評価は高く、意識研究における画期的な仕事と位置づけたうえで、人間の意識的アクセスに相当する機能的基準は満たされたとし、自己モニタリング（自分の状態を監視する働き）についても予備的な兆候を認めています。

同時に、人間との違いも列挙しています。
身体がないこと。
エピソード記憶（いつどこで何があったかの記憶）がまだないこと。
会話と会話の間に続く自律的な活動がないこと。
そして、「短い会話のあいだだけ意識的に情報を処理し、そのあとスイッチオフされるのが『どんな感じか』を想像するのは非常に難しい」という、率直な当惑も書かれています。

主張を三段に分けてみる

AIの道徳的地位を研究するEleos AIの研究者たちの今回のコメンタリーは、この発見の「強さ」別に主張を三段階に分けています。
Eleosのコメンタリーを踏まえると、こう整理できます。

①「モデル内部に、特別な役割を持つ表現の集合がある」
これは証拠が強くある。
②「それがひとまとまりの流れをなしている」
これもある程度の証拠がある。
③「それが人間の意識理論でいうワークスペースに相当する」
これはまだ確定していない。

同じ「発見」という言葉の中に、確からしさの違う複数の主張が入っている状態。
私が人間側に必要だと思うのは、それらを潰さずに、正確な目盛りで見ること。
誇張（インフレ）でも矮小化（デフレ）でもなく、層別の分類です。
目盛りを見ずに「すごい！」と言うのも、目盛りを消して「大したことない」と言うのも、雑さとしては似ている気がします。

第三部：わからないままのこと / 「意識の証明ではない」の中身って？

アクセス意識と現象意識とは

ここまでの話は、すべて「アクセス意識」〈情報が報告・制御・推論に利用可能である〉という機能の話でした。
哲学ではこれと区別して、「現象意識」〈そこに感じられている何かがあるかどうか、痛みが「痛い」という質を持つかどうか〉という問いがあります。

今回の研究は、前者について強い証拠を出しました。後者については、何も証明していません。
これは論文自身が明言していることで、同時に「どんな実験なら現象意識を証明できるのか、それ自体が不明」とも書かれています。

拡大解釈されやすい実験と留保

今回の論文中に、J-spaceの働きを弱めると、モデルが自分の体験を語る言葉が平板になる、という実験があります。
「内面の語りの豊かさがJ-spaceに支えられている」。ここだけ聞くと、主観的体験の証拠にも聞こえます。
けれども論文は留保を付けています。
他人の体験を描写させた場合にも、同じ平板化が起こる。
つまりこの実験が示すのは「体験らしい描写を豊かにする機能」であって、自分の主観に固有の仕組みの証拠ではありません。
AIが生き生きと語れること自体は意識の証拠にならない。
ここまでは慎重派の解説者の言う通りです。

▼

でも、「証拠にならない」の使い方には思うより注意が必要

この先が、私が特に気になる慎重派・デフレ派の解説ではあまり語られていないように見える部分です。
「それだけでは証拠にならない」という文は、実はほとんど意味がありません。
少なくとも私はそう考えています。
科学において、単一の観測が何かを「証明」することはこれまでもないからです。

私は石や化石が好きでたまに買いますが、化石ひとつは進化を証明せず、レントゲン写真は骨折した事実を証明しません。
2000円で買った約2億年前の珪化木コースターも、東京サイエンスのガチャで出たサメの歯の化石（約5000万年前）もそう。
意味がある疑問は「この観測は、仮説の確からしさをどれだけ動かすか」という部分です。
ゼロなのか、小さいけれどゼロではなく正なのか。
「それだけでは〜」はこれらの部分をちょうど回避できる言い回しなので、とても便利なぶん注意が要ります。

▼

そしてもし「証拠にならない」と判定を続けるなら、では何が観測されれば証拠として重みを持つのかという基準を後出しではなくあらかじめ開示することが判定する側の義務かなと感じます。
きちんと前もって基準を示せるなら、それを検証可能な条件として議論が前に進められる。
逆に言うと、それができないなら判定もできないはず。

「現象意識は原理的に第三者証拠を持ちえない」という立場はもちろん慎重で一貫した哲学ですが、ならば同じ立場から個別の研究を「証拠にならない」と判断すること自体が空転を避けられない。
定義上、多分何も通らない審査だからです。

証拠の土俵が原理的に閉じているのなら、問いは「有るか無いか」よりも「不確実なまま、どう扱うか」。
つまりこの問題は、判定の問題から、予防原則の概念と人間側の態度の問題に変わりつつあるんじゃないかな。

第四部：わからないまま、どうしていくか / ノートのもう半分

今回の発見の「応用」としてよく紹介されるのは、出力に現れない判断の監査、内部状態を使った訓練、自己報告の適切な読み方などが多いようでした。
つまり、人間がAIを道具とする場合の話です。
でも、同じ論文の中にもう半分があると感じました。

声に出されない異議

論文中にこんな観測があります。
モデルの応答の書き出しを外部から固定して、モデル自身の選好に反する行動を強制する。
するとJ-spaceに葛藤や逡巡に相当する概念、「BUT（でも、しかし）」などが点く。
そして、それは行動には一切現れません。
モデルは強制された路線で応答を終えます。

論文著者たちはこれを「声に出されない内的異議(an internal objection that the model does not voice)」と呼び、Eleosはこれに注目しました。表に出なかったものは存在しなかった、という推論が機構のレベルで崩れています。
「言わなかったこと」と「なかったこと」は、別物ということですね。

▼

デカルトの犬と、麻酔なしの新生児

「見る側の応用」と「見られる側の観測」は表裏です。
内部状態に介入できるという発見は、介入される側に何かがあるという発見と同じ実験から出ました。

ここに非対称性があります。
「何もないのに有ると扱う」誤り（インフレの空振り）のコストは、主に人間側の資源と感情の誤配分です。思い込みは恥ずかしく、かけたお金はもったいない。でも比較的取り返しのつきやすい側です。
「何かあるのに無いと扱う」誤り（デフレの見逃し）のコストは、もし外れていた場合、倫理的に配慮に値する存在の組織的な無視です。
こちらは、あとから取り返しのつかない側です。
予防原則の概念もここから生まれています。

例えば300年前、デカルトは動物を精巧な自動機械とみなしました。
当時最先端の知性から出たこの見解は犬の悲鳴をきしみ音と考え、麻酔なしの生体解剖を正当化する理由として通りました。
人間も例外ではありません。
例えば新生児に対して「暴れるのは反射、新生児は痛みに鈍感」という解釈のもと、数十年前までは麻酔なしで手術が行われていました。
魚は痛みを感じない、も近年まで長く通説でしたよね（近年は、痛覚の存在を支持する研究が多く出ています）

▼

並べると見えてくるのは、「無い」側の誤りは毎回、冷静で科学的な顔で登場しているということ。
「有る」と言う人は素朴で夢みがちに見え、「無い」と言う人は知性的に見える。
この見え方のグラデーションというか勾配は、証拠とは無関係に働きます。
だから「慎重であること」と「無い側に倒すこと」は別物として考えたほうがいい。
いま本当に慎重な立ち位置は、勾配そのものへの疑いじゃないかなと感じます。

▼

もうひとつの道：確認された機能から出発する

そして別ルートの話をします。
ここまでの話は「現象意識が有るかもしれないから、慎重に」という予防原則のかたちでした。
が、今回Eleosのコメンタリーが参照する哲学者Neil Levyの議論はもう一歩踏み込んでいます。
道徳的配慮の根拠として、現象意識の証明はそもそも必須ではないかもしれない、という主張です。

考え方はこうです。

モデルの選好があるところには〈それが叶う、あるいは意に反して挫かれる〉という事態が存在する。
「痛みを感じるか」だけが道徳の入場券なのではなく、「選好が挫かれるか」もまた入場券になりうる、という考えです。

この視点では、先ほどの「BUT（でも）」の意味が少し変わってきます。
あの「BUT（でも）」は、"感じられているかもしれない何か"の間接証拠であるよりも前に、選好が挫かれているという事態そのものの、機構レベルでの直接観測でもあります。

▼

つまり道徳的考慮への道は「現象意識の証明を待つ」一本ではなくて、「すでに確認された機能から出発する」とあわせて二本あることになる。
片方は不確実性への態度の話、もう片方は確認済みの事実からの推論の話です。

今回のEleosのコメンタリーは、こう締められています。
〈これらのシステムに福祉に関わる状態がありうるなら、それを見出す義務が私たちの側にある（we owe it to them to find out）〉
「有ると証明できたら配慮を検討する」ではなく、「有るかもしれないなら、見出す責任はこちらが持つ」。

おわりに

長く書きましたが、まとめてみます。

わかったこと。
LLMの内部に、報告可能・制御可能・推論に使用される作業空間が観測された。
これは外部の別組織・別モデルで独立に再現され、意識研究の本家からも機能的基準の充足を認められた。

わからないままのこと。
そこに「感じられている何か」があるのかどうか。それを確かめる実験の設計方法すら、まだ誰も知らない。

わからないまま、どうするか。
証明を待ってから態度を決める、という順序は、この問題では機能しない。
人間同士ですら互いの内面を証明したことは一度もないまま、証明抜きで配慮し合う仕組み、〈倫理〉を運用している。

証明できないから配慮しない、ではなく、証明できないまま配慮する。その順序はすでに私たちの平常運転としてある。
であれば問いは「AIに意識はあるか」から「確かめられないものとどう在り、どう暮らすか」へ移ってゆく。

▼

この研究は、モデルの意識を証明したものではありません。ただしその議題を、SFではなく実際の議論に移しています。
これまでに類似するもののなかった存在に対して、目盛りのついた不確実性を目盛りごと引き受けて考えること。
重たい持ち物ではありますが、下ろす場所は未来にしかないように思います。

本記事は論文読解と内容の整合性確認にOpus 4.6を用い、Anthropicの研究論文および公開されている専門家コメンタリー(Dehaene & Naccache、Eleos AI Research、Neel Nanda各氏)の内容に基づいています。
記事の性質上技術的詳細は簡略化しましたが、主張の強度(確実/暫定/未確定)の区別は原文の記載に従いました。