「中国語の部屋」とは？―シンギュラリティってホントに来るんですか

「AIってどこまで賢くなるんですか？」
「シンギュラリティってホントに来るんですか？」
クライアントにそう聞かれる事が増えた。
そこで、気づいた事がある。

「賢い」という意味を深く考えるヒトは、どれだけいるだろうか？

📝 この記事の要約

AIがどれほど自然に会話しても、それは「理解」ではなく「記号操作」に過ぎない。
1980年、哲学者ジョン・サールの「中国語の部屋」という思考実験は、現代のAI時代において重要な問いを投げかけています。
AIと人間の決定的な違いについて考えました。

出版社で新規事業開発の仕事をしてるので、日々AIの可能性や将来の方向を見極めるために、技術論文を数百本以上読んでます。
AIに何ができるのか。
何ができないのか。

どれだけ進化しても、AIはわかっていない。
そのことを最初に指摘したのが、アメリカの哲学者ジョン・サール。

「中国語の部屋」─40年前の話し

まずは下記をイメージしてください。

あなたは中国語がまったく読めない。
でも手元には分厚いマニュアルがあって、「この記号が来たら、この記号を返せ」というルールがびっしり書かれている。

部屋の外から見たら、あなたは中国語で会話している。
でも、あなた自身は何も「わかって」いない（笑）
コメディみたいな状況になっている。

これが、いまのAI。

1980年、サールが発表した論文「Minds, Brains, and Programs」で提示したこの思考実験は、AIがどれほど自然に振る舞っても、「理解」ではなく「記号操作」に過ぎないことを示しました。

つまり、AIが「チューリングテスト」に合格しても、「意識」や「意味の理解」をしているのではない。
サールはこれを「AI」の限界として批判しました。

「わかっていない知性」が動かす世界

現代のAIもまさにこの構造の上にある。

ChatGPTもClaudeも、膨大なテキストを統計的に処理して、最も自然な言葉の並びを選んでいる。つまり「中国語の部屋」が、いまや地球規模で稼働している。

にもかかわらず、私たちはAIの返答に共感したり、愚痴や嘆きを慰めてくれて親近感さえ覚える人も多い。

AIが理解しているのではない。
AIの中身は「統計学」なのです。
私たちが、AIに理解を投影しているだけなのだ。

「理解」とは「間違いを受け入れる」こと

人間の「理解」は、いつも不完全。

誤読して
勘違いをして、
時に嫉妬しながら、
それでも「わかろう」とする努力の狭間にある。

仕事の現場で向き合っているのは、まさにこの「不完全さ」だといえる。

・主語の抜けた連絡
・締め切りが書いてないお願い
・フィー金額があいまいな相談

Slackの情報量に溺れ、
組織の空気を心配して、
細かいタスクに追われる。
そんな毎日に、AIがやってきた。
部下が居ない人ほど、便利。

しかし、AIは「不完全さ」を持たない。
間違えず、迷わず、疲れもしない。
寝ないし、死なない。
ゆえに「心」を理解できない。

理解とは、間違いを恐れずに他者と関わることだと思う。
AIには、理解できない。
どれほど学習しても、「生きた理解」には到達しない。
「心」がないからだ。

沈黙を理解できない知性

AIは沈黙を「空白」として処理する。

だが人間は、沈黙を「痛み」や「やさしさ」や「気配り・配慮」として感じ取る。会議で誰かが黙り込んだとき、その沈黙には意味がある。言葉にできない違和感を抱えている。その「何か」を受け止めることが理解の始まりだ。人間には「機微」を感じ取る能力がある。
※機微を読むのは、空気を読むのとは違う。

理解とは、情報処理ではなく、感情のやりとりであり、その比重が重い。

AIが人間になれない理由は、心がないからだけではない。
沈黙に意味を見出せないからだ。

AIを通して、「人間とは何か」を学び直す

AIが"わかっていない"ことを理解するたびに「わかるとは何か」を考え直す必要がある。

AIは自分の鏡であり、影であるから。

理解とは、正解ではなく、手探りの対話。
その不確かな領域にこそ人間の心や尊厳が宿る。

AIはまだ、人間にはならない

AIは言葉を操るが、意味を抱かない。
記号を処理するが、世界を感じない。
それは「中国語の部屋」の中で、記号を回し続ける計算能力にすぎない。

正直に言えば、私もときどき不安になる。
AIがこのまま進化したら、私たちの仕事はどうなるのだろう、と。
自分の仕事そのものが、AIに置き換わってしまうのではないか、と。

でも同時に、こうも思うのです。
▼
・AIが完璧に「理解」する日が来るまで、まだ時間はある。
・その時間の中で「わかろうとして何かを対策することはできる」
・間違いながら、迷いながら、それでも人間と関わり続けることができる。

AIはまだ、人間にはならない。
でも、ロボティクスが進んで、触覚や感覚知が増えたら、どうなるか。
まだ誰も経験したことがない世界が来る。
そのとき
怯えるか、興奮するか？
そこで大きく道が分かれる。

そしてその「まだ」の部分こそ
私たちに残された「未来」なのだ。と。

攻殻機動隊の草薙少佐の台詞のように
「そうしろと囁くのよ…私のゴーストが」

皮肉にも、AIが理解できない世界が残っているから、私たちはまだ人間でいられるのかもしれない。

池松潤
https://lit.link/junikematsu

メモ：「中国語の部屋」とは？

• 提唱者：ジョン・サール（John R. Searle, 1932–）

• 発表年：1980年

• 論文："Minds, Brains, and Programs"
  （『Behavioral and Brain Sciences』掲載）

• 主張：コンピュータは記号（シンタックス）を操作するだけであり、意味（セマンティクス）を理解しない

• 対象：「強いAI」仮説への批判
  （心や意識は単なるプログラム実行では生まれない）

• 影響：認知科学・AI倫理・意識研究・哲学的AI批判の起点となった

#AI編集
#編集の未来
#思考するメディア
#感情のデザイン
#AIと共感
#意味の編集
#AI