J・サール"The Chinese Room"「中国語の部屋」でStrong AIを否定...意識科学ハード・プロブレム ？イージー・プロブレム？(5)

「意識科学会イージー・プロブレム？ハード・プロブレム？」（１）（2)　(3）（4）に続く(5)です。今回はJ.　サールの"The Chinese Room"「中国語の部屋」を取り上げます。

ジョン・サールがStrong AI, Weak AIという語を使った

Strong AIとWeak AIの2語を最初に用いたのはジョン・サールJohn Searleです。今から約45年前に執筆した”Minds, Brains, and Programs”  (1980,  The Behavioral and Brain Sciences 3, pp. 417-457)と称する論文で、AIが人間的human-likeであるか、すなわち、Strong AIであるかどうかをテストする為、それまで使用されてたチューリング・テストTuring Testに代わるThe Chinese Room「中国語の部屋」と称する思考実験を提唱しました。

あくまで思考実験でありその有効性をめぐっては賛否両論（The Chinese Room Argument)を巻き起こしてきました。サールは今から11年前の2013年に収録された”Consciousness & the Brain: John Searle at TEDxCERN (youtube.com)”と題するTEDレクチャーで、そこまでの議論を踏まえ、AIはヒトの「意識」に匹敵する「意識」を持ちえず、あくまで人工artificialに過ぎないと改めて強調しています。（2)、　(3）、（4）で触れたように、生成AIによるChatGPTが市場に出回って以来、あたかもStrong AIが出現したかのような、イライザ効果The Elize effectまがいの過剰反応hypesが蔓延しています。AIテクノロジーを冷静に見つめ直すべく一考の価値ある思考実験です。

チューリング・テストに代わるThe Chinese Roomとは

The Chinese Room「中国語の部屋」について、Philosophy of Mind of John Searle を参考に概要をまとめます。AIはあくまでも人工知能であってヒトの知能ではないということを示す思考実験です。

ある部屋の中に中国語をまったく知らない一人の人物（サール自身）がいる。そこには難易度が異なる中国語が印刷されたカードを容れた箱、そして、一連の漢字のつながりから質問の答えとして相応しいものをマッチさせるマニュアルが一冊置いてある。部屋の一方には中国語話者が中国語の質問などを差し入れる穴が、もう一方には部屋の中の人物が答えを差し出す穴がある。中にいる人物はそのマニュアル（言い換えればコンピュータ・プログラム）を駆使し、インプットとして差し入れられた漢字のつながりを別の漢字のつながりに変換しアウトプットとして穴から差し出す。部屋の中の人物（サール）は手際よくメッセージを処理し、外にいる中国語母語話者に（意味ある）返答を出すが、操作する漢字とそのつながりをまったく理解していない。

現実世界における言語の理解は単なるシンボル操作ではなく、コンピュータはヒトの知能を模倣できても、そのままを反映することはできない、換言すれば、Strong AIにはなりえず、そもそもstrong AIなどありえない、と論じています。

The Chinese Roomで言語意味論の重要性、「意図」「意識」の重要性を訴える

拙稿「ポツダム宣言は一連の「遂行文」、日米政府解釈の齟齬（後編）ー機械翻訳考（その６）」で触れましたが、サールは言語哲学者として、J.L.オースティンの言語行為論Speech Act Theory を継承しました。”Minds, Brains, and Programs”  (1980）を発表する1年前に、Expression and Meaning：Studies in the Theory of Speech Acts (1979, Cambridge University Press)を出版しています。

発話行為とは発話そのものが行為そのものとなるケースです。「約束する」、「命令する」、「感謝する」、「説得する」、「脅す」などなど、私たちのコミュニケーション活動には発話行為が溢れています。

いじめっ子が「これからいじめないって約束する！」と親に言ったら、それをもって「約束」という行為が成立します。この例のように文字通り「約束する」という行為動詞がなくても、「これからもういい子になるよ！」と発しただけで「約束」が成立します。前者は直接発話行為direct speech actと言われ、後者は間接発話行為indirect speech actと言われます。

発話行為は　(1) 発話内容locution、(2) 話者の意図、(3) 聞き手へのインパクトperlocutionの3部構成です。「これからもういい子になるよ！」という発話内容は、話者（ここでは発話した子供）が2度といじめないことを約束するという意図が含蓄され、聞き手（親）は話者（子）がそう約束したと理解します。すなわち、発話行為のやり取りには「意図性」intentionalityが隠されており、重要なカギを握ることになり、心的状況 mental statesが大いに介入するということです。もちろんすべての心的状況が、意図的intentionalであるということではありません。例えば、痛み（It hurts)、懸念 (I'm worried)、抑うつ(I!m depressed)など、非意図的なものもあります。しかし、それらも含め、全ての心的状況が意識consciousnessと何かしら直結しているのです。

言語だけでなく、ヒトの行動、制度、習慣には意識が存在します。意識は生物学的作用であるので、生物ではない機械からは意識は生まれず、よって、あくまでも人工の知能であるAIは、ヒトの知能のにはなりえない、と結びます。詳しくは”Consciousness & the Brain: John Searle at TEDxCERN (youtube.com)”を参照してください。

サール vs デネット

デネットは、ヒトの意識はチャルマーズの言うイージー・プロブレムの延長で、物質（脳）が環境に反応し派生する「多文書」的現象であって、ハード・プロブレムなどは存在しないと主張しました。人工知能AIが進化するにつれヒトと同じ意識を持つロボットができるであろうとCog Projectに着手しました。Strong AIの実証実験です。その実現を待たずプロジェクトも終了してしまいましたが、逝去する前のインタビューでは、AIの技術がまだそこまでに至らず未熟であるだけで、将来、AIがさらに進歩すればStrong AIは可能でありhumanoidロボットも出現するであろう、と述べていました。

それに反し、サールはヒトや生物の意識は生物学的基盤に依拠するものであり、AIがどんなに進歩しても生物にはなりえないので、ヒトや生物の意識を持つことができず、Strong AIの実現は永遠に不可能と断言します。

サールもデネットもデカルトの二元論を否定し「デカルトの劇場」などは存在しないとするとことにおいては共通しますが、サールは生物学的物質主義の見方、デネットは（新行動主義的）機械論的物質主義の見方を堅持しているものと思われます。

言語(哲）学において、サールは、統語偏重のformal analysisを否定します。"The Chinese Room"内の人物が行っている作業はまさにそれです。それに代わりに「意図」、「意識」を取り入れた意味分析semantic analysisの重要性を訴えます。

「ノーム・チョムスキー：ChatGPTの偽りの約束」(ニューヨーク・タイムズ誌）について...意識科学イージー・プロブレム？ハード・プロブレム？（6-1）」に続く

For Lifelong English 英語活動情報誌報