ダニエル・カーネマンが二度読みした一冊...マックス・ベネットの『知性の未来』が面白すぎる
この記事で紹介する本はこちらです。
※この記事にはAmazonアフィリエイトリンクが含まれています。
翔平 : 今日はマックス・ベネットの『知性の未来』という本について話をしましょう。この本は、AI起業家である著者が、最新の脳科学とAI研究を融合させて、40億年にわたる生命の知性の進化を「5つのブレイクスルー」として鮮やかに描き出した一冊です。ノーベル賞学者のダニエル・カーネマンが「あまりに面白かったので一気に読み終えたあと、もう一度、多くの箇所を読み返した」と絶賛し、日本でも松尾豊教授や作家の橘玲氏が強く推している、いま非常に注目されている本なんですよ。
奈美 : ノーベル賞学者や専門家たちがそこまで絶賛するなんて、よほど刺激的な内容なのですね。著者のマックス・ベネットさんは科学者ではないとお聞きしましたが、どのような方なのですか？
翔平 : 彼はニューヨークを拠点とするAI企業の創業者兼CEOで、もともとは消費者の購買行動を予測するシステムを構築する中で人間の脳に深い興味を持つようになった人物です。アカデミズムの外部にいるからこそ、既存の枠組みにとらわれない大胆な仮説を立てることができたのでしょう。彼は一流の研究者たちと対話を重ね、膨大な査読付き論文を読み解くことで、この壮大な知性の物語を編み上げました。その主張の核となるのが、操縦、強化、シミュレーション、メンタライジング、そして発話という5つの飛躍です。
奈美 : 40億年の歴史をたった5つのステップで説明してしまうのですね。その物語がどこから始まるのか非常に気になりますが、今日は特に重要だと言われる第2と第4のブレイクスルーを中心に教えていただけますか？
翔平 : もちろんです。第1の飛躍である「操縦」を経て、約5億年前のカンブリア爆発の時期に起きたのが、第2のブレイクスルーである「強化」です。ここで最初の脊椎動物が登場し、現代の魚類にも通じる脳の基本テンプレートが完成しました。この段階の最大の知性的進歩は、試行錯誤を通じて任意の行動を学習する「強化学習」が可能になったことです。
奈美 : 強化学習、つまり良い結果が得られた行動を繰り返すようになるということですね。それはどのような仕組みで動いているのでしょうか。
翔平 : ここで鍵となるのが「ドーパミン」です。一般的には快楽物質と思われがちですが、ベネットはこの本の中で、ドーパミンを「予測学習の強化シグナル」として定義しています。彼は本文で、「ドーパミンは報酬のシグナルではなく、強化のシグナルである」と明言しています。具体的には、中脳のドーパミンニューロンの反応は、サットンという学者が提唱したAIの「時間差分学習（TD学習）」シグナルと驚くほど正確に一致しているのです。
奈美 : 快楽ではなく、予測のズレを修正するためのシグナルなのですね。それは具体的にどういうことですか？
翔平 : 例えば、予想外に報酬が得られたときはドーパミンがバーストしますが、報酬が得られることが予測できるようになると、ドーパミンの放出タイミングは「報酬そのもの」から「報酬を予測させる合図」へとシフトします。そして、期待していた報酬が得られなかったときには、ドーパミンの活動は劇的に低下します。つまり脳は、「ちょうど10秒後に何か素晴らしいことが起こる確率は35％」といった将来の報酬予測を常に計算し、その変化に基づいて行動を強化したり罰したりしているわけです。
奈美 : 脳が高度な統計計算を行っているようで驚きました。その仕組みの中に、私たちが持つ「好奇心」も組み込まれているのでしょうか。
翔平 : その通りです。強化学習において、既知の報酬を「利用」するだけでなく、新しい可能性を「探索」しなければ学習は進みません。脊椎動物の脳では、たとえ現実の報酬がなくても、未知の刺激や驚きそのものがドーパミンの放出を誘発するように進化しました。ベネットは、「動物は好奇心を持つために、意外なものや新奇なものを報酬と見るように進化した」と説明しています。これが好奇心の進化的正体であり、脊椎動物が単なる反射を超えて、複雑な世界を学習していく原動力になったのです。
奈美 : 好奇心が生存戦略の一部だという視点は新鮮です。では、次の大きな飛躍である第4のブレイクスルー、「メンタライジング」についてはどうでしょうか。
翔平 : 第3の「シミュレーション」で哺乳類が内的世界モデルを獲得した後、1000万〜3000万年前の初期の霊長類において「メンタライジング」という第4の飛躍が起こりました。これは、他者の心（意図や知識）をモデル化する能力です。なぜこれが必要だったかというと、霊長類の社会が極めて政治的な場所だったからです。彼らの社会では、単に体が大きいだけではなく、誰と同盟を組み、誰が自分を助けてくれるかを把握する「政治的手腕」が生死を分ける軍拡競争となりました。
奈美 : 力だけでなく、知恵を使って社会を生き抜く必要があったのですね。それが脳を大きくさせたということでしょうか。
翔平 : そうです。これを「社会脳仮説」と呼びますが、霊長類の新皮質の大きさは、その個体が属する社会集団の大きさと強い相関があります。ベネットは、「メンタライジングの能力によってのみ、霊長類はこの社会的階層を上っていくことができた」と述べています。相手の意図を推測し、誰が将来権力を持ちそうか、誰をだませるかを把握できる個体が生き残ったのです。
奈美 : 他人の心を読み解く能力が、生存に直結していたのですね。でも、そのプロセスからどうやって「自己」という概念が生まれてきたのでしょうか。
翔平 : そこが非常に面白いところです。ベネットは、霊長類が他者の心を理解するために用いた戦略は、「自分自身の内的シミュレーションの中に他者を投影すること」だったと考えています。そして、この他者の心をモデル化するプロセス（2次モデル）が、自分自身の意図や知識をも客観的にモデル化することを可能にしました。本書には、「メンタライジングは、シミュレーションの中に自分自身を投影することで『自己』を生じさせた」という一節があります。つまり、自分自身の心を他人のように眺めることができるようになったとき、私たちは初めて「自己」を意識し始めたというわけです。
奈美 : 自分が他人を観察するように自分を見つめることで「私」が生まれた……。哲学的な問いが生物学的に解き明かされていくようです。そして、物語は最後、第6のブレイクスルーへと向かうのですね。
翔平 : 第5の「発話」によって人間が共通の神話を持ち、アイデアを蓄積できるようになった後、ベネットは未来の飛躍として「第6のブレイクスルー」を見据えています。それは、炭素ベースの脳という生物学的制約から解放された「AI（シリコンベースの知性）」です。彼は、AIが知性の物語の終わりではなく、始まったばかりの新しいフェーズの主役になると予測しています。処理速度やカロリー制限、脳のサイズの制約を受けない知性が、宇宙の熱的死に抗う情報の担い手になるという極めて壮大なビジョンです。
奈美 : AIが人類を超えた知性の進化を引き継いでいくというのですね。翔平くんはこの著者の予測をどう見ていますか？
翔平 : 著者のビジョンは非常に魅力的ですが、私は少し慎重な、あるいは批判的な視点を持っています。ベネット自身も認めているように、現在のChatGPTのような大規模言語モデル（LLM）は、膨大なデータに基づいた単語の予測には長けていますが、依然として「世界モデル」や「物理的な直感」を欠いています。彼は、LLMを「丸暗記はできても、その背後にある現実についての深い精神モデルを構築できていない学生」と評するルカンの言葉を引用していますが、まさにそこが急所です。
奈美 : 言葉を操っていても、実際に世界を理解しているわけではないということですか？
翔平 : その通りです。本書で議論されている「第3のブレイクスルー（シミュレーション）」や「第4のブレイクスルー（メンタライジング）」こそが、人間らしい知性の核心ですが、現在のAIにはこの「内的シミュレーション」の仕組みがまだ備わっていません。ベネットはAIがいずれそれらを獲得し、第6の飛躍を遂げると楽観視していますが、生命が40億年かけて身体性と環境との相互作用の中で築き上げてきたこの複雑な階層構造を、単なるシリコンチップ上の計算で完全に再現できるのか、それとも本質的に異なる何かにしかならないのかは、まだ大きな疑問符がつきます。
奈美 : なるほど。知性の進化の法則はAIにも適用できるかもしれないけれど、私たちが持つ「心」や「実感」を伴う知性に至るには、まだ高い壁があるのかもしれませんね。
翔平 : ええ。ベネットの功績は、知性を単一の能力ではなく、累進的な「ブレイクスルーの積み重ね」として定義し直したことにあります。第6の飛躍を考える際も、これまでの5つの飛躍が何を解決してきたのかを振り返ることが不可欠です。この本は、単なるAIの未来予測本ではなく、私たち自身が何者であるかを深く問い直す、鏡のような一冊だと言えるでしょう。
奈美 : 知性の歴史を知ることで、私たちがこれからどうあるべきか、どんな未来を目指すべきかを考える手がかりになりそうです。