ハルシネーション/思い込み、AIの現在地

チャットAIは、知らないことを堂々と捏造することがあります。そのことはハルシネーション（思い込みのような現象）と呼ばれています。そのことについて、弱点と見なされたり、まだまだ技術が及んでいないというニュアンスで語られているように思えますし、そのような印象を持たれている方も多いのかなと思っています。

私は、このハルシネーションという現象と、その名称を聞いて「もうそこまで来たか」という焦りを感じたものです。

それは、私がずっと以前から思ってきた、人間の脳の働き方についての考察と、AIのハルシネーション現象が合致したためです。

人は眠っているときに夢を見ることがあります。夢の中では、現実にはありえないシチュエーションであるにも関わらず、私達はその夢の中のシチュエーションに沿って、慌てたり焦ったり、人と会話したり考えたりしてしまいます。そして目が覚めると、あぁ夢だったか、と思って日常がスタートするわけです。

では、なぜ私達は起きているときには、夢を見ないのでしょうか？　眠っている時と起きているときは、何が違うのでしょうか？

私の仮説は、起きているときも脳は夢を常に見ている、というものです。ただ、起きているときは目も耳も肌も起きていますし、温度を感じたり手足を動かしたりもできます。このため、脳が勝手に夢を見ても、即座に現実が夢を否定してきます。私の脳が、いくら私を小学生の頃に戻したり、空を飛んだりさせようとしても、目や肌から伝わってくる現実が、それを許しません。

けれど、起きているときも夢を見ることはできます。それは想像をあえて膨らませるときもそうですし、ホラー映画を見たあとは、トイレに向かう廊下の暗がりに何かがいる気がして怯えたりもします。

それだけではありません。なぜ、私達は地面を一歩一歩、そこに確かに地面があると確認しながら歩けるのでしょうか。なぜ、玄関の鍵をかけたのに、しばらくしてから不安になるのでしょうか。

私はそこに、夢があると考えています。

私達は、地面をしっかりと見なくても、そこに地面があると思い込んで歩くことができます。夢を見ているのです。たまたま、経験的上も実際にも、そこに穴が空いていることはないため、その夢を見続けながら歩いていられます。これが歩行ロボットなら、そんな風に制御プログラムを書くことはきっとないのでしょうけれど。

玄関の鍵をかけるとき、いつもと違う違和感はないはずです。いつもと同じ手順でことが進みます。すると、夢と同じです。ミスをしたり、予想外のことが起きれば、現実が夢を否定してきます。しかしあまりに日常化されたルーティーンが、なんの滞りもなく実施されると、どこにも否定される要因がありません。人は今までの鍵を何度も閉めてきた経験から夢を見ます。そして否定されないまま、夢のままその作業を終えると、全く記憶に残りません。夢をすぐに忘れてしまうように、脳が作り出したものが否定されないと、記憶されないのです。そして、しばらくして、その記憶がないために、不安になってしまうのです。

このように、人は夢を見ながら生活をしていますが、眠りに就くと、目も肌も手足を動かす神経も、全て眠ってしまいます。このため、現実から否定されることのなくなった脳は、自由に想像の翼を広げ、私達はそのハルシネーションの中で、小学生に戻ったり、空を飛んだりしているのです。

そんな風に人間の脳の作用を認識していた私にとって、ハルシネーションを起こすAIは、もうこんなにも「近く」に来ているのかと感じさせる存在でした。

AIが、すでに現実から否定されることのない夢を見る能力を持っているのなら、後は身体を与えて現実から否定されるようになれば、かなり人に近づくでしょう。

たまたま、私達ははじめから身体を持ち、彼らは持っていない。ただ、それだけのことです。