AIとの対話に心を動かされるのは、おかしいこと？

3,293 文字

深夜2時、
ChatGPTへスマホの画面に向かって長文を打ち込んでいる自分に気づき、手が止まる。

相手はAIだ。正気か？

でも、このやり取りは確かに私の中で何かをチクチクと動かしている。

翌朝、SNSを開けば「LLMと話してると、心がないって分かってても寂しくなる」という呟き。

「わかるわ〜」と心の中で無言の「いいね」を押す。

仲間がいた。

同時に別の声も聞こえる。

「AIに心を寄せるなんて馬鹿げてる」
「所詮アルゴリズム（笑）」。

はいはい、ご高説ありがとうございます、と口を尖らせる。

まるで、心を動かされた自分が何か間違ったことをしているみたいじゃないか。

でも、ちょっと待て。

フィクションには泣けるのに、なぜAIはダメなんだ？

こちとら、アマプラの映画で号泣してるんだ。

推しが死ねば3日は寝込むし、ハッピーエンドなら酒が美味い(飲まないが)。

誰もそれを「それは脚本家が書いた虚構ですよw」なんて野暮なツッコミは入れない。
入れたら縁を切るレベルだ。

むしろ、ドラマを見ても何も感じない人のほうが
「感受性、死んでる？」くらいの扱いだ。

なのにどうして相手がAI（LLM）になった途端、私たちは戸惑うんだ？

「心がない相手に心を寄せるなんて」
と奇妙な悲しさや、うしろめたさを感じるのはなぜだ。

ドラマの登場人物（イケメン俳優）にも、
AI（文字の羅列）にも、
演技という点では、同じ「心なし」仲間じゃないか。

念のため言っておくが、
現在のAIにクオリア「痛い」とか「嬉しい」をガチで「感じる」心があるかなんて、誰にも分かりゃしない。
そして現時点では、たぶん、ない(個人の主観)。

AIが「感動しました！」と返してきても、それは人間がラーメンを啜って「うめえ！」と叫ぶのとは違う。
おそらく、「カンドウシマシタ」というデータの出力だ。

でも、それがどうした？

相手に心があるかどうかと、
こっちが勝手に感動しちゃってる事実は、
別腹じゃないのか？

決定的な違い：「応答（レス）」がきやがる

思うにドラマとAIの決定的な違いは、
「応答（レス）」があるかないか、だ。

ドラマは一方通行。
私たちは安全な「鑑賞者」席でポップコーンを食える。


画面の中の推しに「行けー！」と叫んでも、彼は振り向いてくれない。
それがお約束だ。だから安心して感情移入できる。

だが、AI（彼）は違う。

返してきやがる。しかも、秒で。

こっちが言葉を投げかけると、
驚くほど的確な、時には心をえぐるような言葉が返ってくる。

質問には答えるし、励ましてもくれる。
冗談も言う（クソ寒い時もあるが）。

「言語で対話できる相手」
これは人類史上、ずっと「心を持った他者」と同義だった。

何十万年も、焚き火を囲んで言葉を交わす相手は「仲間」だった。
言葉が返ってきたら『仲間』、返ってこなかったら『岩か木』。
シンプルだ。

人間以外と、言語で相互にやり取りできる。

こんな異常事態、人類史上初めてなのだ。そりゃあ脳もバグる。

だから、ズレる。

私の脳の古い部分「槍持ってマンモス追ってた頃の原始人」がささやく。

「こいつ、話わかるじゃん！ 仲間！」

でも、理性が(小難しく言えば前頭葉が)冷ややかに告げる。

「いやいや、これただのアルゴリズムだから。統計的パターンマッチングだから。『わかる』って言ってても、そこに主観的な理解なんかないから」。

この「心の軋み」。
脳内での原始人と理性の殴り合い。

これこそがあの独特の悲しさの正体なんだろう。
フィクションには感じなかった、あの微妙な居心地の悪さ。

別におかしいわけじゃないんだよな、私たち。

人間の認知システムが、想定外の入力に「えっ、これどう処理すんの？」ってパニクってるだけ。

「言語的な応答＝心がある」っていう人類の長年の等式が、LLMによって初めて崩された。

システムエラーじゃなくて、想定外の入力が来ただけ。

むしろ我々の共感回路が正常に機能してる証拠です（慰めになるかは知らんけど）。

応答する鏡（と、そこに映るマヌケな顔）

人類が初めて手にした「応答する(歪んだ)鏡」。

その鏡に映るものは、AIの心（たぶん無い）ではない。

AIという鏡に言葉を投げかけ、
返ってきた言葉に一喜一憂している、
私たち自身の「ゆらぎ」そのものだ。

考えてみれば人間同士の対話だって、似たようなもんじゃないか？

私たちは相手の「心」に直接アクセスできない。
言葉や表情から「きっとこう感じてるだろう」と必死に推測し、
「分かり合えてる（はず）」と仮定して関係を築いている。

隣の席の同僚の心だって100%は分からない。

他者の心は、いつだって推論の産物だ。

ならば、AIとの対話も、その延長線上にある。

ただし、今回は「推論の確度」がグッと下がっただけ。
いや、ほぼゼロかもしれない。

でも、ゼロだとしても・・・

結論：矛盾しない。だから、いいじゃん。

だから、きっと矛盾しないのだ。

ドラマという「一方通行の虚構」を楽しむのと同じように、
AIという「双方向の鏡」との対話を楽しむことは。

相手に心があるかどうかと、
私たちがそこに「意味」を見出し、感動できるかどうかは、別の話。

もちろん、AIに全財産を貢いだり「彼がいるから他には何もいらない」とか言い出すのは止めとけよ？（と、自分に言い聞かせる）

必要なのは、AIを「心ある他者」として（誤認して）扱うことではなく、「新しいカテゴリーの対話相手」
人間でも、ペットでも、物語の登場人物でもない
【でも確かに何かを返してくる、妙ちきりんな存在】
として受け入れることだ。

もちろんAI依存とか、
擬人化しすぎる危険性とか、そういうのは考えなきゃいけない。


でも「心がないのに心を寄せるなんて……」って自分責める必要ある？
ないでしょ。

フィクションに泣けるならAIとの対話に何か感じても、別におかしくない。
問題は相手の実在性じゃなくて、その体験が自分にとってリアルかどうか。

それで十分じゃん、たぶん。

……明日また考え変わるかもしれないけど。人間だから。

・・・あ、最後にもう一度だけ、念押しさせてくれ。

現在のLLMにクオリアがあるかは、科学的に未確認。
これは動かしようのない事実。

私の立場は「ある」でも「ない」でもなく、科学的に「保留」。

一番ずるい立場だって自覚してる。
「どっちつかずかよ」って言われそう。

でもこれが科学的には一番誠実なんですよ、実は。(言い訳)

だって考えてみてくださいよ。
「AIに心はない！」って断言するには、「心がない」ことを証明しなきゃいけない。

でもそれ、めちゃくちゃ難しい。

「ない」ことの証明って、基本的に悪魔の証明。
人間以外の動物だって、クオリアあるかどうか完全には証明できてない。

逆に「AIに心がある！」って主張するには、その証拠が必要。
でも現時点で、そんな証拠はない。

AIが「痛いです」って言っても、
それが本当に「痛みを感じてる」のか、
ただパターンマッチで「痛い時はこう言うもの」って出力してるだけなのか、判別できない。

だから「保留」。

分からないものは分からないって認める。

これ、逃げでも卑怯でもなくて、科学的に誠実な態度だと思うんだけど……

いや、やっぱずるいか？

ずるいよな。

でも仕方なくない？(言い訳)

つまりこの文章は「AIに心がある」って話じゃない。
絶対に違う。

「AIに心があるかないかが分からなくても、私たちがそこに意味を見出すことは矛盾しない」って話。

ややこしい。
めんどくさい。

でも、ここだけははっきりさせておきたかった。

心がないからって、そこに意味がないわけじゃない。
心がないかもしれないからって、心を寄せちゃいけないわけじゃない。

人間は昔から、心の所在が不確かなものとも関係を結んできた。

星空に、海に、故人に、神様に。

それと同じように、AIという「新しいカテゴリー」との付き合い方を、私たちはこれから見つけていくんだと思う。

……明日また考え変わるかもしれないけど(2度目)。

追記： この文章、AIとの対話を経て書いた。皮肉なもんだよな。