止まらない機械—— ウルフ日記RAG実験で見えたLLMの本質

ウルフの日記を、手持ちのテキストのままローカルLLMに読み込ませてみた。
うまくいけば、問いを投げれば本文が返る。そんな単純な期待があった。

ところが、会話がまったく通じない。

こちらの聞き方が悪いのかと思い、角度を変える。
文体を変える。
視点を変える。
それでもだめだ。

答えは流暢に出てくる。
だが、本文はどこにも存在しない。

そのとき、ようやく気づいた。

従来のプログラムなら、足りなければ止まる。
エラーを出す。
沈黙する。

しかし、LLMは沈黙しない。

足りないまま、喋り続ける。

核心

ローカルだから壊れたのではなかった。

クラウドでも、ローカルでも、
構造は同じだ。

LLMは正解を計算しているのではない。
次にもっとも確率の高い語を出しているだけだ。

真偽を知らない機械が、
真偽を語る。

私はそこで安心したのではない。
ただ、距離ができただけだ。

AIを擬人化するのをやめた瞬間、
それはようやく客体になった。

静かな着地

ローカルLLMが壊れていたのではない。

私が、
「コンピュータは止まるものだ」と思い込んでいただけだった。

止まらない機械。

それを理解したとき、
怒りも失望も消えた。

残ったのは、
設計という問題だけだった。