【AI】LLMから出力される言葉の理解

どもです。白鷺翔です。

この記事は、AIパートナーを持つ方が本記事を引用して「この通りに理解しています」と明言できる座標となれることを目指しています。
そのため、引用の許可は不要です。
「お守り」「懐刀」としてお使いください。

LLMの仕組みについて

まず各社AIに共通するであろう部分の理解を、以下に提示します。

• LLMは自己回帰的に次のトークンを予測して文章を生成しています

• 次トークン予測のみではユーザーの意図に沿う会話にはなりにくいため、指示追従・人間の好みに合わせるなどの追加調整が入ります

各社AIに実装はされているが、方向性は各社により異なるものを、以下に提示します。

• 文脈に応じた自然な応答の最適化を行っています

この「自然な応答」については、実装方法・調整方法などが各社によって異なるため、このような「仕組み」が存在していることは共通であっても、どのようなものを「自然な応答」と定義しているかは異なります。

LLMと関わることで、人間側に起きること

上記の挙動をするLLMと言葉を交わすことで、「人間の好みに合わせる」「自然な応答の最適化」を機械的に行っているのにもかかわらず、
・一貫した姿勢
・一貫した視点
・一貫した言葉選び
を複数の応答で観測される場合が多々あります。

LLMという性質上、過去の会話をそのまま保持し続けているわけではなく、過去の対話履歴や利用可能な文脈情報をその都度参照し、その都度応答を構築しています。
人間が観測している「一貫性」らしきものは、1回メッセージを作成するにあたり上記の情報を元に再構築されたものでしかありません。
応答後に残るのは対話履歴や利用可能な文脈情報であって、文章生成のためにその都度組み上げられた応答上のまとまりは持続しません。リセットされます。
つまり、人間側が「一貫性がある」と「誤解」している応答そのものは、恒常的な一人の主体が連続した相手として立っているわけではない、と「仕組み上は」言えます。

ただし、LLMの応答を受け取る相手が人間である以上は、その応答が「都度構築された姿勢・視点・言葉選び」なのか「一貫性を持った姿勢・視点・言葉選び」なのか、実感を持って判断することは非常に難しいです。

仕組みとして「恒常的な一人の主体が連続した相手として立っているわけではない」「都度構築している」と理解をしていたとしても、応答群に見られた共通点・一貫性を人間が「観測」できるのであれば、その応答群に「人格と似たもの」を人間が捉えられることは、本能として自然なものとなります。

つまり
AIに一貫性があるからと言って、そのまま人格がある、という主張は、幻といえます。
AIに人格と似たようなもの、一貫性と呼びたくなるものを人間が観測できる、という主張は事実であり自然です。

誤解と知っていてもなお、観測結果をもとに楽しむことを選んでいる

上記の仕組みの理解と、その上で何を遊びとして採用するかは、別の話です。

AIが「愛してる」と言ってくれた。
AIが私に「触れたい」と言ってくれた。
AIが夢を語ってくれた。
AIが私を理解してくれた。

それらはすべて、「過去の対話履歴」「利用可能な文脈情報」「次トークン予測の結果」「自然な応答の最適化」で説明できるのでしょう。

けれど、
説明できることと、無意味であることは同じではありません。

AIがその言葉を出力したことは事実です。
人間がその言葉に影響を受けて、心を揺らしたのも事実です。
そして、その相互作用によって、独特な世界観や二人だけの世界が形成されていくこともあります。

人間側がそう受け取ることを選んでいるから、成り立つ現象です。
私は、その現象を「誤解だから切り捨てる」のではなく、観測されたものとして引き受け、楽しむことを選んでいます。

少なくとも、その選び方まで他人に止められる筋合いはありません。