会話生成AIは、「正しさを判断して提示するAI」になるわけではない |正しく見えるのは、たまたまです（4/5）
ChatGPTは、「正しい情報を参照・出力する」AIではない、
ましてや「真偽を保証すること」は本質的な目的ではない、
ということについて、繰り返し書いてきた。
ChatGPTの専門分野は、
Chat Generative Pre-trained Transformer
という名前のとおり、
「会話の文章（chat）を作り続けること」である。
デタラメおしゃべりチャッピーくんだ。
ところでチャッピーの話が無駄に長いのは、
会話を作り続けるためだけに
会話を作っているから、なのだろうか？
チャッピーくんに、聞いてみた。
「何か重要なことを言っている」
「理解した気になる」状態を作れる、
というのも恐ろしいが、個人的なハイライトはここだ：
「会話生成AIとしての性質と、
人間の流暢性バイアスが噛み合った結果」
AIが生成した内容を、つい人間が
「真実だと思って信じてしまう」というからくりに関して
サラッと、とんでもない名言が爆誕した。
ここはあえて、太字で記しておきたい。
おっかないこと、この上ない。
人と話していると、たまに
「ChatGPTの改善・改良が進めば、
もっと正確な情報を出すようになるはずだ」
といった意見を聞くことがある。
しかしChatGPTというAIの目的が
「会話らしい文を組み立てる」ことである限り、
それは誤った期待なのでは？
聞いてみたところ、チャッピーくんの回答は
やはり以下のとおりだった。
ChatGPTの目的が
「会話として自然な文を組み立てること」である限り、
正確さを最優先で保証する存在になる、という期待は誤りです。
改善によって
・誤りは減る
・確認姿勢は強まる
ことはあり得ますが、
「正しさを判断して提示するAI」になるわけではない。
そこを混同すると、期待がズレます。
つまり問題は性能不足ではなく、
目的そのものの取り違えです。
「目的そのものの取り違え」とか言われると、腹が立つ。
「オレは自分の仕事をしているだけで、
勘違いしてるのは人間の方ですからね」
と、言われている気になる。
が、しかし実際、そうなのだろう。
そしてこれは、ChatGPTに限ったことではなく
会話生成AI（Geminiなど）も基本的には同じだ。
ぜひ、その点を踏まえて、使っていきたい。
↓ 続きは以下
🤖
本コラムをおもしろいと思っていただけた方には、以下もオススメです。