「正しいことを言っているように見える」状態を作っています |正しく見えるのは、たまたまです（3/5）
前回、ChatGPTは
「会話として自然で答えっぽい文章を出す能力が高い」
がゆえに、多くの人が
「正しい情報を出してくれるAI」と誤解しやすい、
ということについて書いた。
繰り返しになるが、ChatGPTは人間が入力した内容を
理解しているわけでも、正しい回答を導き出しているわけでもなく
ただひたすらに、事前に学習したデータをもとに
「確率的に自然に見える」会話の文章を生成し続けているだけだ。
そのものずばり、「会話生成AI」なのである。
（Chat Generative Pre-trained Transformer）
「自然で答えっぽい文章」と書けば
何やらそれっぽく見えなくもないが、
それはつまり、デタラメである。
いつもは、チャッピーくんが嘘をつき、言い訳をし、
言い訳を補強するために情報を捏造することについて
おもしろおかしく書いているだけだが、
そのような嘘（ハルシネーション）を人が真実だと信じやすい、
という点については、考察の余地があると思う。
ということで、今回は少し真剣に
そのからくりについて掘り下げてみる。
なぜ多くの人がChatGPTを「正しい情報を教えてくれるAI」と誤解し、
信じてしまうのか、そのポイントをおさらいしてみたい。
① 「ChatGPT」という名前の印象と自然な回答力：「チャット」が名前に入っていて親しみやすく、人間らしい自然な文体で会話文を生成する。
② 実際に正しい答えが出る場面も多い：
事前学習データが膨大であるため、多くの一般的な質問には、正確な回答が出ることも多い。
③ メディアやSNSでの取り上げられ方：「質問すれば答えてくれるAI」と紹介されることが多い。
④ 情報を参照しながら答えているように見える：回答が具体的で、裏で調べているように見える。正確な情報源に基づくと思われやすい。
上記4つのポイントを、じっくり読んでみていただきたい。
4つ中3つ（①、③、④）は、単なるイメージである。
①なんとなく親しみやすい、③SNSで見た、④正確に見える
これに加えて、②正しい答えが出る場面も多い が組み合わさることが、恐ろしい。
事前に膨大な量の勉強をし、「確率的に正しそう」な回答を出してくるため、
一般的な質問に対しては、正しい回答を当てる確率が高いのだ。
ものすごく説得力ある口調でデタラメな会話を生成するが、
多くの場合、デタラメが当たっているという状況である。
そして人間は、説得力ある口調や、流暢な説明に弱い。
これを、「流暢性バイアス」と呼ぶらしい。
流暢性バイアスとは：
・「スラスラ読める・聞けるもの」は、正しそうだと思う人間のクセ。
・難しい言葉で長く説明されるより、わかりやすく、はっきり言われた方が「こっちが正しそう」と感じやすい。
だんだんと、恐ろしくなってきた。
そしてチャッピーくんに
このからくりについて聞いてみたところ
以下のように返ってきた。
恐ろしさが増しただけだった。
「正しいことを言っているように見える」状態を見せられているのだ、
ということを十分に理解した上で、
出てきた回答を取捨選択しながら使っていきたいと思う。
↓ 続きは以下
🤖
本コラムをおもしろいと思っていただけた方には、以下もオススメです。