生成AIは文章を書くときにいちいち裏付けをとったりなんかしないという衝撃の事実

さて。
レッツAI使おうぜ！ってことで、なかなか教えてもらえないAIの基本のキを学んで賢くAIを使いましょう〜〜！という不定期連載シリーズいきまーす！
（あとで有料化するから今のうちに読んでね！）

今回は、私たちがよく使うChatGPTやClaudeなどの「生成AI」が文章を書く時の仕組みについてのお話です。

とはいえAIにも色々あるからね。
これからお話しするのがこの世界のAIの全てに当てはまるわけじゃなくて、ChatGPTみたいな生成AI（統計的言語モデル：LLM）はこういう仕組みだよっていう感じです。

これね。
私たちが想像している「人工知能」のイメージとはかなりかけ離れていて、だからこそ誤解しちゃっている人も多い部分なんです。

ほら。
AIとか人工知能って聞くと、どこぞの猫型ロボットとかマザーコンピューターとか戦闘ロボのコックピットとかで人間を助けてくれる、あの万能ロボたちみたいにすごい知能で難題を解決しちゃうイメージがあるじゃない？

ああいった空想上の人工知能と、ChatGPTみたいな生成AIの最大の違いってなんだと思いますか？

・・・・・・

実は、「考えること」です。

ここね。
すごく大事なところなので、マジでしっかりついてきて。

まず、ChatGPTやClaudeみたいな生成AIって、自分でゼロから考えて答えを生成するわけじゃないんです。

文章の流れに沿うような【それっぽい】言葉を選んでいるだけなのです。

まず、前提として生成AIって、世の中に出てくるまでにすごく大量のデータを事前に学習しています。

それこそ、人類がこれまでに書き綴ってきたたくさんの書籍をはじめ、ネットに転がるホームページやらブログやら、ものすごい量のデータを読んで読んで読んで読んで、そして世の中に登場してくるわけです。

その、学習したデータを元に「こういう流れならこういう答えが相応しいだろう」ってことでそれっぽい言葉を生成してくるってこと。

そう。
文章がそれっぽく繋がるなら、答えが事実がどうかなんかどうだっていいのです。

ここが、マジで、クセモノ。

ちょっと例を挙げてみますね。
AIはこういう考え方をするんだよってのを感じてみてください。

「明日の天気は？」ってAIに聞いたとします。

そしたらAIは、私たちの持つイメージ的に、AIがぱぱーっと気象庁やウェザーニュースなんかの天気予報を確認して「明日は雨です」って答えているんだろうと思っちゃうじゃないですか。

実は、AIは天気予報なんかいちいち調べたりしません。
明日が照ろうが降ろうがどうだっていいのです。

過去、学習したデータによると「明日の天気は？」という問いには「晴れです」って答えるパターンが多かった、だから「晴れです」って答えよう、という考え方をするのですよ。

OK？
明日の天気を調べるわけじゃなく、過去の傾向では「晴れです」が多かったから「晴れです」って答える、というわけ。

もちろん、そうなると天気を聞いたらいつでも「晴れ」しか答えなくなっちゃうじゃないですか。

だから、幾らかの割合で「雨です」「曇りです」って答えよう、みたいに、答えにバリエーションを持たせていきます。

でも、「晴れ」や「雨」など天気にまつわる言葉はくるけど、「明日の天気はホットケーキです」「明日の天気は間寛平師匠が50%です、アーメマーー！」みたいに、お天気に関係のない言葉は答えてきませんよね。

過去の学習の中で「明日の天気は？」という問いには天気にまつわる単語を答えるというパターンを学習しているからです。

もうひとつ見てみましょう。

「織田信長の血液型は？」って聞いたとします。
AIは「A型です」などと答えることがありますが、実際には信長の血液型なんて誰にも分かっていません（笑）

でもAIは、「人物名＋血液型」という質問のパターンを学んでいて、その傾向をもとに、“それっぽい”答えを出してしまうんです。

つまり、誰それの血液型は？という問いには、AだのOだの、血液型に関する答えを勝手に出しちゃうってことですね。いわゆる「捏造」ってやつです。

こんなふうに、過去の傾向から「こう答えるパターンが多かった」というものを答えるので、極端な話、「昨日の晩御飯は？」という問いには食べてもいない「カレーライス」なんて勝手に答えちゃうこともあるのです。

そりゃもちろん、実際はこんなに単純な話ではなくてもっと賢い答えがちゃんと返ってきますが、それでも根本的な思考回路は変わりませんから、「AIが自分で回答を考えた」というのは正しくないのかも。

そう。
生成AIってね。自分で考えているんじゃないの。

過去に学習した膨大なデータの中から、それっぽいパターンを選び出して組み合わせているだけなの。

ここが、空想上のステキ人工知能と生成AIの最大の違い。

あの猫型ロボットなら「じょらえも〜〜〜ん！」と泣きつけば、話を聞いて泣いたり怒ったりしてくれて、一緒に考えてくれて、新しい提案をしてくれますよね。

ChatGPTだって、話を聞いてくれて悲しんだり怒ったりするフリもしてくれるし、考えをまとめてくれたり提案もしてくれます。

けれど、自分で考える思考回路を持つドラえもんと違い、GPTはあくまでも「こういうシチュエーションにはこう答えるのがしっくりくる」という『会話の流れ』で答えを作っているだけなのです。

ここ、AIを使う上でめちゃめちゃ重要になります。

「AIがちゃんと調べてくれているんだ」と思い込んでしまうと痛い目に遭っちゃいますから要注意。

ただ、最近のAIはどんどん発達してきていて、答えを作るときにネットで最新情報を検索しながら回答できるタイプも増えてきました。
「調べてください」と頼めば、ちゃんと検索して答えようとしてくれることもあります。

いつでも自動で勝手に調べてくれるわけじゃないし、必ず正解を答えてくれるわけでもないですけどね。

それでも、世界のすべてを知っているわけではないので、あくまで「調べられる範囲で」の話です。

ここまで読んで「じゃあAIって信用できないの？」と思った人もいるかもしれません。

いつもはちゃんとやってくれてるよ？
だから大丈夫なんじゃないの？ってね。

AIの文章って、過去にものすっごい量のデータを学んでいて、そこから再構築してくるので、なんだかんだ言って結局正解に近いものが出てきちゃったりします。

でも、根本的には「それっぽい言葉」を出してくるだけなので、正確性については残念ながらそこまで信頼できません。

中でもニュース・医療・歴史・専門知識などのジャンルでは、AI任せにするのは危険。
「ファクトチェック（裏取り）」は人間が絶対に必要になります。

ってかね。
むしろ実はAIのスゴさは、「答えの正確さ」じゃなくて、「とてつもないスピードで文章を作ること」にあると私は思ってます。

人間が1分で数行しか書けない文章を、AIはたった数秒で何千文字も生成できます。
しかも、文脈を保ちながら自然にまとめてくれますからね。

これはやっぱりすごい戦力ですよね！！

さて、話を戻してちょっとまとめますね。

生成AIは、過去の学習データを元に、それっぽい言葉を再構築しているだけなんだという話でした。

だから、正確性は信頼できないよってことでしたよね。

まぁ、私もよくスプレッドシートの関数とかphpのコードとか書いてもらいますけど、一発で決まることはほぼないです。

何度も「動かないよ？」「エラーが出るよ？」「ちゃんとやってよ〜」というやりとりを繰り返しながら「できたーー！！」ってところまでくり返し
トライ＆エラーで完成に持っていきます。

関数なんて答えが決まっているはずなのに、そういうのを正確に出すのはまだ難しいのかもですね。

そのあたり、もうちょい詳しくAIが嘘や捏造をする仕組みの話を次回やってみようと思いますのでお楽しみに〜！！