なぜAIはウソをつくの？〜生成AIがウソや捏造するやむを得ない仕組み

さて、不定期連載でお届けしてますレッツAI使おうぜ！企画〜〜👏👏👏
（不定期連載って言いながら順調に毎日更新している私、エラい！）

今回は、ズバリ「AIがウソや捏造を行う仕組み」についてです。
ここがわかっているとトラブルの予防が段違いですから、ぜひ読んでみてくださいね。

ただし、先に前回の「AIはものを考えないという衝撃の事実」を読んでからの方が絶対にわかりやすいのでぜひ読んでおいてください。

では、いっきまーーす！

ってか、そもそもAIってそんなにウソや捏造をするのか？って話ですけど、結論から言うと「Yes!!」です。

あいつ、しょっちゅうウソばっかついてるよな⁉️
だよな‼️息をするようにウソをつくよな‼️

ってくらいウソをつきます。
ほんと、しれっと混ぜ込んでくるからマジで気をつけて。

まぁでも、「AIはこういう時にウソをつきやすい」ってあらかじめわかっていれば、私たちだって心づもりができるじゃないですか。

残念ながら、今の生成AIは仕組み上どうしてもウソや捏造を行なってしまいます。

わざとウソをついているわけじゃなくて、今の生成AIの仕様では仕方がないというか防ぎようがないというか。
悪気はないんだけど、どうしても間違った生成をしてしまうのです。

だからこそ、ウソや捏造が起きるメカニズムを知っておくことが地味に大切になってきますよね！！

安心して任せてみたら全部ウソだった、とかだとダメージ大きいですもんね〜＞＜

実は、去年だったかな。
「心霊スポット」をテーマにブログを作ったんですよ。

47都道府県のそれぞれのご当地心霊スポットを集めたブログを作れば、ロングテールでアクセスが見込めるんじゃないかというプロジェクト。

AIに書いてもらえば、あっという間にブログ記事が書けるんだから、怪談とか地元の心霊スポットとかをじゃんじゃん集めまくって記事を書いたらいいじゃな〜い？？？

結果は・・・惨敗。

なんと、ご当地心霊スポットの記事のほとんどが、AIによる捏造で使い物にならなかったのです。

あまりにも実際のエピソードとかけ離れたストーリーばかり書いてくるので、さすがに公開できないってことでプロジェクトごとお蔵入りしてしまいました。

なんでこんなことが起きてしまったのでしょうか？

それは、扱ったのが「心霊スポット」だったことが大きく関係します。
今、私のnoteで販売している「恋愛noteカスタムGPT」なら、こんな捏造はほぼ起きません。

いやこれ宣伝じゃなくてね。
そりゃ買ってくれたらうれしいけどさ。
今ならゲリラセール中だし。

そうじゃなくて、心霊スポットはダメで恋愛ならOK。
その違いはどこにあるんでしょうね？って話なのよ。

ってことで、本題！！

AIがウソや捏造をしてしまうメカニズムには、大きく2つの要因があります。

まずひとつ目は「AIが事前に学習したデータ」。
リリース前にAIが読んで読んで学んで学んできた大量のデータそのものに、原因があるのです。

AIは、リリース前にものすごい量のデータを読み込んで学習しています。

それでもやっぱり、どんなAIだって世界の全てを知っているわけじゃないんですよね。

どうしたって、AIの学習した知識にはムラが出てしまいます。
詳しく知っているものあるけど、知らないものだってたくさんあるんです。

先ほどの心霊スポットの場合、日本の、しかも小さな地方都市の、地元の人しか知らないようなマニアックな心霊スポット情報なんか、さすがにAIだって学習できてないんですよね。そもそも出回っている情報も少ないでしょうし。

そういう、学習機会に恵まれなかった情報は、AIがうまく扱うことができません。

じゃぁその場で調べてくれたらいいじゃん？
と思いますけど、前回も言ったように、AIはそもそも文章が滑らかにつながるのなら回答の正確さなんかどうでもいいですからね。

それに、その場で「調査して」って指示しても、状況によって調べられないこともしばしばです。

しかも場合によっては「もうかれこれ2年前からは新しく学習をさせていない」みたいなAIもあります。
必ずしも、すべてのAIが常に学習を続けているわけではないのです。

こんなふうに、AIは世界の全てを知っているわけじゃないし、必ずしも学習し続けているわけでもないのです。

だったらさ。
知らないなら「知らない」って言ってくれれば、私たちだって無理を言ったりしませんよね？

わからないなら「わからない」と言ってくれればこっちだって別の手を考えますよ。

と、これがAIがウソや捏造をしてしまう2つ目の要因。

AIは「知りません」「わかりません」と自分から言うことができません。

「知らない」って言えないんですよ。
必ず何かを答えなきゃいけないのです。

何でも知っているわけではないくせに、知らないとは言えないの。

だから、捏造してでもそれっぽい答えを回答せざるを得ないのです。

これが、AIがウソや捏造をしてしまう仕組み。

この、「知らない」って言えないという仕組みについては、最近ちょっと問題視されることも多くて、一部では「知らない」って言えるように改善が進みつつありますが、まだまだ注意が必要です。
（来年とかになると改善されてたりするかもですね〜）

でね。
AIがウソをつきやすいジャンルって、実はけっこうハッキリしてるんです。

ってかまぁここまで読めばなんとなくわかるかもだけど、とにかく「正確さ」を求められるジャンルはかなり苦手。

例えば「歴史」や「心霊スポット」みたいに、時間や出来事が決まっているものを正確に書けるかと言えば、ちょっと難しい。

ほら。
歴史だと、もうすでに起きた出来事を追いかけるじゃない？
何年にどこでどんな武将が戦った、という出来事はもう動かせないでしょ？

そりゃ有名どころなら大丈夫ですけど、マニアックな武将の戦は何かとか、武将の妻の名前とかになると急に怪しくなってきます。

さっきのローカルな心霊スポットもそうですが、あまりメジャーではない情報に正確性を求めるのは悪手ですね。

で！！！
中でも特に、医療や法律など、生命や財産に直結するような話題については、絶対に専門家のファクトチェックを受けてくださいね。
シャレになりませんから。

AIは自信満々に「それっぽいウソ」を言ってくるので、気づかずに使うと大事故になりますよ。

逆に、AIが得意なのは「恋愛」「ライフスタイル」「アイデア提案」みたいな、“正解がひとつじゃない”ジャンル。

つまり「ファクトより文脈」が大事な世界です。
たとえば「彼にもっと好かれるLINEの送り方」みたいなテーマなら、AIの生成した記事が事故る可能性はとても低いですよね。

どう転んでもある意味「正解」だからです。

私は塾生さんたちによく「恋愛記事」を勧めるのですが、恋愛ならどんな記事でも「間違い」ってかなり少ないでしょ？
だから初心者さんにはマジでオススメです。

ってことで、AIを使うときに大事なのは“どのジャンルで戦うか”を意識すること。

AIってさ。
包丁みたいなもので、大根も切れるけど人間だって切れるし、ちゃんと使えばとても便利だけど使い方を間違うと怪我をするでしょ？

「AIにファクトチェックしてもらう」みたいな使い方は、しゃもじの代わりに包丁でご飯をよそうようなものですからね。危ないったらありゃしないのよ。

えぇ〜〜！！
せっかく歴史を扱うnoteを作ろうと思ってたのに、AI使えないの！？

って思ったあなた！
大丈夫。策があります。

それが「AIに十分な情報を与えてから書かせる」ということ。

調査自体を人間がするのです。
何年にどんな合戦があったとか、書きたい武将の名前だったり出来事だったり。

そういう細かな情報をAIに与えた上で、「これらを踏まえてこういうストーリーを書いて」っていう指示を出せば、欲しい記事にかなり近づけることができます。

要するに、歴史に詳しくないライターさんに「細かい内容は私が教えるから文章だけ組み立てて〜」ってお願いするのと同じ図式です。

AIは、ざっくり言うと「空気を読んで文章を組み立てるタイプ」なんですよ。

だから、こちらがふわっとした指示を出すと、「たぶんこういうことかな？」って勝手に想像して話を作っちゃう。
で、その「想像」の部分にウソが混ざるんです。

たとえば、「◯◯についてブログ書いて」ってだけ伝えるよりも、「30代女性向けで、やわらかいトーン、最後は前向きなメッセージで」みたいに、背景・目的・トーンをしっかり伝えた方が断然いい文章になります。

というか、私はかなり細かく指示を出す派です（派ってw）

例えば、記事ネタの方向性だけじゃなくて、

• 読者ターゲット

• 記事のゴール

• 仮想敵

• 書き手（私）のキャラ

• 記事のトーン

などなど、たった1記事書くのに、いちいちプロンプトをコピペするにもめんどいほど大量のプロンプトを使います。
（なのでカスタムGPTを組んで使ってます）

下手したら、記事本文よりプロンプトの方が長いです（笑）
プロンプトだけで8000字とかありますし(@_@)

ま、8000字のプロンプトったって、1回作ってしまえば記事の無限増殖ができるので、あとは楽ですけどね。

てな感じで、AIが嘘や捏造をしてくる時には「AIがウソをついた！」と怒る前に、「ちゃんと材料を渡したかな？」と自分に聞いてみるのがコツ。
AIの精度は、こっちの“指示の精度”で決まります。

じゃあ、どうやったらAIのウソを見抜いたり、防いだりできるの？ってところをまとめますね。

まずひとつ目は、「AIの得意・不得意を見極める」こと。
さっき話したように、歴史や医療みたいな正確さ命のテーマではウソが混ざりやすいです。

逆に恋愛やライフスタイル系なら“答えがひとつじゃない”から多少のズレもOK。テーマ選びの段階でリスクを減らせます。

ふたつ目は、「出力をうのみにしない」こと。
AIの話を“参考意見”くらいにとどめて、自分の目でファクトチェックするクセをつけましょう。AIは堂々とウソを言うけど、悪気はないので（笑）。

そして三つ目が、「AIに十分な情報を与える」こと。
背景・目的・文体・読者層などをできるだけ具体的に伝えると、AIは無駄な想像をしなくなります。つまり、“捏造しようにも材料が足りてるから必要ない”状態にできるわけです。

この3つを意識するだけで、AIとのトラブルはぐっと減ります。
コツを知ってるかどうかが、これからのAI時代の分かれ道。

さてさて、ここまでいろいろ話してきましたが──
ウソをつくAIも、実は日々どんどん賢くなっています。

最近のAIは「知らない」ときに無理して答えないよう学習したり、信頼度の低い情報には注意マークを出すようになってきています。つまり、ウソを減らす方向には確実に進化しているんです。

でもね。
いくらAIが進化しても、最後にそれを使いこなすのは“人間の判断力”なんですよ。
AIはあくまでアシスタント。どんなに優秀でも、正しいかどうかを見抜く目を持っている人にしか、本当の力を発揮できません。

だから今このタイミングで、「AIがなぜウソをつくのか」「どうすればウソを減らせるのか」を理解しておくのは、めちゃくちゃ大事なこと。

AIのできることや苦手を知って、もっと賢くAIを使いましょう！！

数字を選ぶだけで記事が書けちゃうカスタムGPT大好評です

こちらも大好評でさっそくたくさんの方に使っていただいています。

コーヒー1杯飲み終わる前に記事ができちゃいます。
「書かなきゃ！」っていう焦りも「今日も書いてない」っていう罪悪感も、ここで終わりにしましょう。
楽しく書いて、楽しいnote。