ハルシネーションとは？AIが嘘をつく理由と、見抜き方がわかる、やさしい入門
AIに聞いたら、実在しない本のタイトルを教えられた。
ありもしない条文の番号を、堂々と示された。
あとで「これ、存在しないじゃないか」と気づいたとき、いちばん怖いのはAIがまったく迷っていないように見えたことです。
この現象には名前があります。ハルシネーション（日本語では「幻覚」）です。
なお、タイトルの「嘘をつく」は分かりやすさのための表現で、AIが事実でないと知りながらだましているわけではありません。
誤った内容を、正しい文章のように作ってしまう現象です。
実際、米国では2023年、弁護士がChatGPTの作った複数の架空判例や偽の引用を裁判所へ提出し、制裁を受けた事件がありました（ニューヨーク州の連邦地裁。弁護士らに5,000ドルの制裁金）。
裁判所が問題にしたのはAIを使ったこと自体ではなく、提出前に内容の正確性を確認しなかったことです。
法律の専門家でも見抜けなかった。これがこの現象の厄介さです。
この記事を読むと、次の3つがわかります
ハルシネーションとは何か — どんな形で現れるのか
なぜ「分かりません」と答えにくいのか — OpenAIの研究が示した理由
どう確認すればよいか — 明日から使える4ステップ
この記事は、AIツールを仕事で使う非エンジニア向けです。 AIを怖がるためではなく、安心して使い続けるための記事です。
結論：AIは、不確かなときでも答えを作ってしまうことがある
ハルシネーションとは、AIがもっともらしいが誤った情報を作ってしまう現象
原因はひとつではない。学習の段階で生じる誤りと、推測したほうが評価されやすいしくみの両方が関係している
対策は「使わない」ことではなく、誤ると困る情報を重点的に確認すること
※本記事にはプロモーAIとの付き合い方をまとめて学ぶなら、非エンジニア向けの一冊が近道です。
ハルシネーションは、この3つの形で現れる
まず、どんな顔をして現れるのかを知っておきましょう。
架空の事実を作る（実在しない人物・制度・出来事）。
存在しない出典を作る（架空の論文・書籍・判例・URL）。
渡した資料にない内容を付け足す（書かれていない理由や結論を自然な文章で補う）。
共通するのは、文章としては自然に見えること。
誤字もなく、口ごもりもしません。
前回見たとおりAIは文脈に合う言葉を続けているだけなので、読みやすさと事実の正しさは別問題です。
なお、古い情報を最新のものとして答えるのも仕事上は危険ですが、こちらは知識の更新時点や情報源の古さが原因のこともあり、分けて考えたほうが正確です。
なぜ「分かりません」と答えにくいのか
ここが本題です。そして、ここに納得のいく答えがあります。
OpenAIとジョージア工科大学の研究者が2025年9月4日に発表した論文Why Language Models Hallucinateは、この理由を難しい試験に向かう学生にたとえています。
分からない問題を空欄で出せば確実に不正解。
それらしい答えを書けば偶然当たる可能性がある。
この採点方法なら、書いたほうが得です。
言語モデルの評価も同じで、正解なら得点、不正解や「分かりません」なら得点なし、という採点が多く使われてきました。すると適切に「分からない」と示すモデルより、推測するモデルのほうが高い点を取りやすくなる。
論文はこれに加え、事前学習の段階でも統計的な誤りが生じることを論じています。
つまり、ひとつの不具合で起きているわけではありません。
文章を学習する性質と、推測が有利になる評価方法の両方が関係しています。
ここだけ覚えて帰ってください。
AIは、不確かなときでも、空欄にせず答えを作ってしまうことがある。
新しいモデルでは減ってきていますが、現時点では完全には防げていません。
起きやすい質問・比較的起きにくい使い方
とはいえ、すべての回答を同じ強さで疑っていたら仕事になりません。危険度で分けて考えます。
軸は2つです。ひとつはAIが外部の事実を思い出す必要があるか。
貼った議事録の要約なら材料を並べ替えるだけですが、「この法律の条文は？」は記憶から引っぱり出そうとする。
思い出させた瞬間から危険ゾーンです。
もうひとつは間違えたとき誰かの判断や信用に響くか。同じ誤りでも、社内メモと顧客提出資料では重みが違います。ただし右側もゼロではなく、要約でも重要な条件が落ちることがあります。
だまされないための4ステップ
では、どう確認するか。
まず出典を求める。「根拠となる公式情報とURLも示して」と足すだけです。ただしAIは出典そのものを作ることもあるので、URLが出たから正しいとは限りません。
だから次に、リンクを実際に開く。ページが存在するか、本文に本当にその情報が書かれているか。リンク切れだけでなく、実在するページなのに中身が無関係ということもあります。
さらに確実にするなら、ウェブ検索機能を使って聞き直す。内部知識だけに頼らず、その場で取得した情報を参照させる方法です。
似た考え方に、外部の文書を検索してから回答を作るRAG（検索拡張生成）があります（シリーズ後半で扱います）。
最後は、一次情報まで確認する。AIの回答とまとめ記事を見比べても、同じ誤情報を参照している可能性があります。
できるだけ最初に公表したページまでたどってください。
私自身、毎日使っていますが一文字ずつ疑ってはいません。
まずは数字・日付・固有名詞・引用・出典が出てきたときに立ち止まる。
これだけでも、重大な誤りをそのまま使うリスクを大きく下げられます。
政府のガイドラインでも、確認と検証が求められている
総務省と経済産業省のAI事業者ガイドライン（第1.2版・2026年3月31日）でも、ハルシネーションによる誤った出力や誤情報を鵜呑みにするリスクが扱われ、利用する側にも出力の正確性を確認する考え方が示されています。
重要なのは、誤る可能性を含めて確認手順を決めておくこと。会社で使うなら、この3点です。
AIの回答だけで決定してはいけない業務
人が必ず確認する項目
参照すべき公式情報や社内資料
よくある質問
ハルシネーションとは簡単に言うと何ですか？ AIがもっともらしいが誤った情報を作ってしまう現象です。「幻覚」と訳されますが、人間の幻覚と同じ意味ではありません。
AIは意図的に嘘をついているのですか？ 通常は違います。文脈に合う回答を作った結果、誤った内容になることがあるだけです。
なぜハルシネーションが起きるのですか？ 学習の段階で生じる統計的な誤りに加え、「分かりません」より推測したほうが評価で有利になりやすいことが関係しています。
新しいモデルなら起きなくなりますか？ 減る傾向はありますが、現時点ではゼロにはなっていません。
ウェブ検索をオンにすれば防げますか？ リスクは下げられますが、完全には防げません。検索結果の選び方や読み取りを誤ることもあります。
どんな質問で起きやすいですか？ 正確な数字、日付、法律の条文、書籍名や論文名、最新情報、知名度の低い人物や企業の情報などです。
要約や翻訳でも起きますか？ 起きにくい傾向はありますが、ゼロではありません。資料にない説明を補ったり、重要な条件を落としたりします。
RAGとは何ですか？ 外部の文書を検索し、その内容を参考にして回答を作らせる方法です。根拠を限定できる一方、検索の失敗や読み違いは残ります。
まとめ
ハルシネーションとは、AIがもっともらしいが誤った情報を作ってしまう現象です。意図的な嘘とは限りません。ただ、読みやすく自信のある文章に見えても、内容が正しい保証はない。ここが要点です。
そしてもう一度。AIは、不確かなときでも、空欄にせず答えを作ってしまうことがある。
だから確認するのは、AIを信用していないという意味ではありません。仕組みを理解したうえで使う、当たり前の手順です。
次にAIから回答が返ってきたら、数字・日付・固有名詞・引用・出典を探してみてください。見つけたら、リンクを開いて確認する。その数十秒が、あなたと会社の信用を守ります。
次回は、AIを含む多くのサービスの土台になっている「クラウド・SaaS」を取り上げます。
もっと学びたい人へ（2冊）
まず読むなら：ITパスポートの入門書 生成AI・機械学習・クラウド・APIといった基礎用語が、非エンジニア向けに一冊で整理できます（ITパスポート試験のシラバスには生成AIに関する項目も追加されています／IPA）。
もう一歩進みたいなら：AIリテラシーの本 「AIの答えをどこまで信じるか」「情報をどう見極めるか」を扱った一冊を読んでおくと、仕事での判断がぶれなくなります。
※本記事にはプロモーション（アフィリエイトリンク）を含みます。
次に読む
生成AIとは？LLMとの違い・仕組み・できることがわかる、やさしい入門（第4回）
プロンプトとは？AIへの指示の書き方・コツ・テンプレートがわかる、やさしい入門（第3回）