ハルシネーション対策はプロンプトの「設計」で変わる。安全装置を仕込む実践法

こんにちは、生成AIで高品質な記事を書くプロンプトを研究している ぽけご です。

AIを使う時間が増えるほど、

「AIが出した数値、本当に合ってるのかな……」
「調べものをAIに任せたら、もっともらしい嘘が混ざっていた」

こうした不安は大きくなっていきませんか？

事実に基づかない情報を、AIがもっともらしく生成してしまう現象であるハルシネーション。

これは、どれだけ高性能なモデルを使っても、完全にはなくなりません。

でも実は、AIが嘘をつく根本の原因は意外とシンプルです。

AIには「わからない」と判断するための基準がない。

判断基準がなければ、手持ちの情報をつなぎ合わせて「それらしい答え」を出すしかありません。

だからこそ、その判断基準をプロンプトで先回りして渡してあげることが対策の出発点になります。

私自身は、記事作成のプロンプトに「出典を示せない情報は書くな」という安全装置を加えています。

それだけで、ファクトチェックで見つかる誤りが明らかに減るのです。

この記事では、そうした安全装置をプロンプトに組み込む方法を具体的に紹介します。

「まずは1行加えるだけ」で始められるので、ぜひ気軽に試してみてください。

AIがハルシネーションを起こす「根本原因」とは

AIを使っていると、「事実と違う情報が返ってきた」という経験は多くの方が持っているはずです。

そもそも、なぜAIはこんなに自信たっぷりに間違えるのでしょうか。

まずは、その根本原因を理解することで、対策の方向性を見定めていきます。

AIには「わからない」と答えるための判断基準がない

AIに質問をすると、必ず何かしらの回答が返ってきます。

「わかりません」とは、めったに言ってくれません。

これは、AIの仕組みに「わからない」と判断するための基準が組み込まれていないからです。

AIの言語モデルは、大量のテキストデータから「次に来る単語として最も自然なもの」を予測する仕組みで動いています。

つまり、AIにとって大切なのは「事実かどうか」ではなく、「文章として自然かどうか」なのです。

だから、情報が曖昧でも「確率的にありそうな表現」をつなぎ合わせて、もっともらしい文章を生成してしまいます。

AIは悪意で嘘をつくのではなく、「嘘をつかないためのルール」を持っていないだけなのです。

判断基準をプロンプトで設定すれば、AIは正直になれる

裏を返せば、判断基準を「プロンプト」で明示的に渡してあげれば、AIは正直に立ち止まれるようになるということです。

これは人間のチームでも同じことが言えます。

私がWebメディアを運営していたとき、100名以上のライターさんに記事を依頼していました。

ライターさんによっては、不確かな情報が混ざった原稿が上がってくることも…。

なので、「体験したこと以外は書かないで」というルールを設けるようにしたのです。

AIも同じで、「確信がない場合は"わかりません"と答えてください」とプロンプトに書くだけで、振る舞いは大きく変わります。

ある研究では、こうした指示を加えることで『ハルシネーション率が53%から23%に低下した』というデータも報告されています。

「嘘をつくな」ではなく「判断基準を渡す」。

このアプローチが、プロンプトでのハルシネーション対策の本質です。

関連記事：

プロンプトに組み込む「不確実性プロトコル」3つの安全装置

では、具体的にどんな指示をプロンプトに組み込めばいいのか。

そのやり方についてご紹介しましょう。

私はこれらの指示を「不確実性プロトコル」と呼んでいます。

名前は大げさに聞こえるかもしれませんが、やることはシンプルです。

「確信がないときにどう振る舞うか」をAIに事前に教えておく。

ただそれだけの仕組みです。

保留指示：「確信がなければ"わかりません"と答えて」

最もシンプルで、最も効果が大きいのがこの安全装置です。

AIに「わからないことはわからないと答えていい」と許可してあげるだけで、無理に情報を捏造する頻度が下がります。

なぜなら、AIは指示がなければ「何かしら答える」のがデフォルトの振る舞いだからです。

保留指示が効く背景には、AIの学習プロセスが関係しています。

AIは「質問に対して回答を返す」パターンを大量に学習しているため、「答えない」という振る舞いが選択肢に入りにくいのです。

だからこそ、「答えない」という選択肢を、プロンプトで明示的に渡す必要があります。

実際のプロンプトでは、以下のような一文を加えます。

確信度が低い情報については、推測せず「この点については確認が必要です」と明記してください。

たったこれだけですが、「根拠なく答える」パターンを大幅に抑制できます。

確信度ラベル：事実と推測を区別させるルール

2つ目の安全装置は、AIの回答に「確信度」のラベルを付けさせるルールです。

実は、AIが出力した情報のうち、どこが事実でどこが推測なのかは、ラベルがなければ見分けがつきません。

これは読み手にとって非常に危険な状態です。

なぜなら、もっともらしい文章ほど「全部が事実」に見えてしまうから。

確信度ラベルの仕組みは、AIに「自分の回答の各部分について、どれくらい自信があるかを表示してね」と指示するものです。

プロンプトには、たとえばこう書きます。

各情報に対して、以下の3段階で確信度を付記してください。
- 【確実】十分な根拠がある事実
- 【推測】根拠はあるが確定ではない情報
- 【未確認】裏取りが必要な情報

このラベルがあるだけで、AIの出力を受け取るときの「どこを信じていいか」の判断が格段に楽になります。

出典要求：「根拠を示せない情報は書かない」

3つ目の安全装置は、AIに「根拠を示せない情報は書くな」と指示するものです。

ハルシネーションが混ざりやすいのは、AIが「知識」と「推測」の境界を曖昧にしたまま出力するから。

なので、「根拠とセットで出力せよ」というルールを設けると、根拠のない情報は自然と排除されます。

プロンプトでは次のように指示します。

情報を記載する際は、必ずその根拠や出典を併記してください。
根拠を示せない情報は記載しないでください。

プロンプトにこの一文を加えることで、AIが「この点については公開情報から確認できませんでした」と正直に報告してくれるようになりますよ。

出典要求は「嘘を見つける仕組み」ではなく、「嘘をつく前に立ち止まらせる仕組み」。

保留指示や確信度ラベルと組み合わせることで、より強力な安全装置として機能するはずです。

目的別に使い分ける不確実性プロトコルの実装例

3つの安全装置の仕組みを理解したところで、次は実際の業務でどう使い分けるかを見ていきましょう。

用途によって、安全装置の「締め付け具合」を調整するのがポイントです。

業務調査やレポート作成：厳格モードの設定例

仕事で使う調査やレポートでは、情報の正確性が最優先。

数値の誤りや事実と異なる記述があると、意思決定を誤るリスクに直結します。

こうした場面では、3つの安全装置をすべて最大強度で組み合わせる「厳格モード」がおすすめです。

以下は、業務レポート向けのプロンプト例です。

あなたは正確性を最優先にする調査アシスタントです。以下のルールを厳守してください。
- 確信がない情報は「確認が必要です」と明記し、推測で埋めないこと
- 各情報に【確実】【推測】【未確認】のラベルを付記すること
- 根拠を示せない数値やデータは記載しないこと

このテンプレートをベースに、ご自身の業務に合わせてカスタマイズしてみてください。

学習や創作：柔軟モードに調整するポイント

学習目的のブレインストーミングや創作のアイデア出しでは、AIに自由に発想してほしい場面もありますよね。

ここで厳格モードをそのまま適用すると、AIが萎縮して有用なアイデアまで出さなくなる可能性があります。

ですから、こうした場面では保留指示と確信度ラベルだけを緩やかに設定する「柔軟モード」に切り替えましょう。

自由にアイデアを出してください。
ただし、事実として述べる情報と、あなたの推測・提案は明確に区別して表示してください。

ポイントは、出典要求は外しつつ、「事実と推測の区別」だけは維持すること。

これだけで、創造性を損なわずにハルシネーションのリスクを管理できます。

目的に応じた使い分けを意識してみてください。

注意：プロンプトだけでは完全に防げない

ここまで不確実性プロトコルの効果をお伝えしてきました。

ただ、正直にお話しすると、プロンプトだけで全てのハルシネーションを防ぐことはできません。

最後に、プロトコルの限界とそれを補う考え方についても共有しておきます。

不確実性プロトコルの限界を知っておく

不確実性プロトコルを使えば、AIの出力品質を大幅に改善されるでしょう。

しかし、いくつかの構造的な限界があることも知っておく必要があります。

まず、AIの学習データ自体に誤りがある場合は、プロンプトでは防げません。

AIは「自分が知っていることが正しいかどうか」を検証する手段を持っていないからです。

また、会話が長くなるにつれて、最初に設定した指示の効果が薄れていく傾向もあります。

実際に使っていると、最初のターンでは高い精度で動いていた安全装置が、やり取りを重ねるうちに徐々に効かなくなる場面に出くわすこともあるのでしょう。

つまり、不確実性プロトコルは「万能薬」ではなく、リスクを管理するための「第一防衛線」として位置づけるのが適切です。

限界を理解した上で使うからこそ、プロトコルは本来の力を発揮してくれます。

安全装置を「重ねる」発想で信頼性を高める

プロンプトの安全装置に加えて、別の角度から安全装置を重ねることで、ハルシネーションのリスクはさらに下がります。

たとえば、以下のようなアプローチが実践的です。

• 自身でファクトチェック：
  AIの出力を最終的に人の目で確認する。最もシンプルで確実な安全装置

• 複数AIで比較：
  同じ質問を別のAIにもぶつけて、回答の一致度を確認する

• RAG（検索拡張生成）の活用：
  信頼できるデータベースをAIに参照させることで、根拠のある回答に導く仕組み

私自身も、実際の記事作成ではこれらを組み合わせて活用しています。

大切なのは、どれか一つで完璧に防ごうとするのではなく、「複数の安全装置を重ねて防御力を高める」という発想です。

まずはこの記事で紹介した不確実性プロトコルから始めて、必要に応じて他の対策を組み合わせていきましょう。

まとめ：AIには「判断基準」を渡してあげよう

今回は、AIのハルシネーションに不安を感じている方に向けて、

上記について、AI記事作成のプロンプト研究を続けている筆者の実践を交えながらお話してきました。

ハルシネーション対策の本質は、AIの出力を疑うことではなく、「嘘をつかせない仕組み」をプロンプトに先回りで組み込むことです。

判断基準を渡してあげれば、AIは「わからないことはわからない」と正直に立ち止まれるようになります。

完璧に防ぐことは難しくても、安全装置を重ねていけば、AIとの信頼関係は着実に育っていくはずです。

まずは「わからないことはわからないと答えて」の一文を、いつものプロンプトに加えるところから始めてみてください。

最後まで読んでくださり、ありがとうございました😇

✅ ぽけごのコンテンツはこちら