AI誤答・ハルシネーションを最小限に減らす実践方法

AIの高速な処理能力を活かしつつ、「ハルシネーション（もっともらしい嘘）」を防ぐための実践的なプロンプトエンジニアリングと情報提供の手法をまとめました。

1. スクリプト（プロンプト）の記述方法

AIに対して「何をしてもいい」という自由度を与えず、役割と制約を明確にすることが鉄則です。

A. 「わからない」と言える勇気を持たせる

情報不足の際に無理やり答えさせないことが重要です。

記述例 「提供された情報の中に答えが見つからない場合は、無理に回答を作成せず、『情報不足のため回答できません』と答えてください。」
「事実に基づかない推測は絶対に行わないでください。」

B. 思考のプロセスを記述させる (Chain of Thought)

いきなり結論を出させず、段階を踏んで考えさせることで論理ミスを防ぎます。

記述例 「ステップ・バイ・ステップで考えてください。」
「回答を導き出す前に、根拠となる部分を抽出してから、最終的な結論を述べてください。」

C. 役割（ペルソナ）の定義

専門家としての立場を与え、慎重なトーンを強制します。

記述例 「あなたは厳格なファクトチェッカーです。事実に基づいた情報のみを扱ってください。」

2. 元情報の提供方法（グランディング）

AIの不確かな「記憶」を使わせず、提供した「確かな情報」のみを参照させる手法です。

A. 参照範囲の限定

学習データではなく、今渡したテキストだけを見るよう指示します。

記述例 「以下の【参考資料】のみを使用して回答してください。あなたの事前知識は使用しないでください。」

B. デリミタ（区切り文字）の使用

指示とデータを記号（""" や ###）で明確に区切ります。

記述例 """
（ここに元情報を貼り付ける）
"""
上記の """ で囲まれたテキストに基づいて回答してください。

C. 引用元の明示

回答の根拠を明示させることで、人間によるファクトチェックを容易にします。

記述例 「回答する際は、参考資料のどの部分を使用したか、該当する文を引用して示してください。」

3. 【実践】誤答を防ぐプロンプトテンプレート

これらを組み合わせた、実用的なプロンプト構成案です。コピーしてご活用ください。

下のボックス内をコピー＆ペーストして利用してください。

# 役割
あなたは厳格なドキュメント分析官です。事実に基づかない情報は一切排除してください。

# 制約事項
1. 以下の【参照テキスト】のみを情報源としてください。
2. AIとしての事前知識や外部情報は使用しないでください。
3. 【参照テキスト】に答えが書かれていない場合は、「情報不足のため回答できません」と出力してください。推測や創作は禁止です。
4. 回答には、根拠となった【参照テキスト】内の文章を引用してください。

# 参照テキスト
"""
（ここに記事、マニュアル、議事録などの元情報を貼り付け）
"""

# ユーザーの質問
（ここに具体的な質問内容を記述）

最終チェック：人間によるチェックのポイント

どれほど優れたプロンプトでも、AIのリスクを完全にゼロにはできません。最後は必ず人間が以下の点を確認してください。

• 数字と固有名詞：日付、価格、人名は特に間違いやすいため、必ず元情報と照合する。
• 引用の確認：AIが示した「根拠」が、本当に元テキストに存在するか確認する。
• 論理の逆転：「してはいけない」と「しなくてよい」などを取り違えていないか確認する。

© 2024 AI Usage Guidelines. Created for Safer AI Interaction.