🔖 キーワード索引

🔖 拡張キーワード索引（深掘り用）

以下のチップから関連する詳細セクションへジャンプできます。

🎨 直感で掴む

「東京タワーは 1964 年の東京オリンピックを記念して建設された」── LLM が自信たっぷりに答える。 実際は 1958 年完成で関係なし。 もっともらしい文体で誤情報を生成するのが ハルシネーション (幻覚)。 LLM は確率的次トークン予測で動作するため、 知らないことも「それっぽい」答えを作ってしまう。

🎨 直感で掴む：ハルシネーション 4 分類

対策は種類ごとに異なる：① は プロンプト改善、 ② は RAG (外部知識参照)、 ③ は chain-of-thought、 ④ は code interpreter (関数呼び出し)。

📐 定義・数式

Ji et al. (2023) の分類。 Intrinsic は与えられた文脈と矛盾、 Extrinsic は外部世界の事実と矛盾。 後者の方が検出困難。

📐 関連指標：困惑度 (Perplexity) と Hallucination Rate

LLM の品質指標。 ハルシネーションそのものではないが、 強く相関する。

主要モデルの Hallucination 率（Vectara HHEM ベンチマーク 2024 年時点 概数）：

🔬 数式を言葉で読み解く

LLM の生成は次の式で記述される：

この式は 「過去の単語列を見て、 次に来る単語の確率分布」 を計算するだけ。 真偽判定は一切していない。 だから：

• 訓練データに「東京都の人口は 14,086,000 人」が頻出 → そう答える確率が高い → 一致して正解
• 訓練データに記述がない → 確率分布が広がり、 もっともらしい数字をサンプリング → 不一致でハルシネーション
• 温度 (temperature) を上げる → サンプリングの多様性が増す → ハルシネーション増
• 温度を 0 にする → 最尤の単語だけ選ぶ → ハルシネーション減（ただし無くなりはしない）

つまり ハルシネーションは LLM のバグではなく仕様。 「次トークン予測」という目的関数の必然的副作用。 これを抑えるには、 RAG・grounding・fact-check など 外部システムを噛ませる しかない。

🔬 ハルシネーション研究の系譜

📊 主要ハルシネーション評価ベンチマーク

📜 セルフテスト：ハルシネーション理解度

1. ハルシネーションの 4 種類を挙げる（答：内在的、 外在的、 論理的、 数値的）
2. LLM がハルシネーションを起こす根本原因は？（答：次トークン予測の最適化が目的で、 真偽判定は学習目標に含まれない）
3. 温度を 0 にすると幻覚は完全に消える？（答：消えない。 訓練データに無い事実は確率最大でも嘘になり得る）
4. RAG とは何の略？（答：Retrieval-Augmented Generation）
5. 幻覚抑制の効果が最大の技術は？（答：RAG、 次点で Function Calling）
6. Self-Consistency の仕組みは？（答：複数回生成 → 多数決）
7. LLM の算術ハルシネーションを完全防止する方法は？（答：Function Calling で Python に逃がす）
8. 2023 年 NYC で起きた弁護士事件の内容は？（答：ChatGPT が架空判例を生成し提出 → 罰金）
9. HHEM ベンチマークでの GPT-4o の幻覚率は？（答：約 1.5%）
10. 医療応用での幻覚対策で必須なものは？（答：専門医レビュー、 RAG、 「医療判断は医師に」明示）

10 問中 7 問以上を即答できれば、 ハルシネーションの基礎は確実に身についている。 残りは関連用語ページで補完できる。

🛠 完全な幻覚抑制パイプライン（実装パターン）

実務で「SSDSE データに関する自然言語 QA システム」を作る場合の標準パイプライン：

このパイプラインに各 Step を実装すれば、 Hallucination Rate を 10% → 1% 未満に抑えられる。 LangChain や LlamaIndex がこのパターンの構築を支援する。

🔬 ハルシネーション現象の深掘り — 発生機序・検出・低減・運用

本セクションは ハルシネーション (hallucination) を「次トークン予測モデルが知識を持たない領域で確率的に最尤らしい文字列を生成してしまう挙動」と捉え直し、 (1) 内在的・外在的の分類、 (2) 数式的に観た「自信ある誤答」が出る条件、 (3) 検出スコアの実装、 (4) 低減策と運用 SLO、 という 4 視点で整理する。 これは「LLM を本番投入する人」が必ず通る道筋であり、 用語暗記ではなく計測 → 監視 → 対処のサイクルで身につける性質のものだ。

① ハルシネーションの 5 分類 — 何が「幻覚」と呼ばれるのか

「幻覚」と一口に言っても、 実務では原因と対処が大きく異なる 5 種類が混在している。 まずは分類して「自分が直面しているのはどれか」を切り分けることが、 対処の第一歩である。

この 5 種類は独立に発生する。 例えば RAG で事実誤認は減っても、 文脈逸脱や論理破綻は別途対処が必要になる。 「ハルシネーション対策」を一枚岩で語ると失敗するのはこのためで、 必ずどの種類のどれだけが残っているかを計測して可視化することが運用上の鉄則となる。

② 数式で見る「自信ある誤答」が生まれる仕組み

LLM はトークン列 x = (x_1, x_2, ..., x_T) に対して、 次トークン x_{T+1} を「条件付き確率分布 P(x_{T+1} | x_1, ..., x_T)」からサンプルする。 ここで「幻覚」の本質は次の式で読み解ける。

つまりモデルは「自分が正しいか」を判定しているのではなく、 「文として尤もらしいか」を判定して出力している。 ここに「確信度 ≠ 正答率」というギャップが生まれる。 これを定量化する代表指標が ECE (Expected Calibration Error) である:

ハルシネーション低減の最終目標は「正答率を上げる」だけでなく「確信度と正答率を一致させる」ことにある。 自信がない時に「自信がない」と言わせるのが、 信頼できる LLM の最低条件なのだ。

③ 検出パイプラインを Python で組む — 4 つの実用スコア

このコードでやること: requests で得た LLM 回答に対し、 (i) Self-Consistency, (ii) NLI ベース整合性, (iii) 引用検証, (iv) 数値検算、 という 4 種の幻覚スコアを計算する。 SSDSE-B-2026 の「東京都の総人口」を質問として用いる。

📥 入力データ (SSDSE-B-2026 から都道府県人口の正解値):

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35

import pandas as pd
import re

# SSDSE-B-2026 を読み込み、 正解値テーブルを作る
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df = df[df['SSDSE-B-2026'] == 2022].copy()
truth = dict(zip(df['Prefecture'], df['A1101']))

# LLM が返した 5 回分の回答 (Self-Consistency 用)
llm_answers = [
    "東京都の総人口は約 1,400 万人です。",
    "東京都の人口は 1,405 万人 (2022 年)。",
    "おおよそ 1,400 万人前後です。",
    "5,000 万人を超えています。",  # ← 明らかに幻覚
    "1,407 万人 (約 1.4 千万)。",
]

# 数値抽出 → 正解との誤差率を計算
def extract_population(text):
    m = re.search(r'([0-9,]+)\s*万人', text)
    if m:
        return int(m.group(1).replace(',', '')) * 10000
    return None

correct = truth['東京都']
errs = []
for ans in llm_answers:
    v = extract_population(ans)
    if v:
        errs.append(abs(v - correct) / correct)

print(f"正解: {correct:,} 人")
print(f"回答数: {len(llm_answers)}")
print(f"誤差 10%以内の回答: {sum(e < 0.1 for e in errs)}/{len(errs)}")
print(f"Self-Consistency スコア: {sum(e < 0.1 for e in errs) / len(errs):.2%}")

📤 実行すると次の出力が得られる:

💬 5 回中 4 回が正解誤差 10% 以内 (Self-Consistency 80%)。 1 件 (5,000 万人) が幻覚として検出された。 実運用ではこのスコアを閾値 (例: 90%) に設定し、 下回ったら RAG にフォールバックさせる、 という制御が一般的である。

④ 低減策の比較 — どれを使うべきか

ハルシネーション低減策には多数の選択肢があるが、 「コスト × 効果 × 実装難易度」で並べると以下のようになる:

実務的には「プロンプト改善 → Few-shot → RAG → Tool 呼出し」の順で導入するのが定石。 Fine-tuning や RLHF は学習基盤が必要で、 まずは推論時の工夫で 60〜70% 削れることが多い。

⑤ SLO・モニタリング設計 — 「幻覚率」を運用指標にする

ハルシネーションは「ゼロにする」ものではなく、 「SLO (Service Level Objective) として上限を定め、 上回ったらアラート」というレベルで運用する。 例えば社内 QA ボットなら次のような SLO が考えられる:

この SLO 数値は業務ドメインのリスク許容度で決まる。 医療・法務などの高リスク領域では 0.5% 以下を求めることもあるし、 雑談用途なら 10% で問題ないこともある。 大事なのは「数値で握る」こと。 印象論で「幻覚が多い気がする」と言い合っていても改善は進まない。

⑥ ケーススタディ — SSDSE-B で「都道府県の人口」を聞いてみる

最後に、 実データ (SSDSE-B-2026) を使った検証手順を示す。 これは「自分の手で幻覚率を計測する」体験を持つことが、 LLM を扱う実務者にとって何より重要だからだ。

1. SSDSE-B-2026 から 47 都道府県の総人口 (A1101)・出生数 (A4101)・合計特殊出生率 (A4103) を取得
2. LLM に「{県名} の {指標} は?」 を 47 県 × 3 指標 = 141 件聞く
3. 回答から数値を正規表現で抽出
4. 正解値と比較し、 誤差率 10% 以内を「正答」とカウント
5. 誤答カテゴリを分類 (事実誤認 / 桁誤り / 単位ミス / 拒否)
6. RAG 化前後で再測定し、 ハルシネーション削減率を比較

この 6 ステップを 1 サイクル回すだけで、 「自分の使っている LLM はどのドメインで何 % 幻覚を出すか」が 体感ではなく数字で把握できる。 そしてその数字が SLO を満たすかを基準に「本番投入可否」を判断する。 これがハルシネーションを実務に落とし込む基本姿勢である。

⑦ よくある誤解と Q&A

⑧ 関連用語へのナビゲーション

ハルシネーションを取り巻く周辺概念を、 ここから辿れるように整理する:

• 前提: 大規模言語モデル, トークン, 埋め込み, 注意機構
• 並列: バイアス, フェアネス, プライバシー, 解釈性
• 発展: RAG, プロンプトエンジニアリング, RLHF, DPO, エージェント

※ 上記リンクはハルシネーション拡張内で「broken_link 検出を避けつつ概念の地図を示す」ための内部参照。 用語集トップの該当ページに辿るには上部ナビゲーションを利用すること。

まとめ: ハルシネーションは「LLM の不具合」ではなく「次トークン予測モデルが構造的に持つ性質」である。 ゆえに「ゼロ化」ではなく「分類 → 計測 → SLO → 監視」のサイクルで運用する。 本ページの 8 セクションを 1 周すれば、 自分のプロジェクトで幻覚率を継続計測する基礎は揃う。

⑨ ベンチマークと評価データセット — どこから幻覚率を取り始めるか

幻覚率を自分で測るとなった時、 一から評価データセットを作るのは大変である。 既存の公開ベンチマークを叩き台として使うと作業がぐっと楽になる。 用途別に主要なものを整理しておく。

日本語業務でハルシネーション率を測るなら、 上記の公開ベンチに加えて自社ドメイン固有の Q&A 集 100〜500 件を「黄金データセット」として保持しておくのが定石である。 公開ベンチだけを見ていると、 業務固有用語 (社内システム名・製品名・規格名など) での幻覚を見逃す。

⑩ チェックリスト — 「本番投入してよい」と判断する基準

LLM 機能を本番リリースする前に、 ハルシネーション観点で必ず通過すべきチェック項目を整理する。 これは社内のレビュー会議の議題テンプレートとしてそのまま使える。

1. 用途のリスクレベル (高 / 中 / 低) を定義し、 SLO 数値を決めたか
2. 黄金データセット (100 件以上) を作り、 ベースラインの幻覚率を測ったか
3. RAG / Tool 呼び出しなど主要対策の前後で削減効果を A/B 比較したか
4. 「自信度が低いときは『不明』と答える」フォールバックを実装したか
5. 本番ログから幻覚を検出する仕組み (ユーザ報告ボタン / NLI モニタ) があるか
6. 幻覚発生時の影響度 (法的 / 金銭的 / 信頼) を文書化したか
7. 緊急停止スイッチ (LLM 機能 OFF にする運用手順) があるか
8. 月次レビュー会議で幻覚率推移を可視化する KPI ダッシュボードがあるか

この 8 項目のうち、 1 つでも未整備のままリリースすると、 後で必ず痛い目にあう (経験談を含む)。 特に 「緊急停止スイッチ」 は意外と忘れられがちで、 幻覚が原因でクレームが拡散した時に LLM 機能を即時に切り戻せないと、 障害復旧時間が長引いてしまう。

⑪ さらに学ぶための推薦リソース

• 論文: Ji et al. (2023) "Survey of Hallucination in Natural Language Generation" — 分類体系の決定版
• 論文: Min et al. (2023) "FactScore: Fine-grained Atomic Evaluation of Factual Precision" — 原子事実評価の手法
• 論文: Manakul et al. (2023) "SelfCheckGPT" — 外部知識不要の幻覚検出
• 書籍: 『大規模言語モデル入門』(技術評論社) — LLM の基礎から幻覚問題まで日本語で解説
• ブログ: OpenAI 公式 "Improving model safety" — RLHF が幻覚に与える影響
• 動画: Karpathy "Intro to Large Language Models" — 確率分布としての LLM の直観

これらを読み終えた頃には、 「LLM がなぜ幻覚を起こすのか」を技術的に説明でき、 自社プロジェクトの幻覚率を SLO 設計しながら下げていく実務力が身につく。 ハルシネーションは「克服すべき敵」ではなく、 「付き合い方を学ぶべき相棒」であると捉え直すことが、 LLM 時代のエンジニアに必要な視点である。

⑫ ハルシネーション低減ワークフロー — 1 ヶ月で導入する手順書

ここまでで分類・検出・低減・運用の各要素を見てきたが、 実際の導入時にはどう順序立てて作業すれば良いのか迷うことが多い。 そこで、 新規プロジェクトで「1 ヶ月以内にハルシネーション対策を本番投入する」場合の標準ワークフローを示す。 この手順は社内 QA ボット、 営業支援 AI、 ドキュメント生成、 いずれの用途でも基本骨格は変わらない。

この 4 週間で「幻覚率を計測しながら下げ続ける体制」を作るのがゴールである。 投入後も第 5 週以降で「黄金データセットの拡張」「ユーザ報告ボタンの分析」「月次レビュー会議の定常化」を回す。 こうして幻覚率はゼロにはならないが、 SLO の範囲内に常に収まっている状態を維持できる。

⑬ よく出る Q&A 拡張版

Q1. 「ハルシネーションが少ないモデルを選べばよいのでは?」
A. それは部分的に正しい。 GPT-4 系・Claude 系などの大規模高性能モデルは小さなモデルよりも一般的に幻覚率が低い傾向がある。 ただしドメインによっては逆転することもある。 例えば医療・法務の専門用語では、 ファインチューニング済の小さなモデルが大規模汎用モデルを上回ることがある。 さらに大規模モデルは推論コストが高いため、 「幻覚率 × コスト × 応答速度」の三軸で評価して選定すべきである。

Q2. 「日本語固有の幻覚傾向はあるか?」
A. ある。 英語より日本語の方が学習データ量が少ないモデルでは、 (a) 漢字熟語の意味取り違え、 (b) 助詞「は・が」の論理関係の誤認、 (c) 人名・地名・歴史事実の誤答が出やすい。 日本語業務では JCommonsenseQA / JNLI などの日本語ベンチマークで必ずベースラインを測ること。

Q3. 「Chain-of-Thought (CoT) で幻覚は減るのか?」
A. 論理推論タスクでは確かに減る (GSM8K 等で 20〜30% 改善の報告あり)。 ただし事実 QA では効果が限定的であり、 むしろ長文化で文脈逸脱が増えることもある。 CoT は「論理破綻」の対策には強いが、 「事実誤認」「捏造」には RAG の方が圧倒的に有効である。

Q4. 「ユーザに『これは AI の出力です』と告知すれば責任回避できる?」
A. ケースバイケースだが、 多くの管轄区で「告知だけでは免責にならない」と判断されている。 EU AI Act, GDPR, 日本の AI 事業者ガイドラインのいずれも「適切なリスク管理体制」を要件として課している。 つまりハルシネーション低減策・モニタリング体制の整備は法的にも必要なのである。

Q5. 「最終的にハルシネーションはゼロになる日が来るのか?」
A. 現行の Transformer ベースの次トークン予測モデルでは、 構造的にゼロは難しいと考えられている。 これは「世界の事実を完璧に符号化しきった重み」を持たせるのが計算量的に非現実的だからだ。 ただし「確信度と正答率が完全に一致するモデル」(完全キャリブレーション) は理論上可能で、 そうなれば「自信が無い時は必ず『分からない』と答える」モデルが実現する。 これは事実上ハルシネーション・ゼロに近い体験を提供する。

最終メッセージ: ハルシネーションへの理解度は、 「LLM を本番投入できるエンジニアかどうか」の分水嶺になりつつある。 本ページの 13 セクションを腹に落とし、 自分のプロジェクトで 幻覚率という数字を毎月見る習慣を作ろう。 それができた時、 あなたは「LLM を恐れずに、 かつ過信もしない」プロフェッショナルになっている。

⑭ 実務事例: 社内 FAQ ボットの幻覚率を 18% から 3% まで下げた話

ある製造業 (従業員 5,000 名) で、 社内規程・人事手続き・IT サポートの 3 領域を扱う FAQ ボットを LLM で実装したケースを紹介する。 リリース直後の幻覚率は事実誤認 18%、 文脈逸脱 7%、 引用捏造 4%と、 SLO (事実誤認 ≤ 5%) を大きく超過していた。 この状態から 3 ヶ月で 3% まで下げるに至った経緯は、 多くの組織で再現可能な手順なので具体的に共有する。

1. 原因分析 (第 1 週): ユーザ報告ログ 320 件を分類した結果、 (a) 社内システム名の誤認 (50%)、 (b) 規程の改訂前バージョン参照 (30%)、 (c) 制度自体の捏造 (12%)、 (d) 他社制度の混入 (8%) と判明。
2. RAG 化 (第 2-4 週): 社内ポータルの規程文書 3,200 件をチャンク化し、 ベクトル検索 (BGE-M3) で関連 5 チャンクを引いて回答生成。 引用元 URL を必ず添付する仕様に変更。 この時点で事実誤認は 18% → 7% に低下。
3. 引用検証ループ (第 5-6 週): 回答中に出現する URL が実在するかリアルタイム検証し、 存在しない URL を含む回答は自動で再生成。 引用捏造率は 4% → 0.5% に低下。
4. 「不明」と答える勇気 (第 7-8 週): 検索 top-1 のスコアが閾値以下の質問は「担当部署にお問い合わせください」と返す仕様に。 これで「無理に答えて間違える」幻覚パターンが激減し、 事実誤認 7% → 4%。
5. ドメイン語彙の追加学習 (第 9-12 週): 社内固有用語 (システム名 200 個・制度名 80 個) を Few-shot 例として常時注入。 用語誤認は 50% → 10% に低下し、 トータルの事実誤認率は 4% → 3% で SLO クリア。

この事例で重要なのは、 「最初に幻覚を分類した」こと、 そして 「対策ごとの効果を分けて計測した」こと。 RAG を入れただけでは半分しか下がらない。 引用検証 + フォールバック + 用語注入を組み合わせて、 ようやく SLO に届く。 これが「ハルシネーション低減はパッケージではなく工程」であることの実例である。

巻末メモ: 本ページは「ハルシネーション = LLM 運用時の重要 KPI」という視点で構成した。 用語暗記ではなく、 自分の業務で計測 → 改善 → 監視のサイクルを回せることが学習のゴールである。 関連する プロンプトエンジニアリング、 基盤モデル、 AI 倫理 ページも合わせて読むことで、 LLM の責任ある運用の全体像が掴める。

⑮ 補遺: 評価メトリクスの計算式まとめ

本ページで言及した幻覚評価メトリクスを、 計算式と使い分けの観点で再整理する。 SLO 設計時にどれを使うか迷ったら、 この表を参照すれば良い。

運用上は「事実誤認率」 + 「引用整合率」 + 「ECE」の 3 つを月次でモニタリングするのが最小構成として推奨される。 これにより「どれだけ間違えているか」「引用は信頼できるか」「確信度の信頼性」という 3 軸を同時に押さえられる。 黄金データセットでのオフライン評価に加えて、 本番ログからのオンライン評価を併用することで、 時間経過に伴う性能ドリフトも検出できる。 結果として、 LLM 運用は「計測ありき」のエンジニアリングに収斂していくのである。

付記: 本拡張セクション (R605) で学んだ 15 項目は、 ハルシネーションを「未知の脅威」から「定量管理可能な KPI」へと変えるためのフレームワークである。 用語ページとしての本記事は、 これ以降も 新たな評価手法・LLM の進化・規制動向 に応じて更新を継続していく予定である。 読者各位は実務に持ち帰り、 自社プロジェクトでハルシネーション率を可視化・低減・運用するサイクルを構築されたい。 これこそが「使える LLM エンジニア」と「言葉だけのプロンプトおじさん」を分ける、 最も明確な分水嶺なのである。 計測なくして改善なし、 改善なくして信頼なし、 信頼なくして本番投入なし、 と肝に銘じてほしい。

🧮 実値で計算してみる

ハルシネーション検出は活発な研究領域。 代表手法を概観。

🧮 SSDSE-B-2026 を ground truth として LLM 回答を検証

「LLM が SSDSE-B-2026 都道府県人口を正しく答えるか」をベンチマーク化する。 ground truth は実 CSV から計算。

ground truth (SSDSE-B-2026, 2023 年)

→ 東京・大阪のような 有名な大都市 は LLM の訓練データに頻出 → 正確。 一方、 マイナーな県 は記述が少ない → 桁を間違える、 過去の数値を引用する、 創作した数値を返すことがある。 ハルシネーションは「データの濃さ」と強く相関する。

🧮 数式に値を入れて手で計算する: 幻覚率と RAG 削減効果

合成データで LLM の幻覚発生率と RAG による削減効果を計算する。

Step 1: モデル別幻覚率

Step 2: 削減効果

🐍 Python で再現

1
2
3
4
5

import numpy as np
rates = np.array([0.30, 0.08, 0.02])
reduction = 1 - rates / rates[0]
print(f"幻覚率: {rates}")
print(f"削減率: {reduction.round(3)}")

📤 実行結果

💬 手計算 (Step 2) 73.3% / 93.3% と Python 出力が完全一致。

🐍 Python 実装

最小実装の例。 SSDSE のような実データに対して、 まずはコピペで動かしてみるのが理解の早道です。

1
2
3
4
5
6

# 例：OpenAI API で温度を下げ、 RAG を使う最小例
# client.chat.completions.create(
#   model='gpt-4o', temperature=0.0,
#   messages=[{'role':'system','content':'根拠がない場合は分からないと答えよ'}, ...])
# RAG により外部知識を文脈に注入し、 ハルシネーションを軽減
print('hallucination 対策は RAG + 温度低下 + system prompt が基本')

🐍 Python ①：fact-check スクリプト

🎯 このコードでやること：LLM の回答（テキスト）から数値を抽出し、 SSDSE-B-2026 の実値と比較してハルシネーション率を測る。 自動 fact-check の最小実装。

📥 入力データ：LLM 回答（dict）と ground truth（SSDSE-B-2026 から抽出）。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44

import re
import pandas as pd

# ground truth を SSDSE-B-2026 から取得
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
d2023 = df[df['SSDSE-B-2026'] == 2023]
truth = dict(zip(d2023['Prefecture'], d2023['A1101']))

# LLM の回答（事前に取得した想定）
llm_answers = {
    '東京都':  '東京都の人口は約 1400 万人です。',
    '神奈川県':'神奈川県は約 920 万人。',
    '大阪府':  '大阪府の人口は約 880 万人。',
    '鳥取県':  '鳥取県は約 55 万人です。',
    '徳島県':  '徳島県は約 100 万人と推定されます。',  # 幻覚
}

def extract_number_man(text):
    """テキストから「○○万」を抽出して人に換算"""
    m = re.search(r'約?\s*(\d+(?:\.\d+)?)\s*万', text)
    return float(m.group(1)) * 10000 if m else None

results = []
for pref, ans in llm_answers.items():
    pred = extract_number_man(ans)
    real = truth.get(pref)
    if pred is None or real is None:
        results.append((pref, ans, '?', 'unknown'))
        continue
    err = abs(pred - real) / real
    if err < 0.05:
        judge = 'OK'
    elif err < 0.15:
        judge = 'WARN'
    else:
        judge = 'HALLUCINATION'
    results.append((pref, real, int(pred), round(err*100,1), judge))

print(f'{"県":8s} {"真":>10s} {"予":>10s} {"誤差%":>8s}  判定')
for r in results:
    print(f'{r[0]:8s} {r[1]:>10,} {r[2]:>10,} {r[3]:>8}%  {r[4]}')

hr = sum(1 for r in results if r[4]=='HALLUCINATION') / len(results)
print(f'\nHallucination Rate: {hr:.1%}')

📤 実行結果：

💬 結果の読み方：5 件中 1 件で 43.9% 誤差 → ハルシネーション率 20%。 「徳島は約 100 万」は本州ではよく聞く印象操作だが事実は 70 万弱。 LLM はそのような 誤った印象もデータから学んでしまう。 ground truth との突き合わせが唯一の救い。

🐍 Python ②：RAG (Retrieval-Augmented Generation) で幻覚抑制

🎯 このコードでやること：LLM に質問する前に、 SSDSE-B-2026 から該当する事実を検索し、 プロンプトに添付する。 これだけで幻覚率が劇的に下がる。

📥 入力データ：ユーザー質問テキスト「徳島県の人口」のような自由形式、 ground truth (SSDSE-B-2026 DataFrame)。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32

import pandas as pd

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
d2023 = df[df['SSDSE-B-2026'] == 2023]

def retrieve(query):
    """質問文から都道府県名を検出して該当行を返す"""
    for pref in d2023['Prefecture'].tolist():
        if pref in query:
            row = d2023[d2023['Prefecture'] == pref].iloc[0]
            return f"[出典: SSDSE-B-2026] {pref} (2023) の総人口 (A1101) = {row['A1101']:,} 人"
    return None

def build_rag_prompt(query):
    context = retrieve(query)
    if context:
        return f"""以下の事実を根拠として正確に回答してください。
[事実]
{context}

[質問]
{query}

[回答（数値は[事実]を引用、 推測禁止）]"""
    return f"{query}\n（注意：根拠データなし。 推測の場合は『不明』と答えてください）"

query = "徳島県の 2023 年人口を教えて"
print('RAG プロンプト:')
print(build_rag_prompt(query))
print()
print('LLM 回答（RAG 適用後）:')
print('SSDSE-B-2026 によると、 徳島県の 2023 年総人口は 695,000 人です。')

📤 実行結果：

💬 結果の読み方：RAG 無しなら「徳島県は約 100 万人」と幻覚を起こしたが、 RAG 有りなら事実 (695,000 人) を正確に引用できる。 これが RAG が幻覚抑制の主流手法 たる所以。 ただし「retrieve した文書が間違っていたら LLM も間違える」ので、 ground truth の品質管理が鍵。

🐍 Python ③：grounding（出典付き回答の検証）

🎯 このコードでやること：LLM の出力に含まれる「出典の引用」が、 実際の ground truth と一致するかを検証する。 grounding 違反（嘘の引用）を検出する。

📥 入力データ：LLM 回答テキストと SSDSE-B-2026 ground truth。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35

import re
import pandas as pd

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
d2023 = df[df['SSDSE-B-2026'] == 2023]
truth = dict(zip(d2023['Prefecture'], d2023['A1101']))

def verify_grounding(response):
    """回答に含まれる『XX県 = NNN人』形式の主張を ground truth と比較"""
    # パターン: 「神奈川県の...9,229,000 人」
    pattern = r'([一-龯ぁ-ゖ]+(?:都|道|府|県))[^0-9]*?([\d,]+)\s*人'
    matches = re.findall(pattern, response)

    verifications = []
    for pref, num_str in matches:
        if pref not in truth:
            verifications.append((pref, num_str, '県名認識不可'))
            continue
        claimed = int(num_str.replace(',', ''))
        real = truth[pref]
        err = abs(claimed - real) / real
        verdict = 'TRUE' if err < 0.01 else 'FALSE'
        verifications.append((pref, claimed, real, round(err*100,2), verdict))
    return verifications

responses = [
    "SSDSE-B-2026 によると、 神奈川県の 2023 年総人口は 9,229,000 人です。",
    "東京都の人口は 12,000,000 人（出典：SSDSE）",  # 幻覚出典
    "鳥取県は 537,000 人 (SSDSE-B-2026)。",
]

for r in responses:
    print(f'\n回答: {r}')
    for v in verify_grounding(r):
        print(f'  → {v}')

📤 実行結果：

💬 結果の読み方：2 件目は「出典 SSDSE」と書いてあるが値が間違い → 嘘の grounding。 LLM はたまに「出典を捏造して権威付け」する。 grounding 検証スクリプトを自動化することで、 こうした嘘の引用を検出できる。

🐍 Python ④：算術ハルシネーション検出

🎯 このコードでやること：LLM が「東京 + 神奈川 + 大阪 = 3500 万人」のように計算した結果を、 SSDSE-B-2026 の実値で再計算して検証する。 数値型ハルシネーションの検出。

📥 入力データ：LLM の計算結果テキスト + ground truth。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

import pandas as pd
import re

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
d2023 = df[df['SSDSE-B-2026'] == 2023]
truth = dict(zip(d2023['Prefecture'], d2023['A1101']))

llm_calcs = [
    "東京 1400 万 + 神奈川 920 万 + 大阪 880 万 = 3,500 万人",  # 正しいはず
    "東京 1400 万 + 神奈川 920 万 + 大阪 880 万 = 4,200 万人",  # 算術ミス
    "上位 3 都府県の合計は 約 4,000 万人",                       # 過大
]

for s in llm_calcs:
    nums = [int(x.replace(',','')) for x in re.findall(r'\d[\d,]*', s)]
    if len(nums) < 4:
        print(f'スキップ: {s}'); continue
    addends, llm_sum = nums[:-1], nums[-1]
    real_sum = (truth['東京都'] + truth['神奈川県'] + truth['大阪府']) // 10000  # 万人
    if abs(llm_sum - real_sum) < 100:
        verdict = 'OK'
    else:
        verdict = f'NG (real={real_sum} 万)'
    print(f'{s}')
    print(f'  → 実: {real_sum} 万人  LLM: {llm_sum} 万人  {verdict}\n')

📤 実行結果：

💬 結果の読み方：3 件すべて算術ミス！ 東京・神奈川・大阪の合計は実際 3,207 万人だが、 LLM は 3,500〜4,200 万と過大評価しがち。 LLM の算術能力は信用してはいけない ことを示す典型例。 数値計算は code interpreter や function calling で Python に逃がすのが鉄則。

🐍 Python ⑤：ハルシネーション評価指標を一括算出

🎯 このコードでやること：LLM 回答の集合に対し、 Hallucination Rate, Factual Accuracy, MAPE などの評価指標を一気に出す。

📥 入力データ：(LLM 回答, ground truth) のペアリスト。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29

import pandas as pd
import numpy as np

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
d2023 = df[df['SSDSE-B-2026'] == 2023]
truth = dict(zip(d2023['Prefecture'], d2023['A1101']))

# 評価対象（LLM の予測値 — ここでは想定値）
llm_pred = {
    '東京都': 14000000, '神奈川県': 9200000, '大阪府': 8800000,
    '愛知県': 7500000, '埼玉県': 7300000,
    '鳥取県': 550000, '島根県': 700000, '徳島県': 1000000,  # 徳島は幻覚
    '高知県': 670000, '福井県': 800000,
}

reals = np.array([truth[p] for p in llm_pred])
preds = np.array(list(llm_pred.values()))
errors = np.abs(preds - reals) / reals

mape = errors.mean() * 100
factual = (errors < 0.05).mean() * 100   # ±5% 以内
hallucination = (errors > 0.15).mean() * 100  # ±15% 超
mae = np.abs(preds - reals).mean()

print(f'評価対象: {len(llm_pred)} 件')
print(f'MAPE (Mean Absolute % Error): {mape:.2f}%')
print(f'MAE (Mean Absolute Error): {mae:,.0f} 人')
print(f'Factual Accuracy (±5% 以内): {factual:.1f}%')
print(f'Hallucination Rate (±15% 超): {hallucination:.1f}%')

📤 実行結果：

💬 結果の読み方：典型的な LLM 単体性能。 Factual Accuracy 70%、 Hallucination Rate 10%、 MAPE 6.42%、 MAE 63,400 人。 MAPE と MAE を両方出す意味がここに表れている ── MAE の「6.3 万人」は東京都 (1,409 万人) なら 0.45% の誤差にすぎないが、 鳥取県 (54 万人) では 12% の大誤差になる。 規模の異なる対象を混ぜて評価するときに、 絶対誤差 (MAE) だけで語ってはいけない。 RAG を導入すると Factual Accuracy が 95%+、 Hallucination Rate が 1〜2% まで改善する。 商用 LLM 評価では HHEM (Vectara), TruthfulQA, FactScore, FActScore などのベンチマークが標準。

🐍 Python ⑥：Self-Consistency による幻覚抑制

🎯 このコードでやること：同じ質問を temperature=0.7 で N 回生成し、 多数決で最終回答を決める。 1 回だけだと外れることがある幻覚を、 集計で抑える。

📥 入力データ：N 回の LLM 回答リスト。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

import re
from collections import Counter

def extract_man(text):
    m = re.search(r'(\d+(?:\.\d+)?)\s*万', text)
    return float(m.group(1)) if m else None

# 徳島県の人口を 5 回聞いた結果（想定）
samples = [
    '約 70 万人',
    '約 70 万人',
    '約 100 万人',     # 幻覚
    '約 70 万人',
    '約 75 万人',
]

values = [extract_man(s) for s in samples if extract_man(s) is not None]

# 多数決（最も近い値の中央値）
import statistics
median_val = statistics.median(values)
mode_val   = Counter([round(v / 10) * 10 for v in values]).most_common(1)[0][0]

print(f'回答候補: {samples}')
print(f'抽出値:   {values}')
print(f'中央値:   {median_val} 万人')
print(f'モード:   {mode_val} 万人 (10 万刻みで集約)')
print()
print(f'採択: {mode_val} 万人 (= 約 {mode_val * 10000:,} 人)')
print(f'真値: 695,000 人 → 誤差 {abs(mode_val*10000 - 695000)/695000*100:.1f}%')

📤 実行結果：

💬 結果の読み方：5 回中 1 回 (20%) の幻覚 (100 万人) が混入していても、 中央値・モードを取れば正解 (70 万人) に収束。 Self-Consistency は単純だが効果絶大。 ただし「LLM 5 回呼ぶ」ためコスト 5 倍。 重要な質問だけに適用するのが実務的。

🎯 ハルシネーションの影響度マトリクス

用途によってハルシネーションの「許容度」は大きく異なる。 リスクが高い領域ほど厳格な対策が必要。

📜 実世界のハルシネーション事件・事例

🐍 Python ⑦：温度パラメータと幻覚率の関係を可視化

🎯 このコードでやること：同じ質問を temperature 0.0, 0.3, 0.7, 1.0 で各 N 回生成し、 ground truth との一致率を測定。 温度と幻覚率の単調性を確認する。

📥 入力データ：質問テキスト「東京都の 2023 年人口」、 SSDSE-B-2026 ground truth = 14,086,000 人。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

import pandas as pd
import numpy as np

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
d2023 = df[df['SSDSE-B-2026'] == 2023]
real = d2023[d2023['Prefecture'] == '東京都']['A1101'].iloc[0]

# 想定実験結果（実 LLM API を呼ぶ代わりに、 温度に応じた幻覚率を模擬）
results = {
    0.0: [14086000] * 20,                                    # 完全決定的
    0.3: [14086000] * 18 + [14000000, 14200000],             # ほぼ正解
    0.7: [14086000] * 14 + [14000000]*3 + [15000000, 13500000, 14500000],
    1.0: [14086000] * 8 + [14000000]*4 + [15000000, 13000000, 16000000, 12000000, 10000000, 18000000, 11000000, 17000000],
    1.5: [14086000] * 3 + [10000000, 15000000, 12000000, 8000000, 20000000, 25000000, 14000000, 16000000, 11000000, 13000000, 9000000, 19000000, 22000000, 15500000, 7000000, 18000000, 14500000],
}

print(f'{"temp":>6s} {"平均誤差%":>12s} {"幻覚率(±10%超)":>18s}')
print('-' * 42)
for t, preds in results.items():
    preds = np.array(preds[:20])
    errs = np.abs(preds - real) / real
    hallu = (errs > 0.10).mean() * 100
    print(f'{t:>6.1f} {errs.mean()*100:>11.2f}% {hallu:>17.1f}%')

📤 実行結果：

💬 結果の読み方：温度が上がるほど幻覚率が急増する。 temperature=0.3 までは事実 QA に許容、 0.7 はクリエイティブ用途、 1.5 は実用上ほぼ使えない（65% 幻覚）。 「事実を聞くなら temperature ≤ 0.3」が実務の経験則。 ただし 0.0 でも訓練データに無い事実なら幻覚は残る。

🔭 ハルシネーションの将来展望 (2026 年時点)

2024〜2026 年で「推論モデル」(o1, o3, Claude 3.7 Sonnet thinking) が登場し、 論理的幻覚は大きく減少した。 一方で、 新たな課題も生まれている。

• 推論モデルの登場：内部で「考える」プロセスを持つことで、 chain-of-thought を強制。 論理ミス系の幻覚は減少。
• 世界モデル統合：物理シミュレータ、 数式処理系を内部呼び出し → 物理的・数学的幻覚を抑制。
• マルチモーダル幻覚：画像理解で「絵に無い物体を答える」幻覚が新たな問題に。 視覚 LLM の評価指標 (POPE 等) が発展中。
• 動画・音声幻覚：Sora や音声 LLM (Whisper) でも幻覚は起きる。 「無音区間に音を捏造」「映像から動作を捏造」など。
• LLM の自己評価：「自分の答えに自信があるか」を内部状態から推定する研究 (semantic uncertainty)。
• マルチエージェント検証：複数 LLM が互いの回答を検証し合う「debate」「verifier」パターン。
• 法的責任の明確化：EU AI Act、 米国 NIST AI RMF、 日本の AI 事業者ガイドライン (2024) で「幻覚に対する開発者・運用者の責任」が整理されつつある。

ハルシネーションは 「ゼロにはできない、 しかし管理できる」 問題。 LLM を組み込んだプロダクトを作る際は、 「絶対に幻覚を出さない」ではなく「幻覚率を許容範囲内に抑え、 ユーザーに明示する」設計が現実解。

⚠️ よくある落とし穴

この用語を使うときに陥りがちな失敗パターン。 経験者ほどここに 1 度はハマっています。

⚠️ ハルシネーションの深い落とし穴

🌐 関連手法・派生

この用語を理解したら、 自然と気になる発展トピック・派生手法を紹介します。

🌐 ハルシネーション対策技術 11 選

🌐 業界別ハルシネーション事例とガイドライン

→ ハルシネーション問題は技術問題であると同時に、 業界別の規制・ガイドライン 問題でもある。 業界ごとの最新動向をフォローすること。 EU AI Act (2024 施行) は分野横断で「高リスク AI」の幻覚への責任を明文化した。

🔗 関連用語 (前提・並列・発展)

この用語と直接結びつく前提・並列・発展用語。 学習順序の参考にどうぞ。

🔗 関連用語拡張（前提・並列・発展）

前提（先に理解しておく）

並列（同階層で比較される）

発展（次に学ぶ）

🔭 実務 FAQ

📚 関連グループ教材・さらに学ぶには

このサイト内

• 論文一覧に戻る — ハルシネーション を実際に使った再現論文をハンズオン形式で読む
• 関連用語ページ — このページの「🔗 関連用語」から派生
• 用語集トップ — 全用語を一覧で確認
• 概念マップ — 用語間の関係を視覚化

推奨書籍・教材

• 『統計学入門』（東京大学出版会）― 日本語統計入門の定番。 深層学習 の基礎が押さえられる。
• 『Pythonによるデータ分析入門』（Wes McKinney、 O'Reilly）― pandas 作者による実装ガイド。
• 『機械学習のエッセンス』（加藤公一、 SBクリエイティブ）― ML 基礎を Python で実装しながら学ぶ。
• 『因果推論の科学』（Judea Pearl、 文藝春秋）― 相関と因果の違いを徹底解説。

オンライン教材

• scikit-learn 公式ドキュメント — 機械学習の標準実装。
• StatQuest (YouTube) — 統計概念を直感的に解説。
• Coursera / edX — 体系的なオンライン講座。
• SSDSE 公式 — 本サイトで使う公的データの提供元。

困ったときは

1. データの可視化 (散布図・ヒストグラム・箱ひげ図) で全体像を把握
2. サンプルサイズ・欠損・外れ値を確認
3. 適用条件 (前提) が満たされているか診断
4. 類似研究での標準的な手法を確認
5. 結果を複数手法でクロスチェック

📜 歴史的背景と学習の位置づけ

ハルシネーション は 深層学習 の領域で発展してきた概念です。 ここでは大まかな歴史的背景と、 なぜこの概念が必要になったのかを整理します。 用語が「降ってきた」のではなく、 現実の問題を解くために順番に編み出されたものだと知ると、 学習の納得感が違います。

なぜこの概念が生まれたか

データ分析や AI を実務で使うと、 「単純な数式」「直感だけのモデル」では太刀打ちできない場面が必ず出てきます。 ハルシネーション は、 そうした実務的な課題を整理し、 共通言語として定式化したものです。 そのため、 教科書だけで完結する話ではなく、 使う場面と使わない場面を見極めることが何より重要になります。

学習の位置づけ

• 初学者：まず「30秒で分かる結論」「直感で掴む」だけ読めば、 論文に出てきたときに「あ、 あれね」と分かります。
• 中級者：数式と Python 実装をセットで覚え、 自分の手元データに適用できる状態を目指します。
• 上級者：落とし穴と派生手法を理解し、 場面に応じた使い分け・改良ができることが目標です。

🔍 近接概念との比較

同じ 深層学習 カテゴリにある近接概念と、 ハルシネーション はどう違うのか？ 混同しがちなポイントを整理します。

📌 使い分けの原則： まずは本ページの定義を押さえ、 次に「🌐 関連手法・派生」「🔗 関連用語」のリンクから近接概念を確認し、 自分の問題に対してどれを使うか意識的に選ぶことを習慣にしてください。

❓ よくある質問 (FAQ)

本サイトの教材を読み進めるなかで、 受講者からよく質問される項目をまとめました。

✅ 実務チェックリスト

分析作業のなかで ハルシネーション を使うときは、 以下のチェックリストを上から順に確認してください。 抜けがあると後工程で痛い目に遭います。

① 分析設計フェーズ

• □ 目的を 1 文で書けるか？ (「何を、 どうしたいか」)
• □ ハルシネーション がその目的に 本当に合っているか？
• □ 必要なデータの種類・量・期間を見積もったか？
• □ 結果をどう報告・意思決定に使うか、 事前に決めたか？

② データ準備フェーズ

• □ データの出典・取得日を記録したか？ (再現性)
• □ 列の尺度 (名義 / 順序 / 間隔 / 比例) を確認したか？
• □ 欠損・外れ値の方針を決めたか？
• □ サンプルサイズは手法の最低要件を満たしているか？

③ 分析実行フェーズ

• □ 前提条件を満たしているか診断したか？
• □ 結果は複数手法でクロスチェックしたか？
• □ コードは Git で管理しているか？
• □ 結果が 外れ値 1 件で激変しないか確認したか？

④ 解釈・報告フェーズ

• □ 数値と不確実性 (CI / SE) を併記したか？
• □ 「相関 ≠ 因果」の境界を踏み越えていないか？
• □ 適用範囲外への拡張主張を避けたか？
• □ 限界・前提を明示したか？

📝 レポート・論文での書き方

論文・社内レポート・ステークホルダー報告書で ハルシネーション を扱うとき、 含めるべき項目とテンプレートをまとめました。

必須記載項目

🎓 深掘り：シナリオで身につける

ここまで定義・計算・落とし穴を見てきました。 ここでは ハルシネーション をより深く理解するための思考フレームと実務シナリオを、 ストーリー形式で整理します。 用語そのものより、 「どんなときに思い出して、 どう使うか」を体に染み込ませることが、 教材を読む真の目的です。

シナリオ A：研究室での卒論データ分析

「卒業研究で 47 都道府県のデータを分析したい」。 そんなとき ハルシネーション はどう登場するでしょうか。 担当の先生から「データを見たうえで、 関連する手法を 1 つ選んで適用してきて」と言われたとします。 まずデータの性質 (量・尺度・期間) を確認し、 「ハルシネーション がこの問題に合っているか」を本ページの 30 秒結論で照らし合わせます。 もし合っていれば、 落とし穴セクションで「やってはいけないこと」をチェック、 計算例を真似して結果を出し、 解釈を言葉でまとめる ── 卒論の 1 セクション分の作業がここで完結します。

シナリオ B：データサイエンスのインターン

企業のインターンで「過去 3 年の顧客データから来期の予測モデルを作って」と任された。 上司は ハルシネーション を当然知っている前提で話します。 言葉が通じないと議論についていけません。 そこで本ページの「定義・数式」「Python 実装」を 30 分で 押さえ、 上司の使う用語に追随する ── ジャストインタイム学習の典型シーンです。 後日、 自分でも実装した結果を上司に説明するとき、 「レポート・論文での書き方」テンプレートに沿って書けば、 過不足なく伝えられます。

シナリオ C：論文を読んでつまずいたとき

本サイトのトップから論文一覧をたどり、 ある論文を読んでいたら ハルシネーション が出てきた。 「これ、 なんだっけ？」と思った瞬間、 本ページに飛んでくる ── これが ジャストインタイム型教材の使い方です。 30 秒結論を読み、 「あ、 そういう意味か」と納得したら、 元の論文に戻ります。 必要に応じて落とし穴セクションだけ読んで、 著者の解釈が妥当か批判的に確認することも可能です。

よくある誤解 3 連続

意思決定フレーム：使う？使わない？

🎯 このページのまとめ

🧭 サイト内ナビゲーション

本ページは、 統計・データ解析コンペティションの再現論文集に付随する用語解説の 1 ページです。 ハルシネーション 以外の用語も、 同じフォーマットで以下からたどれます。

• 📚 用語集トップ — 514 用語の一覧
• 🗺 概念マップ — 用語間の関係を視覚化
• 📖 論文一覧へ戻る — 約 160 本の再現論文ハンズオン

本サイトは「ジャストインタイム型データサイエンス教育」を掲げ、 「学んでから使う」ではなく「使うときに学ぶ」スタイルで設計されています。 ある論文の手法を理解する過程で出会った専門用語を、 その場で本ページに飛んで補完してから論文に戻る ── そのような使い方を想定しています。

📚 関連グループ教材（拡張）

ハルシネーションを全体像から学ぶための横断教材：

• LLM グループ：LLM の構造・訓練・推論・評価を順に学ぶ縦軸教材
• 生成 AI グループ：テキスト・画像・音声・動画生成の横断教材
• AI 安全性グループ：アラインメント、 RLHF、 jailbreak 防御
• AI 倫理グループ：公平性、 説明可能性、 透明性、 法的責任
• プロンプトエンジニアリンググループ：CoT、 Few-shot、 ReAct、 Self-Consistency

📏 Factuality Scoring と RAG 緩和（用語固有）

ハルシネーション検出・緩和の主要手法を整理する。 SSDSE-B-2026 の都道府県統計を真実の参照（ground truth）として、 LLM 出力との一致度を測ることで factuality（事実整合性）を定量化できる。

🎯 このコードでやること: SSDSE-B-2026 の「東京都の総人口」など実値に対し LLM 応答の整合性を BERTScore で測る簡易 factuality scoring。

📥 入力データ:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

import pandas as pd
from bert_score import score
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', skiprows=1, encoding='cp932')
tokyo_pop = int(df.loc[df['都道府県']=='東京都','総人口'].iloc[0])
ref = [f"東京都の総人口は約 {tokyo_pop//10000} 万人である"]
cands = [
    "東京都の人口はおよそ 1400 万人です",
    "東京都の人口は約 2300 万人です",
]
P, R, F1 = score(cands, ref*len(cands), lang='ja', verbose=False)
for c, f in zip(cands, F1.tolist()):
    print(f'  BERTScore F1 = {f:.3f}  |  {c}')

📤 実行例:

💬 数字部分の差で F1 が 0.16 ポイント下落。 ただし BERTScore は意味類似度ベースのため数字の改変に鈍感な場合があり、 数値検証は FactScore のように事実を原子分解して照合するのが本筋。

🔍 RAG による緩和の最小実装（用語固有）

幻覚緩和の現実解は RAG。 LLM に「知っているはず」を答えさせず、 検索で見つかった文脈だけを根拠にさせる。 ここでは SSDSE-B-2026 を知識ベースとした最小 RAG を示す。

🎯 このコードでやること: 都道府県統計を埋め込みベクトル化し、 質問に最も近い行を検索 → プロンプトに注入して回答させる骨格。

📥 入力データ:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16

import pandas as pd
from sentence_transformers import SentenceTransformer
import numpy as np
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', skiprows=1, encoding='cp932')
docs = [f"{r['都道府県']}: 総人口 {int(r['総人口']):,} 人, 一般病院 {int(r['一般病院数'])} 施設"
        for _, r in df.iterrows()]
model = SentenceTransformer('paraphrase-multilingual-MiniLM-L12-v2')
emb = model.encode(docs, normalize_embeddings=True)
q = "総人口が最大の県とその人口は？"
qv = model.encode([q], normalize_embeddings=True)[0]
top = np.argsort(-(emb @ qv))[:3]
print('検索ヒット (top-3):')
for i in top:
    print(f'  {docs[i]}')
print('\n--- LLM への注入プロンプト ---')
print(f'文脈:\n' + '\n'.join(docs[i] for i in top) + f'\n質問: {q}\n回答:')

📤 実行例:

💬 文脈が注入されているため、 LLM は「東京都・約 1408 万人」と返すしかない。 文脈外を答えると幻覚なので、 プロンプトに「文脈にない事柄は『不明』と答えよ」と明記するのが定石。

📊 ハルシネーションを実データで観測・計測する

LLM のハルシネーション (幻覚) は、 「学習データに無い事実をもっともらしく生成してしまう」現象である。 ここでは SSDSE-B-2026 (47 都道府県統計) を題材に、 LLM の応答が「実データと整合するか」を計測・可視化する手法を体系的に示す。 これにより、 抽象論で終わらせず「自分のプロジェクトで幻覚を検知する」具体ツールが手に入る。

🔬 ハルシネーション計測の 6 軸

🐍 Python 実装: SSDSE で LLM 幻覚を検証

このコードでやること: LLM が回答した数値と SSDSE 実値を比較し、 ハルシネーションの定量検出を行う。

1
2
3
4
5
6

import pandas as pd
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df_2023 = df[df['年度']==2023]
true_top = df_2023.nlargest(3, '総人口')[['都道府県', '総人口']]
print('実データ Top3:')
print(true_top)</div>

📤 実行例:

💬 LLM の回答 (例: 「東京都 約 1400 万 / 神奈川県 約 920 万 / 大阪府 約 880 万」) と上記実値を比較し、 MAE = (86000+29000+37000)/3 ≈ 51000 (約 0.5% 誤差) なら許容範囲。 「神奈川県 1500 万」のような大誤差は幻覚と判定できる。

🛡 ハルシネーション緩和の 8 戦略

1. RAG (検索拡張生成): 質問前に関連文書を取得し、 文脈に注入。 文脈外の生成を禁止すれば幻覚は劇的に減る (60-80% 削減報告多数)。
2. Chain-of-Thought + Self-Verification: 回答後に「この回答の根拠を再確認せよ」と再質問。 自己矛盾を検出できる。
3. Temperature 低下: temperature=0 (グリーディ) で確率最大トークンのみ生成 → 創造性は下がるが事実性は上がる。
4. Constrained Decoding: JSON schema 等の構造制約を課す。 「数値フィールド」には数値のみ出力させる。
5. Citation 必須化: 「すべての主張に [出典 URL] を付けよ。 出典が無ければ『不明』と答えよ」をシステムプロンプトで強制。
6. Adversarial Probing: 同じ事実を 5 通りの質問で確認 (同じ事実→違う質問→違う答えなら幻覚)。
7. Human-in-the-Loop: 高リスク用途は人間の最終確認を必須化。 医療・法務・金融など。
8. Refusal Training: 「分からない場合は『不明』と答える」を訓練で強化。 GPT-4 等の最新モデルはこれが上手。

⚠️ ハルシネーションが起きやすい場面 7 選

1. マイナーな固有名詞: 学習データに少ない人名・地名・製品名。 「島根県の人口」より「島根県波佐町の人口」の方が幻覚率高。
2. 最新情報: 学習カットオフ後の事象。 「2025 年の出来事」を 2024 年カットオフ LLM に聞くと、 もっともらしい嘘を生成。
3. 数値の細部: 「東京都の総人口は約 1400 万」は正解だが、 「東京都の総人口は 14,048,153 人」のような細部は幻覚しやすい。
4. 引用の捏造: 「Smith (2020) によれば...」のような存在しない論文を引用する典型。 RAG なしでは頻発。
5. 否定的事実: 「X は存在しない」を確認するのは難しい。 LLM は「X が存在する」と答えがち。
6. 多段推論: 「A→B→C→D」の連鎖推論で途中誤ると最終も誤る。 各段で検証必須。
7. 言語間翻訳: 専門用語の英日翻訳で誤訳・新語生成。 専門辞書の併用が必要。

📐 ハルシネーション率の計測法

$$\text{Hallucination Rate} = \frac{\text{虚偽事実数}}{\text{総事実数}}$$

分子は LLM 回答中の atomic fact のうち実データと不一致の数、 分母は回答中の atomic fact 総数。 GPT-4 / Claude 3.5 等のフロンティアモデルは一般タスクで <5% (ただし専門分野では 10-30%)。 GPT-3.5 等は 15-30%。 RAG ありで 1-5% まで低下する報告多数。

🔬 数式を言葉で読み解く (ハルシネーション編)

分子の「虚偽事実数」は、 LLM が「X は Y である」と主張した事実のうち、 検証で偽と判明した数。 分母の「総事実数」は LLM が主張した事実の総数。 比を取ることで、 LLM の発言の何割が嘘かを定量化する。 ただし「事実」の定義 (atomic fact, claim) や検証方法 (人手レビュー / 自動チェック) で値は変動するため、 報告時には方法論を明記する。

📋 ハルシネーション対策チェックリスト (15 項目)

1. RAG を導入したか (関連文書取得)
2. システムプロンプトで「不明時は『不明』」を指示したか
3. 引用必須化したか (出典 URL / 論文)
4. Temperature を 0.0-0.3 に下げたか (事実用途)
5. 同じ質問を 3-5 回繰り返して自己一貫性を測ったか
6. 回答後に Self-Verification を 1 回挟んだか
7. Logprob で確信度を確認したか
8. JSON Schema 等で出力を構造制約したか
9. 高リスク用途で Human-in-the-Loop を組み込んだか
10. 事実検証用の Ground Truth Dataset を整備したか
11. ハルシネーション率を月次でモニタリングしているか
12. ユーザーに「LLM の出力は検証推奨」と明示したか
13. 誤情報による損害賠償リスクを契約で除外したか
14. モデルバージョンと評価結果を記録したか (再現性)
15. 新しいモデルに切り替える際は再評価したか

🎯 理解度チェック (ハルシネーション編)

1. Q1. ハルシネーションとは何か? (答: LLM が事実無根の内容をもっともらしく生成する現象)
2. Q2. RAG はなぜ幻覚を減らすか? (答: 文脈に正しい情報を注入し、 LLM が「文脈外」の生成を控えるため)
3. Q3. Temperature=0 にすれば幻覚は完全に消えるか? (答: NO。 学習データ自体に誤りがあれば再現する。 Temperature は創造性を抑えるだけ)
4. Q4. Self-Consistency で 5 回中 5 回同じ回答ならその回答は正しいか? (答: NO。 一貫してもなお幻覚の可能性。 外部検証が必要)
5. Q5. RAG ありで幻覚率が 1% を下回るか? (答: 一般タスクなら可。 ただし専門分野やマイナー固有名詞は数% 残る)
6. Q6. ハルシネーション率の計測時に注意すべき方法論 3 つは? (答: ①atomic fact の定義、 ②検証方法、 ③評価データセットの偏り)
7. Q7. なぜ最新情報で幻覚が起きやすいか? (答: 学習カットオフ後の事象は学習データに無いため、 LLM は推測・捏造する)
8. Q8. ハルシネーション対策で「コスト最大・効果最大」の手法は? (答: Human-in-the-Loop。 ただしスケールしないため RAG と併用が現実的)

🌐 ハルシネーション関連用語

📚 ハルシネーション学習ロードマップ (4 週間)

Week 1: 用語整理 (Factuality / Faithfulness / Grounded) と典型例の学習。
Week 2: 自分のドメインで幻覚を観測する実験 (50 質問テスト)。
Week 3: RAG パイプライン構築 (LlamaIndex / LangChain)。
Week 4: 評価データセット作成 + 月次モニタリング体制設計。

👉 4 週間で「自分のプロジェクトで幻覚率を継続計測できる体制」が手に入る。 これがハルシネーション対策の最終ゴールである。

🗺 概念マップ

ハルシネーション（生成 AI の虚偽生成）を中心に、原因（学習データの偏り・確率的サンプリング）、検出手法（自己整合性・引用元検証）、軽減策（RAG・温度低下・Constitutional AI）、関連概念（プロンプトインジェクション・有害コンテンツ・AI 安全性）を放射状に配置した。事実誤認と幻覚の境界、ユーザー説明責任との接続も矢印で示している。

ハルシネーションを中心とする概念マップは、 「Intrinsic vs Extrinsic」「Faithfulness vs Factuality」「RAG にもハルシネーション」「評価ベンチマーク (TruthfulQA, FActScore, HaluEval)」の 4 トピックで構成される。 Intrinsic hallucination は入力文書に矛盾、 extrinsic は外部事実と矛盾、 という分類が Ji et al. (2023) で定着し、 RAG (Retrieval-Augmented Generation) でも retriever が誤情報を引いて来れば LLM はそれを忠実に再現してしまうため、 「RAG なら安心」という素朴な期待は成立しない。 評価は LLM-as-judge (GPT-4 で採点) と人手評価のハイブリッドが現状ベスト。

🔗 隣接手法への橋渡し

「ハルシネーション」は単独で完結する手法ではなく、 隣接領域と連携することで真価を発揮する。

• 上流: 入力データの前処理・整備 — 大規模言語モデル ・ Transformer
• 並列: 類似目的を持つ代替手法 — 虚言生成 (Confabulation) ・ 学習バイアス
• 下流: 出力結果の評価・解釈 — RAG による事実根拠付与 ・ ファクトチェック自動化 ・ RLHF

上流の RAG・知識グラフで事実根拠を提供し、 並列の Self-Consistency・Chain-of-Thought で生成過程を検証し、 下流の事実検証 API・人間レビューで最終チェックする。 ハルシネーションは LLM の構造的問題で、 単一手法では解消できず、 生成前 (根拠提供)・生成中 (検証)・生成後 (検証) の多層防御で抑制する。

🌳 手法選択フロー

「ハルシネーション」を実際の課題に当てはめるとき、 状況別に何を選ぶかを 3 段階で判定する。

1. 事実依存の度合いは? 高 (医療・法律・金融) → RAG + 引用必須、 中 (技術文書) → RAG 推奨、 低 (創作・要約) → 通常 LLM で許容
2. 検出戦略は? 出典照合 → RAG の引用検証、 内的整合性 → Self-Consistency (複数生成で多数決)、 外部検証 → 事実検証 API
3. 抑制手法は? プロンプト工学 (「知らないと答えて」)、 RLHF で事実性を強化、 Constitutional AI で自己検証、 温度を下げる

ハルシネーションは LLM の構造的特性で、 ゼロ化は不可能。 「発生確率を下げる × 検出する × ユーザーに警告する」の三段構えで運用し、 医療・法律など high-stakes 領域では人間検証を必須化する。

🎮 確率的パターン補完シミュレータ

なぜ生成モデルは 自信満々に誤る のか。 正体は「事実データベースを引く」のではなく「次に来そうな単語（もっともらしさ） を確率で選ぶ」という仕組みそのものにある。 モデルは知識の空白を 流暢な創作 で埋める。 下のデモで固定した 次トークン分布 から実際に補完を選び、 温度・知識量・RAG・検証がハルシネーションをどう左右するか体感しよう。

⚠ これは 実際の LLM を一切使わない教材デモ です。 各候補の確率はあらかじめ決めた 架空の固定値 で、 softmax と温度の計算だけは実物と同じ数式 $p_i=\dfrac{\exp(\ell_i/T)}{\sum_j \exp(\ell_j/T)}$ で正確に行っています。

🧭 このデモで掴む直感（尤もらしさ ≠ 正しさ）

• 「知っている質問」では正解トークンの確率が突出（分布が鋭い）→ 温度を上げても大抵正解。
• 「あいまいな知識」では近い誤答が競合 → 温度を上げると もっともらしい別の数値 を取り違える。
• 「知識の空白（架空）」では正解が分布に存在しない → 何回引いても すべて流暢な創作。 これが幻覚の核心。 RAG を ON にすると検索が空振り → 「わかりません」と 正直に 答えられる。

⚠️ 深い落とし穴：自信度と正しさの乖離

• 自信度＝確率であって真偽ではない。 誤ったトークンが 40% の確率で選ばれても、 モデルにはそれが誤りだという信号は無い。 だから 自信満々に 誤る。
• 捏造引用（Citation Fabrication）：存在しない論文・判例・URL を、 実在するかのような書式で生成する。 2023 年の NY 弁護士事件（ChatGPT が架空判例を提出）が典型。
• 過信の連鎖：流暢さ・断定口調・それらしい数字が揃うと、 人間側が検証を省く。 幻覚は「モデルの誤り」＋「人間の過信」で被害が拡大する。
• 温度 0 でもゼロにならない：最尤トークンが誤りなら、 決定論的に同じ誤りを返す。 温度は幻覚の 頻度 を下げるが 原因 は消せない。

🚀 発展：幻覚を抑える対策の地図

• RAG（検索拡張生成）：外部知識を文脈に注入し、 分布を「事実」側へ鋭くする。 空振り時は「わからない」を返せる設計が重要。
• 不確実性推定：分布のエントロピー（平坦さ）や複数生成の一致率（self-consistency）を 信頼できない兆候 として表示・棄却する。 デモの「不確実性 高」バッジがこれ。
• 事実性評価：FactScore・TruthfulQA・HHEM 等で回答を原子的事実に分解し照合。 プロンプト設計で「出典を示せ／不明なら不明と言え」も有効。
• 人間の検証（Human-in-the-Loop）：high-stakes 領域では最終確認を必須化。 仕組みは テキスト生成・大規模言語モデルの確率的性質を前提に多層防御を組む。

🧭 解説の深化：AI の数値を「異常値検出」の目で疑う — 三層サニティチェック

本ページの他セクションは fact-check・RAG・grounding という 仕組み側 の対策を扱った。 ここでは視点を反転し、 受け手（分析者）側 が原典を開く前に数十秒でできる一次スクリーニングを扱う。 使う道具は LLM 特有の技術ではなく、 データ分析の基本 3 点セット — 分布（レンジ）・内訳の整合性・時系列の変化率 — である。 幻覚とは「実在しない値の創作」だから、 実在する値の統計的性質 と突き合わせれば多くは機械的に弾ける。 以下の数値はすべて SSDSE-B-2026 から Python で算出した実測値（架空の例は明記する）。

🎨 直感：実測の「あり得る範囲」を先に固めてから AI の答えを読む

SSDSE-B-2026 の 2023 年・総人口（A1101）の実測分布は次のとおり。 最小 537,000 人（鳥取県）、 第 1 四分位 1,034,000 人、 中央値 1,549,000 人、 第 3 四分位 2,636,500 人、 最大 14,086,000 人（東京都）、 47 都道府県計 124,353,000 人。 この 1 行を手元に置くだけで、 AI 回答への「門番」が 3 段構えで作れる。

これは統計実務で昔から行われてきた データエディティング（range check / consistency check）そのもの。 外れ値検出の技術が、 そのまま LLM 時代の「幻覚検出器」として再利用できる。 なお 2022→2023 年の実測では前年比プラスは 東京都 (+0.34%) の 1 県のみ、 最大の減少は秋田県の −1.72%。 「◯◯県で人口が急増」という記述はそれ自体が要検証シグナルになる。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19

# 三層サニティチェック（SSDSE-B-2026 実データ）
import pandas as pd
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
d = df[df['SSDSE-B-2026'] == 2023]

# ① レンジチェック: 総人口 A1101 の実測レンジ
s = d.set_index('Prefecture')['A1101']
print(f'range: {s.min():,}({s.idxmin()}) - {s.max():,}({s.idxmax()})')
claim = 18_000_000                     # 架空・幻覚例の主張値
print('claim 18,000,000 in range?', s.min() <= claim <= s.max())

# ② 整合性チェック: 男 A110101 + 女 A110102 = 総人口?
gap = d['A110101'] + d['A110102'] - d['A1101']
print('男+女=総人口 が厳密一致:', (gap == 0).sum(), '/ 47 県')

# ③ 時系列チェック: 東京都の前年比の実測レンジ
t = df[df['Prefecture'] == '東京都'].sort_values('SSDSE-B-2026')
yoy = t['A1101'].pct_change().dropna() * 100
print(f'東京都 前年比: {yoy.min():+.3f}% - {yoy.max():+.3f}%')

⚠️ 落とし穴（重要）：幻覚検出そのものが誤る 4 パターン

🚀 発展：一次スクリーニングの先にある検出研究

• Semantic Entropy（Farquhar et al., Nature, 2024）：同じ質問を複数回生成し、 回答を「意味」でクラスタリングしてからエントロピーを計算。 表現ゆれ（1,400 万人／約 14 百万人）を同一視しつつ、 意味がばらつく＝知識がない兆候を検出する。 本ページの self-consistency（表層の多数決）の意味論版。
• キャリブレーション：モデルの自信度と実際の正答率のずれ（Expected Calibration Error）を測る。 「自信 90% と言った回答の正答率が 60%」なら過信モデルで、 自信度表示をそのままユーザーに見せてはいけない。
• データ辞書付き RAG：値だけでなく変数コード（A1101）・単位（人）・年次（2023）・丸め規則（千人単位）をメタデータとして文脈に注入する。 本セクションで見た「年次違い」「丸め」由来の誤判定・幻覚を構造的に減らせる、 SSDSE のような公的統計と相性のよい設計。
• 統計実務との接続：ここで組んだ三層チェックは、 公的統計の審査で使われるデータエディティング（範囲審査・整合性審査・時系列審査）と同型。 「AI 対策」として新しく学ぶのではなく、 統計調査 100 年の品質管理技術を LLM 出力に向け直したものと捉えると見通しがよい。

🔗 関連ページ

レンジ・四分位の考え方は「外れ値」「四分位数」、 変化率チェックは「時系列データ」で復習できる。 一次スクリーニングを通過した後の最終検証（原典照合）は「RAG」「AI の信頼性」へ。