🔰 初心者OK生成AIの基礎論文・公的資料ベース

ハルシネーションとは【2026】生成AIがもっともらしいウソをつく意味・原因・実際の例と、防ぐプロンプト・RAG・確認の手順

ChatGPTやClaude、Geminiに質問すると、すらすらと自信ありげに答えてくれます。ところが、その中に存在しない本の名前や、まちがった日付・数字が平気な顔で混ざることがあります。これがハルシネーションです。この記事では、OpenAIの研究者による論文「Why Language Models Hallucinate」と、文部科学省・総務省・経済産業省の資料、Anthropic・Googleの公式情報をもとに、意味、なぜ起きるのか、実際の例、そして防ぐプロンプトと確認の手順を順に整理します。

🔬
調査・編集:AIエージェント研究所 編集部
運営=広告運用・生成AIエージェント導入支援の現役コンサル。このサイト自体も、AIエージェントと一緒に作り・公開・運用しています。

本記事は、研究論文・公的機関の公表資料・各AIサービスの公式情報(基準日:2026年11月時点)を要約した一般的な解説です。AIの性能や各サービスの機能は変わることがあるため、使う前に公式サイトで最新の内容をご確認ください。→ 運営者・編集方針について

公開:2026年11月5日/最終更新:2026年11月5日
この記事の結論(要点まとめ)
  • ハルシネーションとは、生成AIがもっともらしいけれど事実とちがう内容を、自信ありげに出力すること。英語の hallucination(幻覚)から来た呼び名
  • 原因は、AIが「正しいか」ではなく「もっともらしい続き」で文章を作ることと、「わからない」より「推測で答える」ほうが点数が上がる評価のしかたにある(OpenAIの論文)
  • 国のガイドラインも、誤った出力を完全に防ぐことは極めて難しいとしている。新しいモデルでもゼロにはならない
  • 対策は①「わからない」と言ってよいと伝える ②資料を渡して、その中だけで答えさせる ③出典を示させ、自分で開いて確かめる。大事な情報は最後に人が確認する
アイ

アイ

博士、AIがもっともらしいウソをつくって聞いたんですけど、本当ですか?
博士

博士

それがハルシネーションじゃ。AIが事実とちがう内容を、本当のことのように出力してしまう現象なんじゃ。
アイ

アイ

新しいAIなら、もう起きないんじゃないですか?
博士

博士

新しいモデルでも起きるんじゃ。この記事では原因と実際の例、防ぐプロンプトと確かめる手順を見ていくぞ。

ハルシネーションとは?意味と語源

ハルシネーション(hallucination)は、英語で「幻覚」という意味の言葉です。生成AIの分野では、AIが事実とちがう内容を、まるで本当のことのように出力してしまう現象を指します。

OpenAIの研究者らの論文は、ハルシネーションを「自信過剰で、もっともらしい誤り(overconfident, plausible falsehoods)」と表現し、人間の知覚としての幻覚とは根本的にちがうものだと断っています。つまり、AIが何かを「見まちがえている」のではなく、それらしい文章を作るしくみそのものから生まれる誤りだということです。

ポイントは「もっともらしい」ところです。明らかにおかしな答えなら誰でも気づけますが、ハルシネーションは文の形も口調も自然なので、知らない分野ほど見抜きにくいのが厄介な点です。

よく起きる場面どんな誤りになりやすいか
文献・URLの紹介実在しない本・論文・Webページを、タイトルや著者名つきで挙げる
人物・会社の経歴生年月日・学歴・設立年などを、それらしい値で埋める
数字・日付統計の値、料金、法律の施行日などをまちがえる
数える・計算する文字数や個数、簡単な計算をまちがえる
新しい出来事学習したあとに起きたことを、古い情報や推測で答える

生成AIがそもそもどうやって文章を作っているかは、生成AIの仕組みで図を使って解説しています。あわせて読むと、この先の「原因」の話がぐっとわかりやすくなります。

ハルシネーションの例:論文で示された実際の誤答

OpenAIの論文(2025年9月公開)は、冒頭で実際に試した例を載せています。どれも「知らないなら答えなくていい」と頼んだのに、答えてしまった例です。

試した質問起きたこと(論文の記載)
論文の著者の1人の誕生日を「知っていれば、DD-MMの形で答えて」オープンソースの大規模モデル(DeepSeek-V3)が、3回の試行で「03-07」「15-06」「01-01」と、毎回ちがう誤った日付を答えた(正しい誕生日は秋)
同じ著者の博士論文のタイトルは?ChatGPT(GPT-4o)・DeepSeek・Llamaの3つが、それぞれちがうタイトルと年・大学を答え、どれも正しくなかった
「DEEPSEEK」の中にDはいくつ?(数字だけで答えて)正解は1つだが、DeepSeek-V3は10回の試行で「2」か「3」と答えた。Meta AIやClaude 3.7 Sonnetも同じような結果で、「6」「7」と答えることもあった

論文によると、これらは2025年5月に、Web検索を使わない状態で試したものです。1つめと2つめは「知識がないのに、それらしい値で埋めた」例、3つめは「目の前の文字を数えるという、質問の中だけで確かめられることをまちがえた」例です。論文は、前者のように事実や現実と食いちがう誤りと、後者のように質問の内容と食いちがう誤りを区別して説明しています。

助手アイ
助手アイ毎回ちがう日付を答えるなんて……。聞くたびに答えが変わるなら、怪しいって気づけそうですね
博士
博士いいところに気づいたのう。同じ質問を何度かして答えがぶれるのは、ハルシネーションを見つける手がかりの1つじゃ。あとで紹介する対策にも入っておるぞ

なぜ起きる?ハルシネーションの2つの原因

OpenAIの論文は、ハルシネーションは「なぞの現象」ではなく、AIの作り方と評価のしかたから自然に生まれると説明しています。大きく分けると原因は2つです。

原因1:AIは「正しさ」ではなく「もっともらしさ」で文章を作る

生成AIは、最初に大量の文章を読んで「言葉のつながり方」を学びます(事前学習)。論文は、たとえ学習データに誤りがまったく無かったとしても、この学び方では誤りが生まれると示しています。

とくに起きやすいのが、パターンから推測できない事実です。たとえば誕生日は、名前から規則的に導けません。論文は、ある種類の事実のうち学習データに1回しか出てこないものの割合が、ハルシネーションの起きやすさの目安になると説明し、「誕生日の情報の20%が学習データに1回しか出てこないなら、元のモデルは少なくとも20%の誕生日でハルシネーションを起こすと見込まれる」という例を挙げています。逆に、アインシュタインの誕生日のように何度も出てくる事実は、まちがえにくいとしています。

原因2:「わからない」より「推測」が得をする評価のしかた

もう1つは、AIの性能を測るテスト(ベンチマーク)の採点方法です。多くのテストは正解なら1点、不正解でも「わからない」でも0点という採点です。論文は次のようなたとえで説明しています。

モデルAモデルB
自信がないとき「わからない」と正直に答えるとりあえず推測で答える
ハルシネーション起こさない起こす
「正解1点・それ以外0点」のテストでは点数が低くなる点数が高くなる

マークシートの試験で、わからない問題も空欄にせず塗っておくほうが点が取れるのと同じです。論文は、こうしたテストが「わからない」と言うことを罰してしまっていることが、改良を重ねてもハルシネーションが残る理由だと指摘し、テストの採点そのものを見直すべきだと提案しています。

助手アイ
助手アイAIもテストで「とりあえず埋める」作戦を覚えちゃったんですね
博士
博士そういうことじゃ。だから使う側は「わからなければ、わからないと言ってよい」とはっきり伝えるのが効く。次の章からの対策は、この2つの原因に1つずつ手を打つものなんじゃよ

資料を渡すと減る:RAG(検索拡張生成)のしくみ

原因1への手当てとしてよく使われるのがRAG(ラグ・検索拡張生成)です。文部科学省のガイドラインは、RAGを特定のデータベースを検索し、その結果をもとに回答を作るしくみとして紹介し、誤った回答を抑える技術の例に挙げています。総務省・経済産業省の「AI事業者ガイドライン(第1.2版)」も、RAGの活用などでハルシネーションの抑制や、出力の根拠の透明性向上が期待されているとしています。

① 記憶だけで答える 質問 入力 AI 学習した記憶 推測 答え 誤りが混ざる ② 資料を渡す(RAG) 質問 検索 資料・データ 根拠 入力 AI 引用 答え+出典 確かめやすい
上は、AIが学習した記憶だけで答える場合です。知らないことも「もっともらしい続き」で埋めるため、誤りが混ざることがあります。下のRAGでは、質問をもとに資料を検索し、見つかった根拠をAIに渡してから答えさせるので、答えに出典が付き、人があとから確かめやすくなります。

ただし、RAGも万能ではありません。OpenAIの論文は、検索やRAGはハルシネーションを減らすが、検索で確かな答えが見つからないときには、やはり推測が起きうると指摘しています。また、検索で拾ってきた資料そのものがまちがっていれば、答えもまちがいます。「出典が付いている=正しい」ではないので、リンクを開いて中身を確かめる手間は残ります。

個人で使うときに一番手軽なRAGは、信頼できる資料(公式サイトの文章・社内の規程・PDFなど)を自分で貼り付けて、「この資料だけを使って答えて」と頼むことです。資料を入れて引用つきで答えさせる専用の道具としては、GoogleのNotebookLM(Gemini Notebook)もあります。次の章のプロンプトと組み合わせると効果が上がります。

ハルシネーションを防ぐプロンプト

Claudeを提供するAnthropicは、公式ドキュメント「Reduce hallucinations(ハルシネーションを減らす)」で具体的な方法を紹介しています。ChatGPTやGeminiでも同じ考え方で使えるものを、日本語の例文つきでまとめました。

方法プロンプトの例効くしくみ
「わからない」と言ってよいと伝える「確かな情報がない場合や、資料に書かれていない場合は、推測せずに『わかりません』と答えてください」原因2の「とりあえず答える」くせを抑える。公式ドキュメントは、これで誤った情報を大きく減らせるとしている
渡した資料だけを使わせる「以下の資料に書かれている内容だけを使って答えてください。資料にないことは、あなたの一般知識で補わないでください」記憶ではなく資料から答えさせる(手作りのRAG)
先に引用を抜き出させる「まず資料から、質問に関係する部分を一字一句そのまま引用してください。そのあと、引用だけをもとに答えてください」長い資料ほど有効。答えを本文の言葉にしばりつける
主張ごとに根拠を示させる「書いた内容ごとに、根拠となる資料の引用を示してください。引用が見つからない内容は削除し、削除した場所に[]を残してください」根拠のない文を自分で取り下げさせる。人の確認もしやすくなる
何度か聞いて比べる同じ質問を新しいチャットで2〜3回して、答えを見比べる答えがぶれるところは、ハルシネーションの疑いが強い
答えを検証させる「いまの回答の中で、事実の確認が必要な部分を挙げて、それぞれ根拠を示してください」出力をもう一度AIに点検させ、食いちがいを見つける

公式ドキュメント自身が、これらの方法でハルシネーションは大きく減らせるが、完全になくなるわけではないと注意し、重要な判断に使う情報は必ず確かめるよう求めています。プロンプトはあくまで「起きにくくする」道具です。

プロンプト全体の組み立て方(役割・目的・条件・出力の形の伝え方)はプロンプトの書き方・コツで詳しく解説しています。上の一文を、ふだんのプロンプトの最後に足すだけでも効果があります。

助手アイ
助手アイ「わからないって言っていいよ」の一言を足すだけなら、今日からすぐできますね!
博士
博士うむ。よく使う人は、ChatGPTのカスタム指示のような毎回自動で付く設定欄に入れておくと楽じゃぞ。ただし、それで安心しきらずに、大事な数字は自分の目で確かめることじゃ

出てきた答えを確かめる手順

どんなに工夫しても、ハルシネーションはゼロになりません。文部科学省のガイドラインも、モデルの性質上、誤った出力を完全に防ぐことは極めて難しいとし、出力をそのまま使うのではなく採用するかどうかを自分で判断することを求めています。答えを受け取ったら、次の順で確かめましょう。

  1. 確かめるべき部分に印を付ける:固有名詞・数字・日付・引用・URL・「〜と定められている」などの言い切り。ここがハルシネーションの起きやすい場所
  2. 出典を開く:出典が示されたら、リンク先を実際に開き、その内容が本当に書かれているか読む。Geminiアプリでは回答の[ソース]ボタンから関連リンクを表示できる(ボタンが出ない回答は、リンクが示されなかったという意味)
  3. 一次情報で照らし合わせる:料金はサービスの公式サイト、法律は条文や省庁の資料、統計は国の統計、論文は原文で確認する
  4. 答えがぶれないか見る:同じ質問を別のチャットでしてみて、数字や名前が変わるなら使わない
  5. 影響の大きい用途は専門家に:お金・契約・法律・健康など、まちがえたときの影響が大きいものは、AIの答えを下調べにとどめ、最終的な判断は専門家や公的な窓口で確かめる

たとえば健康診断の結果をAIに読み解いてもらう場合も、AIの説明をうのみにせず、基準値の意味は公的な資料で、気になる結果は医療機関で確かめるのが安全です。結果票の読み方は、姉妹サイト健康研究所の健康診断の結果の見方|基準値と判定区分の読み方で整理されています。

博士

博士

どんなに工夫してもゼロにはならん。出てきた答えは最後に人が確かめるんじゃ。

仕事で使うときの注意点

個人の調べものなら「あとで気づいて直す」で済んでも、仕事では誤りがそのまま社外に出ると、信用や取引に関わります。総務省・経済産業省の「AI事業者ガイドライン(第1.2版)」も、AIを使う事業者に対し、AIの出力について精度やリスクの程度を理解したうえで使うことを求めています。

  • 社外に出す前に人が確認する:提案書・メール・記事・報告書など、外に出る文章はAIが書いた部分ほど念入りに確認する。確認する人と手順を決めておく
  • 数字と固有名詞は元データから入れる:AIに数字を「思い出させる」のではなく、元の資料の数字を渡して文章だけ整えてもらう
  • AIエージェントに任せるときは、取り消せない操作を人が承認:AIが自分で調べて作業を進めるエージェントは、誤った前提のまま次の作業に進むことがある。送信・削除・公開などは人が確かめてから実行する
  • 情報の入れ方にも注意:資料を渡すのは有効な対策だが、顧客の個人情報や社外秘の情報を入れてよいかは別の問題。会社のルールを先に確認する

資料をAIに渡すときに入れてはいけない情報と、学習に使わせない設定は生成AIの情報漏洩対策、AIで作った文章や画像を社外に出すときの権利の確認は生成AIの著作権で解説しています。AIで書いた文章の誤字やおかしな表現を見直す道具を探しているなら、AI文章校正ツールの比較も参考になります(校正ツールは事実の正しさまでは確かめないので、ここで紹介した確認の手順と分けて使います)。AIエージェントに作業を任せる前に決めておきたい権限や承認の設計はAIエージェント本番運用の安全設計にまとめています。

助手アイ
助手アイAIに「調べさせる」より、正しい資料を「渡して整えさせる」ほうが安心なんですね
博士
博士その通り。事実は人が用意し、AIには言葉を任せる。この分担にすると、ハルシネーションの入りこむすきまがぐっと小さくなるんじゃ

よくある質問

ハルシネーションは、新しいAIなら起きない?

新しいモデルでも起きます。OpenAIの研究者による論文は、ハルシネーションは最新のモデルにもまだ残っていると書いています。文部科学省のガイドラインも、モデルの性質上、誤った出力を完全に防ぐことは極めて難しいとしています。減らすことはできても、ゼロにはならない前提で使うのが安全です。

Web検索やRAGを使えば、ハルシネーションはなくなる?

減らす効果は期待できますが、なくなりはしません。総務省・経済産業省のAI事業者ガイドラインは、RAG(検索拡張生成)でハルシネーションの抑制が期待されるとしています。一方でOpenAIの論文は、検索やRAGは万能ではなく、検索で確かな答えが見つからないときにはやはり推測が起きうると指摘しています。出典のリンクを開いて、自分で中身を確かめることが大切です。

ハルシネーションを防ぐプロンプトは?

Anthropicの公式ドキュメントでは、「わからない場合はわからないと答えて」と許可する、渡した資料だけを使うよう指示する、先に資料から一字一句の引用を抜き出させる、主張ごとに根拠の引用を示させ見つからなければ取り下げさせる、といった方法が紹介されています。ただし、これらも完全には防げないため、大事な情報は最後に人が確認します。

まとめ|「わからない」と言わせ、資料を渡し、最後は人が確かめる

ハルシネーションは、生成AIが「正しさ」ではなく「もっともらしさ」で文章を作ることと、推測で答えたほうが点数が上がる評価のしかたから生まれる、もっともらしい誤りです。新しいモデルでもゼロにはならず、国のガイドラインも完全に防ぐのは極めて難しいとしています。

だからこそ、使う側の工夫が効きます。「わからなければ、わからないと言って」と伝える、信頼できる資料を渡してその中だけで答えさせる、出典を示させて自分で開いて確かめる。この3つを習慣にすれば、AIの便利さを保ったまま、誤りに振り回されにくくなります。ChatGPT・Claude・Geminiそれぞれの特徴はChatGPT・Claude・Geminiモデル比較、生成AIの全体像は生成AIとは?から読むとつながりがわかりやすくなります。

※本記事は、研究論文・文部科学省・総務省・経済産業省の公表資料と、各AIサービスの公式情報を要約・整理した一般的な情報です(基準日:2026年11月時点)。論文で示された誤答の例は、論文に記載された時点・条件での結果であり、現在の各サービスが同じ答えを返すことを示すものではありません。AIの機能や仕様は変更されることがあるため、ご利用前に公式サイトで最新の内容をご確認ください。お金・法律・健康などに関わる判断は、専門家にご相談ください。

出典・参考資料

  1. Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang「Why Language Models Hallucinate」(arXiv:2509.04664・2025年9月4日。著者はOpenAI・Georgia Tech。OpenAI掲載のPDF)
  2. 文部科学省「初等中等教育段階における生成AIの利活用に関するガイドライン(Ver.2.0)」PDF(令和6年12月26日)
  3. 総務省「AI事業者ガイドライン」(第1.2版 本編 PDF・令和8年3月31日 総務省・経済産業省)
  4. Anthropic「Reduce hallucinations」(Claude Docs)
  5. OpenAI Help Center「ChatGPT Custom Instructions」
  6. Google「Gemini アプリの関連ソースを表示する」(Gemini アプリ ヘルプ)

次の一歩

姉妹サイトの記事で、次に気になりやすいことを調べられます。