ハルシネーションとは？AIがもっともらしい間違いを言う理由と見分け方・減らし方

ChatGPTやClaude、Geminiを使っていると、「ハルシネーション」という言葉を目にすることがあります。AIが自信たっぷりに答えたのに、調べてみたら間違っていた、という経験がある人もいるかもしれません。

当記事では、ハルシネーションとは何か、なぜ起きるのか、どう見分けてどう減らせばよいのかを、AI初心者向けにわかりやすく解説します。

ハルシネーションとは？AIがもっともらしい間違いを自信満々に言うこと

ハルシネーション（hallucination）は、英語で「幻覚」という意味です。AIの世界では、AIが、もっともらしく聞こえるけれど事実ではない内容を、自信があるように答えてしまう現象を指します。

OpenAIは研究の解説の中で、ハルシネーションを「言語モデルが生成する、もっともらしく聞こえるが正しくない発言」と説明しています。Googleも、AIモデルが生み出す不正確な結果や誤解を招く結果のことだと説明しています。

たとえるなら、テストで答えが分からないのに、白紙で出すのがいやで、それらしい答えを堂々と書いてしまう生徒のようなものです。本人（AI）にだますつもりはありませんが、文章がなめらかなぶん、読む側は本当のことだと思い込みやすいのがやっかいな点です。

※たとえは編集部によるもの

ハルシネーションはなぜ起きる？「次の言葉の予測」と「当てずっぽうが得する採点」

OpenAIが2025年9月に公開した研究の解説では、ハルシネーションが起きる理由として、大きく2つが挙げられています。

理由1：AIは「次に来そうな言葉」を予測して文章を作っている

ChatGPTなどのもとになっているAI（LLM）は、大量の文章を読んで「次に来る言葉」を予測する練習をして作られます。このとき、1つ1つの文章に「正しい」「間違い」の印は付いていません。

スペルや文法のように決まったパターンがあるものは、たくさん読むうちにほとんど間違えなくなります。ところが、ある人の誕生日のように、めったに出てこない、パターンから推測できない事実は、予測だけでは当てられません。そうした穴を、それらしい言葉で埋めてしまうことがハルシネーションにつながる、というのがOpenAIの説明です。

理由2：「分かりません」より当てずっぽうのほうが点数が高くなりやすい

もう1つの理由は、AIの成績のつけ方です。多くの評価は「正解した割合」だけで点数をつけるため、分からないときに「分かりません」と答えると0点、適当に答えれば運よく当たるかもしれない、という状態になっています。

OpenAIは、誕生日を聞かれて当てずっぽうで答えると365分の1の確率で正解する、という例を挙げています。こうした採点を何千問も重ねると、正直に「分かりません」と言うAIより、推測で答えるAIのほうが成績がよく見えてしまうのです。

OpenAIが示した比較では、「分かりません」と答える割合が高いモデルは間違いの割合が26%だった一方、ほとんど答えを控えない古いモデルは、正解率はわずかに高いものの、間違いの割合が75%でした。

	gpt-5-thinking-mini	OpenAI o4-mini
答えを控えた割合	52%	1%
正解した割合	22%	24%
間違えた割合	26%	75%

※OpenAI「言語モデルでハルシネーションがおきる理由」（2025年9月5日）に掲載のSimpleQA評価の結果より編集部が作成

Googleは、学習に使ったデータが足りない・かたよっていることや、現実の事実にもとづいて答える仕組み（グラウンディング）が足りないことも、原因として挙げています。

>>OpenAI公式「言語モデルでハルシネーションがおきる理由」

ハルシネーションの具体例：存在しない本・URL・判例など

OpenAIの公式ヘルプでは、ChatGPTのハルシネーションの例として、次のようなものが挙げられています。

• 間違った定義・日付・事実
• でっちあげた引用・研究・出典や、存在しない情報源への言及
• あいまいな質問や複雑な質問への、自信がありすぎる回答

身近な場面に置きかえると、たとえば次のような形で出てくることがあります。

よくある形	どんなことが起きるか
存在しない本・論文	実在の著者名に、それらしいけれど存在しない題名を組み合わせて紹介する
存在しないURL	もっともらしいアドレスを示すが、開くとページがない（Googleも存在しないWebページへのリンクを作ることがあると説明）
存在しない判例・法律の条文	調べものや書類づくりで、実在しない裁判の例や条文番号をそれらしく書く
人物のプロフィール	生年月日や経歴、書いた論文名などを間違える
要約の付け足し	渡した文章の要約に、元の文章にはない内容が混ざる（Googleが例として紹介）

※OpenAIヘルプ・Google Cloudの説明をもとに、よくある形を編集部が例示（特定の事例ではありません）

OpenAIの研究の解説では、論文の著者本人の博士論文の題名をチャットAIに聞いたところ、自信をもって3つの違う答えが返ってきたものの、どれも正しくなかったという例も紹介されています。「細かい事実」「めったに話題にならない情報」ほど、ハルシネーションが起きやすいと考えておきましょう。

ハルシネーションの見分け方・減らし方は？出典・検索・確認の3つ

見分け方：自信のある言い方は「正しさの証拠」ではない

OpenAIの公式ヘルプは、AIは間違った答えでも強い確信をもって言うことがあると注意しています。言い方の自信で正しさを判断せず、次のような答えは特に確かめるようにしましょう。

• 数字・日付・固有名詞（人名・会社名・本の題名）が入っている
• 出典やURLが付いている（実際に開いて中身を確かめる）
• お金・健康・法律・仕事の判断に使う
• 最近の出来事について答えている（AIが学習した時点より後のことは、検索を使わない限り知らない）

減らし方：AIへの頼み方でできること

Anthropicは、Claudeのハルシネーションを減らす方法を公式ドキュメントで紹介しています。OpenAIのヘルプの助言とあわせると、ふだんの使い方でできることは次の通りです。

やること	頼み方の例
「分からない」と言ってよいと伝える	「確かでないことは、分からないと答えてください」
出典を求める	「それぞれの主張に、根拠になった資料と該当部分を付けてください」
検索を使わせる	ChatGPTの検索やdeep researchなど、Webを調べて出典付きで答える機能を使う
資料を渡して、その中だけで答えさせる	「この資料に書かれていることだけで答えてください」
何度か聞いて比べる	同じ質問を何回かして、答えが毎回違うなら疑う
自分で確かめる	リンク先を開く、公式サイトや一次情報で確認する

※Anthropic公式ドキュメント「Reduce hallucinations」、OpenAIヘルプ「ChatGPTは真実を伝えますか？」をもとに編集部が整理

資料を渡したり検索させたりして、その内容にもとづいて答えさせるやり方は、RAG（検索拡張生成）と呼ばれる仕組みと同じ考え方です。

ただしAnthropicも、こうした工夫でハルシネーションは大きく減らせるものの、完全になくなるわけではないとして、重要な情報は必ず確かめるよう呼びかけています。

>>Anthropic公式「Reduce hallucinations」（英語）

>>OpenAIヘルプ「ChatGPT は真実を伝えますか？」

ハルシネーションのよくある誤解

OpenAIは研究の解説の中で、ハルシネーションについてのよくある思い込みを整理しています。初心者がつまずきやすいものを中心にまとめると、次の通りです。

よくある誤解	実際は
AIはわざと嘘をついている	だますつもりではなく、予測の仕組みと採点のされ方から、それらしい答えを作ってしまう
性能が上がればハルシネーションはゼロになる	モデルの大きさや検索・推論の力にかかわらず、正解率は100%にならない（世の中には答えようのない質問もあるため）
ハルシネーションは防ぎようがない	分からないときに答えを控えることはでき、減らすことはできる
大きくて賢いAIでないと防げない	小さいモデルのほうが、自分の知らないことを自覚しやすい場合もある

※2〜4行目はOpenAI「言語モデルでハルシネーションがおきる理由」の結論をもとに編集部が整理。1行目は編集部による補足

考える時間をとってから答える推論モデルについても、OpenAIは、GPT-5では特に推論でハルシネーションが大きく減ったとしつつ、それでも起きると説明しています。どんなに新しいAIでも、最後に確かめるのは人間の役目と考えておくと安心です。

ハルシネーションとあわせて知りたい関連用語

用語	ハルシネーションとの関係
RAG（検索拡張生成）	AIが答える前に資料を探して読む仕組み。ハルシネーションを減らす代表的な方法
LLM（大規模言語モデル）	ChatGPTなどのもとになるAI。「次の言葉の予測」で文章を作るため、ハルシネーションが起きる
推論モデル	答える前に考える時間をとるAI。ハルシネーションは減るが、なくならない
コンテキストウィンドウ	AIが一度に読める量。長い資料を渡すときは、引用させながら答えさせると確かめやすい

▶ 関連記事：RAGとは？AIが資料を調べてから答える仕組みと身近な例、ハルシネーションとの関係

▶ 関連記事：LLMとは？大規模言語モデルの仕組みとChatGPTとの違い、得意・苦手を解説

▶ 関連記事：推論モデルとは？考えてから答えるAIの仕組みと普通のモデルとの違い、使い分け

▶ 関連記事：コンテキストウィンドウとは？AIが一度に覚えられる量と会話を忘れる理由

【まとめ】ハルシネーションは「起きる前提」で付き合おう

ハルシネーションとは、AIがもっともらしい間違いを自信満々に答えてしまう現象です。次の言葉を予測して文章を作る仕組みと、当てずっぽうでも点数が取れてしまう採点のされ方が、主な原因とされています。出典を求める、検索や資料を使わせる、「分からない」と言ってよいと伝える、そして大事なことは自分で確かめる。この3〜4つの習慣で、AIをぐっと安心して使えるようになります。

▶ 関連記事：AI用語集！LLM・トークン・AIエージェントなど、よく使う言葉の意味をひとことで