AIはなぜもっともらしい嘘をつくのか

ChatGPT、Claude、Gemini などの生成AIを使っていると、時々「あれ、これ本当かな？」と思うような答えが返ってくることがあります。たとえば、存在しない人物の経歴を述べたり、正確でない引用を出したり、詳しい数字を自信たっぷりに言ったり。こうした現象を「ハルシネーション」（幻覚）と呼びます。

これはAIが「壊れている」わけではなく、仕組みの上で起こりうるものだと説明されています。この記事では、なぜそうなるのかをたとえ話でつかんだあと、どんな質問で間違えやすいのか、間違いを減らす質問文はどう書くのか、出てきた答えをどう確かめるのかまでを、中高生のみなさんが今日から使える形でまとめます。

AIは「検索」ではなく「続きを書く」ことで文章を作る

AIが質問されたとき、「どこかに保存された情報を探してきて、整えて返している」と想像するかもしれません。でも、生成AIの基本的な動きはそれとは違います。

たとえ話で考えてみます。ものすごくたくさんの本を読んだ人が、書名も出典も覚えていないまま、「こういう話の流れなら、次はこう書くものだ」という感覚だけで作文している、というイメージです。「日本の首都は」と聞かれれば「東京」と続けるのが自然だと分かります。同じ要領で、1語ずつ「この流れで自然な次の言葉」を選んで、文章をつないでいきます。

図にすると、こういう違いです。

この図でいちばん大事なのは、いちばん下の2行です。正しい答えを書くときも、事実でない答えを書くときも、文章を作る手順は同じです。たとえるなら、クラスで「分からないけど、場の流れに合わせてそれっぽく話せてしまう人」が、堂々と話しているのと似ています。聞いている側は、話し方だけでは本当か作り話かを区別できません。

「正しい文章」と「もっともらしい文章」は見分けがつかない

前の節の話から、次のことが言えます。AIの文章は、内容が事実でなくても、正しい内容とまったく同じ滑らかな日本語で出てきます。文章が下手だったり、しどろもどろだったりすれば「怪しいぞ」と気づけますが、AIの誤りは堂々とした文章でやってきます。文章の自然さは、内容が正しい証拠にはなりません。

もうひとつ、人間との違いがあります。人間は、知らないことを聞かれたら「知りません」と言えます。AIは質問を受けると、何かしら続きを書こうとする性質があります。そのため、実際には情報が足りない場面でも、「知らない」と立ち止まらずに、それらしい人物の経歴や、聞いたことのない法律の条文、実在しない本のタイトルを書いてしまうことがあります。「分かりません」と答えることもありますが、それに頼り切るのは危険です。

たとえば、学校の調べ学習で「ある地元の企業の創業のいきさつ」をAIに聞いたとします。その企業がほとんど情報の出ていない会社だった場合でも、創業者の名前、創業の年、きっかけのエピソードまでそろった、読み物のような答えが返ってくることがあります。細部まで具体的なので本当らしく見えますが、具体的であることと、事実であることは別の話です。

この特性は、ネット上のフェイク情報の見分け方とも通じています。AI時代のフェイク情報の見分け方もあわせて読むと、「見た目のもっともらしさに引っ張られない」感覚がつかみやすくなります。

間違いやすい質問、比較的間違いにくい質問

ハルシネーションは、どんな質問でも同じように起きるわけではありません。「細かい事実を、ひとつだけ正確に答えさせる」質問ほど危うく、「渡した文章を加工する」質問ほど安定しやすい、と覚えておくと使い分けができます。2026年時点での一般的な傾向として、目安を表にまとめます。

「比較的起きにくい」と書いた行でも、ゼロになるわけではありません。たとえば要約でも、元の文章にない内容がこっそり混ざることがあります。表は「どこから疑うか」の優先順位として使ってください。

最新の出来事については、AIが知っている範囲に区切りがあることが関わります。詳しい確かめ方はAIは最新のことを知っている？「いつ時点か」の確かめ方にまとめています。

間違いを減らす質問文の実物

質問の書き方を少し工夫するだけで、もっともらしい作り話を出しにくくできることがあります。完全に防げるわけではありませんが、AIに「分からないと言っていい」と許可を出し、「どこまでが確かな話か」を分けて書かせるのがコツです。そのままコピーして使える形で紹介します。

例1　分からないときに作らせない

次の質問に答えてください。正確に分からない場合や、情報が見当たらない場合は、推測で埋めずに「分かりません」と答えてください。
質問：（ここに質問を書く）

例2　推測と事実を分けさせる

答えを書くとき、確かだと考えられる部分と、推測の部分を分けてください。推測の部分には、文の頭に「（推測）」と付けてください。

例3　数字や固有名詞に印を付けさせる

回答に出てきた人名・年・数字・書名・法律名を、最後に一覧にしてください。それぞれについて、自信の度合い（高い・中くらい・低い）も添えてください。

例4　自分で貼った資料の範囲だけで答えさせる

以下の文章だけを根拠にして答えてください。文章に書かれていないことは「文章には書かれていません」と答えてください。
文章：（ここに資料を貼る）

例4は、特に役に立ちます。AIに「頭の中の記憶」で答えさせるのではなく、手元の資料の範囲に答えを閉じ込めるので、作り話が入り込む余地が小さくなります。教科書の一節やニュース記事を貼って「この中で分かることだけ」を聞く、という使い方です。

ただし、自信の度合いを答えさせても、その自己申告が正しいとは限りません。「自信：高い」と書いてあっても間違っていることはあります。これらの指示は「疑うべき場所に目印を付けてもらう道具」だと考えて、最後の確認は自分で行いましょう。

出てきた答えを確かめる手順

質問文を工夫しても、確認はやはり必要です。次の順番で見ていくと、手間をかけすぎずに済みます。

1. 確かめる場所をしぼる。 答えの中から、人名・年・数字・書名・法律名・URLに印をつけます。文章全体を疑うより、ここだけを調べるほうが現実的です。
2. 別の方法で検索する。 AIの答えにある固有名詞を、そのまま検索サイトに入れます。ヒットしなければ、実在しない可能性があります。
3. 一次情報を見る。 一次情報とは、その内容を発表している元の場所のことです。学校や大学の情報ならその学校のサイト、法律や制度なら官庁のページ、本なら出版社や図書館の検索、といった具合です。
4. 2つ以上で一致するか見る。 1か所だけに書かれている内容は、まだ確定扱いにしません。
5. 確認できなかった部分を扱い分ける。 確かめられなかった内容は、レポートや発表に使わないか、「〜とされる」「未確認」と明記します。

このときに役立つのが、検索と連動して出典を示してくれるタイプのAIです。Perplexity のようなツールは、答えの根拠にしたウェブページを一緒に表示してくれるので、手順2と3をやりやすくなります。ただし、出典として示されたページが、本当にその内容を言っているかは、リンク先を開いて読まないと分かりません。

そもそも、AIの回答を出典として書いてよいのか迷う場面もあるでしょう。レポートに使うときの考え方はAIの回答は出典にできるのかで整理しています。

間違いが見つかったときの戻し方も決めておきましょう。同じ会話の中で「この部分は事実と違うようです。根拠を示してください。示せない場合は、その記述を取り消してください」と伝えると、訂正したり、根拠がないと認めたりすることがあります。ただし、訂正後の答えも新しい作り話の可能性があるので、もう一度手順1から確認します。

まとめ

AIがもっともらしい嘘をつくのは、AIが「壊れている」からではなく、文章を作る仕組み上、そうなりうるからです。AIは事実を調べて返しているのではなく、「流れとして自然な続き」を書いています。だから、正しい答えも作り話も、同じ滑らかさで出てきます。

使う側にできることは、3つに整理できます。ひとつ目は、人物・数字・書名・最新の出来事のような「間違いやすい質問」を見分けること。ふたつ目は、「分からなければ分からないと答えて」「推測は推測と書いて」のような質問文で、疑うべき場所に目印を付けてもらうこと。みっつ目は、目印のついた部分を、一次情報で確かめることです。

AIは非常に便利なツールですが、「便利 = 絶対正確」ではありません。「確認する前提で使う」という姿勢が、AIとの付き合い方の基本です。基礎的な考え方は知っておきたいAIリテラシーの基本に、資料を貼って質問するときの注意はAIと個人情報|入力していいこと・ダメなことにまとめています。あわせて読んでみてください。