AIはなぜもっともらしい嘘をつくのか
ChatGPT、Claude、Gemini などの生成AIを使っていると、時々「あれ、これ本当かな？」と思うような答えが返ってくることがあります。たとえば、存在しない人物の経歴を述べたり、正確でない引用を出したり、詳しい数字を自信たっぷりに言ったり。こうした現象を「ハルシネーション」（幻覚）と呼びます。
これは AIが「壊れている」わけではなく、その仕組み上、どうしても起きてしまうものです。中高生のみなさんがAIと付き合う際に知っておくべき話を、できるだけやさしく説明します。
AIは「検索」ではなく「予測」で文章を作る
多くの人は、AIが質問されたときに「データベースから情報を取り出して、それを整形して答える」と想像しがちです。でも、実際はそうではありません。
AIが文章を作る仕組みはこうです。質問をもらった時、AIは「次に来そうな言葉」を1語ずつ選んで、文章を組み立てていきます。たとえば「日本の首都は」と入力されたら、学習した大量の文章から「この並びのあとには『東京』が来ることが多い」と分かっているので「東京」を選ぶ。それを1語ずつ繰り返して文章にしています。
つまり、AIは本当のデータベースを参照していません。訓練時に見た文章パターンから「この状況のあとは、このような言葉が来やすい」という確率を学んでいるだけなのです。
「正しい情報」と「もっともらしい情報」は同じ滑らかさで作られる
ここが重要な落とし穴です。
正しい答えを書くときも、事実でない答えを書くときも、AIの中で起きていることは同じです。どちらも「この流れなら次はこの言葉が来やすい」という計算の結果でしかありません。事実かどうかを判定する仕組みが別にあるわけではないのです。
だから、事実でない内容も、正しい内容とまったく同じ滑らかな日本語で出てきます。ここが厄介な点です。文章が下手だったり、しどろもどろだったりすれば「怪しいぞ」と気づけますが、AIの誤りは堂々とした文章でやってきます。文章の自然さは、内容が正しい証拠にはなりません。
AIは「知らない」と気づくことができない
人間なら、知らないことは「知りません」と答えられます。でも、AIにはその判断ができません。
AIが出した答えが本当かどうかを内部で照合する仕組みは、基本的に備わっていません。そして質問を受ければ、何らかの文章を返そうとします。その過程で「自分はこれを知らないかもしれない」と立ち止まる仕組みがないため、知らないことも同じ調子で答えてしまうのです。
だから、知らないはずの人物の歴史や、実在しない法律、聞いたことのない企業の詳細も、自信たっぷりに述べてしまいます。
間違いやすい場面
ハルシネーションは特に、以下のような話題で起きやすいです。
- 実在の人物の経歴や業績：有名人でも、年齢や出身地、具体的な作品名などは間違えやすい
- 具体的な数値や日付：会社の売上、法律の施行日、スポーツの記録など
- 法律や制度の詳細：「いつからこの決まりになった」「このルールは法律で決まっている」という細かい情報
- 本や論文の題名・内容・引用：特に、著者や発行年のような細部で間違える
- URL やリンク：実在のサイトそっくりだが、微妙に異なるURLを生成することもある
- マイナーな固有名詞：著名でない地名、企業名、人物名、製品名など
どう向き合うか
ハルシネーションと付き合うための心がけを、4つ紹介します。
1. 重要なことは必ず一次情報で確認する
学校のレポートや、人生に関わる決定に使う情報は、必ず「そのことを発表している公式な場所」を確認してください。大学の募集要項なら大学のホームサイト、法律の内容なら法律の原文や官庁のページ。AIの答えは出発点に過ぎません。
2. 出典を見るタイプのAIを使う
Perplexity など、検索連動型のAIツールなら、どのウェブページから情報を取ってきたか見えます。その場合、AIの答えだけでなく、引用元のページそのものを読むことで、より確実な確認ができます。
3. 前置きをする
「もし分からなければ『分かりません』と答えてください」「確実な情報だけ答えてください」という指示をAIに出すことで、やや改善します。完全ではありませんが、AIも少し慎重になります。
4. 数字と固有名詞を疑う癖
特に「〇〇年〇月」「〇〇人の著名人」「〇〇という法律」「〇〇というサイト」など、具体的な数字や名前が出てきたら、「これは本当かな」と一呼吸置いて確認する習慣をつけましょう。
まとめ
AIがもっともらしい嘘をつくのは、AIが「壊れている」からではなく、仕組み上そうなるからです。AIは事実を検索しているのではなく、確率に基づいて「次に来そうな言葉」を選んでいる。知らないことも知らないと判断できない。だからこそ、使う側が情報の正確性を確認する責任があります。
AIは非常に便利なツールですが、「便利 = 絶対正確」ではありません。むしろ、その性質を理解した上で「確認する前提で使う」という姿勢が、AIとの正しい付き合い方だと思います。