第1章　この道具の正体を知る

なぜ平気で間違えるのか

第2回 / 全10回　約7分

前回、「生成AIは次に来そうな言葉を選んで文章を作っている」と確認しました。今回はここから、なぜウソを堂々とついてくるのかを具体的に見ていきます。

「知らない」と「それらしく言える」を、区別できない

クラスに1人はいませんでしたか。勉強していない範囲を聞かれても、それっぽい理屈で答えてしまう人。 生成AIの間違え方は、これにかなり近い性質があります。

人は「知らないことは知らない」と、たいてい判断できます。しかし生成AIには、自分がその話題を本当に知っているかを確かめる仕組みがありません。 質問が来れば、材料が少なくても「それらしい続き」を組み立ててしまいます。

だから誤りは、たどたどしい文章では出てきません。正解のときとまったく同じ、自然で自信たっぷりな文章で出てきます。

文章が自然で自信たっぷりに見えることは、内容が正しい証拠にはなりません。

教科でクセが違う

どの教科でも同じ確率で間違えるわけではなく、出やすい場所に偏りがあります。

逆に、言い換えや一般的な説明は比較的安全な領域です。「これを中学生向けに言い換えて」のような依頼は、「それらしければだいたい合っている」が成り立つからです。

よくある実例

• 読書感想文の参考にしようとしたら、存在しない小説のあらすじをそれっぽく説明された
• 自由研究のために聞いた統計の数字が、実際に調べたら違っていた
• 「この歴史上の人物について教えて」と聞いたら、実在しない出来事が混ざっていた
• 数学の解き方を聞いたら、途中の計算だけ間違っていたのに、説明はもっともらしかった

いずれも共通しているのは、間違いだけが不自然な文章で出てくるわけではないという点です。だからこそ、見た目の自然さでは判断できません。

気づくための手がかり

疑い続けるのは疲れます。現実的なのは、チェックする場所を先に決めておくことです。

1. 教科書・資料集と照らし合わせる — 学校で使っている教材が、いちばん確実な比較先です
2. 数字だけ、もう一度自分で計算する・調べる — 数字は特に間違いが混ざりやすい場所です
3. 聞き方を変えて、もう一度聞いてみる — 答えが変わる部分は、AIが確信を持てていない部分のサインです

「なんとなく合ってそう」で止めず、教科書や信頼できる資料と1つでも突き合わせる。 これだけで、ほとんどの事故は防げます。

まとめ

• 生成AIは「知っているか」を確かめる仕組みを持たないため、知らないことにも、それらしく答えてしまう
• 誤りは、正しい答えと同じくらい自然で自信たっぷりに出てくる
• 数字・固有名詞・出典・最近の出来事は特に間違いやすい
• 教科書や資料集と照らし合わせる習慣が、いちばん現実的な対策

次回は、この性質を踏まえて「AIに何を入れていいのか、ダメなのか」を扱います。

確認問題