なぜ間違えるのか、どこで気づけるのか
生成AIが事実でないことを、もっともらしい文章で述べる現象をハルシネーションと呼びます。今回は、これを「困った不具合」ではなく予測できる性質として扱えるようにします。
正しい答えと誤った答えは、同じ工程で作られる
ここが核心です。
生成AIの中では、正しい文を作るときと、誤った文を作るときで、やっていることが同じです。どちらも「次に来そうな言葉を選ぶ」の繰り返しでしかありません。
事実かどうかを判定する工程が、どこにも存在しない。
だから誤りは、たどたどしい文章では出てきません。正しい答えとまったく同じ、滑らかな日本語で出てきます。
文章の自然さは、内容が正しい証拠にはならない。
これが、この講座で一番覚えて帰ってほしい一文です。
誤りが出やすい場所には偏りがある
ハルシネーションは、どこにでも均等に現れるわけではありません。出やすい場所が決まっています。
| 出やすい場所 | なぜか |
|---|---|
| 数字（金額・日付・件数） | 桁や数値の並びは、いくらでも「ありそうな形」を作れる |
| 固有名詞（人名・社名・製品名） | 有名でないものほど、材料が少ない |
| 出典（本・論文・URL） | 「それらしいタイトル」を作るのは簡単 |
| 細かい仕様・条文 | 全体の傾向は掴めても、細部の材料は乏しい |
| 新しい出来事 | そもそも材料を持っていない可能性がある |
逆に出にくい場所もあります。一般的な説明、言い換え、文章の整形。これらは「それらしければ正しい」が成り立つ領域だからです。
つまり、前回の「正解が1つに決まるか」がここでも効いています。 同じ物差しです。
気づくための3つの手
誤りに気づく方法は、そう多くありません。現実的なのは次の3つです。
1. 出典を出させて、それを開く
「この情報の出典を教えてください」と聞いて、返ってきたURLや書名を実際に開いて確認します。 開かずに信じるなら、聞いた意味がありません。存在しないURLが返ってくることは珍しくありません。
2. 同じことを、別の聞き方でもう一度聞く
聞き方を変えて答えが変わる部分は、AIが確信を持っていない部分です。特に数字は、聞き直すと違う数字が出ることがあります。それが揺らぎのサインです。
3. 自分が知っている領域で試して、感覚を掴む
これが実は一番効きます。自分が詳しい分野について質問してみてください。 どの程度の粒度から怪しくなるか、その手触りが分かります。知らない分野だけで使っていると、この感覚が育ちません。
「AIを疑う」ではなく「確認先を持つ」
疑いながら使うのは疲れますし、続きません。現実的な構えはこうです。
- 一般的な説明 → そのまま受け取ってよい
- 数字・固有名詞・出典 → 一次情報を必ず見る
- 判断そのもの → 人が引き受ける
つまり、全部を疑うのではなく、疑う場所を先に決めておく。これができていれば、生成AIは十分に信頼して使えます。
次回は、逆方向の話をします。AIが何を返すかではなく、こちらが何を渡してよいかです。
確認問題
-
Q1生成AIの誤りが見抜きにくい最大の理由はどれですか。
-
Q2ハルシネーションが比較的起きにくいのは、次のうちどれですか。
-
Q3「出典を教えてください」と聞いたときの正しい使い方はどれですか。
確認問題に全問正解すると完了にできます