AIに「分からない」と言わせる使い方
AIに質問したとき、自信たっぷりに答えが返ってきて、あとからそれが間違いだと分かった。そんな経験はないでしょうか。人間なら、知らないことは「分かりません」と言います。ところがAIは、答えを作るのが得意なため、分からないことでも、それらしい答えを返してしまうことがあります。
この記事では、AIに「分からない」「確信がない」と言ってもらうための頼み方と、その限界を説明します。AIがなぜもっともらしい誤りを出すのかという仕組みの話はAIはなぜもっともらしい嘘をつくのかで解説しているので、ここでは、その対策としての「頼み方」に絞って進めます。
先に大事なことを書いておきます。頼み方を工夫しても、AIの誤りがなくなるわけではありません。「分からない」と言ってもらう工夫は、確認が必要な箇所に気づくための補助です。この点を頭に置いて、読み進めてください。
なぜAIは「分からない」と言いにくいのか
人に質問するとき、相手が知らなければ「知らないよ」と返ってきます。AIにも同じ反応を期待しがちですが、AIの答え方には、人とは違う面があります。
AIは、質問に対して、それらしい文章を作って返すことが基本の動きです。質問が来れば、何かしらの答えの形を作ろうとします。そのため、根拠がはっきりしない質問でも、答えの形をしたものが返ってくることがあります。
この傾向が強く出やすいのは、次のような質問です。
| 質問の種類 | 起きやすいこと |
|---|---|
| 細かい固有名詞や数字を聞く | それらしい名前や数字が作られる |
| 特定の人物や小さな団体について聞く | 実在しない経歴や出来事が混じる |
| 最近のことを聞く | 古い情報や、推測が混じる |
| 出典や文献を聞く | 存在しない資料名が挙がることがある |
| 答えが一つに決まらないことを聞く | 一つの答えに断定してしまう |
こうした場面では、AIが「分からない」と言ってくれたほうが、ずっと助かります。間違った答えを信じるより、「この点は確かではない」と教えてもらうほうが、自分が確認すべき場所がはっきりするからです。
ただし、AIの言い方が自信ありげかどうかは、正しさとは関係がありません。自信ありげな文章でも、間違っていることがあります。これはAIの回答が食い違うときの確かめ方でも触れている大事な点です。だからこそ、最初から「確信がないことは、そう言ってほしい」と頼んでおく意味があります。
基本の頼み方|「分からないときは、分からないと言って」を書く
もっとも簡単な方法は、質問に一文を足すことです。
分からないことや、確信が持てないことは、推測で答えず、
「分かりません」または「確信がありません」と書いてください。
この一文を、質問の前か後ろに入れます。毎回書くのが面倒なら、会話の最初の一通に書いておきます。
さらに、少し丁寧に頼むと、次のようになります。
次の質問に答えてください。
条件:
- 確かな情報だけを書いてください。
- 分からないことは「分かりません」と書いてください。推測で埋めないでください。
- 推測を書く場合は、「推測ですが」と前置きしてください。
- 回答の最後に、確信が低い部分を箇条書きで挙げてください。
質問:
(ここに質問を書く)
この指示文のよい点は、AIに「分からない」を許可していることです。AIは頼まれたことに応えようとする傾向があるため、「答えられなければそう言ってよい」と伝えておくと、無理に答えを作る方向に進みにくくなります。
「最後に確信が低い部分を挙げる」という条件も役立ちます。これを書いておくと、答えを読んだあと、どこを自分で確かめればよいかが一覧になって返ってきます。確認の手間を減らすための工夫です。
ChatGPTのような対話型のAIでは、こうした条件つきの質問文を貼りつけて使うことができます。ただし、条件を書いても、すべての場面で指示どおりに動くとは限りません。サービスによって応答の傾向も異なるので、詳細は公式サイトで確認してください。
場面別|「分からない」を引き出す質問文の例
基本の一文を土台にして、場面ごとに質問文を作ってみます。
言葉の意味を聞くとき
次の言葉の意味を教えてください。
一般的な意味が複数ある場合は、分けて書いてください。
この言葉を知らない、または確信がない場合は、知らないと書いてください。
言葉: (ここに言葉を書く)
人物や団体について聞くとき
次の人物(または団体)について、知っている範囲で教えてください。
同じ名前の別の人物や団体がいる可能性があるときは、そう書いてください。
情報がない、または確信がない場合は、作らずに「情報がありません」と書いてください。
特に、あまり有名でない人物や団体の経歴は、誤りが混じりやすい部分です。「作らずに」という言葉を入れて、念押しします。
出典や資料を聞くとき
この内容に関係する資料や出典を教えてください。
実在を確認できないものは書かないでください。
確かな出典が思いつかない場合は、「確かな出典は挙げられません」と書いてください。
AIが挙げた資料名が実在しないことがあるため、このように頼んでおくと、少なくとも「でっち上げ」を減らせる可能性があります。それでも、挙がった資料は、自分で探して存在を確かめてください。出典の考え方はAIの回答は出典にできるのかにまとめています。
自分の考えを点検してもらうとき
次の私の説明について、間違っている点や、根拠が足りない点を指摘してください。
明らかな間違いが見つからない場合は、「見つかりません」と書いてください。
無理に指摘を作らないでください。
点検を頼むと、AIは親切に何かしら指摘を出そうとして、実際は問題のない部分を問題だと言うことがあります。「無理に指摘を作らない」という条件を添えると、そうした作り話を減らせます。
どの場面でも、共通するのは「作らないでください」という許可を与えることです。AIが「答えなければならない」という方向に傾かないよう、逃げ道を用意しておくイメージです。
「分からない」と言われたあとの動き方
AIが「分からない」と言ったときは、それで終わりではありません。むしろ、そこからが確認の始まりです。次の順番で動いてみてください。
- 何が分からなかったのかを、具体的に聞き返す
- 質問の側に足りない情報がなかったか、見直す
- 別の方法(辞書、公式の資料、本、詳しい人)で調べる
- 調べた結果を、AIに伝えて、続きを相談する
一つ目の「具体的に聞き返す」は、次のように使えます。
いま「分かりません」と答えた部分について、
- 情報がないから分からないのか
- 質問が曖昧で答えられないのか
- 複数の可能性があって決められないのか
のどれに近いか教えてください。
「分からない」の理由が分かると、次の一手が決まります。質問が曖昧だったなら質問を直せば答えが得られるかもしれません。情報がないのなら、別の資料に当たる必要があります。
二つ目の「質問の側を見直す」も大切です。質問に必要な前提が足りなかっただけ、ということもあります。
調べた結果が出たら、AIにも伝えて相談を続けます。「公式の資料では〇〇と書かれていました。この内容を踏まえて、〜を整理してください」というように、確認した事実を土台にして進めれば、会話が安定します。
反対に、避けたいのは、「分からない」と言われたあと、同じ質問を言い方だけ変えて何度も聞き直すことです。聞き直すたびに、AIが「それらしい答え」を出す可能性が高まります。一度「分からない」と言われた内容を、無理やり答えさせないようにしましょう。
限界を知っておく|「分からない」と言わないことも、言うこともある
ここまで読んで、「頼み方を工夫すれば安心だ」と思ったかもしれません。しかし、次の限界も知っておいてください。
頼んでも、間違った答えが返ることはある
「分からないときは分からないと言って」と頼んでも、AIが自分の誤りに気づかないまま、自信ありげに間違った答えを返すことがあります。AIは、自分が間違っていることを、いつも正しく判断できるわけではありません。
反対に、分かる内容でも「分からない」と言うことがある
慎重になるよう頼むと、本来は答えられる内容にも、必要以上に「確信がありません」と言うことがあります。その場合は、「確信がない理由を教えてください」と聞き返すことで、判断の材料が得られます。
答えの出し方は、AIやバージョンで変わる
同じ指示文でも、使うAIの種類や、時期によって、反応が変わることがあります。一度うまくいった指示文が、あとでも同じように動くとは限りません。
したがって、次の考え方を土台にしてください。
| 考え方 | 内容 |
|---|---|
| 指示は補助である | 「分からない」と言わせる工夫は、確認すべき場所に気づくための補助 |
| 重要なことは別で確かめる | 数字、日付、固有名詞、制度の内容は、公式の情報で裏づける |
| 影響が大きいほど慎重に | 健康、お金、法律、提出物は、AIの答えだけで決めない |
| 食い違えば疑う | 別の聞き方や別のAIで、答えが変わらないか確かめる |
とくに表の後半の二つは、軽く扱わないでください。重要な内容は、AIに頼んだ工夫の有無にかかわらず、自分で確かめることが前提です。AIの苦手なことについてはAIが苦手なこともある|数え間違い・計算・長い手順での確かめ方でも説明しています。
使う前のチェックリストとまとめ
最後に、質問を送る前のチェックリストを挙げます。
- 質問に「分からないときは、分からないと言って」と書いた
- 推測を書く場合は、そう断るよう頼んだ
- 確信が低い部分を、最後に挙げるよう頼んだ
- 「作らないでください」と、逃げ道を用意した
- 返ってきた答えの中の、固有名詞・数字・日付を、自分で確かめる準備がある
- 「分からない」と言われたら、質問を見直すか、別の方法で調べるつもりでいる
- 同じ質問を、言い方だけ変えて何度も聞き直さない
この記事の要点を整理します。
- AIは、分からないことにも、それらしい答えを返してしまうことがある
- 質問に「分からないときは分からないと言って」と一文を添えると、無理に答えを作る方向に進みにくくなる
- 「推測の場合は断る」「確信が低い部分を挙げる」と頼むと、確認すべき場所が見える
- 「分からない」と言われたら、理由を聞き、質問を見直し、別の方法で調べる
- 頼み方を工夫しても、誤りはなくならない。重要なことは、自分で確かめる
「分からない」と言ってもらえることは、AIが弱いことの表れではなく、安全に使うための手がかりです。AIの答えを「そのまま信じる」でも「全部疑う」でもなく、確かめる場所を見つけて、自分で確かめる。その習慣のために、この頼み方を使ってみてください。