AIが苦手なこともある｜数え間違い・計算・長い手順での確かめ方

AIに質問すると、まるで人と話しているようになめらかな文章が返ってきます。そのせいで、「これだけ上手に話せるのだから、数を数えたり計算したりするのも得意なはず」と思ってしまいがちです。ところが実際には、文字や項目の数を数える、桁の多い計算をする、何段階もある手順をまちがえずに最後までやる、といった場面で、AIが間違えることがあります。

この記事では、なぜそういうことが起こるのかを、むずかしい言葉を使わずに説明します。そのうえで、自分でできる確かめ方と、AIに頼んでよいこと、人がやったほうがよいことの分け方を整理します。AIを使わないほうがいい、という話ではありません。得意な場面と気をつけたい場面を知っておくと、安心して使えるようになります。

AIはどうやって答えを作っているのか

まず、AIがどうやって文章を作っているのかを、ざっくり知っておきましょう。ここでの説明はごく単純にしたもので、実際の仕組みはもっと複雑です。

多くの文章生成AIは、大量の文章から言葉のつながり方を学び、「この言葉の次には、どんな言葉が来そうか」を予測しながら、答えを1つずつ組み立てていくと言われています。スマートフォンの文字入力で、次の候補の単語が出てくる機能を思い浮かべると近いかもしれません。それをとても大きく、とても高度にしたものがAIだ、とイメージしてください。

この作り方は、文章を書く、言い換える、要点をまとめる、といった作業にはとてもよく合っています。一方で、「数える」「計算する」は、言葉の自然さではなく、答えが1つに決まる作業です。「それらしい答え」ではなく「正しい答え」が求められます。なめらかな文章を作る力と、正確に数える力は、別のものなのです。

また、AIは文章を文字そのものではなく、ある程度のかたまりに区切って扱っていると言われています。そのため、人間のように「1文字ずつ目で追って数える」ことが苦手になる場合があります。ただし、これは使うAIや使い方によっても変わります。最近のAIの中には、計算を別の道具に任せる仕組みを持つものもあります。「必ず間違える」と思い込むのではなく、「間違えることがあるので、確かめる習慣をつける」という考え方が大切です。

よくある場面と、間違いが起こりやすい理由

では、具体的にどんな場面で気をつけたいのでしょうか。代表的な4つの場面を表にまとめます。

文字数や項目数を数える

作文の課題で「800字以内」と決まっているとき、「この文章は何文字?」とAIに聞きたくなります。でも、AIが答えた文字数は、実際とずれていることがあります。自信ありげに「812文字です」と返ってきても、それが正しいとは限りません。

リストの項目数も同じです。たとえば、買い物リストを貼りつけて「全部で何個?」と聞くと、1つ飛ばしたり、同じものを二重に数えたりすることがあります。数が少なければ当たることが多いのですが、多くなるほど怪しくなる、と考えておくと安全です。

桁の多い計算と、割引後の合計

計算も注意が必要です。たとえば、「定価の決まった商品を3つ買って、合計から割引をしたらいくら?」のような問題です。人間なら、まず定価に3をかけて、次に割引分を引く、と順に進めます。AIも同じ順番で考えるように見えますが、途中の計算で1か所ずれると、最後の答えも全部ずれます。

しかも、ずれた答えも、なめらかな文章で自信ありげに書かれます。「合計はこの金額になります」と言い切られると、つい信じてしまいますよね。ここで大事なのは、AIの口調と答えの正しさは関係がない、ということです。口調が自信ありげでも、間違えていることはあります。

手順を10個、順に実行する

「次の10個の手順を、1番から順にやってください」と頼むのも、間違いが出やすい場面です。たとえば、「文章を要約して、その要約を英語にして、その英語から重要な単語を5つ選んで、その単語を五十音順に並べ替えて……」のように、前の結果を次に引き継ぐ手順です。

手順が長くなるほど、途中の1つを飛ばしたり、前の結果を少し変えて次に渡したりする危険が増えます。しかも、最後の答えだけを見ても、どこで間違えたのかが分かりません。

ちなみに、こうした「もっともらしいけれど間違っている答え」が出てくる理由は、別の記事「AIはなぜもっともらしい嘘をつくのか」でも詳しく説明しています。数え間違いや計算ミスも、同じ根っこの性質から起こることがあります。

自分でできる確かめ方

間違えることがあるなら、確かめればいいのです。特別な知識はいりません。次の4つの方法を、場面に合わせて使ってみてください。

方法1 電卓や表計算ソフトで検算する

計算の答えは、必ず電卓か表計算ソフトで確かめましょう。スマートフォンの電卓アプリで十分です。先ほどの割引の例なら、定価に3をかけて、そこから割引分を引く、という計算を自分でもう一度やります。

もっと便利なのは、AIに「計算式」を書かせて、その式を電卓や表計算ソフトに入れる方法です。答えの数字だけをAIから受け取るのではなく、「どういう式で求めたか」を受け取れば、あとは自分の道具で正しい答えを出せます。

方法2 数えさせずに、自分で数える

文字数や項目数は、AIに数えさせないほうが安全です。文字数は、ワープロソフトや表計算ソフトの文字数表示で確認できます。項目数は、リストを1行ずつ番号つきで並べて、最後の番号を見れば分かります。

AIに文章を直してもらったあとに、文字数が条件に合っているか確認するときも、AIの「何文字です」を信じず、自分の道具で数え直してください。

方法3 手順を小分けにして、1つずつ確認する

長い手順は、全部まとめて頼まず、小さく区切ります。たとえば10個の手順なら、まず1番から3番までをやってもらい、結果を自分の目で見て、問題がなければ次の4番から6番へ進みます。

一度に頼むより少し手間がかかりますが、どこで間違えたかがすぐ分かるので、結局は早く終わることが多いです。間違いが見つかったら、その手順だけやり直してもらえば済みます。

方法4 途中式や考え方を書かせて、人が見る

答えだけでなく、途中式や、どう考えたかも書いてもらいましょう。途中が見えれば、「ここの掛け算が違う」と、人が気づけます。

ただし、途中式がもっともらしく書いてあっても、それが正しいとは限りません。途中式は「自分が確かめるための材料」として使ってください。あくまで、確かめるのは人です。

次のような依頼文が使えます。

次の計算を、途中式をすべて書いて解いてください。
問題: 定価が決まっている商品を3つ買い、合計金額から割引をします。定価と割引の内容は下に書きます。支払う金額はいくらですか。
定価: (ここに自分で調べた金額を入れる)
割引: (ここに割引の内容を入れる)
条件:
- 1行に1段階ずつ、式と結果を書く
- 最後に、電卓で検算するための1本の式も書く
- 自信がない部分があれば、その部分を教える

この依頼文のポイントは、答えだけでなく「1段階ずつ」「検算用の式」を求めているところです。返ってきた式を自分の電卓に入れて、AIの答えと同じになるか確かめます。

任せてよいことと、人がやることの線引き

数え間違いや計算ミスがあるからといって、AIが使えないわけではありません。得意なことは任せて、正確さが必要な部分は人が確かめる、という分担がうまくいきます。

たとえば、「割引後の合計を出す式を、表計算ソフトでどう書けばいいか教えて」と頼むのは、AIの得意分野に近い使い方です。式の作り方を教えてもらい、実際の計算は表計算ソフトにさせれば、ミスを減らせます。反対に、テストの点数計算や、お小遣い帳の合計のように、数字が合っていないと困るものは、最後に人が確認しましょう。

学校の課題で使うときは、特に気をつけてください。AIの答えをそのまま写して提出すると、間違いも一緒に提出してしまいます。AIの使い方に関する学校のルールがある場合は、それに従ってください。学校でのAIの扱いについては、文部科学省のサイトも参考になります。

自分の作業で試してみる

ここまでの内容は、実際にやってみると理解が深まります。身近な数字を使って、AIに計算の式を書いてもらい、自分の電卓や表計算ソフトで確かめる、という練習をしてみてはいかがでしょうか。たとえば、お小遣いの1か月分の収支や、買い物の割引計算などが練習にちょうどいい題材です。AIの答えと自分の検算が合うか、合わないときはどこが違うのかを見ると、AIの得意と苦手の感覚がつかめます。

試すだけなら、ChatGPTのようなAIチャットで十分です。使い方や料金などは変わることがあるので、詳しくは公式サイトでご確認ください。

長い手順や資料を扱うときの工夫

もう少し複雑な作業、たとえば「長い文章を読んで、条件に合うものを全部ぬき出す」「複数の資料の数字を集めて表にする」といった場面でも、同じ考え方が使えます。

コツは、AIに「全部やって」と頼むのではなく、「やること」「確かめること」を分けることです。次のような依頼文の形が参考になります。

次の10件の注文メモから、商品名と個数を表にまとめてください。
手順:
1. まず、メモの件数を、番号をつけて1件ずつ書き出してください。
2. 次に、各件の商品名と個数を表にしてください。
3. 表の最後の行に、個数の合計を書いてください。
わからない部分や読み取りにくい部分は、推測せずに「不明」と書いてください。

こうすると、1つ目の手順で「件数が本当に10件あるか」を自分の目で確認できます。件数がずれていたら、そこで気づけます。「推測せずに不明と書く」という指示も、間違いを減らす助けになります。

それでも、合計の数字は人が確かめましょう。表の個数を表計算ソフトに写して、合計関数で出した値と見くらべれば、数分で確認できます。AIが出した表は「下書き」と考え、人が仕上げの確認をする、という流れにすると安心です。

もう1つの工夫は、AIの答えを疑うタイミングを決めておくことです。「お金に関わる」「提出するものに入る」「人に伝えるときに数字が出る」場面では、必ず確かめる。逆に、アイデア出しや下書きのように、間違いがあってもあとで直せる場面では、気軽に使う。このように決めておくと、毎回迷わずに済みます。

AIの答えをどこまで信用するかという考え方は、「知っておきたいAIリテラシーの基本」でも整理しています。あわせて読むと、確かめる習慣が身につきやすくなります。

確認用チェックリスト

AIに数や計算、長い手順を頼んだときは、答えを使う前に、次の項目を見直してください。

• 文字数や項目数は、AIに数えさせず、自分の道具や目で確かめたか
• お金や点数などの計算は、電卓か表計算ソフトで検算したか
• 答えだけでなく、途中式や考え方も見て、おかしな所がないか確認したか
• 長い手順は小分けにして、1つずつ結果を確認したか
• AIが自信ありげに答えていても、それを正しさの証拠にしていないか
• 間違いがあると困る場面か、あとで直せる場面かを、先に考えたか
• 学校や職場にAIの使い方のルールがある場合、それに従っているか

全部をいつもやる必要はありません。大事な数字ほど念入りに、気軽な場面は軽く、と使い分けてください。

別のAIでも、同じ確かめ方が使える

ここまで読んで、「AIによって得意不得意は違うのでは?」と思った人もいるかもしれません。その通りで、AIによって、また同じAIでも使い方や時期によって、得意なことは変わります。どれが正確かを知りたいときは、AIの性能の比べ方を整理した「AIの性能比較はどう読む？ランキングと点数の見方の基本」が参考になります。

ただ、どのAIを使うにしても、「数える、計算する、長い手順を最後までやる」という作業は、人が確かめる習慣があると安心です。自分が使っているものの癖を知るために、同じ計算を別のAIに頼んで答えを比べてみる、という試し方もあります。2つの答えが同じでも、それだけで正しいとは言えませんが、違っていれば「どちらかが間違えている」と分かります。そのときは、電卓で自分の答えを出して、どちらが合っているか見てみましょう。

いろいろ試してみたい人は、Claudeのような別のAIチャットでも、同じ依頼文で試せます。答えの出し方や途中式の書き方に違いが見えて、勉強になることもあります。機能や料金は変わることがあるため、詳しくは公式サイトをご確認ください。

まとめ

文章がなめらかなAIでも、文字や項目の数を数える、桁の多い計算をする、何段階もの手順をまちがえずに最後までやる、といった場面では、間違えることがあります。AIは言葉のつながりを予測して答えを作っていると言われており、「それらしい答え」を出すことと「正しい答え」を出すことは別だからです。

間違いを防ぐために、次のことを覚えておいてください。

• 計算は電卓や表計算ソフトで検算し、数は自分の道具で数える
• 長い手順は小分けにして、1つずつ確認する
• 途中式を書かせて、人が見る。ただし途中式も正しいとは限らない
• 式の立て方や考え方はAIに頼み、実際の計算や最終確認は人がやる

AIは、使い方しだいで頼れる道具になります。得意なことと苦手なことを知って、確かめる習慣をつけておけば、安心して付き合っていけます。