生成AIは、実のところ何をしているのか

第1回 / 全10回　約6分

最初にここを押さえると、後の章がすべて楽になります。逆にここを飛ばすと、「なぜか思い通りにならない」「なぜか嘘をつく」がずっと不思議なままになります。

「調べて答えている」わけではない

多くの人が、生成AIをこう想像しています。

質問を受け取る → どこかのデータベースを調べる → 見つけた答えを返す

実際は違います。 生成AIがやっているのは、次の1つだけです。

これまでの文章の流れから、次に来る可能性が高い言葉を選ぶ。それを繰り返す。

「日本の首都は」まで来たら、次に「東京」が来る可能性が高い。だから「東京」を出す。その次はどうか、と1語ずつ進んでいきます。

つまり生成AIは、答えを探しているのではなく、それらしい続きを作っています。

探して返す仕組みと、次の語を選び続ける仕組みの違い

「次に来そうな言葉を選ぶ装置」だと理解すると、実際に困る場面の理由が、いちいち腑に落ちます。

よくある出来事	理由
存在しない本や論文を挙げてくる	本のタイトルとして「ありそうな」語の並びを作れてしまうから
自信満々に間違える	正しい文と間違った文を、同じやり方で作っているから
聞き方を変えると答えが変わる	前の文章が変われば、「次に来そうな言葉」も変わるから
長い会話で話がずれる	直前の流れに引きずられるから
曖昧な指示だと無難な答えになる	手がかりが少ないと、一般的な言葉ほど選ばれやすいから

最後の行が、次の章につながります。 指示を具体的にすると答えが良くなるのは、AIが賢くなるからではありません。選ぶ手がかりが増えるからです。

人間なら、知らないことは「知りません」と答えられます。生成AIにそれが難しいのは、自分が知っているかどうかを確かめる仕組みを持っていないからです。

質問が来れば、続きを作ります。手持ちの材料が少なくても、それらしい続きは作れてしまいます。黙るという選択肢が、そもそも構造の中にありません。

だから「分からなければ分からないと言ってください」と先に伝えておくと、多少ましになります。完全ではありませんが、それを言う許可を与える意味はあります。

ここまでを踏まえて、この講座では次の姿勢で進めます。

次回は、この性質を踏まえて「何を任せてよくて、何を任せてはいけないか」を線引きします。

確認問題に全問正解すると完了にできます