第1章　生成AIの土台をつくる

入れてよい情報、入れてはいけない情報

第4回 / 全10回　約6分

ここまでは「AIが返すもの」の話でした。今回は逆向き、こちらが渡すものの話です。第1章の最後にこれを置いているのは、取り返しがつかない失敗が起きるのはこちら側だからです。

出力の誤りは、気づけば直せます。入力してしまった情報は、取り消せません。

判断の軸は「外部に預ける」という一点

生成AIに文章を入力するということは、その内容を社外のサービスに送るということです。ここを押さえれば、判断は難しくありません。

自分に問う質問は1つです。

同じ内容を、社外の業者にメールで送れますか？

送れないものは、生成AIにも入れないでください。逆に、送れるものなら概ね問題ありません。

具体的な線引き

入れてはいけないもの

• 顧客の個人情報（氏名・住所・電話番号・メールアドレス）
• 社外に出していない企画、見積、契約の内容
• 従業員の評価や、健康・家庭の事情
• パスワード、APIキー、社内システムの構成
• 他社から預かった資料（守秘義務の対象）

多くの場合は問題ないもの

• すでに公開されている情報
• 固有名詞を伏せた、一般化した相談
• 自分が書いた文章の推敲
• 公開資料をもとにした調べもの

「伏せて相談する」という技術

実務では、「機密だから使えない」で終わらせると何もできなくなります。多くの場合、伏せれば使えます。

たとえばこう書き換えます。

相談の本質は、固有名詞や金額の中にはありません。 そこを外しても、返ってくる助言はほとんど変わりません。むしろ論点が絞られて、良い答えが返ってくることさえあります。

設定と規約は一度だけ確認する

サービスによって、入力内容の扱いは異なります。学習に使われるかどうかを設定で選べる場合があります。 使い始めに一度だけ、次を確認しておいてください。

1. 入力内容が学習に使われる設定になっていないか
2. 履歴の保存期間はどうなっているか
3. 仕事で使う場合、勤務先にAI利用のルールがあるか

3番目は技術ではなく組織の話です。ルールがあるのに知らずに使っていた、が一番まずい形なので、先に確認してください。

学生の場合

学校の課題で使う場合、追加でもう1つあります。

学校ごとに、生成AIの利用ルールが違います。 「使ってよい」「使ってよいが明記する」「禁止」のどれなのかを、必ず確認してください。これは成績と、場合によっては処分に関わります。曖昧なら、先生に直接聞くのが確実です。

第1章のまとめ

• 生成AIは「次に来そうな言葉を選ぶ」装置。答えを探しているわけではない
• 正解が1つに決まる仕事ほど間違えやすい。たたき台として使うのが基本
• 誤りは正解と同じ滑らかさで出る。文章の自然さは正しさの証拠にならない
• 確認は全部ではなく、数字・固有名詞・出典・否定形に絞る
• 入力は「社外の業者にメールで送れるか」で判断する。伏せれば使えることが多い

第2章では、ここで作った土台の上で、実際に指示を書く技術に入ります。

確認問題