疑いにもルールを持つ
最後は、どこまで疑うかの線を引いて終わります。 名前を付けるなら、自分の確かめルール。 ルールと言っても、書き出して壁に貼る話ではなくて、 頭に入れておく線の話です。
中身は難しくなくて、 「そのまま信じていい場面」と「確かめてから使う場面」の線を、 自分の使い方に合わせて引くだけです。
線引きの考え方
| 場面 | 扱い |
|---|---|
| 自分だけが見るもの（下書き・アイデア出し・壁打ち） | 確かめ不要。間違っていても被害は自分の中で止まる |
| 自分の行動を決めるもの（買う・申し込む・設定を変える） | 3点を確かめてから動く |
| 人に渡るもの（送る文章・共有する資料・公開するもの） | 3点＋内容を自分の言葉で説明できるか、まで確かめる |
外に出るものほど厚く確かめる。中で使うものは、疑うより速さを取る。
全部を同じ厳しさで疑うと続かないし、全部を信じると事故ります。 被害の届く範囲で厚みを変える。この形なら、日常の速度で回せます。
もう1つの軸は、話題の珍しさ
被害の範囲のほかに、見るところがもう1つあります。その話題が、世の中でよく書かれているかどうかです。
| 当たりやすい話題 | 外れやすい話題 |
|---|---|
| 誰でも知っている一般的な話 | 狭い分野の、詳しい人しか知らない話 |
| 昔から変わっていない話 | ここ1年で変わった話 |
| どこでも同じ話 | 地域や環境で答えが違う話 |
| 答えが決まっている話 | 人によって意見が割れる話 |
AIが知っているのは、読んだものの中にあったことだけです。右の列は、そもそも読んだ量が少ない。少ないぶん外れやすいんですが、 自信の強さは左の列と変わらないので、見た目では区別が付きません。
被害が外に届くほど厚く。話題が珍しいほど厚く。この2つを掛けて決めます。
毎回の確認は、いずれ卒業する
最後にいちばん大事な話。この確認、毎回手でやり続けるものではないです。
ここまで確かめる話を積んできてなんですが、 出力のたびに3点を照合して、出どころを開いて、と全部を毎回やっていたら、 AIに任せている意味がなくなって、先にこちらが疲れます。 で、疲れて確認ごとやめてしまうのが、いちばんよくある負け方です。
なので目指す形は、毎回自分で言うことではなくて、言わなくても確かめてから答えてくる環境を、先に作っておくことです。 さっきのお守りの一言や、出どころを添えさせる1行を、 AIが毎回読む「前提の1枚」に書いておくと、 頼むたびに書かなくても、当たり前のようにそう動くようになります。 その仕組みの作り方は、先のコース「前提を記憶させる」でやります。
AIの答えは、全部が下書き。下書きとして受け取って、外に出る3点だけ確かめる。 そしてその確かめは、毎回のお願いではなく、環境に焼き付けていく。 ここまで行くのが、このコースの本当のゴールです。
ルールを決めたので、これで事故はゼロにできると思っている。
ゼロにはなりません。僕もこのルールで運用していて、それでも年に数回はヒヤッとします。ただ、事故が「たまのヒヤッ」で済むか「日常的にやらかす」かの差は大きくて、その差を作るのがこの線引きです。
これでこのコースは終わりです。 次は「AIに教えていいこと、ダメなこと」。 ここまでは返ってきたものの見方でしたが、次は渡すもののほうの線引きです。 出るほうと入るほうで、両側がそろいます。 AIが何でも肯定してくる問題は、そのあとの「AIはあなたを否定しない」で扱います。
- 場面ごとに確かめの厚みを変える理由が言える
- 確認を毎回のお願いではなく、環境に焼き付けていく方向が分かっている
- 「AIの答えは全部下書き」の意味が、自分の言葉で言える