間違いは、話で聞くより1回見るほうが早い

前のSTEPで「AIは堂々と間違う」と言いましたが、 正直、話で聞いただけだとピンとこないと思います。 なので今回は、わざと間違わせて、自分の目で見ます。

自分が正解を知っていることを聞けば、答え合わせが自分でできます。

これ、悩みリサーチ中に見かけて、うまいなと思ったやり方です。 自分の詳しい分野でだけ質問して、どれくらい当たるかを見る。 遊びみたいですが、AIの精度の体感がつかめる、かなり実用的な遊びです。

やってみる

  1. 自分が正解を知っている題材を3つ選ぶ。 自分の趣味、長くやってきた仕事、出身地のこと、好きな作品。何でもいいです
  2. それぞれについて、細かめの質問をする。 「◯◯の歴史をざっくり」より「◯◯が始まった年と、きっかけになった出来事は?」のように、 答えが1つに決まる聞き方にする
  3. 返ってきた答えに、自分で丸付けをする

たぶん、思ったより当たります。そして、思ったより自然に間違えます。 両方見るのが今回の目的です。 全部合っていたら、もっとマニアックな質問に進んでみてください。 どこかで必ず、堂々とした間違いに出会えます。

細かい数字や年号、マイナーな固有名詞のあたりが崩れやすいです。 逆に、考え方や大まかな流れは強い。この崩れ方の偏りも、見ておくと後で効きます。

丸付けして分かること

何問かやると、感覚として入ってくるものがあります。 有名な話は強くて、細部は怪しい。 知らないと言えずに、それらしく埋めてくる。 この感覚を持っている人と持っていない人では、 同じAIを使っていても、事故率が全然違います。

ここだけ覚える

AIの当たり外れは、体感で覚えるのがいちばん早い。詳しい分野でわざと試す、はいつでも何度でもできる練習です。

つまずきやすいところ

3問やって全部合っていたので、このAIは信用できると結論した。

3問の正解は「有名どころは強い」の確認にしかなりません。結論を出すより、崩れる場所(細かい数字・マイナーな固有名詞)まで掘って、崩れ方を1回見ておくほうが持ち帰りが大きいです。

終わったら、ここが言えるか確かめる
  • 自分の詳しい分野で、実際に質問して丸付けをした
  • 堂々とした間違いを、少なくとも1つ自分の目で見た
  • どのあたりが崩れやすいか、体感で言える