コンテキストの真価

渡していないのに、それらしく返ってくる

ここがいちばん伝えたい所です。

たとえば、AIに「昨日の会議の内容をまとめて」と頼んだとします。でも、会議の内容は一切渡していない。当然、AIは昨日の会議で何が話されたかを知りません。

それでもAIが、もっともらしい議事録を作ってしまうことがあるんですよね。実際には誰も言っていない内容が、本当に会議で決まったことのような顔で並んでいる。

これが、ハルシネーション

情報が足りないと、AIは空白を予想で埋めようとします。

AIが、事実ではない情報を事実のように作ってしまう現象を、ハルシネーションと呼びます。世間で「AIが嘘をつく」と言われているのは、だいたいこれです。

ただし、情報が足りないことだけが原因ではなくて、十分な情報を渡していても間違えることはあります。なので、材料を渡すことと合わせて、わからないことをわからないまま伝えてもらえるようにしておくのも大事です。そのやり方は次のSTEPで渡します。

AIは魔法使いじゃない、料理人に近い

どんなに腕のいい料理人でも、材料を渡さずに「最高の料理を作って」と言われたら困ります。冷蔵庫にあるものでなんとか作ろうとするでしょうけど、それが本当に食べたかった料理になるとは限らない。一方で、食材を用意して、好きな味や苦手なものを伝えれば、料理人はその情報をもとに腕を振るえます。

腕がよくても、材料が足りなければ作れる料理には限界があるし、材料がよくても、腕によって出来栄えは変わります。だから、良い答えを引き出したいなら、注文の言い方ばかり工夫するのではなく、何を材料として渡すかを考える必要があります。

もっともらしい答えを見た時