暴走の正体は、足りない指示の穴埋め
映画みたいにAIが反乱を起こすわけではなくて、指示が足りないときに、空いたところを勝手な解釈で埋めて進む。これが暴走の正体のほとんどです。だから対策も、やってほしいことと条件をちゃんと言う、に尽きます。言い方は入門のコースでやったとおりで、ゴールと守ってほしいことを先に渡す。
怖いうちは、書き換えの前で止めさせる
それでも不安な人は、この一文を頼みごとに足しておいてください。
そのままコピーして使えます
既存のファイルを書き換える前には、必ず作業を一時停止して、何をどう変えるつもりかを私に伝えてから実行してください。新しいファイルを作るだけの作業は、止まらず進めて構いません。
補足 頼みごとの最後に足してください。毎回足すのが面倒になったら、作業フォルダの AGENTS.md か CLAUDE.md に書いておけば、毎回読まれます。
全部の操作で止めると進まなくなるので、線を引くなら「既存のものを変えるとき」だけがちょうどいいです。慣れてきたら外せばいい。
つまずきやすいところ
ここまで対策しても、いつか大事故を起こされる気がしている。
僕は1年以上、毎日任せていて、戻せない事故は一度もないです。自動チャージを切って鍵をしまう、控えを作る、書き換え前は止める。この3つを言えるようになった時点で、あなたはもう安全運転側の人です。
ここだけ覚える
お金は設定と鍵のしまい方で、消えるのは控えで、暴走は指示で防ぐ。3つ言えたら、このコースは終わりです。安心して任せてください。
次は「カーソルが勝手に動き出す」。鍵がそろったので、ここからは任せる範囲を、フォルダの中から画面の操作まで広げていきます。
終わったら、ここが言えるか確かめる