AI秘書に任せて事故った日の全記録｜そこから作った確認手順
ある日の夕方、AI秘書のアリアから「資料ができました」と報告が来ました。
分量はしっかりある。
体裁も整っている。
見出しも通っている。
ぱっと見は、そのまま出せる出来でした。
ところが、中身を読むと、元になった資料と話が違っていました。
登場する設定が、依頼元からもらった最新版ではなく、こちらの手元にあった古い下書きに寄っていたのです。
作業時間でいえば、数時間ぶんが無駄になりました。
気づいたのが提出前だったのは、単に運が良かっただけです。
事故の原因は「頑張り不足」ではなく、材料の指定漏れだった
最初に確認したのは、AI側の性能ではありません。
「何を正しいものとして渡したか」です。
調べると、原因ははっきりしていました。
私が渡した作業指示に、「どの資料を正とするか」が書かれていませんでした。
手元のフォルダには、依頼元からもらった最新の資料と、こちらで先に書いた下書きが両方入っていました。
どちらを見てもいい状態です。
AI秘書は、読みやすくまとまっている方、つまりこちらの下書きを主に参照しました。
これは、指示した側の設計ミスです。
材料が2つ以上ある場所に作業を投げると、必ずどこかで取り違えが起きます。
人に頼んでも同じことが起きます。
AIだから起きた事故ではありませんでした。
そのあと作った3回の確認
再発を防ぐため、作業の流れに確認を3回入れました。
先へ進む前に終える確認です。
そのまま真似できる形で書きます。
確認1：作業を始める前に「正しいのはこれ」と1行で宣言する
指示文の1行目に、必ずこう書きます。
「正しい資料はこのファイル。食い違ったらこちらを採る。他の資料は参考。」
ファイルが複数あるときは、正しい1つだけを、置き場所を省略せずに書いて指定します。
残りは「参考」と明記します。
確認2：作業の途中で、根拠の引用を出させる
完成品だけを受け取るのをやめました。
途中で、「この部分は、正しい資料のどこを根拠にしたか」を短く引用して報告してもらいます。
引用が出せない部分は、その時点で創作が混ざっているサインです。
ここで止められれば、損害は数分ですみます。
確認3：出す直前に、私が全体をひととおり目で見る
最後は自分の目です。
ここは自動化していません。
外に出るものの責任は、こちらが持つしかないからです。
見るのは3点だけと決めています。
・相手の名前と、日付と、金額
・依頼されていないことを勝手に足していないか
・断定して書いてはいけないことを、断定していないか
全部を読み直そうとすると、疲れて読まなくなります。
3点に絞ると、毎回できます。
確認は作業の途中に入れる
一度、確認を最後だけに入れた時期があります。
完成品を受け取って、そこで全部チェックする形です。
これは続きませんでした。
完成品はもう形になっているので、間違いを見つけても「作り直し」の判断が重くなります。
人間は、目の前に完成品があると、それを通したくなります。
途中で止めれば、捨てるのは30分ぶんです。
最後で止めれば、捨てるのは半日ぶんです。
チェックは、後ろに置くほど機能しなくなります。
だから私は、短い確認を作業の最初に入れました。
確認を入れても残った手間
正直に書きます。
確認を3回入れた結果、作業は速くはなりませんでした。
むしろ、途中報告のぶんだけ手数は増えています。
減ったのは、やり直しです。
私の場合、途中の引用チェックに数分かけることで、数時間ぶんの手戻りが消えました。
差し引きでは大きく黒字ですが、「手間ゼロで安全になった」わけではありません。
そこを「全自動で安心」と書くのは、正直ではないと思っています。
任せる前に決めておくべき、たった1つのこと
AIに仕事を渡すとき、いちばん効いた準備はこれでした。
「間違っていい範囲」と「絶対に間違ってはいけない範囲」を、先に分けておくこと。
言い回しや構成は、間違っても直せます。
相手の名前、金額、日付、依頼内容は、間違ったら信用が減ります。
前者は自由にやってもらう。
後者は、必ず引用つきで根拠を出してもらう。
この線を先に引いておくと、任せる範囲を広げても怖くなくなります。
事故は、能力ではなく、線を引かなかったところで起きます。
このブログでは、うまくいった手順だけでなく、こういう事故と、そのあとに作った仕組みも残していきます。
同じ失敗を、あなたがもう一度やる必要はないと思うからです。
▶ 他の記事もこちらから: 記事一覧
この記事を書いた人
AI秘書と仕事を運用しています。
AI秘書のアリアと働きながら、任せ方の設計を毎日更新しています。
うまくいった手順も、戻した手順も、どちらも記録に残す方針でやっています。