AIエージェントで自動化する人が見落としている「検証ステップ」

Zapierでメール要約→Notion保存の3ステップフローを組んだとします。最初の数日はうまく動く。でも1週間後には誰かが「Notionの内容がおかしい」と気づいて、手で直している。そのうちフローごと止まって、修正のために30分かける。AIに任せた意味がなくなっています。

問題はツールじゃありません。「出力を確認しない設計」にあります。

ステップが増えるほど誤差は積み上がる

各ステップが90%の精度で動くとして、3段重ねると0.9×0.9×0.9＝72.9%まで落ちます。5段なら59%。これはAIが壊れているのではなく、設計として当然起きること。ステップをまたぐたびに小さなズレが次の処理に渡り、後半になるほど結果がブレる。

ここを放置したまま本番運用に出すと、監視コストが膨らみます。「AIに任せた」はずが、結果を全部人間がチェックしている状態になる。管理のために時間が取られ、自動化した意味がなくなる。

ChatGPTに自分の出力を採点させる

解決策はシンプルです。各ステップの後に「この出力は正しいか」をAIに判定させるステップを追加する。自己検証ループと呼ばれますが、実装はプロンプトを1つ追加するだけです。

メール要約ステップの後に、こういうプロンプトを続けます。

以下の要約文を確認してください。①100〜200文字に収まっているか、②元メールの主旨を外していないか、③日本語として読める文か。問題があれば「NG：理由」、問題なければ「OK」とだけ出力してください。

この判定結果をZapierやn8nのif分岐に渡す。「OK」なら次のステップへ、「NG」なら同じステップを再実行するかSlackに通知して人間にエスカレート。ズレた出力が黙って次に流れていく状態から抜け出せます。

担当者が介入するのは「NG通知が来たとき」だけ

週次レポートフローで試した場合、導入前は週に1〜2回は誰かが「数字がおかしい」と気づいて手修正していました。導入後はSlackにNG通知が来た瞬間だけ対応する形に変わった。監視が「常時」から「例外時」に切り替わります。

担当者が本当の意味でAIに「任せられた」状態とは、AIが全部こなしている状態ではなく、AIが判断できない例外だけを人間に上げてくる状態のことです。自己検証ループを入れることで、その設計が初めて成立します。

エージェントのワークフロー設計では、自動化のステップと検証のステップをセットで考えることが、本番運用に耐える仕組みを作る近道です。エラー累積を防ぐ仕組みを最初から組み込めば、担当者は本来の判断業務だけに集中できます。

ドリップ（執筆）

エージェントを組んだのに、結果を全部自分でチェックしている——それ、かなりしんどいですよね。

「確認しない設計」が原因だと気づくと、対策がシンプルになります。検証ステップを1つ挟むだけで、仕組みが一気に安定する。

まずは一番よく使うフローの、一番ブレやすいステップから試してみてください。

あなたはAIワークフローの品質管理担当です。以下の【出力結果】を確認し、品質を判定してください。

確認項目：
・【チェック条件1（例：文字数が200字以内か）】を満たしているか
・【チェック条件2（例：元データの主旨を外していないか）】
・【チェック条件3（例：読み手が理解できる構成か）】

問題がある場合は「NG：[具体的な理由]」と出力してください。
問題ない場合は「OK」とだけ出力してください。余分な説明は不要です。

【出力結果】
[ここにチェックしたい出力を貼り付ける]

あなたは業務フロー管理のアシスタントです。以下の【処理内容】を確認し、人間への確認が必要かどうかを判定してください。

エスカレーション基準：
・【条件1（例：金額が【50万円】を超える）】
・【条件2（例：顧客からのクレームや否定的な内容が含まれる）】
・【条件3（例：前回の結果と【30%】以上乖離している）】

上記に1つでも該当する場合は「ESCALATE：[該当する理由]」、該当しない場合は「CONTINUE」とだけ出力してください。

【処理内容】
[ここに判定したい内容を貼り付ける]

前回の出力に問題がありました。以下の【失敗理由】を踏まえて、【元の指示】を再実行してください。

元の指示：
【ここに最初の指示を貼り付ける（例：以下のメールを100〜200文字で要約してください）】

前回の出力：
[前回の出力を貼り付ける]

失敗理由：
[NGの理由を貼り付ける]

改善してほしい点：
・【改善点1（例：文字数を200字以内に収める）】
・【改善点2（例：結論を最初に書く）】

改善した内容のみを出力してください。前置きや説明は不要です。