結論：任せる基準は「賢さ」ではなく、失敗を観測して戻せるか
AIエージェントは、情報を読み、判断し、ツールを使って複数段階の仕事を進めます。だからこそ、成功条件が曖昧な仕事や、失敗後に取り消せない操作から始めるべきではありません。OpenAIは複雑な判断、保守しづらいルール、非構造データが多い業務を候補として挙げる一方、条件が合わなければ決定論的な仕組みで足りると説明しています。[OpenAI公式]
仕事を4段階に分ける
| 段階 | 例 | 承認 |
|---|---|---|
| 読む | 資料検索、状態確認、分類 | 低リスクは自動化候補 |
| 下書きする | 返信案、記事案、更新案 | 公開前に人または追加検証 |
| 変更する | 社内DB更新、予約変更、ファイル編集 | 対象と差分を限定し監査ログを残す |
| 確定する | 送金、契約、削除、顧客への確定回答 | 原則として人の明示承認 |
向いている仕事の条件
- 完了をデータで確認できる。
- 利用するツールと権限を最小化できる。
- 途中経過と根拠を監査ログへ残せる。
- 連続失敗や予算超過で自動停止できる。
- 元の手順または直前の状態へ戻せる。
複雑さは、効果が確認できてから足す
Anthropicも、まず単純なプロンプトと評価から始め、複雑なエージェントは改善効果を示せる場合に追加する考え方を示しています。設計の複雑さは自動化率ではなく、例外を正しく扱うために必要な分だけ増やします。[Anthropic公式]
段階導入
- 読み取りと候補提示だけで20件試す。
- 誤り、手動修正、停止理由を記録する。
- 低リスクの正常系だけ更新権限を渡す。
- 外部送信・削除・決済は承認点として残す。
- 例外率と人間介入時間を毎月見直す。
導入判断
成功率だけでなく、重大な誤操作0件、例外を人へ戻せた割合、停止までの時間、復旧時間を見ます。人が監視し続けないと安全を保てないなら、まだ自律化ではなく遠隔操作です。