ハーネスエンジニアリングのアンチパターン
AP8. ゲート疲労と空承認(Gate Fatigue / Rubber-Stamping)
🎯 ポイント
可逆な操作にまで承認ダイアログが出て、一日に何十回も反射で「承認」を押す。過剰なゲートはゲートそのものを無力化します。
❗ 発生する課題
承認要求が多すぎるため、人間がゲートを反射的にスキップするようになります。アラート疲労と同じメカニズムで、本当に危険な不可逆行為の承認も反射で通過してしまい、ゲートの存在意義が完全に失われます。
🔍 メカニズムと症状
「すべてに人間承認を」は安全に見え、監査担当を安心させるため、このアンチパターンは組織的に採用されやすいです。しかし、意味のない承認の反復は承認を反射にします。これはアラート疲労と完全に同じ機序です。一日に50回「ファイルを編集してよいですか?」と聞かれれば、51回目の「本番DBを削除してよいですか?」も反射で承認してしまいます。症状としては、承認にかかる時間が1秒未満(読んでいない証拠)、全承認のログが記録上は「確認済み」だが実際は未確認、重要な操作の承認が他の瑣末な承認に埋もれる、チームが「承認がうざい」と不満を漏らす、といった現象が見られます。
📋 シナリオ
・エージェントがファイルを読むたびに承認を要求。開発者は無意識に「全て許可」を選択する習慣がつき、後日エージェントがforce-pushを実行した際も反射で承認。
・セキュリティチームが「全操作に承認必須」のポリシーを導入。開発者は1日に200回の承認を処理するため、全てを一括承認するスクリプトを作成。ゲートが完全に形骸化。
・ペアプログラミングで、エージェントの全編集に差分プレビューと承認を要求。開発者は差分を見ずにEnterを連打し、結果として意図しない変更が混入。
🛡 回避方法
・権限設計を「能力」ではなく「取り消し可能性」で行い、可逆な操作は自由に許可します
・不可逆な操作だけを「重い儀式」のゲートに集約し、ゲートの希少性を保ちます
・承認の反応時間を測定し、1秒未満が続く場合はゲートが形骸化しているサインとして対処します
・ゲートの数を意識的に最小化し、「本当に人間の判断が必要な瞬間」だけに限定してください
#
HarnessEngineering# #
AIAgent#