ハーネスエンジニアリングのプラクティス
P19. 失敗をデータ資産化する(ハーネス自身のレトロループ)
🎯 ポイント
同じ失敗を何度も繰り返すハーネスは、改善不能なブラックボックスです。失敗をログ化し、ハーネス改善にフィードバックする仕組みを持ちましょう。
📝 概要
あらゆる人間の介入・ロールバック・流出欠陥を原因とともにログ化し、ハーネス改善(新ゲート・新指示・新ツール)にフィードバックします。ハーネスは自分自身に対するCIを持つべきです。これが成熟度L3(測定する)とL4(改善し続ける)を分けます。
🔍 解説
エージェントが失敗したとき、多くの組織は「モデルが悪い」で終わらせます。しかし本当の問いは「なぜハーネスはこの失敗を防げなかったか」です。人間が介入したということは、ハーネスにガードレールか検証が足りなかったということです。ロールバックが必要だったということは、サーキットブレーカーが機能しなかったということです。流出欠陥があったということは、検証器が不十分だったということです。これらの事象を原因分析とともに記録し、ハーネスの改善アクション(新しいゲートの追加、指示ファイルの更新、ツールの改善)に変換するループが、ハーネスを製品として成熟させます。
🛠 実践方法
・人間の介入・ロールバック・流出欠陥の全事象を、原因分類とともに構造化ログに記録します
・定期的(週次や隔週)にレトロスペクティブを実施し、頻出する失敗パターンを特定します
・各失敗パターンに対して最も効果的な改善アクション(新ゲート・指示追加・ツール改善)を選定し、実施します
・改善アクションの効果を測定し、効果が低いものは撤回して別のアプローチを試します
💼 ユースケース
・issue-to-PRエージェントの失敗事例を週次で分析し、ハーネスの改善点を特定する場面
・CI自動メンテナンスで、偽陽性の原因を追跡し、トリアージロジックを改善する場面
・インシデント対応で、エージェントの推奨が不正確だった事例から、可観測性アクセスの改善点を導く場面
⚠ 落とし穴
失敗のたびにルールを追加するだけでは「足場のラチェット」(AP3)に陥ります。失敗をデータ資産化するとは、単にルールを増やすことではなく、根本原因を分析して最も効果的な改善を選ぶことです。また、ログ化だけして分析しなければ、データは蓄積するだけで価値を生みません。定期的なレトロスペクティブの仕組みが不可欠です。
#
HarnessEngineering# #
ContinuousImprovement#