# AIエージェント開発の意思決定ポイント 🎯 ポイント エラーが起きたとき、すぐ止めるか、品質を落としてでも続けるか？ AIエージェント特有の難しさは、出力が「部分的に正しいが部分的に誤っている」グレーゾーンが日常的に発生することです。10項目中8項目は正しいが2項目は不正確。この部分結果を返すことが有益か危険か。従来のソフトウェアの正解/不正解の二値とは違う判断が求められます。 📋 概要 AIエージェントがエラーや異常に遭遇したときの振る舞いに関する設計判断です。Fail-fast は即座に処理を中断して明示的なエラーを返します。縮退継続（Graceful Degradation）は品質や機能を落としながらも何らかの結果を返します。個々のエラー発生時点では必ずどちらかを選ぶ二値の判断であり、中間はありません。ただしエラーの種類ごとに異なる方針を適用することは可能です。 🔍 意思決定のポイント 判断軸は「部分結果に基づいて行動したときの損害」と「レイテンシ予算」です。 📌 部分的に誤った結果が下流に流れると重大な損害 → Fail-fast。金融取引、医療判断、法的文書生成。部分的に誤った結果が「正しい結果」として扱われることの損害は、処理が中断されて再試行が必要になるコストを大幅に上回ります。 📌 部分結果と完全結果の区別がつきにくい → Fail-fast。縮退で返された結果が「完全な結果」と誤解されるリスクがあるなら、明示的なエラーの方が安全です。偽りの安心感（false confidence）はfail-fastよりも危険な結果を招きます。 📌 部分結果でもないよりはまし → 縮退継続。10件のドキュメント要約で2件が取得失敗した場合、8件分の要約を返す方がエラーメッセージだけより有用です。 📌 品質劣化を明示的にユーザーに伝えられる → 縮退継続が有効。「3件中1件のソースが取得できませんでした」のように何が欠けているか明確に伝えられるなら、部分結果は有用です。 📌 説明責任が求められる → Fail-fast寄り。「なぜこの不完全な結果を返したのか」の説明が求められる環境では、明示的なエラーの方が管理しやすいです。 💡 要点と詳細 🔹 Fail-fastの本質的な価値は「問題の隠蔽を防ぐ」ことです。問題が発生した時点で即座にアラートが上がり、根本原因の調査と修正が迅速に行えます。縮退継続では問題が隠蔽され、後から発覚したときには影響範囲が広がっている可能性があります。 🔹 縮退継続の本質的な価値は「可用性の維持」です。完全停止するよりも部分的に機能する方がユーザーにとって有用な場面は多い。また、fail-fastで処理全体を再実行すると成功していた部分のトークンも再消費するため、縮退の方がコスト効率が良い場合もあります。 🔹 縮退継続の最大のリスク：部分結果が「完全結果」と区別できないまま下流に流れること。下流システムが「正常レスポンス」と「縮退レスポンス」を区別できていないと、不完全なデータでバッチ処理が走ったり、長期間にわたって縮退状態が続いていることに気づかなかったりします。 ⚖️ トレードオフ Fail-fastは安全性とエラーの早期検出を得る代わりに、可用性の低下とリトライコストを受け入れます。長時間の処理が最終段階で中断されると、それまでのトークン消費が無駄になります。縮退継続は可用性とコスト効率を得る代わりに、不完全な結果が正常として扱われるリスクを受け入れます。 🏆 定石は「段階的縮退ラダー」です。エラーの深刻度に応じて複数段階を定義します。 レベル1（軽微）：一部データ欠損 → 欠損を明示して残りを返す レベル2（中程度）：主要モデル障害 → フォールバックモデルに切り替え、品質低下を明示 レベル3（重大）：核心データの欠損や整合性エラー → fail-fast 判断に迷ったら「この部分結果に基づいてユーザーが行動した場合、取り返しのつかない損害が生じうるか」を自問してください。答えがYesならfail-fastです。 🛠️ ユースケース 💰 金融取引の自動化 → Fail-fast。部分的に誤った取引指示が実行されると取り返しがつかない。エラーメッセージと再試行の方が遥かに安全。 📚 ドキュメント要約サービス → 縮退継続。一部のドキュメント取得に失敗しても、取得できた分の要約を「N件中M件を要約しました」と明示して返す方がユーザーに有用。 🤖 対話型アシスタント → 縮退継続。ツール呼び出しが1つ失敗しても、他の情報源から回答を構成し「一部情報が取得できませんでした」と付記。完全停止より遥かに良いUX。 📊 データパイプライン → Fail-fast。下流のバッチ処理が不完全なデータで走ると影響が連鎖。途中で止めて修正→再実行の方が安全。 🏥 医療判断支援 → Fail-fast。部分的な検査結果に基づく判断は危険。必要な情報が揃わなければ明示的にエラーを返し、人間の判断に委ねる。 #AIエージェント# #ソフトウェアアーキテクチャ#