AIエージェントをエンタープライズシステムに組み込むプラクティス
【スーパーバイザ / ルーター】
💡 全社AIに「何でも聞ける」を実現するカギは、裏側の賢い交通整理。安価な分類器がリクエストを最適なドメインエージェントへ瞬時に振り分けます。
🔥 解決する課題
- すべての機能を1つの巨大プロンプトに詰め込むと品質が劣化する
- ドメインごとに最適化されたプロンプト・ツール・モデルを使い分けられない
- 全リクエストを最高性能モデルで処理するとコストが破綻する
- 分類不能なリクエストが迷子になる
🏗️ 提案パターン
安価で高速な小型分類器がユーザーの意図を判定し、営業・IT・人事・開発などの専門エージェントに委譲します。曖昧な入力には聞き返しで意図を確定させてから振り分けます。委譲先には権限上限・コスト上限・タイムアウトを引き継ぎ暴走を防止。分類不能な場合はデフォルトエージェントまたは人間へのフォールバック経路を必ず用意します。
✅ 選定条件
- 向き:多様な業務をカバーする全社展開、複数のドメインエージェントが存在する環境
- 不向き:単一ドメインで完結するエージェント(ルーティング不要)
⚠️ 落とし穴
- ルーティング誤りのコストを過小評価しがち(小型モデルで複雑タスクを処理→品質劣化)
- 分類精度を実測せず固定ルールだけに頼ると、業務変化に追従できない
- フォールバック経路がないと、未知のリクエストが無限ループに陥る
🛠️ 実装方針
1. 意図分類にはファインチューニング済み軽量モデル(distilBERT等)またはルールベース分類器を使い、レイテンシとコストを最小化します
2. ルーティングテーブルを設定ファイル(YAML/JSON)で管理し、ドメインエージェントの追加・変更をコード変更なしで対応できるようにします
3. 分類不能時のフォールバック経路(デフォルトエージェントまたはSlack経由で人間へエスカレーション)を必ず実装します
4. 委譲先エージェントには権限上限・コスト上限・タイムアウトをパラメータとして引き継ぎ、OPA/Cedarでポリシーを一元管理します
5. 分類精度をA/Bテストと週次レポートで継続計測し、誤ルーティング率に応じて分類器を再学習します
#
AIエージェント# #
エンタープライズアーキテクチャ#