TL;DR 顧客向けAIエージェントを守るには、個々の攻撃を検出するより「このエージェントが本来すべきこと」を明確に定義して境界を強制する方が効果的だという、Uberの本番運用知見です。
タイトル: Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems
URL:
ポイント
🛡️ 入力・出力の両方を同期的に検証し、機能的境界を強制するガードレールPersona Guardrail
📋 許可リスト・拒否リスト・両者のハイブリッドを比較し、反復改善した許可リストが最強
📊 検知精度はベースラインの85.7%から95.9%へ、誤承認率は25.0%から4.7%へ改善
🔍 特に苦手だったドメイン外リクエストの検知は57.3%から93.5%へ大幅改善
⚡ Qwen3-30B-A3BをMoEアーキテクチャの効率性を活かして採用し、P90レイテンシ95ms未満を実現
🏭 本番展開では誤ブロック率1%未満・誤承認率2%未満を維持
攻撃パターンを数え上げるより「本来の目的」を基準にする発想が、スケールする防御として実用的だと感じます。
#
AIエージェント# #
セキュリティ#