登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

cv usk
@cv_usk
AI / Software Research Notes AI Agent, LLMOps, MLOps, Software Architecture 投稿は個人の意見です。
参加 May 2026
287 フォロー中    475 ファン
TL;DR 顧客向けAIエージェントを守るには、個々の攻撃を検出するより「このエージェントが本来すべきこと」を明確に定義して境界を強制する方が効果的だという、Uberの本番運用知見です。 タイトル: Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems URL: ポイント 🛡️ 入力・出力の両方を同期的に検証し、機能的境界を強制するガードレールPersona Guardrail 📋 許可リスト・拒否リスト・両者のハイブリッドを比較し、反復改善した許可リストが最強 📊 検知精度はベースラインの85.7%から95.9%へ、誤承認率は25.0%から4.7%へ改善 🔍 特に苦手だったドメイン外リクエストの検知は57.3%から93.5%へ大幅改善 ⚡ Qwen3-30B-A3BをMoEアーキテクチャの効率性を活かして採用し、P90レイテンシ95ms未満を実現 🏭 本番展開では誤ブロック率1%未満・誤承認率2%未満を維持 攻撃パターンを数え上げるより「本来の目的」を基準にする発想が、スケールする防御として実用的だと感じます。 #AIエージェント# #セキュリティ#
もっと見る