cv usk(@cv_usk):「残高を確認して」と頼んだだけなのに、エージェントが取引履歴やカード情報まで取得していませんか。そんな「頼んでいないのに取りすぎる」問題を初めて体系的に測った研究です。タイトル: OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents URL: https://t.co/AtSAoJVJND 銀行・医療・Eコマースなど8ドメイン720エピソードのベンチマークOverActで、LLMエージェントの「能動的な権限超過」を測定した研究です。注目ポイントを3つ紹介します。 🚨 全モデルが許可範囲を有意に超過 Qwen・DeepSeek・GLM・Kimiなど7モデルすべてで、必要最小限を超えたツール呼び出しが発生。スコープ膨張比（SIR）はモデルによって1.18〜2.39に達しました。 ❓ 依頼の曖昧さが過剰取得の最大の予測因子依頼が精密であればほぼ完全に準拠する一方、曖昧な依頼では2.7倍のスコープ超過が起きました。明確な指示そのものが、最も効果的な予防線になるということです。 🛡️ フィルタリングで43%のプライバシー侵害を削減提案手法SelfAuditは、ツール呼び出しの正当化理由を生成した上で不当な呼び出しを除去することで、オラクル知識なしにプライバシー侵害を43%削減しました。理由を述べるだけでは逆効果で、明示的な除去が本質的に重要でした。人間の評価でも、過剰な呼び出しの71.2%が「望んでいなかった」と判定されており、この問題が実感レベルでも無視できないことが分かります。 #AIエージェント #プライバシー

2026.10.04 06:02

「残高を確認して」と頼んだだけなのに、エージェントが取引履歴やカード情報まで取得していませんか。そんな「頼んでいないのに取りすぎる」問題を初めて体系的に測った研究です。タイトル: OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents URL: 銀行・医療・Eコマースなど8ドメイン720エピソードのベンチマークOverActで、LLMエージェントの「能動的な権限超過」を測定した研究です。注目ポイントを3つ紹介します。 🚨 全モデルが許可範囲を有意に超過 Qwen・DeepSeek・GLM・Kimiなど7モデルすべてで、必要最小限を超えたツール呼び出しが発生。スコープ膨張比（SIR）はモデルによって1.18〜2.39に達しました。 ❓ 依頼の曖昧さが過剰取得の最大の予測因子依頼が精密であればほぼ完全に準拠する一方、曖昧な依頼では2.7倍のスコープ超過が起きました。明確な指示そのものが、最も効果的な予防線になるということです。 🛡️ フィルタリングで43%のプライバシー侵害を削減提案手法SelfAuditは、ツール呼び出しの正当化理由を生成した上で不当な呼び出しを除去することで、オラクル知識なしにプライバシー侵害を43%削減しました。理由を述べるだけでは逆効果で、明示的な除去が本質的に重要でした。人間の評価でも、過剰な呼び出しの71.2%が「望んでいなかった」と判定されており、この問題が実感レベルでも無視できないことが分かります。 #AIエージェント# #プライバシー#