TL;DR: エージェントに仕事を任せた時の「期待外れ」を、Redditの投稿16万件超とユーザー調査から23カテゴリに整理しました。最多は、止まらない・遊んだままの実行です。
タイトル: Babysitting AI Agents: A User-Centered Taxonomy and Study of Agentic Delegation Failures
URL:
ポイント
・🧭 分類法MANDATE:7グループ・23カテゴリの失敗
・🔁 最多は無制限・アイドル実行15.4%、次いで指示違反13.0%
・📉 指示違反は31%から21%へ低下、リソース系は増加
・🙈 深刻な失敗ほど気づきにくい(ρ=-0.61)
・🤝 経験者が多いのは同調や過度な肯定
・🔬 研究は手薄:委任エージェントの失敗を扱うのは214件中20件
・🛠️ 対処は指示の変更が最多の36%
「子守り」を減らすには、実行前の計画確認と、実行後の検証できる証拠が鍵になりそうです。
#
AIエージェント# #
HCI#