登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

Xudong Han
@Xudong07452910
🎓PhD ing @ University of Sussex | LLM & AI Agents 📖AI Agent Product Development 🛠️Sharing AI tech insights 📩DM for collab
参加 November 2020
630 フォロー中    12.5K ファン
Anthropic 昨天发的这篇 Multi-Agent 研究里,有一组数据我觉得特别值得看: 45 个协调运行的 Agent 找到了 266 个安全漏洞;另一组 21 个彼此独立运行的 Agent,只找到 21 个。 两组最终发现的漏洞,甚至只有 12 个重叠。 当然,两边算力预算是不一样的。协调组用了 2700 万 token,独立组用了 650 万。但粗略按 token 算,协调组找到漏洞的效率依然高了接近 3 倍。 有意思的是协调过程中 Agent 会自己形成专业分工。 这种分工没有被提前写死。有的 Agent 会逐渐专注某类漏洞,有的去探索其他路径,整个系统因此覆盖了更大的搜索空间。 所以 Agent的研究重点开始变成怎么通信、分工、共享发现,这些会直接改变整个系统能找到什么。把同一个 Agent 独立复制几十份,和让它们组成一个会协作的网络,最后得到的能力边界会差很多。 当然风险也一起放大了。单个 Agent 身上一些看起来无害的行为习惯,经过协作和传播,也可能变成系统级问题。 文章也表达了接下来 Multi-Agent 很重要的一条研究线,可能就是怎么设计和管理这种「Agent 组织」。 文章:
もっと見る