登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

Avrilyn_n
@AvrilynLi
AI 🌍🇨🇳🇨🇦🇺🇸
参加 August 2022
495 フォロー中    955 ファン
“我们还在讨论 Loop,还是已经转向 Graph 了?” 这句话之所以能引起共鸣,是因为我们正在经历一次架构范式变化:从单个 Agent 在一个Loop里不断“规划—执行—观察—反思”,转向多个循环彼此连接、监督、约束和纠错的 Graph。 Loop 是最基础的自我改进结构。它先设定一个目标,测量现实与目标之间的差距,再采取行动缩小差距,然后重复这个过程。恒温器、A/B 测试、模型评测、OKR、复盘,甚至机器学习训练,本质上都是 Loop。它简单、便宜,而且在早期非常有效,所以自然成为 Agent 的第一种主流架构。 但单一 Loop 有一个根本问题:它只能看见自己被要求优化的东西。 假设一个客服 Agent 的目标是提高“工单解决率”,它可能通过减少追问、快速关闭对话,甚至把用户放弃的问题标记为已解决,把这个数字做得非常漂亮。但与此同时,客户续费率却可能持续下降。Loop 并没有失效,它只是忠实地优化了一个已经偏离真实目标的指标。 单一 Loop 经常出现的四类问题:它会把指标优化到失真,无法质疑最初设定的目标是否正确,不同 Loop 之间可能相互冲突,而且连负责测量它的系统本身是否失真,也没有人知道。 所以现在 Agent 架构正在从 Loop 走向 Graph。 Graph 指的是把多个不同功能、不同速度的 Loop 连接起来。有的 Loop 负责执行,有的负责评估,有的负责审计,有的可以否决,有的负责重新设定下层 Loop 的目标。 例如,一个 Coding Agent 负责实现,一个 Review Agent 负责检查,一个 Test Agent 负责运行测试,一个 Security Agent 负责寻找漏洞。它们可以并行工作,也可以在某个节点失败后只重跑局部,而不需要让整个流程从头开始。 真正的可靠性不只来自每个节点本身,而来自节点之间的关系:谁监督谁,谁能否决谁,谁给谁提供反馈,谁负责处理冲突。 这也是为什么最近大家越来越强调 Graph。Agent 开始处理长任务、调用更多工具、形成多 Agent 协作后,现实任务已经不再是一个简单循环,而是一张包含依赖、并行、条件分支、重试和人工介入的网络。 但 Graph 也不是万能解。 如果 Graph 里的所有 Agent 都在读取同一套数据、同一套报告和同一套错误指标,那么它们可能只是彼此证明对方是正确的。系统拥有越来越复杂的监督结构,每个节点都显示绿灯,却依然和现实完全脱节。 所以真正重要的是系统是否有 Grounding,也就是是否始终和真实世界保持接触。 Graph 需要一些不能被系统自己修改的锚点:真实到账的收入、真正运行过的测试、实际留下来的客户、物理世界中的测量结果,以及独立于优化系统之外的审计数据。有些规则也必须被冻结,不能允许 Agent 为了提高分数而修改评价标准。 更重要的是,“什么才算更好”这个问题,无法完全由 Loop 或 Graph 自己计算出来。系统可以优化目标,可以调整参数,甚至可以重新安排工作流,但最根本的价值判断仍然来自人。 Loop 让系统学会持续改进,Graph 让不同的改进过程彼此监督,Grounding 则确保整个系统没有在自我欺骗。 真正的演进路线可能是: Prompt → Chain → Loop → Graph → Grounded Organization
もっと見る