註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

lidang 立党 (劝人卖房/学CS/买SP500/纳100/OpenAI/Anthrop第一人)
@lidangzzz
加入 April 2009
2.7K 正在關注    1.6M 粉絲
聚焦在现有工作上用coding Agent去解决,是一条错误道路,人类已经把能吃的红利吃差不多了, 接下来就是无尽的人指令-agent执行-人指令-agent执行的iteration中逐渐迭代工作,很难把人从这种小幅度高强度反复的iteration中解放出来。 因为现有codebase不仅高度复杂,而且人的大部分命令都是高度模糊、 高度开放、高度自由、无法验证的命令, 场景也是高度开放、高度自由、无法在containers中直接测试跑一跑,必须在真实世界中获得反馈才能继续修改工作。 所以我最近半年一直坚持反复告诉大家: 1. 在现有所有大型科技互联网软硬件移动外包平台coding agent的红利很快就吃完,现有人类像唱山歌一样和claude code高强度一问一答的模式,就是短期内的最优解——像full self coding一样大量agent并行完成coding工作,不会带来更多的收益; 2. 在coding agent很快增长和红利消失的大前提下,人类如果想继续把AI Agent和multi agent的红利吃干抹净,必须持续找到有价值的新领域、新方向、新问题: A. 同时满足问题定义简单干净、环境封闭、非常非常易于verify、问题解决方案搜索空间巨大的复杂问题,让goal-driven( 前提是易于verify,必须用很低的成本去verify最终输出是否正确,保持持续验证这个criteria,给予正确的反馈和无限工作循环的核心条件,直到完整完成工作; B. 能够把multi agent的并行度吃干抹净,一次性1000个agent大批量初始化和启动,在一些setup中持续活跃,保持multi agent的可观测性, 除了openclaw时代就臭大街的各种爬虫以外,还有行为经济学、社会学、心理学、教育学、法学等等大规模试验,不由分说充足token,先初始化1000个agent模拟跑几天,观察一些初步结论; C. 就像我半年前说的价值10万刀的策略:把一切人类社会中遇到的所有问题,整理成文档、表格、图片、文字、structured data,让一些富有经验、富有memory的coding agent(就是claude code和codex本人)进行一步步解决, 你始终要明白,现阶段的头部coding agent已经足够复杂、 足够高级、机制足够完善,AI Agent已经经历了4~5轮工业革命,完善到整个industry其他任何生态和框架继续手搓的任何agent都像一个玩具,只要一个claude code/codex一个文件夹+一个docker/kubernete,就是未来一切企业和流程中的general agent; 3. 有一点几乎被所有人忽略,也是我近几个月意识到的问题。 在经典deep learning时代,一些产业对于经典neural network和baysian model有天然的不信任感和敌意,他们会非常激进、偏执地要求一切machine learning的模型尽可能地跟随可解释性、AI伦理、因果推断等等方向。 在AI Agent时代,越是激进使用的人,越是对AI Agent产出的代码、报告、分析、数据、结论产生严重的怀疑, 因此不只是GPT model需要superalignment,LLM Agent本身更需要superalignment,在Agent时代,superalignment的重要性会越来越高, 而且AI Agent产出和workflow的可解释性需求也会越来越高,最最基础浅表的就是各种问答chatbot的来源引用,今后其他越来越复杂的工作,包括coding本身,都会有可解释性的大量问题涌现, 一种方式是尽可能用formal verification或者prover的形式来自动化验证, 一种是用agentical的验证方式,就像人一样去用一个或者多个agent来反复review和challenge一项工作; 4. 还有一点很多人没想到,就是AI Agent会对人施加反过来的影响。 比如office出现后,普通人要求用office三件套来完成工作,office重塑了人类办公的基本流程和规范, 比如出现了google之后的早期,普通人要学会正确输入搜索关键词,把想问的问题拆分成正确的关键词,以获得正确query的结果(后来google反复做了优化,这个技能也逐渐不重要), 比如social network出现之后,人们学会了全新的交友方式、social network的交友礼仪、聊天方式, 所以在AI Agent时代,人最重要的技能,没有之一,就是如何正确使用AI Agent、挑选正确的模型、使用正确的工具、组建正确的prompt、描述正确的问题、输入充足完备的信息、如何用goal-driven去构建一套dual-agent的简单无休止infinite-loop workflow, 一个不会正确定义问题、不会正确输入足够多的信息、不能让AI Agent在一个边界清晰的闭包问题中正确工作、持续工作的人,天天拿AI Agent当成无所不知的万能神、百宝箱、随机神、超人,除了问弱智问题,就是玩猜猜看、问宏大开放的无异议问题, 这种人大概率会被这个时代逐渐淘汰掉。
顯示更多
0
12
128
21
轉發到社區