LLM workflow从出来的第一天,我就说,这玩意儿给企业用绝对必死无疑,跟low code和no code一样,属于民办三本文科宝妈的意淫幻想。
典型就是,设置一个自以为挺有用的场景,一堆人跟个大傻逼似的,忙活设计,玩连连看,反复测试,跟个胡闹厨房一样,
做完美滋滋地跟团队炫耀,大面积推广, 用了一周之后发现,哎,缺少了功能ABCDEFG,其中ABCD和EFG还矛盾,如果要完善LLM workflow的这些缺失功能,那就要完完全全重新写一套。
这时候这些民办三本文科宝妈的脑子直接烧了,因为要满足接下来层出不断需求,就要每周时时刻刻重写,而这对于他们人均边牧一样的产品设计和coding能力,是绝对做不到的。
这些人连python写一个从1加到100都费劲,让他们持续维护一个不断推翻、不断重新设计、不断连连看的LLM workflow,比让他们学会正确写一个feature requirement document还难。
于是整个团队出现了五六个LLM workflow之后,彻底失去维护能力,持续烂尾,又回到了人肉办公处理的时代。
显示更多
LLM 几乎可以重构所有 App 业务的今天,真的有一种回到十几年前移动互联网刚爆发时的感觉。每天都在灵感井喷:这个东西可以重做一遍,那个产品也可以重新做一遍,过去很多因为成本太高做不了的东西,现在一个人加几个 Agent 就能开干。但和十几年前最大的区别是——那时候创业者面对的还是一片相对蛮荒的新大陆。现在你旁边站着一群大厂。他们有用户、有流量、有数据、有渠道,还有成熟到可怕的中台和弹药库。你今天灵光一闪想到的功能,他们可能明天就能塞进现有产品里。所以这一轮 AI 创业最刺激的地方,不只是机会多。而是机会和威胁,几乎同时到达。
显示更多
LLM 这块真的有什么硬性的护城河吗,开源社区已经把各种大模型,基础设施都端上来了,openai 和 anthropic 的领先地位到底还能持续多久?又或者以后是否还有必要为那一点智能支付高昂的溢价?目前的感觉是,谁有卡谁就是大爷,这么看马斯克布局数据中心确实是一手好棋
显示更多
LLM 每一轮迭代,都会让一批创业者丢掉生意。今天跟一位朋友聊,他说模型越强,他却越兴奋。
他是做硬件集成解决方案的,前十年在工厂摸爬滚打,2023 年 AI 爆发后开始跟着 waytoagi 社区沉浸式学习,将 AI 能力转换成生产力,然后将经验复制到工厂生产场景,写 prompt,建 workflow,也捏 agent,认识了很多工厂老板。
两年下来,最大的感受是,再好用的提示词和工作流,都会随着大模型能力的提升成为历史的遗迹。这也一度让他产生焦虑。
今年年初,他把投入的方向做了一些调整。Coding agent 的能力跃迁,让 AI 可以做好大量繁琐工作的拆解了,例如可以把工厂的需求拆解成更具体的电路问题和软件设计问题,将复杂的电路集成问题拆解成可单元化合成的简单问题。凭借着对硬件领域的认知和人脉关系,他开始从咨询顾问转型为硬件集成方,除了做方案供给,也把软硬件实现环节给承接了下来。
在能力打磨阶段,一方面承接市场各类个性化定制需求,一对一客服,另一方面线下跑工厂,帮助工厂完成 AI 转型和升级。过程中,把对 AI 的理解附加到硬件产品上,又把对硬件的理解融入到AI 的交互体验中,逐步积累了深厚的技术壁垒和认知壁垒。
过去半年,他几乎每天只睡四个小时。为了解决某个硬件集成或设计问题,会去了解每个元件的工作原理,做好参数调试,以及供应商对比,在实战中沉淀和优化了丰富的元件知识库,也与大量硬件供应商建立信任关系,很快就逐渐形成了自己的集成方案优势、价格优势和服务体验优势。
他说这些都是脏活苦活累活,很多人不愿意下场,愿意下场的人又不懂 AI,也就没办法将沉淀的知识转换成有效生产力。
在做生意方面,也是务实的风格。遇到了好的硬件想法和创意,他并没有直接下场实现,而是把利润让给合适工厂,跟工厂一起打磨更顺畅的合作模式,同时也为自己建设更全面的硬件调试能力,以此来构建更持久、更健康的生态合作环境。
跟这个朋友的沟通,让我感受到,1)无论是数字时代还是智能时代,都需要下苦功夫,没有捷径可走;2)行业 know-how 就是最强护城河,充分发挥自己的领域优势,结合 AI 把人解决起来最难、最痛苦的问题搞定,前面就是曙光;3)做生意,三分利七分情,生态好了,自己才会更好。
显示更多
LLM 不只在污染我们读到的文字,也在重塑我们写的文字,进而腐蚀人和人之间的信任。
最近读 Armin Ronacher 的一篇 blog,他是 Flask 的作者,python 圈很老的人了。
Armin 这篇 blog 叫《Content for Content's Sake》,大概意思是:LLM 不只是在污染我们读到的东西,它正在改写我们自己怎么写、怎么说话,最终腐蚀掉人和人之间最底层的信任。
他扒了自己过去 90 天的 AI 会话记录,把中频词的使用频率跟 wordfreq(一个历史词频基准)对了一下。结果capability、substrate 这种词在 AI 给他的回复里出现的频率,远远高于历史正常水平。
也就是说,AI 已经有一套自己独特的语言指纹。
这只是第一层。
第二层是这些指纹正在渗透回人类。Armin 说,他上推特、刷 HN 的时候发现,越来越多回复读起来像 LLM,但发帖人不少是他认识的真人。他自己也察觉到了,读了太多机器生成的文本之后,人会无意识地吸收那种腔调。
不是 AI 模仿他,是他在变成 AI。
这个我也有同感,很多时候,即使是我自己写的东西,我看着也像 AI 写的东西……
然后是第三层。信任被腐蚀。
系统层面已经在崩:欧盟的投诉系统被 AI 批量投诉搞到接近瘫痪;开源项目的 GitHub issue 区被 AI 生成的伪 bug 报告冲烂;已经有公司专做“自动化发送 LLM 内容”的服务。
但最贴身的崩坏不是这些,比如他的一个朋友,现在跟陌生人聊几句就会强制对方打电话过来,只为了确认对面是个活人。
结尾更有意思
Armin 承认,这篇文章里的表,是他让 AI agent 帮他做的,爬 Google Trends 数据的代码也是 AI 写的。
他用来论证“AI 在污染我们”的图表和数据,本身就是 AI 帮他生成的。
整篇博客就是在说:我们已经被卷进这个漩涡里了,保持清醒已经很难,保持干净几乎不可能。
感觉是时候写一篇论文了:人与 AI 如何和谐共生😂
显示更多