老金(@freeman1266):会用 Claude 聊天，不等于会做 LLM 工程。这两件事之间的距离，比大多数人想象的远。 2026 年，"会用 AI"已经是基本门槛，不是护城河。真正的护城河是：能设计、部署、监控一个生产级 AI 系统。这需要的不只是会写 prompt。从聊天到生产，你需要补上这几段距离：提示工程 → 上下文工程不是写更好的 prompt，是设计信息如何进入模型、以什么格式、在什么时机。本地跑通 → 生产部署延迟、并发、成本控制、降级策略——这些在 demo 里不存在，在生产里全是问题。单次调用 → 可观测系统你不知道模型在哪个请求上出了问题，就没办法系统性地改进它。 RAG 原型 → 检索工程向量搜索只是起点。重排序、混合检索、上下文压缩，每一层都影响最终质量。单 Agent → 多 Agent 协作任务分解、状态管理、错误恢复——这是分布式系统问题，不是 prompt 问题。 "能设计 AI 系统"的人，永远比"会用 AI 工具"的人稀缺。稀缺才有溢价。

2026.05.18 08:35

会用 Claude 聊天，不等于会做 LLM 工程。这两件事之间的距离，比大多数人想象的远。 2026 年，"会用 AI"已经是基本门槛，不是护城河。真正的护城河是：能设计、部署、监控一个生产级 AI 系统。这需要的不只是会写 prompt。从聊天到生产，你需要补上这几段距离：提示工程 → 上下文工程不是写更好的 prompt，是设计信息如何进入模型、以什么格式、在什么时机。本地跑通 → 生产部署延迟、并发、成本控制、降级策略——这些在 demo 里不存在，在生产里全是问题。单次调用 → 可观测系统你不知道模型在哪个请求上出了问题，就没办法系统性地改进它。 RAG 原型 → 检索工程向量搜索只是起点。重排序、混合检索、上下文压缩，每一层都影响最终质量。单 Agent → 多 Agent 协作任务分解、状态管理、错误恢复——这是分布式系统问题，不是 prompt 问题。 "能设计 AI 系统"的人，永远比"会用 AI 工具"的人稀缺。稀缺才有溢价。