我看了一下@ycombinator 今年的项目，基本上都是 1. FDE/Router + Vertical Application： 模型router → 针对某个具体场景做优化 → 接入业务 workflow → 用数据反馈继续优化。 初创公司卖模型，初创公司都是中转站。 2. Router + LLM Optimization / Infra： 跟上一类不一样，这种是解决大模型调用本身的问题：routing、cost、latency、eval、observability、prompt optimization、fine-tuning、inference 等。 比如说 @WorkWeave 这个产品，他们说自己是AI to understand and then route engineering work。最开始的产品更像是 AI-native engineering analytics：接 GitHub / PR / Claude / Cursor 等工程数据，然后用模型分析： 工程师到底完成了多少工作 哪部分代码是 AI 写的 AI coding tools 有没有真正提高 productivity AI 花了多少钱、ROI 怎么样 哪些任务 AI 做得好、哪些做得不好 后面他们这个方向跑到最后发现还是需要模型聚合能力，他们就往一个中转站走了，然后发布了weave router。 他们分析 各种企业的Claude Code workload 后称，大约 60–70% requests 是比较简单的 completion，这些任务用便宜的 open-source model 可以做到相近效果，而成本可能只有约 1/40。 Coding request → Weave classifier/router → 判断任务难度 → 选择模型。 所以拆解一下这家公司就是做Router + Vertical Coding 场景，Weave 这种模式比单纯做一个LLM中转站 Router 更值得借鉴，先找到一个 token spend 巨大、任务高度重复、而且不同任务对模型能力要求差异巨大的 vertical，尤其是coding场景，然后做它的 intelligent routing layer。 所以我感觉年初做中转站的经验虽然没有给我个人带来什么经济收益，但是确实积累了很多实战技能，比如说如何从零到一搭建中转站，如何做FDE，挨个建群解决用户的api问题，比如我自己搭画布接seedance。 往后来看这种经验太值钱了，以后的ai startup都会是这个形态。

我几乎这些年一直在反复纠正，这一波大模型完全应该叫做open weight（开放权重）而不叫open source（开放代码）。 开源的最本质特征是，网络上形成社区，社区对整个项目贡献，社区进行参与，社区进行设计——哪怕社区成员绝大多数来自同一家大厂，至少社区成员在对项目贡献上是平权的，theoratically。 开权大模型open weight LLM最大的特点，就是绝大多数普通的互联网网民，对于所谓的开放大模型，既无法上手pretraining，也无法上手fine tuning，最多下载到本地直接inference。 在这个大前提下，无论技术还是知识上都完全无法做到平权，整个LLM training的infra和training dataset也根本没有开源出来，任何人都无法replicate， 这种东西从本质上完完全全、彻彻底底、毋庸置疑地背叛了“open source（开源）”的定义，因为你压根就没有任何source code给大家，只丢给了大家a big chunk of weights。 这种东西从根源上就不应该叫做开源，只能叫做开权。

GitHub 上一个 7.4w star 的项目，最近刷屏了。 项目名字叫 generative-ai-for-beginners，是微软官方推出的生成式 AI 入门课程。 我本来以为又是那种“看起来很全、实际全是概念”的合集，结果点进去看了两节，直接被惊艳到。 这不是东拼西凑的博客整理，而是真正按照 「怎么一步步做出 AI 应用」 的逻辑来设计的课程体系。 它从 Prompt Engineering 开始教你怎么和模型高效对话、如何精准控制输出；然后自然过渡到 RAG、向量数据库、Fine-tuning、AI Agent、安全等内容。 顺序特别重要。 很多人学 AI 最大的痛苦不是学不会，而是一上来就被 RAG、MCP、Function Calling、Agent、LoRA 等一堆名词砸懵，完全不知道该先学什么、整个链路怎么串起来。 这个课程最牛的地方就在于，它把「为什么先学这个，后学那个」讲得特别清楚，每一节都有明确的 Learning Goals，不会让你学着学着就迷路。 更关键的是——它极度注重实操。 几乎每节都配了 Jupyter Notebook，打开就能跑。你改几个 Prompt，调一下 temperature、top_p，模型输出立刻变化；RAG 那部分更是手把手带你： • 如何切分本地文档 • 如何生成 Embedding • 如何存入向量数据库 • 如何检索 + 喂给模型生成答案 后面 Fine-tuning 讲 LoRA 轻量微调，Agent 部分演示模型如何调用工具完成多步任务。 刷到后面你会突然明白：现在市面上很多 AI 产品，本质上就是把这些模块聪明地拼在一起而已。 最离谱的是，这套课程完全免费，还有中文翻译。 现在很多人一想学 AI，第一反应就是去报各种付费课。但很多付费课其实也是把官方文档换个说法重新讲一遍。 而微软自己做的这套体系化内容，反而更适合想真正从零构建知识框架的人。 我的建议是： 如果你想系统地学生成式 AI，与其每天刷碎片信息、被各种新名词牵着鼻子走，不如直接把这个仓库从头过一遍。 至少你脑子里会先有一张清晰的地图。 仓库地址： 强烈推荐给正在学 AI 的朋友

每个人都应该了解的AI 术语名词，你都认识吗？ 搞懂这些名词 并了解其实现方式和原理。你基本就入门了。 AGI（类人AI）：类似人类思维的AI。 CoT（链式思维）：AI一步步思考。 AI Agents（AI代理）：自动化决策的程序。 AI Wrapper：简化与AI模型的互动。 AI Alignment（AI对齐）：确保AI遵循人类价值观。 Fine-tuning（微调）：使用特定训练数据来改进AI。 Hallucination（幻觉）：AI编造的信息。 AI Model（AI模型）：用于任务的训练AI。 Chatbot（聊天机器人）：模拟人类对话的AI。 Compute（计算）：AI模型的处理能力。 Computer Vision（计算机视觉）：AI理解图像和视频的能力。 Context（上下文）：AI为更好响应保留的信息。 Deep Learning（深度学习）：通过多层神经网络学习的AI。 Embedding（嵌入）：AI的词汇数字化表示。 Explainability（可解释性）：理解AI决策背后的逻辑。 Foundation Model（基础模型）：可适应任务的大型AI模型。 Generative AI（生成式AI）：创建文本、图像等内容。 GPU（图形处理单元）：用于快速AI处理的硬件。 Ground Truth（真实数据）：AI学习的验证数据。 Inference（推理）：AI对新数据做出的预测。 LLM（大型语言模型）：用大量文本数据训练的AI。 Machine Learning（机器学习）：AI通过数据经验改进。 MCP（模型上下文协议）：AI内部数据访问的标准。 NLP（自然语言处理）：AI理解人类语言。 Neural Network（神经网络）：受大脑启发的AI模型。 Parameters（参数）：AI学习的内部变量。 Prompt Engineering（提示工程）：创建输入以指导AI输出。 Reasoning Model（推理模型）：有逻辑推理能力的AI。 Reinforcement Learning（强化学习）：AI通过奖励与惩罚学习。 RAG（检索增强生成）：结合搜索与生成的AI。 Supervised Learning（监督学习）：在标记数据上训练的AI。 TPU（张量处理单元）：AI处理专用芯片。 Tokenization（分词）：将文本分割成词片。 Training（训练）：通过调整参数教AI。 Transformer（变换器）：用于语言理解的AI架构。 Unsupervised Learning（无监督学习）：AI在无标签数据上发现模式。 Vibe Coding（情绪编码）：通过语言捕捉情绪并预测输出。 Weights（权重）：影响AI学习的值。 #AI# #AIAgent#

一篇不错的解读：《META出租H100与购买先进算力并不矛盾》 Meta 做 NeoCloud 与继续租 Crusoe 1.6GW，并不矛盾 昨天盘前，Meta 被报道正在考虑把多余 AI 算力对外商业化，甚至做成类似 NeoCloud 的业务。市场第一反应非常剧烈：Meta 盘前上涨接近 6%，但 AI算力和 neocloud 相关股票则受到负面 Narrative 影响, 市场担心的是：如果 Meta 也开始把 GPU 算力对外卖，是否会直接导致算力过剩？ 这个反应可以理解，但我们认为市场把问题想简单了。 首先，Meta 这件事本质上不是“AI 算力需求见顶”，也不是“Meta 不需要继续买算力”。相反，Meta 同时还在继续锁定非常大规模的新算力。根据 Bloomberg/Reuters 报道，Meta 最近与 Crusoe 签署了新的 AI computing capacity 协议，将从 Crusoe 位于 Texas Childress 和 Missouri Warrenton 的两个数据中心获得合计约 1.6GW 的容量。 同时，Meta还在向其他Neocloud购买算力。我们在去年3Q25 META Preview中就提到过META正在向NeoCloud寻求购买3GW算力。 所以表面上看，这里确实有一个矛盾：如果 Meta 自己已经有多余算力，为什么还要继续向 Crusoe 租 1.6GW？ 我们的理解是，这不是矛盾，而是算力代际切换。 过去两年，Meta 已经采购和部署了大量 H100/H200。这些 GPU 不是没价值，恰恰相反，它们对 inference、fine-tuning、企业模型服务、图像/视频生成、传统 ML workload 仍然非常有价值。但对于下一代 frontier model training，尤其是 3T+ 参数规模的 MoE、长上下文、多模态和 RL-heavy post-training，H100/H200 的训练经济性会明显下降。 关键不是 H100 不能训练，而是单位有效 token 成本变差。 当模型进入 3T+ 规模后，瓶颈不再只是单卡 FLOPS，而是 HBM 容量/带宽、GPU 间通信、scale-up 网络、checkpoint/restart、expert routing、sequence parallel、pipeline bubble、以及大规模 collective communication。H100 集群当然还能跑，但训练 wall-clock 更长，通信开销更高，集群利用率更难维持，最终表现为同样训练一个 frontier model，成本和时间都不如 GB200/GB300，未来更不如 Vera Rubin。 因此，Meta 现在面对的是一个很典型的资产配置问题： 最先进的 GB200/GB300/Rubin，要优先留给下一代模型训练；上一代 H100/H200，则应该尽量转成 inference 或外部商业化收入。 这也是为什么“做 NeoCloud”和“继续租 Crusoe 1.6GW”可以同时成立。 Meta 继续向 Crusoe 锁定 1.6GW，本质上是在为更长期、更先进、更大规模的 AI infrastructure 做准备。这种资源对于 Meta 来说，更多是未来 GB200/GB300/Rubin 时代的战略性产能，而不是简单补 H100 的缺口。 另一方面，Meta 既然已经买了大量 H100/H200，就不可能让这些资产在 frontier training 代际切换后闲置。Meta 内部当然有广告、推荐、内容排序等大量推理 workload，但这和 OpenAI/Anthropic 那种直接面向外部客户卖 token 的 LLM inference 业务并不完全一样。Meta 如果没有足够多可以直接 monetization 的外部 token demand，把 H100/H200 做成 cloud capacity 或 hosted model API 对外销售，是非常合理的资本回收方式。 这其实和 xAI / SpaceX 的思路有相似之处。xAI 今年公开宣布与 Anthropic 达成 compute partnership，向 Anthropic 提供 Colossus 1 算力；xAI 官方称 Colossus 1 包含超过 22 万张 NVIDIA GPU，包括 H100、H200 和 GB200，并可支持 training、fine-tuning、inference 和 HPC workload。(xAI) 这说明即使是 frontier AI 公司，也可能把一部分已有 GPU fleet 对外出租，同时把最新、最稀缺、训练效率最高的下一代集群保留给自己的 frontier model。 所以今天市场担心“Meta 进入 NeoCloud 会打垮所有 NeoCloud”，我们觉得有些过度。 更准确的判断应该是： AI 算力市场正在从单一的 GPU shortage，进入多代 GPU 分层定价和分层使用阶段。 第一层是最新训练算力：GB300、Rubin，以及后续更大 scale-up domain 的系统，主要服务 frontier model training。这部分供给仍然稀缺，客户仍然会向 Crusoe、CoreWeave、Nebius、Oracle、Microsoft 等各类供应商锁产能。 第二层是上一代高端算力：H100/H200/部分 GB200，更适合 inference、fine-tuning、enterprise AI、hosted model、agent workload 和中小模型训练。这部分不是没有需求，而是从“最稀缺的训练资源”变成“可以规模化商业化的推理资源”。 第三层是更通用的 GPU cloud 和 long-tail enterprise workload，对价格更敏感，但需求弹性也更大。 在这个框架下，Meta 的行为其实很合理：它不是停止建设 AI infrastructure，而是在把不同代际的 GPU 放到最适合的经济用途上。 因此，我们不认为这是 AI infrastructure 的大问题。真正重要的判断是：下一代 frontier model training 对 GB200/GB300/Rubin 的需求仍然非常强；同时，H100/H200 这类上一代 GPU 也不会被废弃，而会进入 inference monetization 和外部算力销售阶段。 这对整个 AI supply chain 的含义反而是： GPU fleet 开始变成多代际资产，而不是一次性训练工具。旧 GPU 不归零，新 GPU 继续稀缺。Meta 做 NeoCloud，不是需求崩了，而是算力资产终于开始金融化和商业化。