注册并分享邀请链接,可获得视频播放与邀请奖励。

WangNextDoor
@WangNextDoor2
Engineer/entrepreneur in CA, Tesla/NVDA/AI & Robotics bull. Elon & All-In Podcast enthusiast. Believer in a universal high-income future.
加入 April 2021
19.1K 正在关注    111K 粉丝
Anthropic 指控有厂商批量注册账号、借第三方中转向 Claude 发起上亿次对话,把能力搬走。这叫模型蒸馏。 从零训练一个大模型要花几十亿美元。预训练阶段喂上万亿 Token,只学到人类语言的统计关联;微调还要专家手写答案;强化学习更要在反复试错上烧钱。 核心是思维链蒸馏:学生模型不只背最终答案,还复制教师模型的审题、排错和自我修正。闭源模型拿不到权重,就用题库走 API 批量套取。 Anthropic 上了检测模型、严查 KYC、堵思维链漏洞。黄仁勋的说法是:蒸馏属于市场竞争,竞争推动技术进步。
显示更多