Register and share your invite link to earn from video plays and referrals.

比特币橙子Trader
@oragnes
Joined August 2017
0 Following    0 Followers
字节跳动正在训练一个拥有多达 10 万亿个参数的人工智能模型,其规模可能接近 Anthropic 的尖端 Mythos 系统。 字节跳动正在把中国大模型的参数规模,直接拉到 10 万亿级。 10万亿不是重点,重点是字节正在选择一条明显更重、更贵的路线:不靠蒸馏抄近路,而是重新押注基础预训练 + Scaling。 把几个数字放在一起看,差距会更直观: Kimi K3:2.8T LongCat-2.0:1.6T DeepSeek V4-Pro:1.6T Anthropic Fable 5:市场估计约 5T Anthropic Mythos 5:市场估计约 8T 字节新模型:最高 10T 如果最终真做到 10T,它是 Kimi K3 的 3.6 倍,DeepSeek V4-Pro / LongCat-2.0 的 6.25 倍,甚至比外界估算的 Mythos 5 还高 25%。 更有意思的是,几乎就在这条消息出现前,张一鸣刚刚要求字节 AI 团队尽量不要依赖其他公司的模型蒸馏,即使短期成绩因此受影响。 字节正在主动放弃最快追上别人的打法,转向自己训练出下一代基础模型。 过去中国模型给人的最大印象是,用 MoE、稀疏注意力、工程优化,把有限算力压榨到极致。 现在字节开始尝试的,是在这些效率创新之上,再把模型规模直接推到美国最顶级闭源模型的量级。 如果这次 10T 训练最终成功,真正改变是中国 Frontier AI 的竞争方式。
Show more