在AGI的混合路径上，我们是那50%的“人类变量” 我们曾经以为，我们每天的“一念天堂一念地狱”的AI体验摇摆，源于LLM当下的架构缺陷。我们以为，只要熬过这个“巴别塔”的搭建阶段，一切都会好起来。 今天，DeepMind的掌舵人Demis Hassabis，用他那冷静而深邃的视野，告诉了我们一个更宏大的真相： 我们今天的摇摆，并非因为我们走错了路，而是因为我们正处在两条通往AGI的伟大路径，那激烈、痛苦、但又充满希望的交汇点上。

230k GPUs, including 30k GB200s, are operational for training Grok @xAI in a single supercluster called Colossus 1 (inference is done by our cloud providers). At Colossus 2, the first batch of 550k GB200s & GB300s, also for training, start going online in a few weeks. As Jensen Huang has stated, @xAI is unmatched in speed. It’s not even close.

“语言之所以是智能，不是因为它能被说出，而是因为操纵语言的主体——知其所言、调其所言、欲其所言。” 所以LLM目前的文本生成只相当于我们的语言区神经元放电？ https://t.co/YIqnBd58mJ

しっかりデニムな本体部分 ガッツリスケスケな首から肩部分 この衣装。良いど( ` -´ )bｲｲﾈｯ✨ そして顔が可愛すぎます。ありがとう。ありがとう😭

近年实践层面上，人类智力被证实非通用智能。 图灵奖得主LeCun指出“人类智能并非通用智能……我们的头脑是进化产物，只擅长解决对生存有用的问题” 。 如AlphaGo在围棋上击败人类冠军 ，显示AI在特定领域已超越人类专家，但仍依赖庞大计算。 综合来看，当前学术观点普遍认为AGI/超智能具有理论可能性，但必须妥善处理理解、价值和控制等关键问题，以防智能脱离人类初衷。

David Silver在DeepMind负责Reinforcement Learning（RL，强化学习），是AlphaGo团队的核心。他最近有个分享，有些启发： 学习的三个阶段： 1. 基于现有知识的学习 2. 基于人类已有经验的强化学习 3. 忘记人类经验的自我学习 每个更高阶的学习，都在不断丢掉旧的知识，旧的经验。 更具体而言： 1. 当前LLM主流还是Data驱动。问题在于1）Data会成为一个天花板，2）模型会和当前的Data尽量拟合而自身的学习能力被弱化。3）LLM默认会证明自己是对的，所以经常有幻觉的产生。而强化学习是让AI在实际使用中获得数据，反馈，它不试图证明自己是对的，而是不断地在真实世界中试错来验证。 2. 如果没有强化学习，那么AlphaGo只会学会人类的技巧，而没有它第二局超越人类经验的第37手。经验比知识更重要。 3. 而AlphaZero是AlphaGo的下一代，证明了忘记人类经验学习的价值。AlphaZero从完全随机的行为开始，从系统自身生成的经验中学习的方式，使得 AlphaZero 从零开始达到了并超越了人类在围棋和国际象棋等领域的最高水平。 4. 反馈有两种，基于人类经验的反馈（RLHF）和真实世界的反馈。前者是人类事先根据经验设定的标准，但它在真实世界仍然可能是错的。而后者是真正通过行动在真实世界得到的反馈。这是AlphaZero超越AlphaGo的背后原理。 5. David Silver提出“Reward is enough”。我们训练AI的职责主要是把目标和我们的价值观对齐融合在设定的奖励标准中。比如我们设定一个标准，奖励AI让我们变得更健康的策略。这个符合我们的需求，而且这里并不是具体的目标，而是模糊的高层目标——如何变得健康。AI系统自己去优化具体的目标（心率，BMI等），并根据真实的反馈调整具体目标的组合。 6. Anthropic以及一些团队证明了基础模型仍然有提升的空间，因此，Data驱动和强化学习驱动会是两个持续演进的双螺旋，而强化学习会越来越重要。 进一步： 1. 从哲学上讲，在时间之矢方向上的Randomness和熵增是确定的，因而我们无法完全从既有的数据和经验学习，我们只有不停地探索，无论是AI还是我们自身。 2. 我们几乎所有在AI训练中的启示都适用于我们对下一代的教育。 https://t.co/YbjAcqZF4U https://t.co/tG9cFMe0t0 https://t.co/jIR5twS3gj

Jasmine Crockett called @elonmusk — the lead engineer of @SpaceX, a man literally landing rockets from orbit — an idiot. The irony is insane. She couldn’t engineer a microwave. Yet here she is, running her mouth like she’s qualified to judge brilliance. Total clown show. She’s an idiot. It astounds me that anyone takes her seriously. @JasmineForUS look in the mirror.

杰弗里·辛顿说，我们越了解人工智能和大脑的实际运作方式，人类的思维就越不像是逻辑的。 他说，我们不是推理机器。我们是类比机器。我们通过共鸣来思考，而不是通过推理来思考。 “我们比我们想象的要不那么理性。” ps：所以我特别敬佩具备编程思维的程序员大神们… https://t.co/Z9NOXGaNGH

Nearly 9 out of 10 times a Black person is murdered in America, the killer is also Black. That’s not a “white supremacy” issue. That’s a community crisis. Accountability isn’t hate—it’s the first step toward healing. https://t.co/SPBbPGATzj