Register and share your invite link to earn from video plays and referrals.

金尘马
@jinchenma_ai
👨‍💻前大厂程序员,想开了,35岁危机前提桶跑路 30天X破万粉,变现过万🚀写小白用得上的AI教程 偶尔抽象,时常真诚,把X当朋友圈发👇咨询&合作
Joined November 2016
545 Following    23K Followers
这几天关于 Anthropic 的一个最新发现讨论度很高。 据 A 社研究表明,他们在 Claude 里找到了一组内部神经模式,叫 J-space。 它像一个很小的内部工作区。某个词相关的模式被点亮时,不代表模型会说出这个词,而是这个概念已经在模型内部被激活了。 更关键的是,Claude 会用它做中间推理。哪怕不把步骤写出来,多步问题里的中间概念也会在 J-space 里亮起来。 把 J-space 去掉后,Claude 还能正常聊天、说话、记简单事实,但高阶认知能力会明显减弱。 但这不等于证明 Claude 有了自我意识。 只是说,这是一个可以观察模型没有说出口的内部状态。 比如它是否私下意识到自己在被测试,是否在生成假数据,或者是否在执行隐藏目标。
Show more