Register and share your invite link to earn from video plays and referrals.

小盖
@xiaogaifun
做有意思的事情。
Joined February 2026
82 Following    4.7K Followers
刚看到一个很有想象力的 AI 开源项目,居然有人在尝试给 Transformer 增加记忆模块,让 LLM 拥有原生的记忆能力。 研究了他们的论文和构想,虽然还有很多不成熟的地方,但我几乎可以确定,这是最近三个月以来,我见过的最令人兴奋的一篇 AI 论文了。 现在 Personal Agent 非常火。想必大家都已经看到了,记忆已经成为 AI 应用非常重要的一项能力。 但记忆这事,其实没那么容易做好。 1 无论是 ChatGPT、OpenClaw,还是其他 AI 产品,大家可以看看,它们实现记忆的方式五花八门,而且都有各自的局限。和我们人类的记忆方式相比,还有很大的差距。 目前很多 AI 产品的长期记忆,仍然依赖模型外部的一套系统。 简单理解,就是大脑是大脑,大脑旁边还有一个日记本。平时把一些重要的信息记录下来,需要的时候,再从日记本里寻找相关内容,提供给大脑处理。 也就是说,记忆系统和 LLM 是相对独立的。当模型需要利用过去的信息时,往往需要由 Harness 从外部记忆系统中检索相关内容,再提供给模型处理。 这也是目前很多 AI 产品采用的方式。 这种方式的问题是,它太依赖 Harness 的判断了。 用户说的哪些话值得记住?什么时候应该更新旧的记忆?等到真正执行任务时,又该从成千上万条记忆中找出哪些信息? 这些事情,目前主要还是依靠模型和 Harness 中的一套机制来判断。 但这玩意到现在也没有特别可靠的办法,任何一个环节出了问题,都可能导致 AI 明明和你聊过很多次,却还是记不住你的需求。 而且,有些信息在当时看起来并不重要,过几个月才发现很有价值。比如你曾经跟 AI 抱怨过几次红眼航班太累,但从来没有明确说过,以后不要帮我订红眼航班。 如果当时没有把这个偏好提炼出来,等下次帮你订票的时候,AI 就可能完全想不起来。 更重要的是,这套机制很难让模型真正积累经验。过去发生过什么,可以通过检索找回来。但过去的经历应该怎样影响接下来的判断和行动,还需要模型每次重新理解。 2 这也是 MemT 1.0 想解决的问题。 他们尝试直接把记忆能力融入大模型的内部架构。让模型在每次交互之后,都能够更新自己的记忆状态。 下一次处理任务时,这些积累下来的信息,可以直接参与模型的计算,不必每次都重新从外部数据库检索,再塞回上下文。 就像我们人脑一样,很多记忆都是潜移默化形成的。而当我们思考、判断或者处理问题的时候,这些记忆又会自然而然地参与进来。 我们不需要每次都把过去发生的事情重新回忆一遍,再单独整理出来,才能利用这些经验。 记忆本来就是人类智力非常重要的一部分。 那 MemT 1.0 怎么做的呢? 简单讲,他们直接在 Transformer 内部增加了一个原生记忆模块,叫 Native Memory Block。 这里稍微解释一下。Transformer 由很多层网络组成,每一层都会通过 Attention,也就是注意力机制,来处理信息。 Attention 可以让模型在回答问题时,找到当前 Context 中哪些信息值得关注。 比如,我告诉 AI,坐飞机喜欢靠过道的座位。只要这句话还在 Context 里,模型就可以通过 Attention 利用这条信息。 但如果这段对话结束了,下次又开启新对话,而且系统没有重新提供这条信息,模型通常就不知道我的偏好了。 所以,MemT 想解决的问题就是,能不能让 Transformer 除了读取当前 Context,还能直接读取过去积累的记忆? 他们在原有的 Attention 旁边增加了一套 Native Memory Block。这样一来,模型就多了一条可以直接读取历史记忆的计算路径。 当用户提出一个新问题时,新增的 Memory Attention 会根据当前输入,读取相关的记忆信息。 然后读取的结果会和原来 Attention 的计算结果合并,然后继续交给 Transformer 后面的网络层处理。 这样,模型就不需要先把过去那段关于选座位偏好的对话找出来,再重新塞进 Context,才能利用相应的信息。 而且,每次完成交互后,模型还可以继续更新这份动态记忆状态。 3 具体的技术细节我就不展开了。虽然之前也有人探索过原生记忆这条路线,但一直没有特别成熟的方案。这次看到 MemT 1.0,感觉又看到了新的希望。 当然,从目前的实验结果来看,它的记忆能力还不如成熟的外挂记忆系统。但相比之前的原生记忆方案,已经有了明显的进步。 尤其是在处理长历史信息时,推理效率和存储成本方面的优势非常明显。 我觉得这件事情特别值得期待,尤其是对 Personal Agent 来说。 大家可以想象一下,如果未来大模型真的拥有了足够强大的原生记忆能力,那它就可以像我们人类一样,在日常交流和处理任务的过程中,逐渐积累记忆,并且很自然地利用这些信息。 这样一来,Agent 就不需要每次都依赖外部系统,把过去发生的事情重新找出来,才能理解用户的需求。但我觉得,更有意思的可能性,还在后面。 因为记忆的价值,远远不止记住过去发生了什么。 我们在生活和工作中,很多能力其实都是通过长期积累的经验形成的。比如做过几次活动之后,就会逐渐知道哪些环节容易出问题,应该提前准备什么,遇到意外该怎么处理。 这些经验会直接影响我们以后做事的方式,很多时候甚至是潜移默化的。 我举个例子,假设一个 Personal Agent 已经跟着我工作了三年。它帮我整理过几百次会议纪要,而我每次都会根据自己的习惯,对内容做一些修改。 时间长了,它可能会逐渐发现,我更喜欢怎样组织会议内容,哪些信息需要重点突出,哪些细节可以省略。 当然,外挂记忆系统也可以做到这一点。但前提是,这些偏好已经被提炼、保存下来,而且下次执行任务的时候,Harness 还得准确找到它们。 如果模型拥有足够强大的原生记忆能力,情况可能就不一样了。 过去几百次的交互,可以逐渐影响模型内部的记忆状态。 下次帮我整理会议纪要时,这些积累下来的经验,就可能直接参与模型的计算,影响它怎么组织内容、怎么判断信息的重要性。 甚至一些从来没有被明确总结成文字的习惯,也有机会被模型逐渐捕捉到。 我觉得这才是最有想象力的地方。 如果未来 Agent 能够在长期交互中,潜移默化地积累经验,并且让这些经验自然地影响它的判断和行动,那每个人的 Personal Agent,都可能随着使用时间的增加,逐渐形成自己的做事方式。 当然,MemT 1.0 距离实现这一切,还有很长的路要走。但至少,它让我看到了这种可能性
Show more