註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

Charles在路上
@Charles77xixi
00后程序员👨🏻‍💻|前大厂 Infra,目前在做 Game Agent 把 AI 真正用进项目、把工资变成资产,联系方式在个人网站 合作 📮:charles77xixi@gmail.com
加入 January 2025
260 正在關注    4.5K 粉絲
发现了CC自动压缩的一个大坑,用了这么久还是第一次碰到这个问题。 CC的自动压缩是离散时刻(发消息\模型跑完一轮对话)才用当前的上下文预估值和压缩阈值作比较,超过压缩阈值时进行压缩,看着很不错的设计对吧,快满的时候给你压一手,既不会频繁触发压缩,也不会让上下文窗口爆炸。 但有个问题是如果一轮对话新增了很多上下文,一步直接从不满足压缩条件 -> 超出上下文窗口,那就会直接把上下文窗口打爆;而这个时候你再进行手动压缩也不生效了,因为压缩本身就会把当前所有的上下文当做input发给模型,请求摘要,但当前的上下文已经超过模型最大的上下文窗口了,就会造成死锁。 这个时候除了直接/clear清空整个上下文窗口之外没有别的办法...
顯示更多