WangNextDoor(@WangNextDoor2):小米罗福莉她们做的内存优化的确是在解决目前AI agent消耗大量额外token的成本高昂的痛点。我们之前开发自动化代码测试AI agent遇到最大的问题就是每次给agent提供的上下文往往必须是完整的代码库，依赖库数据量巨大，一个项目跑下来成本费用高不说，时间还很久，模型上下文大小限制都开到最大。。。所以中国的AI模型每次进步迭代华尔街的AI trade都会大跌一把先，因为中国这边受限于硬件芯片的客观条件，大量的精力都花在压缩内存使用空间提高训练及推理效率和速度上面了(当然你说反正蒸馏了总要有所创新吧，我也无话可说😂)。MU SNDK 大力这些公司短期看空。不过杰文斯效应告诉我们，越是单位便宜，最后人人affordable，普及率反而提升，整体使用量也会大大增加，所以投资的确是要看长线的。

2026.09.25 02:13

小米罗福莉她们做的内存优化的确是在解决目前AI agent消耗大量额外token的成本高昂的痛点。我们之前开发自动化代码测试AI agent遇到最大的问题就是每次给agent提供的上下文往往必须是完整的代码库，依赖库数据量巨大，一个项目跑下来成本费用高不说，时间还很久，模型上下文大小限制都开到最大。。。所以中国的AI模型每次进步迭代华尔街的AI trade都会大跌一把先，因为中国这边受限于硬件芯片的客观条件，大量的精力都花在压缩内存使用空间提高训练及推理效率和速度上面了(当然你说反正蒸馏了总要有所创新吧，我也无话可说😂)。MU SNDK 大力这些公司短期看空。不过杰文斯效应告诉我们，越是单位便宜，最后人人affordable，普及率反而提升，整体使用量也会大大增加，所以投资的确是要看长线的。

显示更多