anonymous(@youyouAllen):我自己在测试AR+diffusion结合的本地推理引擎。目前来看block内进行diffusion，对kv cache是一个极大的节省。通过proposer/verifier的表征对齐的小型训练把acceptance做到0.3-0.5，这种组合快速低成本scale。但是也面临计算量的飙升。同时仍然看好连续潜空间的全局表示配合AR的精准局部预测。

2026.05.23 23:34

我自己在测试AR+diffusion结合的本地推理引擎。目前来看block内进行diffusion，对kv cache是一个极大的节省。通过proposer/verifier的表征对齐的小型训练把acceptance做到0.3-0.5，这种组合快速低成本scale。但是也面临计算量的飙升。同时仍然看好连续潜空间的全局表示配合AR的精准局部预测。

显示更多