Y11(@seclink):- 2015年，那时候流行 one-hot ，强化学习之父说直接背答案太浪费了（那时候还流行 bert ，很容易过拟合），提出了蒸馏的本质是大模型要学思路，不要学答案。这是所有技术发展的‘根因’ -- 那时候有本RL领域圣经叫做《苦涩的教训》，就是说不要人工打标，直接尼玛把标注之前的所有东西丢给大模型让它自己学自己反思。

Y11

@seclink

找工作、找面试题、改简历、模拟面试。关注：创业（冷启动）｜认知心理学｜智能体｜强化学习｜ AWS RoboMaker、ROS、Gazebo ｜具身智能｜大模型后训练（数据标注｜数据采集）｜大模型专家评测 building：

参加 January 2011

748 フォロー中 32K ファン

Y11@seclink

2026.08.05 04:34

- 2015年，那时候流行 one-hot ，强化学习之父说直接背答案太浪费了（那时候还流行 bert ，很容易过拟合），提出了蒸馏的本质是大模型要学思路，不要学答案。这是所有技术发展的‘根因’ -- 那时候有本RL领域圣经叫做《苦涩的教训》，就是说不要人工打标，直接尼玛把标注之前的所有东西丢给大模型让它自己学自己反思。