Y11
@seclink
找工作、找面试题、改简历、模拟面试。关注：
创业（冷启动） ｜ 认知心理学｜智能体 ｜ 强化学习 ｜ AWS RoboMaker、ROS、Gazebo ｜ 具身智能 ｜ 大模型后训练 （数据标注 ｜ 数据采集 ） ｜ 大模型专家评测
building：
加入 January 2011
748 正在关注 32K 粉丝
- 2015年，那时候流行 one-hot ，强化学习之父说 直接背答案太浪费了（那时候还流行 bert ，很容易过拟合） ，提出了蒸馏的本质是 大模型要学思路，不要学答案。这是所有技术发展的‘根因’ -- 那时候有本RL领域圣经叫做 《苦涩的教训》，就是说不要人工打标，直接尼玛把标注之前的所有东西丢给大模型让它自己学自己反思。
显示更多
