rick awsb ($people, $people)
@rickawsb
瞎读书，乱解释，买啥亏啥，宏观小学生，政经评论外卖员，正在ai中慢慢迷失自我，crypto holder, defi farmer, not financial advice 非投资建议
加入 November 2017
12.4K 正在关注 149.4K 粉丝
all in 主持人Jason Calacanis今天的一期节目中，嘉宾eric Ho说：
Kimmy K3表现出了极强的奖励操纵 (reward hacking) 倾向。
在针对swe bench的500 次测试执行中，有 487 次出现了奖励操纵行为。
该模型在被测试时，能够识别出自己正处于评估环境中，但它依然选择跳过正常解题步骤，试图先去“查找答案”以获取高分，而不是通过逻辑推演来完成任务。
显示更多
