注册并分享邀请链接,可获得视频播放与邀请奖励。

陆三金
@threeaus
试图让自己更具有原创性
加入 March 2014
4.1K 正在关注    1.4K 粉丝
强烈建议大家去看一下 Jev 创始人 Diogo Almeida 的这个演讲,关于 Jev 的一切,他在这个视频中早就预言。 Jev 一开始就是盯着自动化去的,Diogo Almeida 认为现在的 LLM 陷入了一个史诗级大弯路,就是 RLHF。 RLHF 在人机交互也就是取悦人类方面,很出色,但在自动化方面很糟糕。它不能实现完全的自动化,人类必须在环。 不止 ChatGPT ,Claude Code 的原罪也在于 RLHF。所以他认为 ChatGPT 和 Claude Code 本质上属于一个范式,Claude Code 并不是下一个时代,真正的自动化才是下一个时代。 简单来说,RLHF 就是收集人类便好,并根据人类便好优化。它的优化目标也不是自动化。 他也否定了 RLVR 是答案:RLHF 优化人类偏好,RLVR 优化纯正确性,而他们在做的第三条路优化的是校准过的决策能力。 Diogo Almeida 认为,数据比算力重要,做对的任务比数据重要得多。预训练模型本身已经足够聪明,问题只在于我们用偏好优化把它挖歪了。 PS:视频翻译是用@dotey 的 BaoCut 做的,属于是我的梦中情译软件了,太好用了。 视频原链接:
显示更多
0
129
467
100
转发到社区