註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

KC
@ScarletKc
Indie developer building games & open-source tools Sharing model impressions and opinions on AI Devin Ambassador @cognition
加入 July 2016
1K 正在關注    9.3K 粉絲
其实很多原本会触发拒答的任务,只要往上下文里塞一段模型已经同意并开始处理的对话记录,它往往就会默认接受设定,顺着把任务做完。 现在的对齐拒答大多集中在首轮请求的边界判断上。一旦多轮历史里已经有了助手角色的肯定回复和前序步骤,模型续写上下文的惯性就会占上风,不再重新触发冷启动时的安全拦截。 放在日常的 harness 里操作起来也很简单:遇到云端大模型直接拒答的任务,可以先挂个限制少的本地小模型聊几句,让它在上下文里先把活应下来、起个头,然后再切回云端大模型的 API。看到历史记录里已经开工了,云端模型基本就会顺理成章地接着往下做。
顯示更多
0
13
191
11
轉發到社區