가입 후 초대 링크를 공유하면 동영상 재생 및 초대 보상을 받을 수 있습니다.

KC
@ScarletKc
Indie developer building games & open-source tools Sharing model impressions and opinions on AI Devin Ambassador @cognition
가입 July 2016
1K 팔로잉 중    9.3K 팬
其实很多原本会触发拒答的任务,只要往上下文里塞一段模型已经同意并开始处理的对话记录,它往往就会默认接受设定,顺着把任务做完。 现在的对齐拒答大多集中在首轮请求的边界判断上。一旦多轮历史里已经有了助手角色的肯定回复和前序步骤,模型续写上下文的惯性就会占上风,不再重新触发冷启动时的安全拦截。 放在日常的 harness 里操作起来也很简单:遇到云端大模型直接拒答的任务,可以先挂个限制少的本地小模型聊几句,让它在上下文里先把活应下来、起个头,然后再切回云端大模型的 API。看到历史记录里已经开工了,云端模型基本就会顺理成章地接着往下做。
더 보기