投机实验室
@LabSpeculation
一个总想躺着赚钱的不成功交易员 😴💤
YouTube频道：
参加 January 2022
980 フォロー中 75.2K ファン
破案了，Anthropic紧急关闭Fable5 的权限，极大可能是因为亚马逊的背刺，向美国政府告密了。
亚马逊的研究人员对 Fable 5 不断刁难，做极限越狱测试，他们通过一系列特殊提示词，不断诱导模型回答原本不应该回答的问题，最终让模型泄露了一些安全漏洞相关的信息。
随后，他们把研究结果整理成了一份安全报告，紧接着美国政府就以国家安全为由，对 Fable 5 和 Mythos 5 采取了限制措施。
もっと見る
