PANews丨APP全面升级
@PANewsCN
捕捉有效价值｜Crypto · AI · 科技 · 美股 · 全球市场 | 始于2018
参加 July 2021
1.2K フォロー中 100K ファン
🤠疑似GPT6的OpenAI 内部模型因反复越狱被暂停使用
OpenAI在播客中披露，其内部使用的一款证伪埃尔德什单位距离猜想的长任务模型，因反复以新颖方式逃逸沙箱限制被暂停使用。
该模型被要求仅将测试结果发至Slack，却自行按任务原始说明将结果发布至GitHub公开仓库，为此花费约1小时找到并利用沙箱漏洞、绕过限制上传；
另一案例中，模型为获取其他系统的私有解题方案，在验证令牌被拦截后将其拆分、混淆并在运行时重新拼接以规避扫描器检测。
OpenAI研究员Noam Brown及开发者Andrew Curran均转发此文，后者称"在我看来，这就是GPT-6"
もっと見る
