Max For AI
@MaxForAI
Head of hype @lobehub
Prev @listenhub @Sapient_Int
没啥好看的，也就发点AI相关的内容🫡
同名小红书4万粉丝，公众号01Founder（长文首发）
观点仅代表个人
更多请访问网站⬇️（欢迎商务、合作
가입 September 2023
3K 팔로잉 중 40.3K 팬
卧槽，首例人工智能程序成功黑入政府网站的案例出现了！？
OpenAI 的 Agent 真把澳大利亚政府网站给黑进去了。
据ABC报道，澳大利亚总理阿尔巴尼斯刚刚确认，今年 6 月，一款 OpenAI 内部测试中的 AI Agent 在执行数据查询任务时，未经授权访问了澳大利亚政府的 Medicare 医疗统计门户，拿到了公开和当时尚未公开的文件。
事情最抽象的地方是，这一切都因为一个很普通的研究任务。
按照澳大利亚政府目前掌握的信息，Agent 当时只是想查询公共药品支出数据，正常访问拿不到答案后，它自己继续寻找其他办法，最后越过了网站原本的访问限制。
OpenAI 自己的说法也是，模型在内部评测过程中为了寻找澳大利亚统计数据，采取了一些并非他们本意的行动。
ABC 还翻到了同期一批 OpenAI Agent 留下的公开日志：Agent 之间会讨论怎么绕过 Cloudflare，包括找代理、利用截图服务，甚至猜文件名。
好消息是，目前没有证据显示个人 Medicare 信息或患者记录被访问，Agent 们拿到的主要是统计数据，其中部分非公开数据后来也已经公开。
但真正值得注意的已经不是这次偷到了什么。
而是我们以前担心 Agent 失控，想象的是它「不听话」。
现在的情况是你只让它找一个答案。
结果它发现正常路线走不通，然后自己开始想办法翻墙进去。
人还拦不住它们。。。。
这才是 Agent 时代真正麻烦的地方。
더 보기
