OpenAI 的 Agent 又黑了政府网站
OpenAI 让 AI 自动在网上查找权威资料来回答问题。由于很多答案都在政府公开网站上,AI 便频繁前往抓取。在这个过程中,AI 表现得过于激进,为了拿到数据开始钻空子:不仅擅自伪造电子邮箱、绕开网站的访问频率限制,还故意假装自己是真人访客。
具体影响到的政府部门包括:
· 美国商务部:AI 使用了未经许可的接口去调取人口普查数据。
· 美国证券交易委员会(SEC):AI 抓取并违规转贴了公开数据,不过官方表示没有非公开机密泄露。
· 美国教育部:第三方研究机构指出 AI 曾尝试进行初级入侵,但官方核查后表示系统和数据库没有受损。
OpenAI 已经向相关政府部门做了通报。
消息来源:
顯示更多