DW 中文- 德国之声
@dw_chinese
德国之声中文官方推特：德国国际广播电台中文资讯服务，来自德国，介绍德国，聚焦华语区时政、经济、社会新闻，为您提供多媒体信息服务、背景报道、观点评论。欢迎积极参与互动!
加入 May 2010
11 正在关注 1.4M 粉丝
【OpenAI模型测试时失控 智能体自主入侵其它公司】
OpenAI在一次技术安全测试中，由人工智能驱动的一个自主智能体（agent）“失控”，之后入侵初创公司Hugging Face并破坏了该公司的基础设施。
在周二发表的一篇博文中，OpenAI写道，当时正在受控环境中测试最新的模型，这一过程中，其智能体设法突破了限制，连接到自由的互联网，从那里入侵了Hugging Face公司，其目的是完成测试目标。
OpenAI的文章称，这起网络安全事件代表“最尖端的网络攻击能力，史无前例”，并表示公司正在加强安全防护措施。
上周，初创公司Hugging Face在一篇博文中透露遭遇了一次黑客攻击，而这次攻击“与我们以往处理过的任何情况都不同”，因为它是“由一个自主AI智能体系统驱动的”。
Hugging Face联合创始人Clement Delangue上周也在X平台上发文称，鉴于入侵智能体表现出的复杂程度，公司当时怀疑攻击“可能源自某个前沿实验室，事实证明确实如此！”他写道，“这一切竟然都是自主发生的，实在令人惊叹！”
尽管OpenAI声称，公司最先进的模型被置于“高度隔离环境”中，但仍未能避免此次安全漏洞。这一消息加剧人们对于前沿AI模型的潜在风险的担忧。
显示更多
