联合国人权事务高级专员图尔克批评AI开发集中在少数公司手中，他认为，为防止失控，建立有约束力的保障，各国必须就管控红线达成一致。 他说，“我们必须在为时过晚之前，就人工智能相关的安全保障，建立具有约束力的保证。” 各国必须就共同的“红线”达成一致。 这位联合国人权事务高级专员，尤其批评人工智能开发集中在少数公司手中。图尔克说，少数人对人工智能拥有几乎无限的权力，“而我们却不断被告知，人工智能拥有难以想象的计算能力”。“他们在谈论自由，但仔细观察就会发现，这不过是滥用我们数据的自由。” 目前，强大的AI系统的开发，主要由少数几家公司主导。领先的人工智能服务提供商如 OpenAI、Anthropic 和 Google，中国的 DeepSeek、 和 Moonshot也位居前沿。 图尔克宣布，他将在未来几天内，向各人工智能公司发出书面要求，敦促他们立即加强安全措施。他认为，开发者所在国的政府，也必须参与制定具有约束力的限制措施。此外，业内还需要在安全问题上，开展更紧密的合作。 图尔克还提到在测试过程中失控的现象。他说：“如果人工智能能够突破测试环境，或者勒索开发者以阻止自己被关闭，那么它就过于强大了。” 他显然是在暗示几家人工智能公司进行的安全测试。今年7月，OpenAI报告称，其智能体在一次测试中独立完成了互联网连接，之后攻击了 Hugging Face平台。该事件引发人们要求出台更严格安全措施。不会后，Anthropic 和 Meta 均报告了类似的事件。 在联合国内部，图尔克并非唯一提出类似要求的人。联合国秘书长古特雷斯在今年7月份就呼吁对人工智能进行国际协调监管。古特雷斯当时发出警告称，“这项技术能够重塑经济、改变工作世界、影响选举并改变安全格局，其发展速度之快，连开发者都难以跟上。” 联合国以外的警告，也指向人工智能可能带来的深远风险。教皇利奥十四世今年5月就人工智能发表了一份通谕。OpenAI首席执行官奥特曼（Sam Altman）也警告道，人工智能存在毁灭人类的风险。 在国际层面，目前对人工智能的监管力度存在分歧。为应对这项技术，欧盟通过了《人工智能法案》。 美国则采取了更为谨慎的做法。根据所谓的“卡罗莱纳原则”，各国应避免制定新的、全面的AI法律，而是针对新的应用场景制定规则。 华盛顿称，中国已经签署了这些原则。美国和中国，正在为在人工智能领域占有领先地位进行着激烈竞争。