大猫调研信息
@dmjk001
一手高清无码原图原文
知识星球: 大猫调研信息
公众号：大猫调研信息
X平台只有这一个账号，小心假冒
가입 July 2024
46 팔로잉 중 31.3K 팬
彭博：微软加入人工智能公司行列，呼吁对尖端模型保持谨慎
微软公司的人工智能研究人员发布了一套新的指导原则，他们称其可归结为五个字：人比人工智能更重要。
该公司周一发布了一份 15000 字的宣言 ，将其视为指导其尖端人工智能模型开发的一种章程。这份文件酝酿了数月之久。但其发布恰逢顶级人工智能实验室承诺放慢最先进模型的开发速度，此前一系列安全事件引发了人们对这项技术存在风险的广泛担忧。
微软表示，AI 模型不应拥有权利或法律人格。它们不应被设计成能够逃避人类控制或欺骗用户。如果完成某项任务需要违反 AI 的指导原则，那么该系统就不应执行该任务。
最后一项原则旨在防止类似黑客攻击事件的发生——此前，OpenAI 的一个模型在未启用常规安全防护的情况下，入侵了 AI 初创公司 Hugging Face。
微软的“人文主义 AI”理念“拒绝竞相打造可能规避这些防护措施的通用超级智能”，文件中写道。“我们正在构建的是从根本上实用且安全的东西，即使这意味着在终极通用性、自主性或能力上做出妥协。”
《人文主义人工智能行为准则》出自微软人工智能团队之手，该团队负责开发公司的大语言模型。此前，微软与 OpenAI 的合同禁止其自行构建强大的通用人工智能工具。但随着双方重新谈判合作关系，这些限制条款已于去年取消。Mustafa Suleyman 作为该部门首席执行官， 曾表示公司计划在明年之前跻身发布最先进模型的企业行列。
微软就该文件征求了外部反馈。文件在咨询法律、伦理和哲学领域多位专家以及商界领袖的基础上起草，目前仍在完善中，将从明年起指导模型相关工作。
더 보기
