多伦多方脸
@torontobigface
YouTube： 投稿邮箱:Torontosquareface@gmail.com 粉丝群：
加入 January 2022
257 正在關注 809.2K 粉絲
Anthropic CEO达里奥发文要求放缓AI发展的速度
同时用了三段，描述限制中国AI发展的重要性
民主国家放缓AI发展步伐的空间，取决于美国企业相对于威权政权——主要是中国共产党——拥有多大的领先优势。如果我们放缓的程度超出了这一领先优势所允许的空间，那么那些与中共有关联、且不受节奏限制的项目就会反超，造成重大的国家安全风险。我赞同财政部长贝森特的看法：中国在AI领域取得领先，将给美国和世界带来严重危险。
与中共有关联的项目会冒着美国企业正谨慎防范的AI对齐风险继续推进；即使它们避开了这些风险，也将有能力在军事上压倒民主国家，例如利用AI驱动的无人机。因此，民主国家调控AI发展节奏的一个关键，是尽可能扩大民主国家相对于威权国家的AI领先优势，为我们有效放缓步伐争取必要的喘息空间。
要守住这一领先优势，我们可以采取以下主要措施：
1.不向中国出售高性能AI芯片或半导体制造设备，并严厉打击芯片走私，以及通过远程访问使用中国境外数据中心的行为。芯片将是决定中国AI实力的主要因素。
2.严厉打击威权国家企业未经授权进行模型蒸馏的行为。 对前沿模型进行蒸馏，可以让落后的企业以远低于独立开发AI所需的成本，缩小与领先者之间的差距。
3.加强AI企业的安全防护，防止模型权重被窃取。
企业与美国政府应当合作，让这些措施尽可能发挥实效。Anthropic始终支持上述所有措施，因为我们一直清楚，任何放缓发展步伐的安排，都离不开这些措施。
我相信，如果这些措施得到有效执行，就能充分减缓中国的进展，使美国在未来三至五年内显著扩大领先优势——而这恰恰是AI在地缘政治上变得最为重要的关键时期。
顯示更多
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training.
You can read the full post here:
顯示更多
