徐老猫
@raycat2021
Mont Pelerin的信徒｜Satoshi的服务生；订阅“老猫美股研究”
가입 September 2022
1K 팔로잉 중 120.4K 팬
WSJ：据知情人士透露，川普政府决定停止所有外国使用Anthropic最前沿的AI模型，起因是亚马逊CEO安迪·贾西向美国政府的反馈。
亚马逊是Anthropic的大投资方，但贾西告诉贝森特等官员，亚马逊的研究人员利用一系列提示，让Fable 5模型提供可用于网络攻击的信息，而这些信息本应被禁止使用。
白宫立即召开会议讨论应对措施，研究人员开始测试。Anthropic被要求或修复漏洞，或下架该模型。
美国政府一直担心Anthropic的模型会带来安全风险，且没有得到有效管理。上周五Anthropic的阿莫迪和政府官员的交流，有不愿合作的态度，强化了这种认识。
Anthropic已经表示，为了确保遵守规定，公司将关闭所有用户对Mythos和Fable的访问权限。并认为这可能会阻碍世界各地公司利用这些工具识别软件漏洞的努力。
结合最近一项赋予政府对模型更多监管权的行政命令，以及政府可能入股模型公司的讨论，美国政府对该行业的控制力度在显著加强。
더 보기
