mark
@cherryPayment
keep learning about stock market | started with $100k | currently holding $sive $lpk | More articles in
가입 October 2017
625 팔로잉 중 16.8K 팬
我认为说得非常好，但我一直相信人要做到言行一致，那我们别去看他说什么，而是去看他做什么：
Dario 在文章里呼吁"放慢前沿AI的推进速度"，提出嵌入式第三方评估员、民主国家协调、全球协调的三步方案。核心信息是：安全研究跟不上能力增长，所以他强调人类必须刻意减速！
但实际上：
他们在5月份完成了650亿美元的H轮融资，然后估值达9650亿美元。他们2月份估值才3800亿，所以他们在14个月内估值翻了大约15倍。
另外，Anthropic在美国的算力布局已超过15GW，覆盖15个数据中心园区。然后与亚马逊签署了高达5GW的算力扩展协议，同时与Google和Broadcom签署了数GW级别的下一代TPU容量协议。
所以在我看来这丝毫没有"减速"，完全在疯狂囤积算力弹药。
递归自我改进很危险，但自己是在推进的：
Anthropic在2025年5月Claude Opus 4在代码优化上实现约3倍加速，然后到2026年4月Claude Mythos Preview达到了52倍。
实际上目前为止Claude现在已经编写了Anthropic约80%的生产代码。并且公司预计到2027年，模型将能处理持续一周的自主任务。我认为Anthropic自己就是推进最快的公司之一。
더 보기
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training.
You can read the full post here:
더 보기
