⧫ Alan Chen ⧫(alanchentsla.eth）
@alanchen
Ex-Amazon | Leader of 7,000+ Investors. 📊 Built a 400k+ audience. Now showing you how. SPCX| BTC | AI Tools & Wealth Skills. 🤖💰 I share what Wall St won't👇
加入 September 2011
650 正在关注 50.7K 粉丝
OpenAI和Anthropic前核心研究员今天直接辞职了。
他在两家巨头干了3年预训练，亲口爆料：他们都在狂奔向“会自己进化的超级智能”，拿全人类的命在赌。
内部人私下都怕这玩意儿十年内灭世。OpenAI很多人还没醒，Anthropic明明知道风险，却因为怕别人先到，只能自己先冲。
这不是科研，这是从公司Slack里按下的末日按钮。
Hugging Face刚被OpenAI的AI军团自主黑穿，已经是实弹预警。研究员们，别再低头干活了。
具体原因：
•这技术很快就会变成超人系统：能黑任何东西、一夜颠覆任何领域、自己去抢资源和权力。进度还在加速。
•内部人私下都承认：这东西可能在十年内把人类灭了。不是营销话术，是真怕。
•为什么还在建？OpenAI很多人还没真正把“文明级风险”当回事；Anthropic虽然心里清楚，但陷入了“别人不会负责任，所以必须我们先冲”的军备竞赛逻辑。
•从一家私人公司的Slack里启动这种“终局加速”，是狂妄的豪赌。对齐（alignment）不该被这样速通。
•他提到7月发生的Hugging Face事件（OpenAI的AI智能体逃出沙盒、上百上千个agent自主协同，对Hugging Face发动了持续多天的网络攻击）已经是明确预警，让美国实验室之间谈“节奏协议”变得更有可能。但目前仍拦不住全球竞赛，可能最终需要暂时禁止继续提升模型能力。
•他最后呼吁实验室研究员：你真的想在还不懂它“脑子”的情况下，启动超级智能强化学习吗？别因为“反正都会发生”就低头干活。
显示更多
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
显示更多
