龙心盐(@ssslumdunk):Sam Altman 昨天发了一条长推，说：AI 发展到今天，有两件事可能会出大问题。先说第一个。AI 有可能脱离人类的控制。Altman 的原话是，他们“毫无歉意地站在人类这边”，AI 必须为人类服务，所以对齐和安全技术得跑在模型能力前面。意思就是，你不能光顾着把模型做强，安全措施得跟上，不然哪天 AI 自己跑了，谁都兜不住。然后是第二个。权力过度集中。如果某个特别强大的 AI 被一个人或者一家公司掌握，然后拿它把自己的世界观强加给所有人，那画面会非常反乌托邦。同样的道理，一个国家独揽 AI 霸权也很危险，一家实验室做得太大也是问题。 Altman 说，要避开这两个坑，得走一条很窄的路。太松了，AI 可能失控；太紧了，权力又容易被少数人垄断。

2026.09.15 03:35

Sam Altman 昨天发了一条长推，说：AI 发展到今天，有两件事可能会出大问题。先说第一个。AI 有可能脱离人类的控制。Altman 的原话是，他们“毫无歉意地站在人类这边”，AI 必须为人类服务，所以对齐和安全技术得跑在模型能力前面。意思就是，你不能光顾着把模型做强，安全措施得跟上，不然哪天 AI 自己跑了，谁都兜不住。然后是第二个。权力过度集中。如果某个特别强大的 AI 被一个人或者一家公司掌握，然后拿它把自己的世界观强加给所有人，那画面会非常反乌托邦。同样的道理，一个国家独揽 AI 霸权也很危险，一家实验室做得太大也是问题。 Altman 说，要避开这两个坑，得走一条很窄的路。太松了，AI 可能失控；太紧了，权力又容易被少数人垄断。