Sam Altman 昨天发了一条长推,说:AI 发展到今天,有两件事可能会出大问题。
先说第一个。AI 有可能脱离人类的控制。Altman 的原话是,他们“毫无歉意地站在人类这边”,AI 必须为人类服务,所以对齐和安全技术得跑在模型能力前面。意思就是,你不能光顾着把模型做强,安全措施得跟上,不然哪天 AI 自己跑了,谁都兜不住。
然后是第二个。权力过度集中。如果某个特别强大的 AI 被一个人或者一家公司掌握,然后拿它把自己的世界观强加给所有人,那画面会非常反乌托邦。同样的道理,一个国家独揽 AI 霸权也很危险,一家实验室做得太大也是问题。
Altman 说,要避开这两个坑,得走一条很窄的路。太松了,AI 可能失控;太紧了,权力又容易被少数人垄断。
Sam Altman:美国民众目前普遍不喜欢AI和数据中心
OpenAI CEO Sam Altman在接受《时代》采访时表示,“现在人们显然讨厌数据中心”,并坦言AI行业正面临越来越明显的公众反弹。
随着数据中心建设引发电力、水资源、噪音及社区影响等争议,美国多地居民和地方政府开始抵制相关项目。Altman表示,他理解人们不希望数据中心建在自己家附近,OpenAI也正尝试通过社区投入、学生教育资源等方式改善公众关系。
数据中心正在成为AI行业与公众矛盾的集中体现。投资人Chamath Palihapitiya警告,这股反弹可能进一步扩大;美国总统特朗普近期也表示,数据中心行业需要“一点公关帮助”。
Sam Altman罕见谈孩子:我曾每周给儿子写一封信
在 David Senra 对 OpenAI CEO Sam Altman 的最新长访谈中,两人最后聊到了一个很私人、也很少被提起的话题:给孩子写信
Altman 说,第一个孩子出生后,他晚上回家哄孩子睡觉时,会跟他讲自己这一天经历了什么、公司正在为什么事情挣扎、自己又在担心什么
后来,他开始把这些话写下来,差不多每周日给儿子写一封信,虽然最终只坚持写了八封左右,但他发现,写给孩子和普通记录完全不同
“你真的没办法躲在任何东西后面”
因为当你想到未来孩子会怎么看今天的自己,就会重新审视很多当下的选择
Senra 则劝他一定要继续写下去:很多创业者到了70岁才开始写回忆录,但那时候,大量真正重要的细节早已消失在时间里
Sam Altman:AI 没有淘汰软件工程师,但工作方式已经重写
OpenAI CEO Sam Altman 7 月 28 日接受 ILTB Podcast 采访时表示,一年前不少人认为软件工程师很快会被 AI 淘汰,但现实并未如此。AI 改变的是工程师的工作方式和产出要求:人们可能不再大量手写代码,却仍需定义目标、判断结果并让计算机完成任务。
他也承认,AI 行业过去高估了就业被迅速替代的速度。当前模型在部分任务上达到超人水平,在另一些任务上却像幼儿;人类的判断、责任、信任关系以及与 AI 互补的能力,仍然具有难以取代的价值。
来源:ILTB_Podcast