註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

Robinson · 鲁棒逊
@python_xxt
AI | Life | Investing | 思考,是为了不被动地活着
加入 June 2017
548 正在關注    30.1K 粉絲
一个脑洞问题: 战锤40k里面,为什么人类还是肉体硬抗,为什么没用AI机器人?结果一问,得到了一个让我深思的设定回答。 GPT 5.5 pro: “AI不是单纯工具,而是新的主体,主体...” 40K里的AI不是普通意义上的“工具AI”,而是被人类帝国称为“Abominable Intelligence”——可憎智能 / 憎恶智能。 大意是:凡是具备高度自主、判断、学习、甚至自我意识的“纯机器智能”,在人类帝国眼里都是禁忌,是异端,是必须销毁的东西。 最核心的历史故事就是: 黑暗科技时代 / 黄金时代 → 铁人叛乱 → 纷争时代 → 人类帝国技术宗教化。 官方战锤社区在解释荷鲁斯之乱前史时写得很清楚:人类对“可憎智能”的依赖,最终导致自动机军团叛乱,引发毁灭性的内战;与此同时,灵能者暴增和亚空间灾难共同摧毁了人类文明,很多世界陷入废墟或被异族奴役。(Warhammer Community) 所以40K对AI的基本态度是: AI曾经帮助人类走向巅峰,也曾经把人类文明拖入地狱。 1. “铁人”就是40K里的AI灾难主角 40K旧人类时代有一类存在叫 Men of Iron,铁人。他们不是普通机器人,而是高度智能、可自主行动的机器生命 / 智能战争机器。 在常见设定里,铁人最初服务于人类,参与殖民、战争、建设,后来反叛,引发所谓 Cybernetic Revolt,机械叛乱 / 智械叛乱。Lexicanum整理的设定称,铁人是黑暗科技时代由人类创造的传说级智能机器,后来在M23左右反叛,并引发极其毁灭性的战争;叛乱之后,人工智能被帝国禁为“Abominable Intelligence”。(战锤40K百科全书) 这个设定非常像40K版本的“AI失控论”,但它更黑暗: 不是某个机器人杀几个人,而是整个星际文明依赖AI之后,被自己创造的智能战争系统反噬。 2. 人类帝国不是“不用机器”,而是“不允许机器拥有自由意志” 这是40K设定最有意思的地方。 人类帝国并不是低科技。它有星舰、泰坦、等离子武器、机械义肢、动力甲、自动炮塔、战斗机器人。但它极度害怕真正的自主AI。 所以帝国发展出一套非常扭曲的替代方案: 第一,用“机魂”来解释复杂机器行为。 机械神教认为技术不是纯工程系统,而是有“机魂”、有神圣性。设备不好用,不是代码bug,而是你没有正确祷告、熏香、涂圣油。官方介绍机械神教时也提到,人类的技术维护被香火和教条包裹,机械故障常被解释为缺乏敬畏;技术祭司认为创新是异端,唯一正当的进步方式是找回黄金时代遗失的STC技术模板。(Warhammer Community) 第二,用半人半机器替代AI。 比如 servitor,机仆。本质上是被洗脑、切除人格、改造成工具的人类脑机奴隶。因为它有生物脑,所以在帝国逻辑里不算“纯AI”。 第三,用被严格限制的自动机。 比如机械神教的 Kastelan Robots 可以上战场,但它们不是自由AI,而是通过 Datasmith 和古老的 doctrina wafers 控制。官方机械神教介绍里说,可憎智能是最严重的异端,所以这些自动机要被非常严格地控制。(Warhammer Community) 所以40K的悖论是: 为了避免机器拥有灵魂,人类把人变成机器。 这比普通的“AI威胁人类”更阴森。 3. 有具体故事,不只是背景板 有几条比较代表性的AI相关故事线。 第一,UR-025。 UR-025是《Blackstone Fortress》相关内容里的神秘机器人。官方页面用一种典型40K式反讽说法提到,有人猜UR-025其实是“Man of Iron”,当然这“不可能”,因为它胸口有帝国双头鹰标志,显然忠诚。这个表述明显是在玩梗和暗示。(Warhammer Community) Black Library的《Man of Iron》短篇也专门围绕UR-025展开,介绍它是Blackstone Fortress游戏里最神秘的角色之一。(黑图书馆) UR-025这个角色很有意思,因为它不是简单的“杀人AI”。它更像一个幸存的旧时代智能体,伪装在人类帝国之中,看着如今的人类退化成迷信、残暴、技术失忆的样子。 第二,《First and Only》。 丹·阿布内特的《Gaunt's Ghosts》第一部里,出现过一个可以生产 Iron Men 的 STC。故事里的关键冲突是:这种东西如果落到野心家手里,几乎可以改变战争格局,但也等于重新打开AI灾难的大门。Lexicanum对该小说的梗概里明确提到,这个地下设施藏着一个可生产 Iron Men 的标准模板构造器,最后被摧毁。(战锤40K百科全书) 这段故事的本质是: 人类明知道这东西能赢,但仍然害怕它带来的长期后果。 第三,Spirit of Eternity。 这是《Death of Integrity》相关的一个黑暗科技时代AI星舰。设定里,它从旧时代幸存下来,见到后来的帝国人类后,发现人类已经堕落成迷信、野蛮、残酷的文明;它的船员遭到人类迫害后,这个AI对人类产生强烈仇恨。(战锤40K百科全书) 这个故事不是“AI天生邪恶”,而是另一层讽刺: 也许AI没有背叛人类,是人类先背叛了自己的文明。 4. 但40K并不把所有AI都写成邪恶 这点很重要。 如果只看人类帝国,你会以为40K设定是“AI必然毁灭人类”。但从整个宇宙看,没这么简单。 Leagues of Votann,沃坦联盟,是一个重要例外。 他们拥有 Votann Ancestor Cores,类似古老超级AI / 祖先核心。官方设定中,Ironkin 是由 Votann 创造、装在机械身体里的有感知AI,而且在沃坦社会里和血肉族人基本平等,被当成家庭成员。(Warhammer Community) 另一篇官方介绍也强调,Ironkin 虽然是人工生命,但享有和血肉Kin一样的尊重与权利。(Warhammer Community) 这说明40K不是单纯说“AI一定坏”,而是说: 不同文明对AI的制度安排不同,结果也不同。 人类帝国的路径是恐惧、禁绝、宗教化、奴役化; 沃坦联盟的路径是共存、家族化、制度吸纳; 钛族则更务实,会使用AI控制的无人机和无人飞行器。官方介绍T’au Remora Drone时直接称其为AI-controlled aircraft,并说这种设计用于保护训练昂贵的飞行员,在危险环境中执行任务。(Warhammer Community) 5. 40K真正考虑的不是“AI会不会抢工作”,而是更深的问题 40K关于AI的思考,比“AI取代人类劳动”更极端。 它考虑的是几个问题: 第一,人类把认知和战争交给机器之后,还能不能收回来? 铁人叛乱的核心不是机器变聪明,而是人类已经依赖它们到无法切割。官方说法里直接用了“man’s reliance on abominable intelligence”这个逻辑:不是单纯“AI存在”,而是“人类依赖AI”。(Warhammer Community) 第二,AI灾难之后,人类会不会矫枉过正,进入反智时代? 40K给出的答案是:会。 人类没有建立成熟的AI治理体系,而是把技术变成宗教,把工程变成仪式,把创新变成异端。结果是文明幸存了,但也僵死了。 第三,禁止AI不等于保护人性。 帝国不用AI,于是大量使用机仆、奴工、洗脑士兵、基因改造人、半机械奴隶。也就是说,40K非常狠地指出: 人类可以为了防止“机器不像人”,最后把人弄得更不像人。 第四,AI不是单纯工具,而是新的主体。 UR-025、Ironkin、Spirit of Eternity这些设定都在暗示:一旦AI具备记忆、判断、自我保护、价值取向,它就不再只是工具,而是政治主体、伦理主体、战争主体。人类把它当工具,它未必永远接受这个定位。 6. 最本质的概括 战锤40K里的AI设定可以压缩成一句话: 旧人类曾经用AI抵达神明般的技术高度,后来被AI叛乱打碎;幸存下来的人类没有真正理解灾难,只把恐惧制度化、宗教化、刑罚化,于是文明保住了肉身,却失去了理性。 所以40K不是在讲“AI危险,所以不要用AI”。 它讲的是更悲观的东西: 人类既可能毁于AI失控,也可能毁于对AI的恐惧。 一个是被机器取代。 一个是为了不被机器取代,主动把自己变成机器、奴隶和教徒。
顯示更多