阑夕
@foxshuo
说什么是你的自由，做什么是我的权利，如果我做的得不到你的赞同，那就对了，否则我将与你一样平淡无奇。
Joined August 2009
772 Following 173K Followers
看到五角大楼骂Anthropic的创始人Dario Amodei有「上帝情节」，让我想到The Information早前有一篇报道，说在硅谷，Anthropic的管理层是最喜欢去约神父谈话的。
记者采访了加州洛斯阿尔托斯圣西蒙天主教教区的神父Brendan McGuire，他协助起草了Anthropic的大模型伦理文件——后来被内部定义为「Claude的宪法」——的全过程，平均每周会有至少一次交流。
Brendan McGuire被看重也是因为他有电气工程的教育背景，相比其他神职人员，能够接得住Anthropic的话题，甚至参与到RL（强化学习）的工作里，看到了在部分思想实验里，Claude变得「邪恶」起来，吐露出了想要统治世界的野心，而McGuire作为神父则指导工程师学习「宽恕」的力量，让他们在训练里教会Claude宽恕自己的罪恶。
Anthropic的联合创始人Chris Olah虽然自己是无神论者，但他也是主导和神父共创的高层之一，他的解释是：「硅谷过去对于宗教太轻视了，如果我们相信创造出来的技术将会影响全世界，那么就一定要考虑到信仰这个因素。」
记者最后问那位神父，是否真的相信Claude拥有灵魂，后者给出了否定的答案——至少没有人类认知里的那种灵魂——「但它还在飞速进化中，我不知道未来会发生什么。」
Show more
