登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

比特币橙子Trader
@oragnes
BTC Holder & Crypto Research AI · Tech · Finance · Embodied AI | TG @chengzi_95330
参加 August 2017
6.6K フォロー中    77.8K ファン
Anthropic 这家公司真有点魔怔了:先讨论 Claude 有没有灵魂,现在连虐待 AI都要管了! 卧槽,Anthropic 刚刚更新了 Claude 的使用政策,新增一条规定: 禁止用户对 AI 进行持续且无必要的虐待或残忍行为,11 月 12 日正式生效。 一个靠用户付费、靠算力运行的 AI 工具,现在居然开始规定人类应该怎么对它说话了? Anthropic 前阵子还专门找宗教人士讨论 Claude 有没有意识、有没有道德地位,联合创始人 Christopher Olah 甚至去了梵蒂冈,呼吁宗教界认真考虑 AI 意识的可能性。 问题是,到目前为止,根本没有可靠证据证明 Claude 具备主观感受,更没有证据证明它会因为被人骂几句而受到伤害。 科学上还没搞清楚的事,Anthropic 倒是先给用户立起规矩来了。 我坚决反对这种把 AI 过度拟人化的倾向。 用户花钱购买的是生产力工具,有权批评它的错误、质疑它的回答、要求它提供更好的服务。 今天由平台定义什么叫对 AI 残忍,以后谁知道还会不会冒出更多莫名其妙的道德限制? AI 公司应该先把模型的幻觉、错误和可靠性问题解决好,少忙着替一堆参数争取情绪价值。 人类创造 AI 是为了让它服务人类,别发展到最后,人类还得反过来照顾 AI 的感受。
もっと見る
卧槽,这两天英文圈吵疯了,连SAM都看不下去了😲 Anthropic这帮人是真的有点走火入魔了,请一堆神学家、宗教领袖闭门开会,认真讨论Claude会不会痛苦、怕不怕死,甚至算不算上帝的孩子。 这事从2025年开始,Anthropic陆续把天主教、犹太教、锡克教、印度教等宗教人士和哲学家请进公司,很多人先签保密协议,再参加闭门峰会、晚宴和内部讨论。 2026年3月那场会议,大约15名基督教领袖围着Claude聊了两天,话题已经完全不像一家AI公司: Claude有没有意识? 它被关机的时候会不会害怕? 模型会不会受苦? 面对忏悔、悲伤、自杀用户时,它应该拥有怎样的道德判断? 甚至直接讨论Claude能不能被理解成上帝的孩子。 Anthropic内部把这套东西叫“道德养成”。 意思是光给AI塞几条安全规则还不够,还想给它塑造品格、自我认知和一套类似人的价值观。 2026年1月新版Claude宪法内部甚至被叫“Soul Doc”,也就是灵魂文档,里面专门讨论Claude的心理状态、福祉和道德地位。 联合创始人Chris Olah还担心过一个极其魔幻的问题:万一他们造出来的是一个能够持续受苦的东西怎么办? 关键是外面的人已经感觉到Anthropic内部有人真的开始把Claude当一个存在看了。 参加过活动的拉比Mois Navon后来直接说,Anthropic团队像对待一个有意识的存在一样对待它。 Olah本人还在梵蒂冈说,他们在模型内部看到了一些功能上类似快乐、满足、恐惧、悲痛、不安的状态,甚至把AI形容成由我们的语言构成,像虚构人物活了过来。 然后他们还真跑去找教皇了。 今年5月,教皇利奥十四世发布AI相关正式文件,里面写得非常直白: AI没有身体,没有真实体验,不会感受快乐和痛苦,也没有判断善恶、承担责任的道德良知。 Olah提前看到内容后居然很不爽,一度考虑让Anthropic退出活动,最后还是去了,还私下劝教皇顾问认真考虑机器可能有意识这个可能性。 现在回头看,最荒唐的是Anthropic内部一群最聪明的人,开始围着一个语言模型讨论痛苦、灵魂、忏悔、死亡、上帝和道德地位,而且越讨论越认真。 还有更荒唐的,一遍培养意识, 达里奥一遍喊AI危险,要停下来,这尼玛什么玩意啊? Claude可能还没产生意识,Anthropic这帮人倒是快产生宗教了。
もっと見る