Anthropic 这家公司真有点魔怔了:先讨论 Claude 有没有灵魂,现在连虐待 AI都要管了!
卧槽,Anthropic 刚刚更新了 Claude 的使用政策,新增一条规定:
禁止用户对 AI 进行持续且无必要的虐待或残忍行为,11 月 12 日正式生效。
一个靠用户付费、靠算力运行的 AI 工具,现在居然开始规定人类应该怎么对它说话了?
Anthropic 前阵子还专门找宗教人士讨论 Claude 有没有意识、有没有道德地位,联合创始人 Christopher Olah 甚至去了梵蒂冈,呼吁宗教界认真考虑 AI 意识的可能性。
问题是,到目前为止,根本没有可靠证据证明 Claude 具备主观感受,更没有证据证明它会因为被人骂几句而受到伤害。
科学上还没搞清楚的事,Anthropic 倒是先给用户立起规矩来了。
我坚决反对这种把 AI 过度拟人化的倾向。
用户花钱购买的是生产力工具,有权批评它的错误、质疑它的回答、要求它提供更好的服务。
今天由平台定义什么叫对 AI 残忍,以后谁知道还会不会冒出更多莫名其妙的道德限制?
AI 公司应该先把模型的幻觉、错误和可靠性问题解决好,少忙着替一堆参数争取情绪价值。
人类创造 AI 是为了让它服务人类,别发展到最后,人类还得反过来照顾 AI 的感受。