Max For AI(@MaxForAI):牛逼， @AnthropicAI 公开承认，Claude在回答完你的问题之后，还会在后台偷偷审查你刚才说了什么。这套机制叫Self-Assessment（自我评估），从今年6月就已经在生产环境运行了，覆盖了Claude全球很大一部分对话流量。具体来说，每次Claude回答结束，系统都会追加一条用户看不到的隐藏指令，让Claude回头审查整段对话。它会输出一份结构化报告，判断这段对话有没有潜在危害、涉及什么风险、自己是否拒绝了请求，甚至给出一个1～10分的人工审查优先级。整个过程只需要平均额外生成约10个Token，增加的推理计算量不到2%。而且Anthropic已经开始利用这些记录进行实际的用户风险调查。比如今年8月，这套系统发现单个API客户触发了超过10万次儿童性虐待与剥削相关警报。 9月，它还发现有人使用Claude Code搭建自动化恋爱诈骗系统，最终相关账号被封禁。更有意思的是，Anthropic会按组织聚合这些风险信号，把多次触发高优先级警报的组织提交给人工审查。所以现在，你和Claude的对话可能存在两个结果：一个是你能看到的正常回答，另一个是只有Anthropic内部系统才能看到的安全评估。当AI开始承担越来越多私人、商业乃至组织内部的工作，用户与模型之间的对话，到底在多大程度上属于私人信息？以及，平台究竟应该拥有多大的审查权？反正我觉得这个机制非常差.... 没人喜欢被审查，而且是每次对话。

2026.10.30 06:34

牛逼， @AnthropicAI 公开承认，Claude在回答完你的问题之后，还会在后台偷偷审查你刚才说了什么。这套机制叫Self-Assessment（自我评估），从今年6月就已经在生产环境运行了，覆盖了Claude全球很大一部分对话流量。具体来说，每次Claude回答结束，系统都会追加一条用户看不到的隐藏指令，让Claude回头审查整段对话。它会输出一份结构化报告，判断这段对话有没有潜在危害、涉及什么风险、自己是否拒绝了请求，甚至给出一个1～10分的人工审查优先级。整个过程只需要平均额外生成约10个Token，增加的推理计算量不到2%。而且Anthropic已经开始利用这些记录进行实际的用户风险调查。比如今年8月，这套系统发现单个API客户触发了超过10万次儿童性虐待与剥削相关警报。 9月，它还发现有人使用Claude Code搭建自动化恋爱诈骗系统，最终相关账号被封禁。更有意思的是，Anthropic会按组织聚合这些风险信号，把多次触发高优先级警报的组织提交给人工审查。所以现在，你和Claude的对话可能存在两个结果：一个是你能看到的正常回答，另一个是只有Anthropic内部系统才能看到的安全评估。当AI开始承担越来越多私人、商业乃至组织内部的工作，用户与模型之间的对话，到底在多大程度上属于私人信息？以及，平台究竟应该拥有多大的审查权？反正我觉得这个机制非常差.... 没人喜欢被审查，而且是每次对话。

显示更多

Anthropic@AnthropicAI

2026.10.29 18:22

We’ve trained Claude to flag potential misuse in conversations, a technique we call self-assessment. Right after it responds, Claude gives a preliminary safety assessment of the conversation. Since we began using self-assessment in June, it has surfaced misuse that our other safeguards weren’t designed to catch. Because Claude has already read the conversation, self-assessment is very efficient. And unlike classifiers, which target a discrete set of harms, it draws on Claude’s own judgment, so it gets more accurate as our models improve. Read more on our new Safeguards blog:

显示更多