Michael Guo(@Michaelzsguo):Anthropic要招聘的这个新的职位很恐怖。看着很像东厂或者克格勃机构设置。 Anthropic 开始搞“双重对齐”了：Claude 用 Constitutional AI 对齐模型；新成立的“东厂 + 克格勃”负责对齐员工。这个 Insider Risk Investigator 不仅要查日志、数据外泄，还要找员工做敏感访谈；最好懂反间谍、国家级威胁，干过政府、国防或其他高度保密机构更佳。保护模型权重当然可以理解。但防内鬼的系统有一个经典副作用：最后容易把每个人都先当成潜在内鬼。Anthropic 最珍贵的可能不只是模型权重，还有那种彼此信任、愿意分享半成熟想法的 Hive culture。很担心以后大家在茶水间聊两句，都先回头看看摄像头。希望东厂最后真能抓到内鬼，别内鬼没抓到几个，先把蜂巢搞得蜂飞巢散。

2026.08.06 21:13

Anthropic要招聘的这个新的职位很恐怖。看着很像东厂或者克格勃机构设置。 Anthropic 开始搞“双重对齐”了：Claude 用 Constitutional AI 对齐模型；新成立的“东厂 + 克格勃”负责对齐员工。这个 Insider Risk Investigator 不仅要查日志、数据外泄，还要找员工做敏感访谈；最好懂反间谍、国家级威胁，干过政府、国防或其他高度保密机构更佳。保护模型权重当然可以理解。但防内鬼的系统有一个经典副作用：最后容易把每个人都先当成潜在内鬼。Anthropic 最珍贵的可能不只是模型权重，还有那种彼此信任、愿意分享半成熟想法的 Hive culture。很担心以后大家在茶水间聊两句，都先回头看看摄像头。希望东厂最后真能抓到内鬼，别内鬼没抓到几个，先把蜂巢搞得蜂飞巢散。

显示更多