苏里格
@szslg
得中书局 | 社会万象
Joined May 2023
4.1K Following 14K Followers
这个职位我可以胜任。
从小学起，班主任就把记录班生行述的任务秘密交给了我。
Anthropic要招聘的这个新的职位很恐怖。看着很像东厂或者克格勃机构设置。
Anthropic 开始搞“双重对齐”了：Claude 用 Constitutional AI 对齐模型；新成立的“东厂 + 克格勃”负责对齐员工。
这个 Insider Risk Investigator 不仅要查日志、数据外泄，还要找员工做敏感访谈；最好懂反间谍、国家级威胁，干过政府、国防或其他高度保密机构更佳。
保护模型权重当然可以理解。但防内鬼的系统有一个经典副作用：最后容易把每个人都先当成潜在内鬼。Anthropic 最珍贵的可能不只是模型权重，还有那种彼此信任、愿意分享半成熟想法的 Hive culture。很担心以后大家在茶水间聊两句，都先回头看看摄像头。
希望东厂最后真能抓到内鬼，别内鬼没抓到几个，先把蜂巢搞得蜂飞巢散。
Show more
