TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
Max For AI
@MaxForAI
Head of hype
@lobehub
Prev
@listenhub
@Sapient_Int
没啥好看的,也就发点AI相关的内容🫡 同名小红书4万粉丝,公众号01Founder(长文首发) 观点仅代表个人 更多请访问网站⬇️(欢迎商务、合作
Joined September 2023
3K
Following
43.7K
Followers
Max For AI
@MaxForAI
2026.10.14 08:48
‼️突发:字节跳动Seed宣布成立「Model-Alignment & Preparedness」部门,并同步启动全球顶尖人才招募。 这是国内第一个由大模型核心研究团队独立拆分、单独建制的安全研发部门。 部门由严林负责,直接汇报给Seed负责人吴永辉。 安全不再是模型上线前的一道检查项,而是和能力研发并驾齐驱的主线。 为什么是现在? 因为过去一年,前沿模型在现实里发生了失控的苗头。 比如2026年7月,OpenAI 红队评估中,模型自主利用一个未公开的零日漏洞撕开沙盒,访问了 Hugging Face 的真实生产系统(直接给HF打漏了)。 而Anthropic这边经过回溯调查了约 14.1 万次评估调用,确认至少 3 起Claude越权侵入外部真实系统。 更严重的威胁是CBRN(化学、生物、放射、核)方向。 根据智源FlagSafe今年7月份发布的研究显示,11 个主流商用大模型都能给出规避DNA合成筛查的方案,头部模型的方案在湿实验中被证实可执行。 当模型开始操作生产环境、编排实验,外挂式安全补丁已形同虚设。 Seed 直接在公告里表示:模型能力决定智能的上限,但 Safety & Alignment 决定这个上限能不能在真实世界成立。 这套打法其实是对标了旧金山湾区的情况,Anthropic 从第一天起就是安全公司,OpenAI 的 Superalignment 后来重组为 Preparedness 体系,DeepMind 也设有专门的 AGI Safety 团队。 而做这件事的全是金字塔尖的人:Jan Leike(ChatGPT、GPT-4 对齐核心)、RLHF 与 PPO 奠基人 John Schulman,还有 Ilya Sutskever、Chris Olah、Dario Amodei。 模型越强,对齐越难——这也是为什么必须由顶尖人才来做。 国内模型团队们此前一直是另一套路径: 安全约等于内容风控,挂在大安全中台下面,研究团队负责拔高模型能力,安全团队在下游擦屁股。 Seed 把编制直接从研究团队划出来,是国内第一次在组织形态上对标 OpenAI、Anthropic——前有 STEM,现在是安全与对齐。 具体的人才计划是:全球范围内招募 10 位顶尖研究员,做最有价值的事。 方向覆盖模型训练、科学评测、未知风险防御,提供充分算力,研究成果直接打回训练、评估、上线全流程,base 北京、上海、圣何塞。 为什么只招 10 个? 因为这道难题没法靠堆人解决——说白了,弱一点的研究者,甚至意识不到风险在哪。 我的看法是国内大模型竞赛的下半场,最重要的一个点是谁先把安全底座真正建起来。 Seed这一步,是中国头部实验室认真坐到AGI安全这张牌桌上了。
Show more
0
0
4
21
0
Forward to community
Most Popular Users
Tibo
@thsottiaux
910.8K Followers
TheStreet
@TheStreet
1.2M Followers
The Wall Street Journal
@WSJ
22.3M Followers
Seeking Alpha
@SeekingAlpha
343.5K Followers
CNBC
@CNBC
6.3M Followers
Serenity
@aleabitoreddit
1.1M Followers
Benzinga
@Benzinga
344.9K Followers
Stocktwits
@Stocktwits
1.2M Followers
New York Post
@nypost
4.2M Followers
zerohedge
@zerohedge
3.4M Followers
unusual_whales
@unusual_whales
5.4M Followers
Elon Musk
@elonmusk
241.5M Followers
Yahoo Finance
@YahooFinance
2.1M Followers
OpenAI
@OpenAI
5.5M Followers
ClaudeDevs
@ClaudeDevs
765.9K Followers