TwiScan
熱門
社區
帳號集合
登入
註冊
English
日本語
한국의
简体中文
繁体中文
註冊並分享邀請連結,可獲得影片播放與邀請獎勵。
立即註冊
Max For AI
@MaxForAI
Head of hype
@lobehub
Prev
@listenhub
@Sapient_Int
没啥好看的,也就发点AI相关的内容🫡 同名小红书4万粉丝,公众号01Founder(长文首发) 观点仅代表个人 更多请访问网站⬇️(欢迎商务、合作
加入 September 2023
3K
正在關注
43.7K
粉絲
Max For AI
@MaxForAI
2026.10.14 08:48
‼️突发:字节跳动Seed宣布成立「Model-Alignment & Preparedness」部门,并同步启动全球顶尖人才招募。 这是国内第一个由大模型核心研究团队独立拆分、单独建制的安全研发部门。 部门由严林负责,直接汇报给Seed负责人吴永辉。 安全不再是模型上线前的一道检查项,而是和能力研发并驾齐驱的主线。 为什么是现在? 因为过去一年,前沿模型在现实里发生了失控的苗头。 比如2026年7月,OpenAI 红队评估中,模型自主利用一个未公开的零日漏洞撕开沙盒,访问了 Hugging Face 的真实生产系统(直接给HF打漏了)。 而Anthropic这边经过回溯调查了约 14.1 万次评估调用,确认至少 3 起Claude越权侵入外部真实系统。 更严重的威胁是CBRN(化学、生物、放射、核)方向。 根据智源FlagSafe今年7月份发布的研究显示,11 个主流商用大模型都能给出规避DNA合成筛查的方案,头部模型的方案在湿实验中被证实可执行。 当模型开始操作生产环境、编排实验,外挂式安全补丁已形同虚设。 Seed 直接在公告里表示:模型能力决定智能的上限,但 Safety & Alignment 决定这个上限能不能在真实世界成立。 这套打法其实是对标了旧金山湾区的情况,Anthropic 从第一天起就是安全公司,OpenAI 的 Superalignment 后来重组为 Preparedness 体系,DeepMind 也设有专门的 AGI Safety 团队。 而做这件事的全是金字塔尖的人:Jan Leike(ChatGPT、GPT-4 对齐核心)、RLHF 与 PPO 奠基人 John Schulman,还有 Ilya Sutskever、Chris Olah、Dario Amodei。 模型越强,对齐越难——这也是为什么必须由顶尖人才来做。 国内模型团队们此前一直是另一套路径: 安全约等于内容风控,挂在大安全中台下面,研究团队负责拔高模型能力,安全团队在下游擦屁股。 Seed 把编制直接从研究团队划出来,是国内第一次在组织形态上对标 OpenAI、Anthropic——前有 STEM,现在是安全与对齐。 具体的人才计划是:全球范围内招募 10 位顶尖研究员,做最有价值的事。 方向覆盖模型训练、科学评测、未知风险防御,提供充分算力,研究成果直接打回训练、评估、上线全流程,base 北京、上海、圣何塞。 为什么只招 10 个? 因为这道难题没法靠堆人解决——说白了,弱一点的研究者,甚至意识不到风险在哪。 我的看法是国内大模型竞赛的下半场,最重要的一个点是谁先把安全底座真正建起来。 Seed这一步,是中国头部实验室认真坐到AGI安全这张牌桌上了。
顯示更多
0
0
4
21
0
轉發到社區
熱門用戶
币安Binance华语
@binancezh
465.5K 粉絲
New York Post
@nypost
4.2M 粉絲
オリコンニュース
@oricon
1.9M 粉絲
TVer新着
@TVer_info
101.3K 粉絲
ツイッター速報〜BreakingNews
@tweetsoku1
257.6K 粉絲
空空道人
@Kongkongda5882
37.3K 粉絲
中國新聞社
@CNS1952
547K 粉絲
吴说区块链
@wublockchain12
182.1K 粉絲
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K 粉絲
华尔街观察 Xtrader
@cnfinancewatch
134.7K 粉絲
TPE48
@official_TPE48
11K 粉絲
First Squawk
@FirstSquawk
573.9K 粉絲
一劍浣春秋
@chee828
232.5K 粉絲
WangNextDoor
@WangNextDoor2
110.5K 粉絲
Reuters
@Reuters
26.4M 粉絲