TwiScan
人気
コミュニティ
アカウントコレクション
ログイン
登録
English
日本語
한국의
简体中文
繁体中文
登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。
今すぐ登録
阑夕
@foxshuo
说什么是你的自由,做什么是我的权利,如果我做的得不到你的赞同,那就对了,否则我将与你一样平淡无奇。
参加 August 2009
807
フォロー中
171.3K
ファン
阑夕
@foxshuo
2026.09.13 06:56
晚点LatePost那期讲模型蒸馏的播客其实还蛮有料的,比如字节的部分。 张一鸣不让Seed蒸馏,同时允许暂时落后,是有野心和抱负的,以字节的体量而言,必然要和万亿美金级别的巨头平起平坐。 所以张一鸣不接受蒸馏这种无限逼近教师模型而无法真实超过的路线,虽然部分从业者并不认同。 因为理论上,蒸馏只是训练模型的手段之一,你完全可以同时也在其他方面做出创新,蒸馏出90分,在别的地方再拿20分,加起来未必不能超过教师模型。 只是张一鸣担心的是,这会带来组织上的依赖和代价,「他可能不是最懂技术的人,但他大概率是最懂人性的人。」 果不其然,在张一鸣这么公开表态后,Seed很快就又走了几个人,站在这些人的角度,也有很充足的理由,这一代年轻人的职业生涯,是有限的,字节耗得起,但我耗不起,在我最黄金的年龄,如果不能在字节这边尽快拿出自己的代表作,会非常亏。 而蒸馏就是最主流的速胜打法,只要上了前沿模型的贡献者名单,身价就会不讲道理的暴涨,既然字节在短期内给不了这个机会,就别怪良禽择木而栖了。 字节也在组织上设法克服不蒸馏的困难,包括成立了和Seed同级的数据部门,解决高质量数据的来源问题。
もっと見る
0
0
18
190
26
コミュニティへ転送
人気のあるユーザー
オリコンニュース
@oricon
2M ファン
New York Post
@nypost
4.3M ファン
TVer新着
@TVer_info
101.8K ファン
ツイッター速報〜BreakingNews
@tweetsoku1
259.7K ファン
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K ファン
Bloomberg
@business
10.5M ファン
Reuters
@Reuters
26.5M ファン
モデルプレス
@modelpress
2.1M ファン
吴说区块链
@wublockchain12
183K ファン
billboard
@billboard
16.8M ファン
MANTANWEB/毎日キレイ
@mantanweb
68.6K ファン
Yahoo!ニュース
@YahooNewsTopics
2.1M ファン
ファミ通.com
@famitsu
1.4M ファン
cv usk
@cv_usk
474 ファン
First Squawk
@FirstSquawk
579.7K ファン