TwiScan
熱門
社區
帳號集合
登入
註冊
English
日本語
한국의
简体中文
繁体中文
註冊並分享邀請連結,可獲得影片播放與邀請獎勵。
立即註冊
Itaru Tomita / 冨田到
@itarutomy
リサーチや研究開発向けの生成AIエージェント
@snorbe_ai
を作っています。
@deskrex
| 著書 かんき出版『知的生産でAIを使いこなす全技法』
加入 January 2018
392
正在關注
2.6K
粉絲
Itaru Tomita / 冨田到
@itarutomy
2026.06.18 04:28
LoRA(大きなモデルを固定したまま全体の1%未満のパラメータだけ追加学習する手法)の役割を根本から見直す論文(https://arxiv[.]org/abs/2606.02437)。 「安価な代替手法」ではなく、1つの巨大基盤モデルの上に何百万もの個人専用AIを並列で動かす基盤として再定義している。 最も具体的な示唆はこの比較だ。DS-Distill-Qwen-1.5Bをフルで学習(1.5B全パラメータ更新)するとAIME 2025の改善率は8.33%。一方でDS-Distill-Qwen-32BにLoRA rank-8(学習パラメータはわずか0.07B)をかけると20.61%。学習パラメータが1/20以下でも、強い基盤モデルの潜在能力を引き出す方が圧倒的に効率良い。 論文は3つの軸を整理する。 Scale Up(基盤モデルを強くする)では、Kimi K2(総パラメータ1.04兆・実行時32.6B)でLoRA強化学習を実現し、フルパラメータRLに比べGPU使用量を約10%に圧縮した。 Scale Down(アダプタを小さくする)では rank 16〜32が実用デフォルト。rank 1〜4は成果は出るが不安定な研究フロンティア。 Scale Out(多数の個人モデルを並存させる)では198個のLoRAバリアントで多数決をとるとAIME24の正答率が0.3644から0.4867に上昇。個人モデルの多様性が集合知として機能する。 Qwen3-235B + rank-32 LoRAでALFWorld(言語で指示する家事ロボットベンチマーク)スコアが0.646から0.845に改善し、LoRAが「事実の暗記」でなく「スキルの定着」として動くことも示した。 1つの共有モデルが何百万人分の「記憶・習慣・スキルを持つ個人AI」を支えるという絵が、現実のインフラの話として出てきた。
顯示更多
0
0
3
166
29
轉發到社區
熱門用戶
New York Post
@nypost
4.1M 粉絲
Reuters
@Reuters
26.3M 粉絲
一劍浣春秋
@chee828
230.5K 粉絲
Hello! Project Link
@UpFrontLink
15.5K 粉絲
是你的KK
@KKLOVQ
212.1K 粉絲
First Squawk
@FirstSquawk
556.2K 粉絲
Pop Base
@PopBase
6.4M 粉絲
MLB
@MLB
13.6M 粉絲
JO KWON
@2AMkwon
976.9K 粉絲
Bitget中文
@Bitget_zh
109.7K 粉絲
モデルプレス
@modelpress
1.8M 粉絲
AB Kuai.Dong
@_FORAB
139.5K 粉絲
銀璃 Silverluri🪶
@Silverluri
0 粉絲
Binance
@binance
16.1M 粉絲
追风Lab .eth🌿
@ZF_lab
107K 粉絲