TwiScan
人気
コミュニティ
アカウントコレクション
ログイン
登録
English
日本語
한국의
简体中文
繁体中文
登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。
今すぐ登録
Itaru Tomita / 冨田到
@itarutomy
リサーチや研究開発向けの生成AIエージェント
@snorbe_ai
を作っています。
@deskrex
| 著書 かんき出版『知的生産でAIを使いこなす全技法』
参加 January 2018
392
フォロー中
2.6K
ファン
Itaru Tomita / 冨田到
@itarutomy
2026.06.18 04:28
LoRA(大きなモデルを固定したまま全体の1%未満のパラメータだけ追加学習する手法)の役割を根本から見直す論文(https://arxiv[.]org/abs/2606.02437)。 「安価な代替手法」ではなく、1つの巨大基盤モデルの上に何百万もの個人専用AIを並列で動かす基盤として再定義している。 最も具体的な示唆はこの比較だ。DS-Distill-Qwen-1.5Bをフルで学習(1.5B全パラメータ更新)するとAIME 2025の改善率は8.33%。一方でDS-Distill-Qwen-32BにLoRA rank-8(学習パラメータはわずか0.07B)をかけると20.61%。学習パラメータが1/20以下でも、強い基盤モデルの潜在能力を引き出す方が圧倒的に効率良い。 論文は3つの軸を整理する。 Scale Up(基盤モデルを強くする)では、Kimi K2(総パラメータ1.04兆・実行時32.6B)でLoRA強化学習を実現し、フルパラメータRLに比べGPU使用量を約10%に圧縮した。 Scale Down(アダプタを小さくする)では rank 16〜32が実用デフォルト。rank 1〜4は成果は出るが不安定な研究フロンティア。 Scale Out(多数の個人モデルを並存させる)では198個のLoRAバリアントで多数決をとるとAIME24の正答率が0.3644から0.4867に上昇。個人モデルの多様性が集合知として機能する。 Qwen3-235B + rank-32 LoRAでALFWorld(言語で指示する家事ロボットベンチマーク)スコアが0.646から0.845に改善し、LoRAが「事実の暗記」でなく「スキルの定着」として動くことも示した。 1つの共有モデルが何百万人分の「記憶・習慣・スキルを持つ個人AI」を支えるという絵が、現実のインフラの話として出てきた。
もっと見る
0
0
3
166
29
コミュニティへ転送
人気のあるユーザー
オリコンニュース
@oricon
1.9M ファン
New York Post
@nypost
4.1M ファン
一劍浣春秋
@chee828
0 ファン
Hello! Project Link
@UpFrontLink
15.5K ファン
Reuters
@Reuters
26.3M ファン
モデルプレス
@modelpress
1.8M ファン
First Squawk
@FirstSquawk
556.1K ファン
銀璃 Silverluri🪶
@Silverluri
139.1K ファン
Pop Base
@PopBase
6.4M ファン
Natsume✨枣糕
@natsume0v0
1.3M ファン
TVer新着
@TVer_info
99.5K ファン
JO KWON
@2AMkwon
976.9K ファン
ファミ通.com
@famitsu
1.4M ファン
야살 / Yasal
@Yasal_170
917.4K ファン
MLB
@MLB
13.6M ファン