⚡ TL;DR: あなたのモデル、ハードの限界に対して「あと何倍」速くできるか即答できますか？ SOLARはPyTorch/JAXのコードから理論上の最速値（Speed-of-Light）を自動かつ検証付きで導き出します。 タイトル: SOLAR: AI-Powered Speed-of-Light Performance Analysis URL: 📌 ポイント ・🤖 LLMがコードを中間表現に翻訳→元コードと数値比較で正しさを検証する「生成して検証」方式 ・🧮 添字（einsum）構造だけから計算量とメモリ往復量を閉形式で算出する決定論的バックエンド ・🎚 非融合・融合・キャッシュ考慮の3段階でルーフライン上限を多段解析 ・✅ KernelBench 270問で演算子カバレッジ100%、SOL違反ゼロ（既存FLOPカウンタは75〜84%） ・🚀 ヘッドルームはL3で最大54.6倍、融合解析でさらに7.8倍の余地を発見 ・🦾 Jetson Thor上のロボット3モデルは全てメモリバウンド、500Hz制御には現状の19.7倍の帯域が必要 ・🔄 逆ルーフラインで目標レイテンシに必要な最低ハード性能を逆算 🌍 一言: 生成AIの柔軟さと数式計算の厳密さを組み合わせ、性能チューニングとハード選定を実機なしで加速できる実用的な土台だと感じます。 #DeepLearning# #Performance#

ロボットの視覚的な計画を、座標トークンを1つずつ出すのをやめて、まとめて一気に出す手法です🤖 VFlash: Fast, Accurate Visual Planning via Flash Primitive Decoding 📌 概要 ボックスや軌跡などの「プリミティブ」を、軽量なドラフターで1回の順伝播で予測するFlash Primitive Decodingを提案しています。 ⚠️ 解決する課題 自己回帰VLMは座標を1トークンずつ出すため、ウェイポイントや物体が増えるほどレイテンシが増えます 🧩 手法 ・プリミティブの型と長さが既知なので、全体を1パスで予測します ・ターゲットのトークンとの一致ではなく、スキーマ上有効かどうかで受理します ・無効なものだけ自己回帰で再生成します 📊 結果 ・3D軌跡のADEがAgiBotで0.083から0.042、InternA1で0.153から0.062に低下しました ・MolmoSpacesの平均成功率が62.6%から70.2%に上がりました ・1ステップのレイテンシはJetson Thorで約5.1倍、H100で3.6倍短縮しました 🔭 注意点 フォールバックなしだとボックスのF1が大きく下がります。密な動きの高速化も予備的な結果です。 #ロボティクス# #VLM#