⚡ TL;DR: あなたのモデル、ハードの限界に対して「あと何倍」速くできるか即答できますか？ SOLARはPyTorch/JAXのコードから理論上の最速値（Speed-of-Light）を自動かつ検証付きで導き出します。 タイトル: SOLAR: AI-Powered Speed-of-Light Performance Analysis URL: 📌 ポイント ・🤖 LLMがコードを中間表現に翻訳→元コードと数値比較で正しさを検証する「生成して検証」方式 ・🧮 添字（einsum）構造だけから計算量とメモリ往復量を閉形式で算出する決定論的バックエンド ・🎚 非融合・融合・キャッシュ考慮の3段階でルーフライン上限を多段解析 ・✅ KernelBench 270問で演算子カバレッジ100%、SOL違反ゼロ（既存FLOPカウンタは75〜84%） ・🚀 ヘッドルームはL3で最大54.6倍、融合解析でさらに7.8倍の余地を発見 ・🦾 Jetson Thor上のロボット3モデルは全てメモリバウンド、500Hz制御には現状の19.7倍の帯域が必要 ・🔄 逆ルーフラインで目標レイテンシに必要な最低ハード性能を逆算 🌍 一言: 生成AIの柔軟さと数式計算の厳密さを組み合わせ、性能チューニングとハード選定を実機なしで加速できる実用的な土台だと感じます。 #DeepLearning# #Performance#

🧠 誤差逆伝播を使わない「生物学的に妥当な学習」が深いネットワークで失敗するのは、実は勾配のランク崩壊が原因でした。それを幾何学的な介入で解き、精度を1.4%から46.1%へ一気に引き上げた研究です。 タイトル: Overcoming Rank Collapse in Feedback Alignment URL: 📝 概要 フィードバックアラインメント（FA）は、誤差逆伝播に対する生物学的に妥当な代替手法です。順方向と同じ重みを逆方向にも使う「対称な重み転送」を必要とせず、固定のランダムなフィードバック重みで学習します。本論文は、FAが深い構造でスケールしない原因を「勾配のランク崩壊」と特定し、それを克服する手法を提案します。 ❓ 解決する課題 FAの誤差は、逆伝播に比べて著しくランクが低く、より低次元の部分空間に制約されてしまいます。このランク崩壊が、パラメータ空間の探索を大きく制限し、学習中に重みの整合（alignment）が進まなくなる根本原因でした。 💡 方法論と提案手法 勾配の次元性を高める、相補的な2つの機構を提案します。 ・Muonオプティマイザ：直交化に基づき、すべての特異値を1に設定します。モメンタム更新のスペクトルを平坦化し、これまで無視されていた方向を強調して、更新の幾何そのものを書き換えます ・バッチ正規化：隠れ層の活性を正規化して活性の直交性を促し、層をまたいで高次元の表現を維持します ・Muonは更新の幾何を均一化し、バッチ正規化は表現の次元性を保つ。両者を組み合わせると、学習を通じて豊かな学習方向が維持され、深いネットワークでもアラインメントが生まれます 🎯 ユースケース 逆伝播に依存しない学習や、脳に着想を得たニューロモルフィック計算、そして「最適化の軌跡の次元性」を扱う研究全般に役立ちます。 📊 実験結果 ・CIFAR-10・CIFAR-100・STL-10・Tiny ImageNetで、AlexNetとResNet-18を用いて評価しました ・CIFAR-100・ResNet-18では、ベースラインFAがわずか1.4%だったのに対し、FA+バッチ正規化で37.1%、FA+Muonで25.3%に向上しました ・FA+Muon+バッチ正規化で46.1%（バッチ正規化単独比で約9ポイント改善）を達成しました ・同様の改善が、すべてのデータセットとアーキテクチャで確認されました #DeepLearning# #Neuroscience#

今週のPCランキング初登場 ●『ゼロから作るDeep Learning ６　LLM編』オライリー・ジャパン 人気シリーズの第6弾。ChatGPTの魔法のような能力、その仕組みを自らの手で解き明かしてみませんか？LLMを支える技術をゼロから実装します。 #Gゾーンコンピュータ書売場にて#