【#スケールモデル# #カーモデル】# 大人気商品再生産！🆙 マツダ・ロータリーサウンドの咆哮！🏆🍙🏆 タミヤ『1/24 マツダ787B』3,861円（税込） が入荷しました！ 以前の再販分は 速攻完売！久しぶりの再生産！ 歴史に名を残す名車を手に入れるチャンス到来！お見逃しなく！🏁🏴 #ホビスク秋葉原#

【#スケールモデル# ご予約受付開始！】 #造形村# 『#SWS# 1/32 メッサーシュミット Bf 109 G-6（後期型）』12,650円（税込） G型の代名詞 武骨なカウルにエルラ・ハウベ後期型キャノピーのスマートな顔つきが印象的な、高性能迎撃戦闘機が仲間入り！ 絶賛ご予約受付中！ #ホビスク秋葉原# #ラジオ会館# 8F

【#スケールモデル】# 【ご予約受付開始！】#造形村　##SWS# 「SWS1/32 メッサーシュミット Bf 109 G-6（後期型）」12,650円（税込） ・G型の代名詞！武骨なカウルとエルラ・ハウベ後期型キャノピーのスマートな顔つきが 印象的な、高性能迎撃戦闘機がSWSに仲間入り！ 絶賛ご予約受付中 #ホビスク秋葉原#

【#スケールモデル】# 通好みなラインナップで大人気の「ライフライク・デカール」1/48 零戦用シリーズ各種が再入荷！ 最新キット「ファインモールド 1/48 零式艦上戦闘機二一型」三菱製・前期/中島製 各キット（税込4,950円）も絶賛発売中！ 旬の零戦をいっぱい作ろう #ホビスク秋葉原# #ラジオ会館# 8F

【#スケールモデル】# 遂に発売ッ！ #造形村# #SWS# 最新作『1/32 川崎 キ100 五式戦闘機 一型乙』12,430円（税込） 「攻略本」ことコンセプトノートはもちろん 各種アフターパーツも同時発売です！ サンプルも展示していますので ご確認くださいませーッ！ #ボークス# #ホビスク秋葉原# #キ100# #五式戦#

FP4による大規模言語モデルの事前学習について、既存手法を体系的に比較した論文が公開されている。 “What Matters for NVFP4 Training - A Comparative Study of Low-Precision Pretraining Recipes” FP4を使った学習は高速な行列演算や必要なメモリ帯域幅を抑えられる一方、BF16と比較すると精度低下や学習の不安定性が残る。 FP4のE2M1形式では、0、0.5、1、1.5、2、3、4、6と、それらの負の値からなる15種類の数値しか表現できない。ただし、NVFP4では16個の値からなるブロックごとにスケール係数を持ち、それを掛けることで表現範囲を調整する。 今回の論文では、8BのDenseモデルと30B-A3BのMoEモデルを最大1Tトークン学習し、既存のFP4学習手法を比較している。 特に提案するMosaic NVFP4では、以下の工夫を組み合わせている。 ・Forwardでは重みを1次元で量子化し、Backwardでは必要な方向に再量子化する。 ・Backwardの2種類の行列積にRandom Hadamard Transformを適用し、外れ値の影響を軽減する。 ・勾配にはMS-EDEN（後述）を使い、Stochastic Roundingより小さな量子化誤差で不偏性を実現する。 ・その他のテンソルにはFour Over Sixによる適応的なスケール選択を適用し、量子化誤差を削減する。 ・最後の15%の層はBF16のまま維持する。 これらを組み合わせることで、30B-A3Bモデルでは1Tトークン学習後のBF16に対する相対学習損失差を0.81%未満まで縮小し、従来のFP4手法から0.36パーセンテージポイント改善した。 特に厄介なのは、すべての層をFP4にすると、8Bモデルでも300Bトークンを超えたところで学習が発散したことである。また、手法間の優劣は150Bトークンを超えるまで安定せず、短期間の小規模実験だけではFP4学習手法を適切に評価できないことも示された。 ・MS-EDEN 勾配の量子化において、バイアスをゼロに保ちながら量子化誤差の分散を小さくする手法。 個々の値を確率的に丸めるStochastic Roundingとは異なり、まずベクトル全体にRandom Hadamard Transformを適用して値を混合し、FP4に量子化する。その後、補正係数を掛けることで不偏性を回復する。 この補正係数はNVFP4のブロックスケールに組み込まれる。スケールはFP8で格納されるため、補正後のスケールを量子化する際にはStochastic Roundingを使用する。 これにより、各要素を確率的に丸める場合よりも小さな量子化誤差で、不偏な勾配推定を実現できる。 ・Four Over Six FP4のE2M1形式では、表現可能な値の4と6の間に5が存在しないため、この領域で量子化誤差が大きくなりやすい。 通常のスケーリングでは、ブロック内の絶対値の最大値をFP4の6に対応させる。しかし、最大値を4に設定した方が、ブロック全体の量子化誤差が小さくなる場合がある。 Four Over Sixは、ブロックごとに最大値を4に対応させる場合と6に対応させる場合の両方を試し、量子化後の二乗誤差が小さい方を選択する。 コメント ==== FP4は行列積の演算性能を向上させ、必要なメモリ帯域幅も削減できるため有望だが、大規模な事前学習での実績はまだ限られている。 今回の研究でも、かなり学習が進んだ後に発散する現象が確認された。最後の15%の層をBF16に維持することで発散を抑えられ、この条件ではBackwardの量子化手法による性能差もかなり小さくなる。 これは、Backwardの量子化バイアスを抑えるだけでは解決できない問題が残っていることを示している。著者らは量子化による表現精度の問題を示唆しているが、発散の詳しい機構はまだ分かっていない。 学習が進むにつれて小さな数値誤差が蓄積し、学習ダイナミクスが変化する可能性も考えられる。Forward側の表現誤差や、量子化とパラメータ更新の相互作用も重要だと思われる。 これはFP4に限らず、誤差逆伝播法を近似したり、一部を別の計算方式に置き換えたりする手法にも共通する課題である。小規模な実験では問題なく動作していても、モデルを大きくしたり学習を長期間続けたりすると、発散や性能劣化が生じる場合が多い。 深層学習はかなり粗い数値計算でも動作する印象があるが、特に長期間の学習における勾配計算や数値誤差の扱いは、想像以上に繊細である。

ゲームの世界モデルはピクセルを直接生成しがちですが、長く回すほど姿勢や幾何がズレていきます。Marionetteは「正確さが要る部分」を潔く手放しました。 タイトル: Marionette: Predicting World States, Rendering Geometry, Painting Appearance URL: 幾何・遮蔽・運動は決定的レンダラーに委ね、ニューラルには見た目だけを描かせる世界モデルです。注目ポイントは3つ。 🎮 注目ポイント1: 明示的な276次元の世界状態を予測 ピクセルではなく、関節・ルート軌跡・回転からなる3D状態を2段階の自己回帰で予測します。制御は行動トークンを上書きするだけ（プレイヤーのボタン押下と同じ）。誤った行動を強制するとポーズが約31%ズレる＝制御が確かに効いている証拠です。 📐 注目ポイント2: ゼロパラメータの決定的レンダラー 6つの閉形式演算だけで状態をポーズ制御動画へ変換。ワールド整合性・遮蔽順序・計量スケールが「構成上」保証されます。長期の破綻は、外見モデルを再訓練せず地形コライダーなどのルールで修復でき、貫通を66%削減しました。 🎨 注目ポイント3: 見た目だけを担う動画拡散 Wan2.2-Fun-5Bベースの拡散が、正確な幾何の上に写実的なRGBを合成。予測状態経由でもFVDは831（記録状態799、ピクセル自己回帰は975）で、忠実度の低下は検出されませんでした。 正確さは決定的計算に、見た目はニューラルに。世界モデルの分業の good design です。 #WorldModels# #GameAI#

🤖付録は東雲のプラモデル❕💥 月刊モデルグラフィックス5月号別冊 「女性フィギュアスタートブックvol.1」 ４月21日（火）発売です♡ なんとほぼ丸一冊、東雲なんです👊🏻 付録は1/20スケール 東雲うみバニー👯✨ 両面折り込みポスターや、製作How toもたっぷり( ⚯̫ ) Amazon🔻

TL;DR: 「あなたが使うモデルは、事前学習されたモデルではない」。基盤モデルを役立つ行動方針に変えるポストトレーニングを、模倣→比較→探索→検証→転移→予期の6段階で一望できる87枚の講義デッキです。 タイトル: Post-Training LLMs（Kawin Ethayarajh, AI and Economics Summer Institute 2026） URL: ポイント 📝 SFT: デモを見せて模倣。計画やツール利用を含む軌跡全体を教えられるが、本質は模倣 ⚖️ オフライン選好最適化: 勝ち負けの比較で学ぶ。DPOは報酬モデルを省略、KTOは結果単位で学びSFT不要 🎲 オンラインRL: 現方策が探索。REINFORCE/PPO/GRPO、報酬はほぼ系列単位 ✅ RLVR: 報酬モデルをチェッカーに置換。二値の合否で十分、RLHFより予測可能にスケール 🧪 環境: RLはタスク+データ+インターフェース+テストのサンドボックス。ボトルネックは例から環境へ 🔁 On-Policy蒸留: 生徒の軌跡を教師が採点。RLの方策を7〜10倍少ないステップで複製 🌐 World Adaptation: 環境がエージェントに適応し返す。機械可読性を高める「メカ・ナッジ」 経済学の視点も織り込んだ、実務者に効く体系的な地図です。 #LLM# #PostTraining#

【アップデート】 レポートで使用している重要な評価モデルの説明です ■Game Stuff+ 2.0： 球質の強さを、学習データ上の期待値への寄与として100基準に正規化した指標 ■Game Location+ 2.0： 投球位置の価値を評価する指標 Stuff系の情報は使わずボールカウント、左右、コース、高さ、球種などからその場所に投げた価値を算出 ■Game Pitching+ 2.0： 球質と投球位置の両方及び打順など総合的な指標を踏まえ、各投球が平均的なMLB投手と比べてどれだけ投手有利な結果を生みやすいかを、100基準に正規化した総合指標 ■20-80 Hitting Grade： 打撃内容を5カテゴリで整理する概要指標 Decision、Contact、Damage、Launch Shape、Swing Pathに分け20-80スケールにて評価