【イベント紹介】 『ニューラルクラウド』とのコラボコンテンツ「異次元深淵」、7月23日(木)からリニューアル開放！ イベントに参加してコーラップスピースなどの報酬を受け取りましょう！ #ドールズフロントライン2# #ドルフロ2#

ニューラルロケットはどんなロケットを作るか話します！！ 1. 液体/固体/ハイブリッド？ 2. どうロケットを作っていくのか？ 3. ロケットエンジンの方式

高価なニューラルインデックスを毎回作り直さずに、定番のBM25検索を賢くする——クエリ書き換えをトークン1個ずつ最適化するという、面白いアプローチです🔎 タイトル: STORM: Stepwise Token Optimization with Reward-Guided Beam Search URL: 🔎 概要 STORMは、検索の良し悪しに導かれてクエリ書き換えモデルを訓練する枠組みです。トークンを1つ生成するごとに、候補となる拡張語をBM25インデックスに照らして評価し、検索を実際に改善する語彙だけに探索を集中させます。 ❓ 解決する課題 現代の検索は密ベクトルや学習済みスパースのニューラルモデルに依存しますが、BM25のような語彙検索は高速な反面、同義語や言い換えに弱いです。 ・密ニューラル検索器は、モデルを変えるたびに高コストなインデックス再構築が必要です ・LLMによるクエリ書き換えは、「整った表現だが検索に効かない、あるいは有害な用語」を生みがちです ・訓練では系列レベルの遅延フィードバックしか得られず、どの個々の単語が効いたかが見えにくいです 💡 方法論と提案手法 ・検索性能に導かれたビームサーチ（reward-guided beam search）で自己教師あり訓練を行います ・トークン生成ごとに候補拡張語をBM25で評価し、性能の低い候補を枝刈りします ・これにより、検索指標をトークンレベルの信号に変換し、探索を有効な語彙へ集中させます ・BM25インデックスを使うため、ニューラルインデックスの再構築が不要で、インフラが軽量です 📊 実験結果 ・0.6B〜8Bパラメータのモデルが、競合するLLM書き換え器と同等以上の性能を達成しました ・BM25の速度的な優位性を維持しています ・8B版は、はるかに大きな商用システムに匹敵しました ・18言語（MIRACL）へのゼロショット転移で、専用の多言語密検索器を平均で上回りました 🌍 ユースケース インデックス再構築のコストを避けたい検索基盤や、多言語検索を低コストで強化したいシステムに向きます。既存のBM25パイプラインを活かしつつ性能を底上げできるため、検索を本番運用するチームにとって採用しやすい現実解です。 #検索# #BM25#

☀️RESONAC MORNING INSIGHT🔍 今朝は、株式会社ニューラル 代表 #夫馬賢治# さん(@KenjiFuma)をお迎え✨ ／ #別所哲也×ゲストでお届けした朝時間📻# 🗣️Podcastでもお聴きいただけます！ ＼ 過去の放送と併せてチェック！ ➡️ #ohayomorning# #jwave# #Spotify#

☀️RESONAC MORNING INSIGHT🔍 今朝は、株式会社ニューラル 代表 #夫馬賢治# さん(@KenjiFuma)をお迎え✨ ✔︎ サステナビリティ経営の現在地 ✔︎ 気温上昇のスポーツへの影響🥵 ✔︎ Jリーグの試合日程、秋春制へ⚽️　など 👇詳しくは #radiko# で！ #ohayomorning# #jwave#

TL;DR 自然言語で書いた仕様書から、大きな教師LLMを一度だけ動かして小さな専用ニューラル関数を「訓練によってコンパイル」する新手法です。難しいベンチマークでの精度をわずか数十秒〜数分で大きく引き上げます。 タイトル: Compile by Training: Turning Natural-Language Specifications into Local Neural Functions URL: 🎯 GPT-5.4-miniとGPT-5.5を2:1で混合した教師モデルが入出力例を自動生成し、Qwen3-0.6BにLoRA（ランク64）でその場から焼き込みます ⚡ 難易度の高いFuzzyBench-Hardで、既存の高速コンパイラのLEM 0.224から0.836へと大幅に精度が向上しました 🕒 コンパイルにはB300 GPUで約51秒かかりますが、教師によるデータ合成と訓練を並行実行しGPUの手待ちを削減しています 🌐 4サイトを横断するQAアシスタント（30本中28本が本番稼働）や自然言語から3D操作DSLへの変換（44命令中43成功）など幅広い実用例で検証済みです 📈 教師混合とデータ量のアブレーションでは、2,400〜3,600ユニークペア付近で精度が飽和することも分かりました 💬 大規模モデルを毎回呼び出すのではなく、一度学ばせて小さく持ち帰る発想は、頻繁に実行される中程度の複雑さのタスクに効きそうです #LLM# #LoRA#

TL;DR 自然言語で書いた仕様書から、大きな教師LLMを一度だけ動かして小さな専用ニューラル関数を「訓練によってコンパイル」する新手法です。難しいベンチマークでの精度をわずか数十秒〜数分で大きく引き上げます。 タイトル: Compile by Training: Turning Natural-Language Specifications into Local Neural Functions URL: 🎯 GPT-5.4-miniとGPT-5.5を2:1で混合した教師モデルが入出力例を自動生成し、Qwen3-0.6BにLoRA（ランク64）でその場から焼き込みます ⚡ 難易度の高いFuzzyBench-Hardで、既存の高速コンパイラのLEM 0.224から0.836へと大幅に精度が向上しました 🕒 コンパイルにはB300 GPUで約51秒かかりますが、教師によるデータ合成と訓練を並行実行しGPUの手待ちを削減しています 🌐 4サイトを横断するQAアシスタント（30本中28本が本番稼働）や自然言語から3D操作DSLへの変換（44命令中43成功）など幅広い実用例で検証済みです 📈 教師混合とデータ量のアブレーションでは、2,400〜3,600ユニークペア付近で精度が飽和することも分かりました 💬 大規模モデルを毎回呼び出すのではなく、一度学ばせて小さく持ち帰る発想は、頻繁に実行される中程度の複雑さのタスクに効きそうです #LLM# #LoRA#

8時をまわりました！ 🌈十人十色🌈 お出かけの方はぜひ #radiko# で #ポータブル別所哲也# を🕺 このあと、🕣8:35頃からは… ☀️RESONAC MORNING INSIGHT🔍 株式会社ニューラル 代表 #夫馬賢治# さん(@KenjiFuma)をお迎えします⚽️✨ #ohayomorning# #jwave# #別所哲也#

TL;DR: シミュレータの「忠実さ」と動画生成の「写実性」を両立させる仮想世界フレームワークAgentGartenが、隠れんぼのツール使用戦略を、従来の強化学習が数百万エピソード要したところをわずか数ラウンドで習得させました。 タイトル: AgentGarten: Code Worlds for Evolving Agents URL: ポイント 🎮 シーンプログラム（状態・ルール）とニューラルレンダラー（視覚）を構造化条件（深度・法線マップ）で結合し、状態とビジュアルを分離 🔬 新手法「Adversarial Forcing」が、標準手法では微分不可能だった履歴プリフィルを、ブロック単位SDPAによる厳密なビット一致リプレイで微分可能に ⚡ 単一H100で480×832解像度・36.5fpsのリアルタイムレンダリングを達成 🤖 「プレイブック」機構により、エージェントはラウンドごとの振り返りを次ラウンドへ引き継ぎ、勾配更新なしで知識を蓄積 🏃 隠れんぼでのシェルター構築戦略を、自己対戦RLの約2,500万エピソードに対しラウンド4で、ランプ使用を約1億エピソードに対しラウンド10で習得 📈 牧羊・採石場ローダーなど他の環境でも、わずか4ラウンドで明確な性能向上を確認 状態と見た目の生成を切り分けるというアーキテクチャの発想が、学習効率の桁違いの改善につながっている点に説得力を感じます。 #ワールドモデル# #エージェント学習#