エージェントのメモリ管理、毎回LLMに聞きに行っていませんか？その無駄を「速い脳」と「遅い脳」で切り分けた研究です。 タイトル: Jev-Mem: System-One-Controlled Agentic Memory for Efficient AI Agents URL: 人間の二重過程理論（System One / System Two）にヒントを得て、メモリ操作の大半を軽量な構造化判断で処理し、複雑な推論だけをLLMに残すアーキテクチャです。注目ポイントを3つ紹介します。 🧠 System-Oneによる型付き制御 種別判定・関係判定・クエリルーティングといった頻出操作を、自由形式のテキストではなく確率やラベルを返す軽量インターフェースで処理。メモリ構築と検索の両方を同じ仕組みで統治します。 🕸️ 4種の関係を持つマルチリレーショナルグラフ 意味・時間・因果・エンティティという4つの視点でメモリをグラフ化し、クエリごとに関連度の高いビューへ予算を配分して探索することで、無駄な探索を避けます。 📊 精度と速度の同時改善 LoCoMoベンチマークで総合スコア0.777とベースライン比11%向上。メモリ構築は158秒で最速ベースライン比6.6倍高速、クエリ応答も0.93秒で36.7%短縮しました。 制御と推論を分離するという発想が、精度と効率を両立させた点に意義を感じます。 #AIエージェント# #メモリアーキテクチャ#

密ベクトルも、スパースも、マルチベクトルも、1つのRustコードベースで近似最近傍探索ができないでしょうか。 Modular and Efficient Approximate Nearest Neighbors Search with Vectorium and kANNolo 🧩 概要 データ管理層のVectoriumと、インデックス層のkANNoloという2つのRustライブラリです。エンコーダやデータセットはコンパイル時の型パラメータで特殊化されます。 🎯 解決する課題 ・Faissは組合せごとに専用コードがあり、拡張しにくい ・既存ライブラリは、グラフか量子化のどちらか一方しか切り出していない ・3種類の埋め込みを1つのインターフェースで扱えるものがない 🛠 方法論 ・11種のエンコーダ（PQ、RaBitQ、スパース用、マルチベクトル用など） ・HnswとIVFに、任意の第1段インデックスと再採点を組み合わせる2段のRerankIndex ・PQのテーブルをSoAで持ち、構築を4.5〜5.2倍に高速化 📊 実験結果 ・hnswlib比で99%精度時に最大3.26倍（kANNolo-Rerank、密データ） ・スパースは全コレクションで最小メモリ ・一方、AgNewsではGlassが、スパースではSeismicが速く、構築時間も速くはありません #ANNSearch# #Rust#

画像をいつ見るかを決めるだけで、拡散VLMのデコードFLOPsを約3分の1にできるそうです 👀 Look Only When Needed: Certificate-Guided Visual Routing for Efficient Diffusion VLMs 📌 概要 拡散型VLM（LLaDA-Vなど）向けの、学習不要・しきい値不要のデコード手法LOWNです。毎ステップ画像を処理するのをやめ、「このステップに画像は必要か」を安価に判定します。 🚧 解決する課題 ・拡散VLMは双方向アテンションのためKVキャッシュが使えず、毎ステップ画像を再計算します ・入力の89〜97%が視覚トークンで、計算の大半は変わらない画像の再処理です ・画像を除いても確定トークンが変わるステップは平均22.8%にとどまります 🔧 方法論 ・FULL（画像あり）フォワードの予測をアンカーとして保存します ・毎ステップ、画像トークンを除いたTEXT-ONLYフォワードを実行します ・予測がアンカーと一致する最長プレフィックスは「証明済み」として、FULLなしで確定します ・足りなければFULLを実行し、不一致位置を優先して確定します 📊 実験結果 ・LLaDA-Vでスコアをベースラインの99.6%に保ち、デコードFLOPsは0.353倍です ・RedVTP併用では0.223倍のFLOPsで、10ベンチすべてで最高スコアです ・単独で生成時間を平均57.4%削減しました ・Fast-dLLM併用でも生成時間を38〜50%削減しましたが、Fast-dLLM単独よりスコアは下がります ⚠️ 注意点 図表・文書読解のように視覚依存が続くタスクでは節約が小さくなります。 #DiffusionLM# #VLM#

LLMの検索エージェントは、「いつ検索するか」を何で学べばよいのでしょうか 🔎 Search When Needed, Proceed When Reliable: Metacognitive Reliability Supervision for Efficient Agentic Search ❓ 最終回答の正誤を報酬にすると、何が問題ですか？ 💡 偶然の正解、無駄な検索を含む正解、有用な検索のあとの誤答があり、各検索判断が適切だったかを直接は示せません。その結果、信頼できない状態のまま進む検索不足や、すでに信頼できるのに検索する検索過多が起こります。 ❓ この論文は何を報酬にしていますか？ 💡 各ステップでモデルが出す中間の結論について、「どれだけ信頼できそうか」を推定して使います。トークンの平均負の対数尤度を不確実性とし、事前に集めたデータで不確実性から正答率への対応を作って、信頼度に変換します。 ❓ 検索する判断と、しない判断は、どう評価しますか？ 💡 ・検索しない場合は、今の信頼度が較正用の基準より高ければ報酬、低ければ罰です ・検索する場合は、検索結果を足したときの信頼度から、足さないときの信頼度を引いた差で評価します この平均をプロセス報酬としてGRPOに加えます。プローブは学習時だけで、推論時の追加コストはありません。 ❓ 効果はどれくらいですか？ 💡 Qwen2.5-7Bの7つのQAで平均CEM 69.3となり、最強のベースラインHiPRAGの67.2を上回りました。1問あたりの検索回数は1.64回で、HiPRAGより6.8%少なくなります。ただしマルチホップでは検索が約6.6%増え、学習は1ステップ約14.6%遅くなります。 #AgenticRAG# #ReinforcementLearning#

💾 大規模ベクトル検索、もうメモリに全部乗せなくていい時代に。 📰 タイトル: HFresh: Memory-Efficient Vector Search 🔗 URL: Weaviateが、ディスクベースの新しいベクトルインデックス「HFresh」を発表しました。数十億件規模のベクトルを、限られたメモリで検索できるように設計されています。 注目ポイント 🧩 パーティション型アーキテクチャ HNSWのように全ベクトルをグラフで結ぶのではなく、小さな「postings」という領域に分割。インメモリのセントロイドHNSWで候補領域を絞り込み、該当するpostingsだけディスクから読み出して検索します。 📦 2段階の量子化戦略 セントロイドにはRQ8を使いメモリを約4分の1に圧縮しつつルーティング精度を維持。postingsにはRQ1を使い32bit floatと比べて最大32倍圧縮し、ディスクI/Oとストレージコストを削減します。 🔄 リビルド不要のバックグラウンド保守 Split・Merge・ReassignというLIRE由来の仕組みで、インデックス全体を作り直すことなく継続的に品質を維持します。 DBpediaの100万件データセットではヒープ使用量239MBと、非圧縮HNSWの6.67GBの約28分の1に抑制。10億件・256次元のベクトルでも動作を実証しており、メモリ制約のある環境や大規模スケールに最適な選択肢です。 #VectorSearch# #Weaviate#

⚙️ TL;DR: モデルを変えずに「エージェントを動かすソフトウェア」だけを自動で改良して、トークンコストを約半分に削減しました。 タイトル: SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness URL: 📌 ポイント 🔍 約500の実行環境で150方向を探索し3,000回超の実行で効率化手法を発見 🧩 ファイル変更とテスト実行を1リクエストに統合する「Action Fusion」など4メカニズム 📉 EdgeBenchでトークン流量を49.0%、コストを33.2%削減（性能は93.7%維持） 🔄 追加学習なしでOpus 5に適用してもトークン44.7%・コスト33.5%削減を維持 💰 Terminal-Bench 4では解決タスク1件あたりのコストを11.6%削減 ⏱ Codex比で時間あたり8.75〜13.50ドルのコスト削減効果を推定 モデルではなくハーネス自体を自動探索で鍛えるという発想が、地味だけど実運用に直結する効率化だと思います。 #AIエージェント# #LLMコスト最適化#

🔧 ツール利用エージェントの学習データ、実は「答えを先に作る」方が効率的だったという発見です。 タイトル: ToolGrad: Efficient tool-use dataset generation with textual "gradients" URL: Google Researchが提案したToolGradは、従来のツール利用データセット生成の順序をひっくり返す手法です。注目ポイントを3つ紹介します。 🔄 アンサーファーストという逆転の発想 ユーザー指示を先に作って解決策を深さ優先探索で見つける従来手法とは逆に、検証済みのAPIワークフローを先に構築し、そこからユーザープロンプトを逆算します。試行錯誤が要らないため生成が効率的です。 📝 テキストで表現する「勾配」 数値の勾配の代わりに、API実行レポートから得た自然言語のフィードバックを「テキスト勾配」として使い、Proposer・Executors・Selector・Updaterという4モジュールでワークフローを段階的に構築していきます。 🏆 商用トップモデルに匹敵する性能 小規模データセットでファインチューニングしたToolGrad-12Bは、Berkeley Function Calling LeaderboardでGemini 2.5 ProやClaude 4.5 Opusに匹敵する83.1点を記録し、GPT-5を上回りました。 低コストなデータ生成が、そのまま実用レベルのエージェント性能に直結するのが印象的です。 #AIエージェント# #ツール利用#

アノテーションをRLの訓練シグナルとして使ったとき、なぜか優秀な行動に負の勾配がかかる —— OraRLはその仕組みを解明し、解決しました。 Annotations as Rollouts: Efficient and Scalable Reinforcement Learning for Video MLLMs ❓ アノテーションをrolloutとして使うと何が起きる？ 💡 「Advantage Inversion（有利性の反転）」が起きます。GRPOの標準正規化では、グループ内rolloutの有利性を平均と分散で計算します。ここに高報酬のoracle rolloutを追加するとグループ平均が上昇し、ポリシー平均を超えているはずの良い行動が負の有利性を受ける逆転現象が発生します。92,024件の計測で、Naive oracle mixingでは42.5%のグループで反転が起きていました。 ❓ OraRLはどう解決する？ 💡 5つのコンポーネントで有利性推定を分離します。まずoracle-freeなon-policyベースラインを構築し（分散正規化なしで定義上inversion不可）、oracle-policy gapから方向性ゲインを計算してポリシー平均超えrolloutを増幅します。oracle自体の有利性は最強のon-policyシグナルでスケール調整し、ポリシー全体を支配しないよう設計。符号均衡Pruning（正・負を等分保持）により反転率を最終0.3%まで圧縮し、1.48倍の速度向上も実現しています。 ❓ どれくらい強い？ 💡 Video-ORA-9BはVSI-Benchで73.1を達成し、GPT-5（55.0）とGemini-3-Pro（55.1）を18ポイント以上上回りました。ReasonVOSセグメンテーションはバックボーン比+42.2、VideoHolmesは+15.2と大幅改善。訓練コストはSFTの2.2倍で済み、GRPO+CoT（4.9倍）の半分以下です。 ❓ 推論の効率は？ 💡 CoTが不要なためP90推論レイテンシは25.15秒で、CoT付きバックボーンの62.67秒と比べて大幅に短縮。データ効率でもOraRLは100kプロンプトで+5.2pt、GRPOの+2.8ptを上回ります。 #VideoMLLM# #ReinforcementLearning#

TL;DR: 0.5Mパラメータの軽量モデルFalconで、口元の映像を手がかりにした音声分離をストリーミング動作させます。AV-TF-GridNet比で計算量は約1/20です。あわせて、実環境に近い評価データRealSSAも公開しています。 Efficient Streaming Audio-Visual Target Speaker Extraction for Real-World Acoustic Scenes ポイント ・🎧 既存ベンチは話者2人・無響室が中心で、残響や近接・遠方の干渉音を反映していません ・🏠 RealSSA-Simは4種の部屋、近接干渉1〜5人、遠方干渉10〜15人の約153時間で、スマホ実録音の評価セットも用意しています ・🧩 FalconはU-Net型のシングルパス分離器で、ボトルネックで時間周波数を処理し、GCIで大域文脈をスキップ接続に注入します ・🎯 学習時だけ使う話者コントラスティブ損失で、近接干渉話者から遠ざけます。推論コストは増えません ・⚡ 10.6G MACs、GPU 51.3 msで、SwiftNet-12（45.3G、172.1 ms）より大幅に軽量です ・📈 シミュレーション4ベンチでSI-SNRi・SDRiが最良ですが、実録音のWERはAV-Mossformer2がわずかに上回ります 軽さと精度を両立しつつ、評価の現実性にも踏み込んだ点が参考になります。ただし損失にはクリーンな干渉波形が必要で、実録音への適用は今後の課題です。 #SpeechProcessing# #AudioVisual#