高価なニューラルインデックスを毎回作り直さずに、定番のBM25検索を賢くする——クエリ書き換えをトークン1個ずつ最適化するという、面白いアプローチです🔎 タイトル: STORM: Stepwise Token Optimization with Reward-Guided Beam Search URL: 🔎 概要 STORMは、検索の良し悪しに導かれてクエリ書き換えモデルを訓練する枠組みです。トークンを1つ生成するごとに、候補となる拡張語をBM25インデックスに照らして評価し、検索を実際に改善する語彙だけに探索を集中させます。 ❓ 解決する課題 現代の検索は密ベクトルや学習済みスパースのニューラルモデルに依存しますが、BM25のような語彙検索は高速な反面、同義語や言い換えに弱いです。 ・密ニューラル検索器は、モデルを変えるたびに高コストなインデックス再構築が必要です ・LLMによるクエリ書き換えは、「整った表現だが検索に効かない、あるいは有害な用語」を生みがちです ・訓練では系列レベルの遅延フィードバックしか得られず、どの個々の単語が効いたかが見えにくいです 💡 方法論と提案手法 ・検索性能に導かれたビームサーチ（reward-guided beam search）で自己教師あり訓練を行います ・トークン生成ごとに候補拡張語をBM25で評価し、性能の低い候補を枝刈りします ・これにより、検索指標をトークンレベルの信号に変換し、探索を有効な語彙へ集中させます ・BM25インデックスを使うため、ニューラルインデックスの再構築が不要で、インフラが軽量です 📊 実験結果 ・0.6B〜8Bパラメータのモデルが、競合するLLM書き換え器と同等以上の性能を達成しました ・BM25の速度的な優位性を維持しています ・8B版は、はるかに大きな商用システムに匹敵しました ・18言語（MIRACL）へのゼロショット転移で、専用の多言語密検索器を平均で上回りました 🌍 ユースケース インデックス再構築のコストを避けたい検索基盤や、多言語検索を低コストで強化したいシステムに向きます。既存のBM25パイプラインを活かしつつ性能を底上げできるため、検索を本番運用するチームにとって採用しやすい現実解です。 #検索# #BM25#

TL;DR LLMが自然言語の最適化問題を数式・コードに変換する際に起きる「幻覚」を、生成後に安全に直すフレームワークが登場しました。精度を最大20ポイント改善しつつ、正しかった部分を壊す「後退」は1%以下に抑えています。 タイトル: Fix What's Wrong, Keep What's Right: Hallucination Repair for LLM-Based Optimization Modeling URL: ポイント 🔍 問題文⇄数式⇄コード⇄データを5方向からチェックして、どこがなぜ間違っているかを特定します ✂️ 直す範囲を「コードだけ」「モデルの一部だけ」「全体の再構築」の3段階から証拠に基づき最小限に絞ります 📜 24種類の「修復カード」が、書き換えてよい箇所・守るべき箇所・合格基準を契約として明文化します ✅ 修復後は実行テストと監査に両方合格しないと採用せず、失敗時は元の成果物をそのまま残します 📊 6つのベンチマークと複数の生成モデルで検証し、精度を6.3〜20.1ポイント改善、後退率は最大1.0%に抑制しました 🧩 診断の仕組みを外すと救済率が24.5ポイントも落ちることが確認され、各仕組みの効果が裏付けられています 生成するだけでなく「直す」工程を体系化した発想が実務的で、最適化以外のコード生成や構造化出力にも応用できそうです。 #LLM# #最適化モデリング#

ハーネスを自動最適化する手法は増えていますが、どのシナリオで学習するかは最初に固定されたまま。この「カリキュラム」自体を動かす発想が登場です。 タイトル: ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization URL: 📝 概要 エージェントハーネスの自動最適化において、学習に使うシナリオの選択自体を「自動カリキュラム学習問題」として定式化し、最適化の進行とともに動的に適応させる手法ActiveSaddlerを提案しています。 ❗ 解決する課題 固定されたシナリオ順では、未解決の弱点を早々に見捨てたり、すでに修復済みの課題へロールアウトを浪費したりしてしまいます。既知の弱点を再訪する価値と新たな失敗を探索する価値のバランスも最適化中に変化しますが、静的なスケジュールでは対応できません。 🛠️ 方法論・提案手法 カリキュラム選択を「動的にインスタンス化されるアームを持つ非定常バンディット」としてモデル化。個々のシナリオではなく「失敗パターン」をアームとし、LLMベースの優先順位付け器が深刻度・修正可能性・波及範囲・副作用リスクの4要因から学習ポテンシャルを毎イテレーション再計算。既知の弱点を活用するか未見のシナリオを探索するかを、残存する実行可能な弱点の有無に応じて適応的に判断します。 📊 実験結果 GAIA2でPass@1が59.8%（固定ランダム順比+4.4ポイント）、Terminal-Bench 2.0で80.0%（+7.5ポイント）を達成。コスト効率も優れ、GAIA2では298ドルで他手法が1,360ドルかけて届く精度に到達しました。 #エージェント最適化# #カリキュラム学習#

AI登場で大転換期を迎えた「検索」の仕組み SEOよりも重要性を増す「AEO」と先進企業の戦略とは？《城田 真琴》 この1、2年で世間の認知が急速に高まり、ビジネスでの活用も進みつつある生成AI。数年前から議論になっていた「AIは人間の仕事を奪うのか」という懸念がついに現実になり始めたともいえる。本稿では、『生成AI・30の論点 2025-2026』（城田真琴著／日経BP 日本経済新聞出版）から、内容の一部を抜粋・再編集。前述の懸念への回答と合わせて、生成AI活用によって変貌しつつあるビジネスの在り方から、環境問題への影響まで、多角的な視点で解説していく。 生成AI活用により大きく変わりつつあるインターネット検索の“常識”。SEOに代わって重要性を増す「AEO（Answer Engine Optimization）」とは何か？ 記事全文はウェブから▼

Breaking down TSMC's glass core substrate slide On June 11, at JPCA Show 2026 in Japan, TSMC gave a roughly 40-slide presentation titled "Advanced Packaging Technology Essential to the Evolution of AI" (AIの進化に不可欠な先端パッケージング技術). One slide from the deck, titled "Glass Substrate Development for CoWoS," has since leaked online and widespread attention. Here's a closer read of that slide (see attached image). I'll skip the technical background that is already widely available. One thing to flag: the "COP" on the slide does not stand for Chip-on-Package. It means Coplanarity. ▌ Key conclusions: 1. TSMC has officially announced a partnership with Ibiden and Innolux to develop a glass core substrate. The structure is a three-layer design, a glass core sandwiched between two ABF build-up layers. This is the "oS" in CoPoS. 2. The market underestimates how important the glass core substrate is. It's a must-have capability for TSMC. In other words, within CoPoS the "oS" matters more than the "CoP", which is also why, when it was tested, it was paired with the existing CoW rather than with CoP. 3. The glass core substrate costs several times more per unit than existing ABF substrates. The glass processed by Innolux is very expensive per unit and is the single most critical material. Besides Nvidia, two US-based customers have also expressed strong interest. ▌ Industry checks tied to this slide: 1. The glass core substrate shown on the slide is cut from a full-size 250×250mm one. The ABF build-up layers mainly use Ajinomoto's GL107, mixed with ABF-GCP, and were tested at 24–28 layers, which is the mainstream ABF spec for AI chips in 2027–2028. 2. The CoW used in TSMC's experiment is a test vehicle. It is sufficient to validate the most challenging mechanical-structure issues that arise when working with composite materials. Good results mean TSMC, Ibiden, and Innolux have together broken through the critical technical bottleneck. 3. Ibiden currently handles cutting the 250×250mm glass core substrate. When the 510×515mm format is used for pre-mass-production simulation in 2H27, if Ibiden still wants to reduce production complexity to protect its ultra-high gross margins, it may hand the cutting over to Innolux, which is more familiar with the properties of glass. ▌ The leaked slide shows the validation results of pairing CoW with the "oS" in CoPoS, i.e., the glass core substrate (labeled "glass-SBT" on the slide). This addresses the "Substrate mechanical and electrical Dilemma" raised on the previous slide, and it strongly underscores how important the "oS" is within CoPoS. 1. Within CoPoS, what CoP solves is production efficiency / cutting economics, which ties to cost and price. What the oS solves is warpage and durability, which determines whether the chip can be made at all, and whether it can work. 2. CoP and oS complement each other well when integrated, but looking out over the next few years their technical roles still differ. CoP is a very-nice-to-have optimization, and going without it simply means a more expensive chip. But the oS is a must-have. Without it, even being able to make a usable chip is in doubt. 3. Comparing their roles isn't about elevating oS at the expense of CoP. It comes down to the practical question of which technical piece customers are willing to pay for. Details below. ▌ The real gold here is the power integrity (PI) improvement shown on the slide. This matters a great deal to customers, and it means that once glass core substrate production stabilizes, TSMC's profitability and competitive edge should rise in tandem. 1. How it works: the glass core substrate is thin → the vertical conduction path through TGV (through-glass vias) is short → conduction-path resistance (R) and loop inductance (L) both drop → PI improves. 2. Why it matters to customers: better PI → more stable power delivery → frees up power headroom → room to integrate more transistors, or to push clock speeds higher → more AI compute. 3. For customers, production efficiency is TSMC's basic responsibility, so they won't pay extra for it. But gains in AI compute translate directly into the customer's own competitiveness and profit, so customers are willing to pay for that. This is why Nvidia is so positive on the glass core substrate. 4. For TSMC, the glass core substrate raises yield and lowers cost while also boosting both the compute and the selling price of AI chips. It's both a cost-cutting tool and a pricing lever, a plus for profitability and competitiveness alike. 5. Substrate cost currently accounts for a low single-digit percentage of an AI chip's BOM, while losses from packaging yield run roughly 5–10× the substrate cost. So even if the glass core substrate ends up costing several times more than today's, its share of the BOM stays low, and it can cut the losses from packaging yield. The high unit price is therefore not expected to dampen customers' willingness to adopt it. ▌ In the Q&A after the presentation, an audience member asked about TGV details for the glass core substrate. TSMC declined to answer on the spot, because TGV is the key technology behind the glass core substrate, and the core know-how currently sits with TSMC and Innolux. By contrast, when another attendee asked about integrating IVR, eDTC, and LSI, TSMC answered at length. ▌ According to industry checks, if all goes well, TSMC is aiming to start mass production of the glass core substrate in 4Q28–1Q29, to match the cadence of Nvidia's AI chip iterations. As a side note: the Ibiden earnings presentation slide that many people have been circulating lists the glass core substrate timeline as CY30. My read is this: Ibiden, which has always been conservative and cautious in public, has now formally put the glass core substrate on its roadmap, which further confirms the long-term trend for this technology. That said, some other details on Ibiden's slide don't fully line up with what's known in the market. For example, its reticle timeline is off from TSMC's public claims by about a generation, and the Rubin Ultra substrate size is clearly larger than the 90×90 it marked for CY26–27. It's a reminder to always cross-check across multiple sources when forecasting the future.

🌳 AIはついに「単発の実験を回すツール」から、時間をまたいで知見を積み上げる“研究者そのもの”へと進化しはじめました。仮説を一本のツリーとして育てていく、新しい自律研究フレームワークが登場しています。 タイトル: Toward Generalist Autonomous Research via Hypothesis-Tree Refinement URL: 🔍 概要 本研究は、長期的な自律研究を可能にするフレームワーク「Arbor」を提案しています。中核となるのは「Hypothesis-Tree Refinement（仮説ツリーの精緻化）」という考え方で、仮説・実験で得た成果物・証拠・そこから蒸留された知見を、すべて一本の永続的なツリー構造で結びつけます。実験を重ねるたびにこのツリーが更新され、次にどの方向を深掘りすべきかという探索フロンティアが継続的に磨かれていきます。 ❓ 解決する課題 これまでのLLM研究エージェントは、1回きりの実験を回すのが精一杯でした。 ・複数の試行をまたいで「どの仮説を深掘りすべきか」という大局的な戦略を維持できない ・ある実験で得た教訓が次に引き継がれず、毎回ゼロから探索してしまう ・有望な枝と行き止まりの枝を区別し、限られた計算資源を配分する仕組みが弱い つまり、知見が複利的に積み上がらないことが大きな壁になっていました。 💡 方法論と提案手法 Arborは役割の異なる2種類のエージェントと、それらをつなぐ永続的なツリーで構成されます。 ・長命なコーディネーター：研究全体の戦略を司る司令塔。仮説ツリーを俯瞰し、次に検証すべき仮説を決めます。セッションをまたいで生き続けるため、長期的な一貫性を担保します ・短命なエグゼキューター：個々の仮説を隔離された環境で実装・検証する実働部隊。検証が終われば役目を終えます ・仮説ツリー：仮説・証拠・成果物・知見を時間軸でリンクし、再利用可能な教訓を全体に伝播させます これにより、研究が単発実験の集合から、戦略・実行・証拠が積み上がる累積的プロセスへと変わります。 🎯 ユースケース 継続的に実験を回して性能を高めていく、AutoMLや機械学習の自動最適化、さらには科学的な発見プロセスそのものの自動化が有望な応用先です。長期にわたる試行錯誤を、人手を介さずに戦略的に進められる点が魅力です。 📊 実験結果 Autonomous Optimizationの設定で、実在する6つの研究タスクを使って評価されました。 ・6タスクすべてで最良のホールドアウト成績を達成 ・CodexやClaude Codeと比べて、平均で2.5倍超のホールドアウトゲインを記録 ・MLE-Bench LiteではGPT-5.5と組み合わせて86.36%のAny Medalを獲得し、比較対象の中で最強の結果を示しました #AIエージェント# #自律研究#