エージェントのLLMコール、本当に全部フロンティアモデルが必要ですか？NVIDIAのSwitchyardで実測してみたら、驚きの結果が出ました。 タイトル: Switchyard Agent Routing Benchmark URL: TL;DR 145件のマルチステップエージェントタスク（1タスク平均6.3コール）を検証。93%のLLMコールは小型モデルで処理でき、74%のコスト削減を達成。精度の低下はわずか6ポイントでした。 ポイント 🎯 フロンティアモデルは7%のコールのみ 全LLMコールのうち、Claude Opus 4.8が必要だったのはたった7%。残り93%はNemotron 3.5 Lightningで処理可能でした。 💰 コストは74%削減 タスクあたりコストが$0.092（Opus単体）→ $0.026（ルーティング）→ $0.006（Lightning単体）に。精度80%を確保しながら大幅な削減を実現。 📊 コスト内訳の意外な事実 フロンティアモデルはコール件数わずか7%なのに、総支出の68.4%を占有。加えてジャッジモデル自体のコストが21.2%を消費する点に注意が必要です。 🔢 ルーティングが割に合うかの公式 「最小オフロード率 = ジャッジコスト ÷ (高額モデルコスト - 安価モデルコスト)」で判断できます。モデル間の価格差が小さいと導入メリットが薄れます。 ⚡ 2つのデプロイ方式 NVIDIAのSwitchyardをプロキシサーバーとして独立起動するか、LangChainのDeep Agentsミドルウェアとして組み込むかを選択できます。 タスクが比較的簡単だった（難しいタスクならルーティング効果はさらに大きい可能性あり）という留意点はあるものの、1タスク複数コールのエージェントには非常に実践的な知見です。 #AIエージェント# #LLMコスト#

エヌビディアが2026年7月16日、日本政府と主要企業を巻き込んだ大型のAI・ロボティクス協業を発表しました。前日15日のイベントに登場したジェンスン・フアンCEOは、今週を「ジャパンAIの幕開けの週」と表現していました。発表の柱はロボティクスとフィジカルAI分野での協業拡大です。 柱の一つが、日本企業が世界モデル開発に参加する枠組み「Cosmos Coalition」です。ファナック、日立製作所、本田技術研究所、川崎重工業など22社が参加を表明しました。あわせて、エッジ機器向けの軽量な世界モデル「Cosmos 3 Edge」も発表されています。フアン氏は、フィジカルAIの本格化は日本の製造業にとって数十年に一度の転換点になるとの認識を示しました。 個別企業の動きも具体的です。エヌビディアは15日、ENEOSホールディングスや日立製作所、NTTデータがオープンモデル「Nemotron」を使い特化型AIを構築していると発表しました。ENEOSは、液浸冷却液など新素材分野の研究にこの技術を役立てています。日立は工場のITとOTを統合するAI基盤の開発に採用しました。NTTデータは、自社の日本語モデルの学習データ拡張にNemotronを使いました。 今回の来日は、フアン氏が5月下旬から6月にかけて台湾と韓国を精力的に回った直後にあたります。日本経済新聞は当時、半導体産業における日本の存在感の陰りやAI革命での出遅れを指摘する記事を報じました。「ジャパンパッシング」ではないかとの見方も一部で出ています。今回の発表は、こうした懸念が広がる中でのタイミングとなりました。 フアン氏は会見で、次世代半導体プロジェクト「ラピダス」への期待にも言及しました。台湾メディアは事前に、来日中の高市首相との面会も予定されていたといいます。