今更ですが、Calvin Harris の Tomorrowland W1 をリスニング中。昨年のULTRA JAPANに戻りたくなります。ただ、ライブで見た感想としては、この男を観るならMiamiかIbizaが一番映えるだろうな〜ということ🛫🏝️

⚙️NVIDIAが量産に入れたAI推論ラックの仕様表に、HBMの行が無い | 答えを出す側だけが別の箱へ移った $NVDA $NBIS 仕様表にHBMの行が無い。NVIDIA $NVDA が8月24日にフル生産入りを発表したAI推論ラックの話だ。積むメモリは、チップに直接載せるSRAMがラックあたり128GB、大きなモデルとワークロードのためのDDR5が12TB。この2種類しかない。 Groq 3 LPXという。NVIDIAが昨年12月にGroqから非独占でライセンスした推論技術の、最初の製品だ（金額は報道ベースで200億ドルとされる）。CNBCによれば、このチップを作っているのはSamsungで、NVIDIAのGPUを作るTSMCではない。 HBMが不要になったのではない。HBMが要る仕事のほうを、隣の箱に置いてきた。 推論は途中で性質が変わる。入力を読み込むprefillの段は何千トークンもまとめて行列演算に流せるので、律速するのは計算力になる。答えを1トークンずつ出すdecodeの段は違う。次のトークンが前のトークンに依存するから並列化できず、1トークン出すたびに重みとKVキャッシュを読み直す。ここで時間を決めるのは演算器の数ではなく、読み出しの速さだ。 NVIDIAはこの2つを別々のラックに分けた。同社の技術ブログが標準構成として挙げるのは、Vera Rubin NVL72がprefillを担当し、1ターンに1回KVキャッシュをLPXへ渡す形だ。LPXはSRAMに置いた重みとそのKVキャッシュを使って、decodeの段を丸ごと実行する。 読み出しがdecodeの時間を決めるなら、読み出す場所をチップの中に入れてしまえばいい。それがGroqの元の主張だった。同社の解説はオンチップSRAMの帯域を毎秒80テラバイト超と書き、GPUが外に付けるHBMのおよそ毎秒8テラバイトと並べて、最大10倍の差だと説明している。 NVIDIA版のLPXは1チップに500MBのSRAMを載せ、256個を1ラックに詰めて128GB、帯域はラック全体で毎秒40ペタバイトになる。The Registerの試算では、Gemma 4 31BをFP8で載せるのに要るのは256個のうち64個ぶんだ。モデルはSRAMに収まっている。 decodeがメモリ帯域で詰まる、という話は前からあった。そこにNVIDIAが出した答えは、より速いHBMではない。decodeをHBMの外へ出すことだった。 売るのは計算力ではなく待ち時間になる。Artificial Analysisが計ったのはLPX側の生成速度で、Gemma 4 31Bを10万トークンの文脈で走らせて1ユーザーあたり毎秒3,400トークン。NVIDIAが「いちばん近い代替の4倍」と呼ぶ相手は、Cerebrasの毎秒882トークンだ。 > トークンを提供する側にとっては、待ち時間の要求がいちばん厳しい利用者と顧客に向けて、プレミアム階層のサービスを出せるようになる > （Dion Harris, NVIDIA HPC・AIファクトリーソリューション担当シニアディレクター） 3月のGTCでJensen Huangは、Vera Rubinの性能と価値を延ばすために、Groqラックがデータセンターの面積の最大25%を占めうると述べていた。配分計画ではなく上限の話だが、GPUではない計算機に4分の1まで空ける構図をNVIDIA自身が描いている。 最初に買うのはNebius $NBIS だ。3月にNVIDIAが20億ドルを出資し、Rubin・Vera CPU・BlueFieldへの早期アクセスを含む提携を結んだ相手で、自社の推論基盤Token Factoryに載せる。低遅延の区画にはAMDとCerebrasも入ってきていて、NVIDIAの置き方の違いは、Vera Rubinを置き換えずその隣に並べる点にある。 見どころは水曜の決算そのものより、Nebiusの初号機が年内に実際に立ち上がるかだ。立たなければ、25%という上限は図面のままで終わる。 トークンの速さは長いあいだGPUの枚数の関数として語られてきた。今日量産に入った箱は、その関数の後半だけを切り離して書き直す。隣に残るVera Rubinの側では、HBMは前段の仕事を続ける。 🤘情報提供 Stock Slayer :

🤔 「AIエージェントを作るのは難しくない。でも、本番で動かし続けるのは別の話だ。」──エージェント開発者なら、誰もがこの壁に当たったはずです。 Why Managed Agents Are the Next Big Thing in Agent Building 2022年末にLangChainが登場してから、エージェント開発は急速に進化してきました。初期のAutoGPTの熱狂から、LangGraphやGoogle ADKによる精緻なフレームワークの時代へ。そして2025年に入ると、モデルの能力が臨界点を超え、「ツールを呼び出しながら自律的にループするLLM」という基本形が現実のものとなりました。Claude Code、Deep Agentsといった専用ハーネスの登場は、その完成形への一歩でした。 🌊 しかし、ここで大きな問題が浮かび上がります。エージェントを本番環境で"動かし続ける"ためには、LLMの賢さだけでは足りないのです。信頼性のある実行環境をどう構築するか。失敗したエージェントをどう再開させるか。コードをどう安全に実行させるか。ユーザーへのUXをどう設計するか──開発者はモデルとは全く別の、インフラの泥沼と格闘してきました。 LangChainの創業者 Harrison Chase はこの1年間の学びを結晶化し、「マネージドエージェント」というコンセプトを提唱します。本番エージェントに必要なのは、ビジネスロジック・ハーネス・インフラの3層だと整理し、そのうちインフラ層をまるごと引き受けるのがManaged Deep Agentsです。ランタイム管理、イベントストリーミング、サンドボックス、メモリ、認証、評価ツール──かつては自前で構築するしかなかったすべてが、プラットフォームとして提供されます。Anthropicの「Claude Managed Agents」やVercelの「Eve」も同様の方向へ向かっており、エコシステム全体がインフラの民主化という潮流に入りつつあります。 エージェント開発者がビジネスロジックだけに集中できる時代が、ようやく到来しようとしています。 #AIエージェント# #LangChain#

（経済においても破壊的破壊を進めているということ、通貨と財政を見れば非伝統的手法にはとんでもないリスク） Business elites fume as Sanae Takaichi shuns Japan’s smoky back rooms ビジネスエリートたちが不満を募らせる――高市早苗、日本の「煙たい裏部屋」を遠ざける @financialtimesより 経済界の大物たちが不満を募らせる――高市早苗、日本の「煙たい裏部屋」を遠ざける 政府中枢への最高レベルのアクセスに慣れていた企業経営者たちを怒らせている 筆者: Leo Lewis、Harry Dempsey（東京発）／5時間前公開 主旨 日本の経済界トップは、高市早苗首相へのアクセスが著しく減っていると不満を漏らしている。歴代首相が当然のように企業エリートと結んでいた特権的な関係から、高市が距離を置き、伝統を破っているためである。 具体的な状況 高市は2月の解散総選挙で地滑り的勝利を収めた後、CEOとの一対一の会談をほとんど行わず、経団連など業界ロビー団体からの意見聴取も少ないまま政策を立案している。 投資推進・親ビジネス的な政策を掲げているにもかかわらず、6人以上の幹部がFTに対し、その指導スタイルへの不満を表明した。 キリン（飲料大手）の磯崎功典CEOは「従う必要はないにせよ、多様な意見に耳を傾けることは重要だ」と述べ、高市が経済界やメディアを軽視する姿勢を、トランプ米大統領の専門家・制度への侮蔑になぞらえた。「経団連とは対話が一切ない。夜の会合もしないし、昼食会もしない」（会社見解ではなく個人的見解として）。 歴代首相との対比 歴代首相は、大企業の代表者との会合・昼食・夕食・深夜の酒席で日程を埋め、意見を求め、政策への合意形成を図ってきた。高市の手法はこれと際立って対照的で、関係者によれば、彼女は一人で食事をとることを好み、前任者が流し読みしていた説明資料を丹念に読み込み、日本の財界が歴史的に影響力を行使してきた裏部屋的な会合を避けているという。 不満が高まる背景 円安、高水準の財政支出計画、そして批判者が「トランプへのおもねり」とみなす姿勢といった問題を国が抱えるなかで、不満が広がっている。 経団連の反論 経団連は、高市が意見を聞いていないという見方に同意しないとし、過去1年間の3回の公式会合、先月の会長との昼食、「投資主導型経済」というビジョンでの足並みの一致を挙げた。 世論と評価 高市の支持率は50%超を維持しているが、低下し始めている。 これを、政治と経済界トップの従来の馴れ合いからの「待望の決別」と評価する声もある。 政治アナリストのTobias Harris（Japan Foresight）は、高市が財界トップを意図的に避け、ベテラン官僚とも深く相談しないのは、エスタブリッシュメントの助言の価値を信用していないからだと指摘。「彼女の考えはこうだ――『あなた方がそんなに賢いなら、日本はこんな状況になっていないはずだ』」と、バブル崩壊後30年の経済停滞に言及しつつ語った。「『あなた方には多くの機会があったのに、国は依然として苦境にある』と言っているに等しい」。 文化の変化として ある大企業の上級幹部は、高市の手法は、情報共有や関係構築が夜の酒席を中心に行われてきた日本のビジネス文化全体の変化を反映していると述べた。「同じことが日本全体で起きているのだろう。日本の政界はその文化の最も古い例だが、彼女がそれを変えつつあるのかもしれない」。 高市と仕事をした元官僚は、首相が主流の国内メディアをますます避け、SNSのX上で直接国民と関わることを好んでいるとも指摘した。 研究者の見解 早稲田大学の政治学者・中林美恵子は、高市が経済界から距離を置くことは有権者へのアピールの重要な要素だと述べた。「日本人はエリートが好きではないし、旧来型の日本政治を行う指導者も好まない。高市は古いやり方とはまったく異なる」。「日本の国益という観点からは、経済界トップ全員と意思疎通しないことにはリスクがあるが、彼女の人気にとっては好都合だ」。 結び 別の上級幹部は、最終的に首相はその実績で判断されるべきだと述べた。「本当に重要なのは意思疎通の仕方ではない。結果を出さなければならない」。