エージェントの不具合を「本番で気づく」から「デプロイ前に潰す」へ。LangSmithが新機能を発表しました。 タイトル: LangSmith Engine v2: Red Teaming and Automated Testing URL: 📝 概要 LangSmith Engineは問題の自動検知と修正生成を行うツールで、5月のローンチ以来7,000万件超のトレースを解析してきました。v2では「レッドチーミング」と「修正の自動検証」という2つの新機能が加わります。 ❓ 解決する課題 これまで開発者は、未検証の修正をそのままデプロイするか、手動検証に時間をかけるかの二択を迫られていました。レイテンシ増加や非効率な実行パスといった微妙な劣化も、人のレビューでは見落とされがちでした。 💡 方法論と提案手法 Engineは本番トレースとリポジトリを解析してエージェントの挙動を理解し、ハルシネーションやプロンプト違反を本番投入前に体系的にテストします。さらに、失敗をサンドボックスで再現して修正案を生成し、元の失敗ケースで反復的に検証した上で、通過した解決策だけを人間のレビューに回します。 📊 実験結果 ・問題検知能力がIssueBenchで2倍以上改善 ・生成される修正案の有効性がTerminal-Bench相当の指標で25%向上 🌍 ユースケース LangSmith PlusおよびEnterprise SaaSユーザー向けに提供開始、セルフホスト対応も近日予定。Deploymentユーザー向けにはプライベートベータで提供中です。 #LangSmith# #AIエージェント#

APIのないサイトでも、エージェントが自分でブラウザを操作して仕事を終わらせる時代です。 タイトル: Browser Use in Managed Deep Agents URL: LangSmithが運用するリモートブラウザと、コンテキストを節約するブラウザツールがManaged Deep Agentsに加わりました。 注目ポイントは3つです。 🔐 パスワードをモデルに渡さないハンドオフ ログインページに当たると、エージェントがbrowser_handoffを呼びます。ユーザーはLangSmith Studioで同じブラウザにサインインしてHand backを押すだけ。パスワードはモデルにもトレースにも渡りません。scope="user"なら一度のログインが後のスレッドにも引き継がれます。 🧠 ページ全体を読み込まないツール設計 browser_snapshotがアクセシビリティツリーを読み、browser_runが多数の操作を1回の呼び出しにまとめて、必要な出力だけを返します。ページの大半をコンテキストに入れずに済み、速くなります。 🧪 localhostのアプリをそのままE2Eテスト ブラウザからのlocalhost:5173へのリクエストを、プライベートリンクでエージェントのサンドボックスに中継します。公開URLは不要で、通った手順はPlaywright風のテストとして保存できます。 WebVoyager 100タスクで合格率90%、総費用は$1.98でした。ただし1つのベンチマークの結果です。 #LangChain# #ブラウザエージェント#

🔍 「実行を完了したと言いながら実は終わっていないエージェント」を自然言語で検索できたら便利ですよね。それを実現する機能がLangSmithに追加されました。 タイトル: Search agent traces by behavior with AI Search in LangSmith URL: 💡 概要 エージェントのトレースは大規模でマルチモーダルな非構造化データで、従来のプラットフォームでは「個人情報が漏洩した会話はあったか」のような意味理解を要する質問に答えるのが困難でした。AI Searchはこれを自然言語クエリで解決します。 🧩 解決する課題 埋め込みベクトルによる類似度検索では、情報が圧縮されてしまい「実際に作業を完了したエージェント」と「完了したと述べただけのエージェント」のような微妙な違いを区別できませんでした。 🛠 方法論と提案手法 実際のテキストを読んで推論する「高速決定モデル」を採用。さらに異種ソースのトレースを「トラジェクトリー」という蒸留ビューに正規化し、固定のトークン予算内でユーザー発言とエージェント応答を最優先に配置する設計で、情報密度の高い検索を実現しています。 📊 ユースケース / 実験結果 Open SWEの150会話を分析したところ、会話あたり中央値約72,000トークン、最大100万トークン超という規模でしたが、ユーザー・エージェントのやり取り自体は全体の約2.8%に過ぎませんでした。この知見を活かし、PII漏洩検出やユーザー不満の特定、解約意図の検出などに活用できます。 #LangChain# #AIエージェント#

🔍 「実行を完了したと言いながら実は終わっていないエージェント」を自然言語で検索できたら便利ですよね。それを実現する機能がLangSmithに追加されました。 タイトル: Search agent traces by behavior with AI Search in LangSmith URL: 💡 概要 エージェントのトレースは大規模でマルチモーダルな非構造化データで、従来のプラットフォームでは「個人情報が漏洩した会話はあったか」のような意味理解を要する質問に答えるのが困難でした。AI Searchはこれを自然言語クエリで解決します。 🧩 解決する課題 埋め込みベクトルによる類似度検索では、情報が圧縮されてしまい「実際に作業を完了したエージェント」と「完了したと述べただけのエージェント」のような微妙な違いを区別できませんでした。 🛠 方法論と提案手法 実際のテキストを読んで推論する「高速決定モデル」を採用。さらに異種ソースのトレースを「トラジェクトリー」という蒸留ビューに正規化し、固定のトークン予算内でユーザー発言とエージェント応答を最優先に配置する設計で、情報密度の高い検索を実現しています。 📊 ユースケース / 実験結果 Open SWEの150会話を分析したところ、会話あたり中央値約72,000トークン、最大100万トークン超という規模でしたが、ユーザー・エージェントのやり取り自体は全体の約2.8%に過ぎませんでした。この知見を活かし、PII漏洩検出やユーザー不満の特定、解約意図の検出などに活用できます。 #LangChain# #AIエージェント#

9ターンの会話が60個のメッセージに膨らむエージェントセッション、どこで問題が起きたか一目で追えますか？ タイトル: Trajectories now in LangSmith: A readable view of every agent session URL: LangSmithに、スレッド内の全メッセージを時系列に並べ直して読みやすく見せる新機能「Trajectories」が追加されました。 注目ポイント 🔍 ネスト構造をなくした時系列ビュー サブエージェントへのハンドオフやツール呼び出し、リトライを含む複雑な実行トレースを、human・AI・toolのメッセージだけを時系列に並べた1本の流れとして提示します。ツールの無駄な再呼び出しなど、問題箇所を素早く発見できます。 👥 非エンジニアもレビューできるSME向け設計 医療の臨床問診エージェントや金融のコンプライアンス対応、サポートのエスカレーション判断などを、技術的なトレースを読まずに専門家がアノテーションキューでレビューできます。 🎓 ポストトレーニングデータとしての活用 高品質なトラジェクトリをそのまま教師ありファインチューニング用データとしてエクスポートでき、システムプロンプトからツール呼び出しまで本番の挙動をまるごと学習データ化できます。 エージェントのデバッグを、エンジニアだけでなく組織全体で担える民主化への一歩だと感じます。 #LangSmith# #AIエージェント#

本番で貯まったエージェントのログ、ただ眺めて終わっていませんか？そのデータを専用モデルに変える仕組みがLangSmithに加わりました。 タイトル: Introducing LangSmith Fine-Tuning URL: ❓ LangSmith Fine-Tuningとは何ですか？ 本番のエージェント実行トレースを、独自インフラを組まずにファインチューニング済みモデルへ変換する `smithtune` CLIです。データセット作成・学習・評価・デプロイの4段階を一気通貫で扱えます。 ❓ どうやって学習データを作るのですか？ LangSmithプロジェクトからメッセージやツール呼び出しの時系列（トラジェクトリ）を取得し、マルチエージェントのレビューでカスタムルーブリックに沿った高品質な事例だけを選別します。ツールの利用可能状態まで含めた正確な文脈を保存するのがポイントです。 ❓ 学習やデプロイはどう進めますか？ LoRAによる教師ありファインチューニング（SFT）をFireworksやBasetenと連携して実行するため、GPUの用意は不要です。ベースモデルとの比較評価を経て、`smithtune deploy` でそのまま本番投入できます。 ❓ 効果はどれくらいありますか？ 問題検知タスクではKimi K3がSFTでスコア90.0から96.0に向上。コードレビューでは同等以上の品質を保ちつつ、モデル呼び出しを29.8%、ツールリクエストを29.4%削減できました。 #LangSmith# #ファインチューニング#

ログを取るだけでは事故は防げません。問題のあるリクエストを、LLMに届く前に止める「実行時ガバナンス」の登場です🛡️ タイトル: LangSmith LLM Gateway: runtime governance built into the agent lifecycle URL: 🛡️ 概要 エージェントとモデルプロバイダーの間に立つ実行時ガバナンスの層です。LangSmithプラットフォーム内の強制ポイントとして、問題を「後から記録する」のではなく「発生源で止める」ことを狙います。 ❓ 解決する課題 可観測性（ログ）だけでは問題を防げません。インシデントが起きてから記録するのでは遅く、問題のあるリクエストは外部のLLMプロバイダーに届く前に止めるべきだ、という考えが出発点です。 💡 機能の説明 ・支出コントロール：組織・ワークスペース・ユーザー・APIキー単位でハード上限。超過時は402エラー ・コストの可視化：組織単位のリアルタイム支出追跡 ・データ保護：モデルに渡る前にPIIや秘密情報を自動リダクション ・トレース統合：Gateway経由の呼び出しが同じワークスペースに表示 ・監査ログと階層的ポリシー 設定は最小限で、base_urlをGatewayに向け、キーをシークレットに保存し、UIでポリシーを定義するだけです。 🌍 ユースケース ・リトライループによる暴走的な支出の防止 ・SSNやPIIなど機微データのプロバイダーログ流出の防止 ・組織的なコストガバナンスとコンプライアンス監査 #LLMOps# #AIガバナンス#

本番のAIエージェントが壊れたとき、何万件ものトレースを人手でさかのぼる時代は終わりを迎えつつあります。 🔍 エージェントが大規模に動き始めると、問題の見つけ方が根本から変わります。数行のログを追うのではなく、数千万件のトレースの中から異常の糸口を引き出す必要が生まれる。それを人の目でこなすのは、どう考えても持続しません。LangSmith Engineはそのギャップを埋めるために2025年5月にローンチし、以来6000万件超のトレースをスキャンして2万件以上の課題を検出し、数万時間分のエンジニアリング工数を節約してきました。 💡 今回のアップデートで、Engineの中核である課題検出能力が大きく前進しました。内部ベンチマークでissue検出精度が2倍以上、業界標準ベンチマークでissue修正精度が25%向上しています。Engineは証拠・インシデントタイムライン・根本原因分析を伴う診断を行い、プロンプトまたはコード変更の修正案と即デプロイ可能なPRを自動生成します。さらに修正後の再発監視まで担い、人が介在する部分を最小限に抑えます。 🏗️ 今回あわせて発表された新機能も実用性が高いです。エンタープライズ顧客は自社VPC内にEngineをデプロイするセルフホスト構成が選択可能になり、Slack通知でエンジニアへのアラートが届き、Linear連携でチケットが自動作成されます。コスト面ではスキャンするトレース数を絞るReduced Analysisモードが加わり、古い未対応issueを自動クローズするStale issue管理も整備されました。 ロードマップでは、既存データセットへの自動修正検証と、プロダクショントレースから評価データセットをEngine自身が生成する機能が控えています。「発見→修正→検証→監視」の閉ループが完成に近づいています。 New in LangSmith Engine: >2x better issue detection #LangSmith# #AIAgents#

🧵 TL;DR: 長く走るAIエージェントはトークンコストが膨らみがち。Deep Agents はプロンプトキャッシュを"設定不要"で効かせ、実タスクで最大80%のコスト削減を実現します。 タイトル: Prompt Caching with Deep Agents URL: ポイント 💸 毎リクエストで会話履歴・システムプロンプト・ツール定義を再処理してコストが積み上がるのが課題 ⚡ プロンプトキャッシュは静的部分の計算結果を再利用し、新規の差分だけを処理 🧩 明示的なキャッシュ区切り（breakpoint）で、プロンプトが少し変わっても部分ヒットを維持 🤖 Deep Agents は3戦略を自動適用（明示breakpoint／プロバイダ側の暗黙キャッシュ／キャッシュ最大化の構造化） 📊 実測でClaude Haiku 4.5は-77%、GPT-5.4-miniは-80%、Gemini 3.5-Flashは-49% 🔭 LangSmith でキャッシュ読み取りトークンを可視化し、削減を計測・最適化 ⏳ 会話が長いほど効果増。短いタスクでは恩恵は小さい 設定ゼロでプロバイダ差を吸収してくれる点が、実運用で効いてきそうです。 #LangChain# #AIエージェント#

コーディングエージェントは1タスクで数十回もAPIを叩くので、誰にも気づかれず週に数千ドル溶かしてしまう——LangChainがこの「支出の予測不能性」を社内でどう潰したかの話です💸 鍵は予算管理をオブザーバビリティと同じ場所に統合することでした。 タイトル: How LangChain Made Coding Agent Spend Predictable URL: 💸 概要 LangSmithに統合した「LLM Gateway」で、全社のモデル支出を分単位で俯瞰し、予算を中央集権的に管理する仕組みです。外付けプロキシではなく、既存のトレース・評価・ユーザー管理と同じ基盤の上に乗せた点が特徴です。 ❓ 解決する課題 モデル利用が一部チームから全社に拡大し、プレミアムモデルの値上げも重なってコストが急増。 ・コーディングエージェントは1タスクで数十回のAPI呼び出しを発生させます ・個々の開発者が気づかぬうちに週数千ドルを使い、月末まで誰も気づけませんでした 💡 方法論と提案手法 予算を多階層で設定できます。 ・組織／ワークスペース／ユーザー／APIキーの単位で上限を設定 ・月次・週次・日次・時間単位の既定ウィンドウを全従業員に適用し、高負荷プロジェクトには例外を許可 ・Claude Code・Codex・LangChain Deep Agents経由のエージェントをカバー ・MDMで配布し各自のセットアップを不要に ・実行はトレースされユーザーとAPIキーに紐づき、超過時は該当トレースを評価データで診断できます 🌍 ユースケース チーム単位で上限を設定しつつ、サプライズ請求の不安なくエージェント利用を許可できます。月末の請求ショックを、リアルタイム監視に置き換えるのが実用的な価値です。 📊 教訓と成果 ・モデル価格は静的な表ではすぐ陳腐化するため、キャッシュやティア差を含め動的に扱う必要がありました ・CursorやClaude DesktopはきれいにルーティングできずGateway捕捉分と提供側設定の差分を計測して補正 ・ハードリミットだけでは業務が止まるため、早期警告アラートと監査可能な増額申請に進化 ・社内展開以降、LLMコストは予算内に収まっています #コーディングエージェント# #LLMOps#