# Claude Agent SDKの便利で実践的な使い方 💰 エージェントのコストをステップ単位・モデル別に追跡し、予算を最適化しましょう。 コストと使用状況の追跡は、`total_cost_usd` や `modelUsage` でエージェント実行のトークン消費とコストをリアルタイムに把握する機能です。 📌 タイトル：コストと使用状況の追跡 🔗 URL： 🧩 概要 ` で呼び出しごとの累積推定コストを取得し、`modelUsage` でモデル別のトークン内訳を確認できます。プロンプトキャッシュの最適化で大幅なコスト削減も可能です。 🛠 使い方 `ResultMessage` の `total_cost_usd` フィールドを読み取ります。`AssistantMessage` の `id` でデデュプリケーションしてステップ単位の正確な集計が可能です。 🏗 実践的な使い方 ・`total_cost_usd` で `query()` 呼び出しごとのコストを監視し、閾値を超えたらアラートを発行します。 ・`modelUsage` でサブエージェント用 Haiku とメイン用 Opus のコストを分解し、どこにコストがかかっているか可視化します。 ・`ENABLE_PROMPT_CACHING_1H=1` で TTL を 5 分→1 時間に延長し、短いセッションを多数回す場合のキャッシュ切れを防止します。 ・複数 `query()` の `total_cost_usd` をアプリ側で累積し、セッション横断のコスト管理を実現します。 💡 ユースケース 📊 ステップ単位のコスト可視化ダッシュボード 🔔 予算超過アラートの自動発行 ⚡ プロンプトキャッシュによるコスト最適化 ⚠️ 注意点 `total_cost_usd` は概算推定値です。権限ある請求管理には Usage and Cost API / Console を使用してください。SDK はセッション合計を提供しないため、アプリ側で累積する必要があります。 #ClaudeAgentSDK# #AI#

AIのAPIコスト、ベースURLを1行変えるだけで最大60%削減できます。 タイトル: Cheaper Inference - Save up to 60% on AI models URL: OpenAI、Anthropic、Google、xAI、AWS BedrockなどのAPIを複数プロバイダーの割引価格で一元提供するAPIゲートウェイです。既存のOpenAI SDK互換のため、コードはそのままでエンドポイントを差し替えるだけで導入できます。 注目ポイント 💰 最大60%のコスト削減を価格上限保証付きで 複数プロバイダーのリアルタイム割引価格を集約し、常にプロバイダー直接価格を超えないキャップを設定しています。月額コミットメント不要で$5から利用でき、理論上リスクゼロで試せます。 🔌 既存コードの書き換えゼロ・URL1行変更だけ OpenAI SDK互換を維持しているため、ベースURLを ` に変えてAPIキーを差し替えるだけで完了です。テキスト・画像生成からビジョン入力、推論モデル、プロンプトキャッシング、ストリーミングまで対応しています。 🔒 エンタープライズ級のセキュリティ制御 モデルホワイトリスト・IPアドレスフィルタリング・日次クォータ・月次予算上限をAPIキー単位で設定可能です。ゼロデータ保持オプションとHistoryによる監査ログも備えており、コンプライアンス要件の厳しい環境でも使いやすい設計です。 コスト最適化とセキュリティを両立しながら既存アーキテクチャを変えずに済む点が実用的です。AI APIコストが事業変数として重くなる中、こうした調達レイヤーの選択肢は今後重要度が増しそうです。 #LLMコスト# #APIゲートウェイ#

# ADKの便利で実践的な使い方 🚀 ツールの並列実行、レスポンスサイズの最適化、レイテンシとトークンコストの削減 — ADKのTool Performanceガイドで、本番環境のスループットを最大化しましょう。 📌 タイトル：Tool Performance — ツール実行の最適化手法 🔗 URL： 🧩 概要 ADKではツールのパフォーマンスを最適化するための複数のアプローチが提供されています。読み取り専用ツールの並列実行、レスポンスサイズの削減によるトークンコスト最適化、そしてレイテンシ削減のためのベストプラクティスがあります。本番環境で高いスループットを実現するためには、これらの最適化が不可欠です。 🛠 使い方 並列実行とレスポンス最適化の例です。 まず、読み取り専用のツールを複数定義します。`get_user_profile(user_id: str)`、`get_user_orders(user_id: str)`、`get_user_preferences(user_id: str)` のように副作用のない関数を用意すると、ADKはこれらを並列に実行できます。次に、レスポンスサイズを削減するツール設計として `search_products(query: str, limit: int = 5)` を定義し、戻り値では `id`、`name`、`price` など必要なフィールドのみを返し、画像URLや説明文全文、メタデータ等は省略します。最後に `Agent` を `name="customer_service"`、`model="gemini-2.5-flash"` で作成し、`tools` リストにこれら4つの関数を渡します。 🏗 実践的な使い方 **並列実行の判断基準**: 副作用がなく、互いに依存しないツールは並列実行が安全です。LLMは複数のツールを同時に呼び出すことができ、ADKがそれらを並列に実行します。データの取得系ツール（GET相当）は並列実行の良い候補です。 並列実行に適した設計として、互いに独立した `get_weather(city: str)`、`get_news(topic: str)`、`get_stock_price(symbol: str)` のようなツールを定義します。各ツールはそれぞれ天気情報、ニュース記事、株価をdictで返すだけの読み取り専用関数です。LLMがこれら3つを同時に呼び出すと、ADKが自動的に並列で実行します。 **レスポンスサイズの最適化**: ツールの戻り値はLLMのコンテキストウィンドウを消費します。不要なフィールドの除外、データの要約、ページネーションの実装でトークンコストを大幅に削減できます。 **レイテンシ最適化のチェックリスト**: 1. キャッシュ可能な結果はキャッシュする 2. 外部API呼び出しにタイムアウトを設定する 3. 不要に大きなデータを返さない 4. 複数の小さなツールに分割して並列実行を促す 💡 ユースケース 📊 ダッシュボード用の複数データソース並列取得 🔍 検索結果のフィールド絞り込みによるトークン節約 ⚡ マイクロサービス間の並列API呼び出し 💰 大量リクエスト環境でのトークンコスト最適化 ⚠️ 注意点 - 副作用のあるツール（書き込み・削除）を並列実行すると、競合状態が発生する可能性があります。書き込み系ツールは逐次実行を推奨します。 - レスポンスを削減しすぎると、LLMが十分な情報を得られず、ユーザーへの回答品質が低下する場合があります。必要な情報は確実に含めてください。 - ツールのタイムアウトが短すぎると、正常なレスポンスも中断される可能性があります。適切なタイムアウト値を設定しましょう。 ✨ 小さな最適化の積み重ねが、本番環境での大きなパフォーマンス差を生みます。まずはレスポンスサイズの見直しから始めてみましょう！ #ADK# #AIAgent#

# Snowflakeの機能と実践的な使い方 🚀 「サイズを1段上げると速くなるけど、コストは大丈夫?」——Snowflakeのコスト最適化は、この問いに正しく答えられるかで決まります。Virtual Warehouseのサイズと自動停止の仕組みを押さえましょう。 📌 タイトルと機能のURL タイトル: Working with Virtual Warehouses URL: 📝 概要 Virtual Warehouseは、SQLクエリやINSERT/UPDATE/DELETE/COPYなどのデータ操作に必要なCPU・メモリ・一時ストレージを提供する計算リソースのクラスタです。起動中のみクレジットを消費し、サイズ変更や自動停止を柔軟に設定できます。ワークロードごとにサイズと自動停止を設計することが、Snowflakeコスト最適化の第一歩です。 🔧 機能の説明 ウェアハウスのサイズと課金の特徴は次の通りです。 ・サイズはX-Smallから6X-Largeまであり、1段大きくするごとに計算リソースとクレジット消費が2倍になります。X-Small=1、Small=2、Medium=4、Large=8、X-Large=16、2X-Large=32…6X-Large=512クレジット/時です。 ・課金は秒単位で、起動・再開のたびに最低60秒分が課金されます。例えばX-Largeを61秒動かすと約0.271クレジット、1時間フルで動かすと16クレジットです。 ・サイズが大きいほど大規模・複雑なクエリは速くなりますが、小さく単純なクエリは必ずしも速くなりません。 ・標準ウェアハウスのほか、ML学習など大きなメモリを要する処理向けにSnowpark-optimizedウェアハウスもあります。 🛠 実践的な使い方 ・`AUTO_SUSPEND`(既定で有効)で一定時間アイドルなら自動停止、`AUTO_RESUME`(既定で有効)でクエリ到着時に自動再開させ、待機中のクレジット浪費を防ぎます。 ・`CREATE WAREHOUSE etl_wh WAREHOUSE_SIZE = XLARGE` のように作成し、アドホック分析用は `WAREHOUSE_SIZE = SMALL AUTO_SUSPEND = 60` で「使った分だけ課金」にします。 ・`INITIALLY_SUSPENDED = TRUE` を付けると、作成直後は停止状態にできます。 ・ウェアハウスは稼働中でもサイズ変更でき、重い処理の直前だけ一時的に大きくする運用も可能です。 🎯 ユースケース ・日次バッチをX-Largeで一気に終わらせる。1段上げると速度約2倍・所要時間半分になるため、同じクレジットでも処理時間を短縮できます。 ・アドホック分析用ウェアハウスをSmall + AUTO_SUSPEND=60秒にし、誰も使っていない時間は課金ゼロにする。 ・データロード用は小〜中サイズで十分なケースが多く、ファイル数・サイズに応じて見直す。 ⚠️ 注意点 ・再開のたびに最低60秒課金されるため、極端に短いAUTO_SUSPEND(数秒)はかえって起動・停止を頻発させ非効率になることがあります。 ・大きいサイズは小さなクエリには無駄です。「遅いクエリにはサイズアップ」が基本で、すべてを大きくすればよいわけではありません。 ・データロード性能はウェアハウスサイズよりファイルの数とサイズに依存します。サイズアップ前に並列化を検討します。 #Snowflake# #DataEngineering#

⚙️ TL;DR: モデルを変えずに「エージェントを動かすソフトウェア」だけを自動で改良して、トークンコストを約半分に削減しました。 タイトル: SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness URL: 📌 ポイント 🔍 約500の実行環境で150方向を探索し3,000回超の実行で効率化手法を発見 🧩 ファイル変更とテスト実行を1リクエストに統合する「Action Fusion」など4メカニズム 📉 EdgeBenchでトークン流量を49.0%、コストを33.2%削減（性能は93.7%維持） 🔄 追加学習なしでOpus 5に適用してもトークン44.7%・コスト33.5%削減を維持 💰 Terminal-Bench 4では解決タスク1件あたりのコストを11.6%削減 ⏱ Codex比で時間あたり8.75〜13.50ドルのコスト削減効果を推定 モデルではなくハーネス自体を自動探索で鍛えるという発想が、地味だけど実運用に直結する効率化だと思います。 #AIエージェント# #LLMコスト最適化#

# ADKの便利で実践的な使い方 同じシステムプロンプトやツール定義を何度も送信していませんか？Context Cachingで繰り返しのトークンコストを大幅に削減しましょう💰 📌 **タイトル**: Context Caching 🔗 **URL**: ## 🧩 概要 Context Cachingは、LLMに送信するコンテキスト（システムインストラクションやツール定義など）の静的な部分をキャッシュし、繰り返しのトークンコストを削減する機能です。 `ContextCacheConfig` を設定することで、毎回のリクエストで同じプレフィックストークンを再送信する代わりに、キャッシュされたコンテキストを参照するようになります。 特にマルチユーザー環境で同じエージェント（同じプロンプト・ツール定義）を多くのユーザーが利用する場合、コスト最適化の効果が顕著です。 ## 🛠 使い方 `google.adk` から `Agent` を、`google.adk.agents` から `ContextCacheConfig` をインポートします。`ContextCacheConfig(max_entries=100, ttl_seconds=3600)` でキャッシュエントリの上限と有効期間（秒）を設定します。この `cache_config` を `Agent` の `context_cache_config` パラメータに渡すことで、`instruction` に記述した長いシステムプロンプトや `tools` に指定したツール定義（`search_kb`、`create_ticket`、`escalate` など）の静的部分がキャッシュされ、繰り返しのトークンコストが削減されます。 ## 🏗 実践的な使い方 **大規模カスタマーサポートの最適化:** カスタマーサポートエージェントでは、以下の要素が全ユーザーで共通です。 - システムインストラクション（対応ガイドライン、トーン、禁止事項） - ツール定義（ナレッジベース検索、チケット作成、エスカレーション） - Few-shotの例示 これらの静的なコンテキストは毎リクエストで数千トークンになることがあります。1日1万リクエストのサポートボットなら、Context Cachingにより膨大なトークン削減が見込めます。 **RAGパイプラインでの活用:** ツール定義にナレッジベースのスキーマや検索パラメータの説明が含まれる場合、これらをキャッシュすることで各クエリのコストを最適化できます。 **マルチテナントSaaS:** 同一のエージェント定義を複数テナントで共有する場合、テナント固有の情報のみが動的部分となり、共通のプロンプトとツール定義はキャッシュで共有されます。 ## 💡 ユースケース - 💰 コスト削減: 長いシステムプロンプトの繰り返し送信コストを削減 - 🚀 レイテンシ改善: キャッシュヒット時のプリフィル処理が高速化 - 👥 マルチユーザー最適化: 同じプロンプトを使う複数ユーザーでキャッシュを共有 - 🏢 マルチテナント: テナント共通部分のコンテキストを効率的にキャッシュ - 📚 大規模ツール定義: 多数のツールを持つエージェントのツール定義コストを最適化 ## ⚠️ 注意点 - Context Cachingはモデルプロバイダーのサポートに依存します。利用可能なモデルを事前に確認してください - キャッシュのTTL（有効期限）が短すぎるとヒット率が下がり、長すぎるとメモリを消費します。アクセスパターンに応じて調整してください - システムプロンプトやツール定義を頻繁に変更する場合、キャッシュの恩恵は限定的です - キャッシュのコスト自体も発生する場合があります。プロバイダーの料金体系を確認し、トータルコストで判断してください - 動的なコンテキスト（ユーザー固有の情報など）はキャッシュ対象外です。静的部分と動的部分を明確に分離して設計しましょう ✨ Context Cachingは「同じことを何度も言わない」をインフラレベルで実現します。マルチユーザー環境でのコスト最適化に大きな効果を発揮します！ #ADK# #AIAgent#

# OpenAI Agent SDKの便利で実践的な使い方 🌍 ガードレールで、エージェントの入出力を安全に制御しましょう！ 安価な高速モデルで事前チェックを行い、不適切なリクエストをブロックしてコストを削減できます。 📌 タイトル：Guardrails 🔗 URL： 🧩 概要 Guardrailsは、エージェントの入力と出力に対してチェックを実行する仕組みです。入力ガードレール（Input guardrails）はユーザー入力を検証し、出力ガードレール（Output guardrails）はエージェントの応答を検証します。安価な高速モデルをガードレールに使い、高価なモデルの不要な実行を防ぐことで、コスト最適化を実現できます。トリップワイヤー方式で、問題を検出した時点で実行を即座に中断します。 🛠 使い方 `agents`から`Agent`, `InputGuardrail`, `OutputGuardrail`, `GuardrailFunctionOutput`をインポートします。ガードレール関数`check_homework_request(context, agent, input_data)`を定義し、内部で` input_data)`を呼び出して分類結果を取得します。戻り値は`GuardrailFunctionOutput(output_info= tripwire_triggered="TutorBot", instructions="You are a tutoring assistant.", input_guardrails=[InputGuardrail(guardrail_function=check_homework_request)])`のように定義します。 🏗 実践的な使い方 **安価モデルによる事前フィルタリング（コスト削減）** 高価なメインモデルを実行する前に、安価な高速モデルで「宿題の代行」「不正利用」などを検出してブロックします。トリップワイヤーが発動すると、メインモデルの実行がスキップされるためコスト削減になります。 安価な分類用エージェント`Agent(name="Classifier", model="gpt-4o-mini", output_type=ClassificationResult)`を定義し、`abuse_check`関数内で` input_data)`を実行します。`tripwire_triggered="Assistant", model="gpt-4o", input_guardrails=[InputGuardrail(guardrail_function=abuse_check)])`に設定します。 **出力ガードレールによるコンテンツチェック** エージェントの応答に機密情報や不適切な内容が含まれていないかを検証します。 出力ガードレール関数`check_sensitive_output(context, agent, output)`を定義し、` f"Check this output for sensitive content: {output}")`で機密情報の有無を判定します。`tripwire_triggered="SupportBot", output_guardrails=[OutputGuardrail(guardrail_function=check_sensitive_output)])`のように設定します。 **サポートボットの関連性チェック** ユーザーの質問がサポート範囲内かを事前に判定し、範囲外の質問には早期に対応します。 関連性チェック関数`relevance_check(context, agent, input_data)`で` input_data)`を実行し、`tripwire_triggered=not "SupportBot", instructions="Answer customer support questions about our product.", input_guardrails=[InputGuardrail(guardrail_function=relevance_check)])`として設定します。 💡 ユースケース 🛡 宿題代行・不正利用リクエストのブロック（コスト削減） 🔍 機密情報の出力防止（PII、社内情報の漏洩防止） 📋 サポートボットの対応範囲制御 ⚡ 安価モデルによる事前スクリーニングでAPI費用を最適化 ⚠️ 注意点 - ガードレールのトリップワイヤーが発動すると`InputGuardrailTripwireTriggered`例外が発生します。適切にキャッチして処理してください - 入力ガードレールはメインモデルと**並列**で実行されるため（デフォルト）、ガードレールが間に合わない場合はメインの実行が進む可能性があります - ガードレール自体のモデル呼び出しコストも考慮してください - 複数のガードレールを設定でき、いずれかが発動すれば中断されます ✨ ガードレールを活用して、安全性とコスト効率を両立したエージェントを構築しましょう！ #OpenAIAgentSDK# #AIAgent#

簡単なタスクに最上位モデルを使い続けて、コストが膨らんでいませんか。LangChainが自社のコーディングエージェントで実践したコスト削減策を公開しました。 タイトル: How to Build a Model Router in the Harness URL: コーディングエージェント「Open SWE」の月額費用急増に直面したLangChainが、ハーネス内にモデルルーターを組み込んでコストと品質を両立させた事例です。注目ポイントを3つ紹介します。 📊 タスク分析から始める設計 過去のトレースを分析すると、コード変更の22%が新機能、17%がバグ修正で、トークン消費量にも大きな幅がありました。この複雑さの多様性こそが、選択的なルーティングを有効にする土台になっています。 🎯 パレートフロンティア上の3モデル選定 コストと知能のバランスで、高速（GLM-5.3-Flash）・バランス（GPT-5.6 Sol）・高性能（GPT-6 Astra）の3ティアを選定。スレッド開始時に1回だけモデルを判定し、そのまま使い続けます。 💰 品質を落とさず64%のコスト削減 973スレッドのA/Bテストで、マージ率はルーター使用時29.2%、常に最上位モデル使用時27.3%とほぼ同等（p=0.49）でしたが、コスト中央値は2.61ドルから0.94ドルへ下がりました。 常に最安モデルだけを使うテストはわずか1日で中止されており、「ちょうど良い落としどころ」を探す価値が際立ちます。 #AIエージェント# #コスト最適化#

💰 同じモデルなのに、包むソフトウェア（ハーネス）を変えるだけでコストが5倍変わる。でも成功率はほぼ同じ。そんな結果が出ました。 タイトル: HarnessTax: How Much Does the Harness Matter for Coding Agents? URL: UC BerkeleyとArenaが、Claude Code・Codex CLI・Piという3つのコーディングエージェント用ハーネスを、7モデル・21のモデル-ハーネスペアで比較しました。注目ポイントを3つ紹介します。 📊 成功率への影響は統計的にほぼゼロ モデル内でのハーネス比較42件のうち、統計的に有意だったのはわずか1件（偶然の水準は約2件）。多重比較補正後は有意な差は1件も残りませんでした。 💸 コストは同じ成功率で最大5倍差 GPT-5.6 Lunaでは、Claude Codeが1タスク0.15ドル・成功率55.6%、Piが0.03ドル・成功率53.3%と、成功率はほぼ同じでもコストは5倍違いました。 🪶 最小構成のオープンソースハーネスPiが十分強い 12件のモデル比較のうち9件で、ベンダー製ではないハーネスが最高の成功率を記録し、シンプルなハーネスでも十分戦えることが示されました。 派手な機能より、まずコストと信頼性を見るべきという実用的な結論だと思います。 #コーディングエージェント# #LLMコスト最適化#