🟧 Expo - AI Innovation Formula E レース シミュレーター（EX24） 「Coaching Agent」では、Gemini Enterprise Agent Platform が、シミュレータによるレース中にリアルタイム音声コーチを実施します。ぜひお試しください🏎️ #GoogleCloudNext🗼#

便利だけど知られていないGemini APIの機能 💰 毎回同じ長いシステムプロンプトを送り直してトークン代を垂れ流していませんか？ Geminiの「コンテキストキャッシュ保存（Context caching）」を使えば、共通する長い入力を一度キャッシュし、以降のリクエストで再利用することで入力トークンコストを大幅に削減できます。大量のドキュメントや長いプロンプトを繰り返し使う場面で、コストが劇的に変わります。 📌 タイトル：コンテキストのキャッシュ保存（Context caching） 🔗 URL： 🧩 概要 LLMに長い共通コンテキスト（マニュアル全文、コードベース、数百ページのPDF等）を毎回送ると、その分のトークンが毎回課金されます。Context cachingは、そのコンテキストをGoogle側にキャッシュとして保持し、後続リクエストでは参照だけで済むようにする仕組みです。暗黙的キャッシュ（同じ入力が自動で再利用）と明示的キャッシュ（手動で作成・TTL管理）の2種類があります。 🛠 使い方 明示的キャッシュの場合、まずキャッシュを作成するAPIを呼び、system instructionや長い入力コンテンツを登録します。返されたキャッシュ名を以降のgenerateContentリクエストに渡すだけ。TTL（有効期限）はデフォルト1時間で、用途に応じて調整可能。暗黙的キャッシュは何も設定しなくても同一プレフィックスが自動的に再利用されるため、まずはそのままの利用で恩恵を受けられます。 🏗 本番システムへの組み込み方 ・社内ナレッジベースQA：全社マニュアルや規約文書をキャッシュし、ユーザーの質問ごとに毎回送信する必要をなくす。応答速度もコストも改善。 ・コードレビューbot：リポジトリのコードベースやコーディング規約をキャッシュし、PRごとのレビュー依頼で共通部分の再送を省略。 ・カスタマーサポート：FAQ・製品仕様書をキャッシュして、問い合わせのたびに巨大なコンテキストを再送しない構成に。 ・バッチ分析パイプライン：同じ参照データに対して大量の個別クエリを投げる処理で、キャッシュにより1件あたりのコストを圧縮。 💡 ユースケース 📚 長文ドキュメントに対する繰り返しの質問応答 🔍 共通のシステムプロンプトを使う大量リクエスト 🧑‍💻 コードベース全体を文脈に持つ開発支援ツール 📊 同一データセットへの複数観点での分析 ⚠️ 注意点 キャッシュには最低トークン数の要件があり、短いプロンプトではキャッシュ作成できません。また、キャッシュの保持にはストレージ料金がかかるため、利用頻度が低い場合はかえって割高になることも。TTLの設定と利用パターンを見極めて、コストメリットが出る場面に絞るのがポイントです。 ✨ 「同じものを何度も送る」コストは積み重なると大きな差になります。まずは一番長い共通コンテキストをキャッシュしてみてください。 #Gemini# #LLM#

便利だけど知られていないClaude APIの機能 📁 同じファイルを何度もBase64で送り直すの、もう疲れていませんか？ ClaudeのFiles API は、ファイルをアップロードして複数のリクエストで再利用できる仕組みです。毎回ファイルを添付し直す必要がなくなり、コストもレイテンシも削減できます。 📌 タイトル：Files API 🔗 URL： 🧩 概要 画像やPDF、テキストファイルをClaudeに処理させたいとき、従来はリクエストのたびにBase64エンコードしたファイルデータを送る必要がありました。Files APIを使うと、ファイルを一度アップロードしてIDを取得し、以降はそのIDを参照するだけで同じファイルを複数のリクエストで使い回せます。転送量の削減とPrompt Cachingとの相性の良さがポイントです。 🛠 使い方 まずFiles APIでファイルをアップロードし、返されたfile_idを保存します。Messages APIでそのファイルを使いたいときは、file_idを参照するコンテンツブロックを使います。同じファイルに対して複数の質問をしたり、異なるプロンプトで処理したりする場合に、毎回ファイルデータを送る必要がありません。 🏗 本番システムへの組み込み方 ・文書分析サービス：ユーザーがアップロードしたPDFを一度保存し、複数の分析（要約・質問応答・データ抽出）を順次実行。毎回PDFを送り直さない。 ・画像分析パイプライン：大量の画像を事前アップロードし、バッチで分析。転送コストとレイテンシを大幅に削減。 ・マルチターン文書チャット：参照文書をアップロードしておき、何度も質問を重ねる対話型文書QAに。 ・テンプレート管理：定型文書やスタイルガイドをファイルとして保存し、生成リクエストで繰り返し参照。 💡 ユースケース 📄 PDF・文書の繰り返し分析 🖼 画像のバッチ処理 💬 文書ベースのマルチターンチャット 📋 テンプレートファイルの再利用 ⚠️ 注意点 アップロードしたファイルには保持期限があるため、長期間参照する場合は期限を確認してください。また、ファイルのサイズ制限にも注意が必要です。大量のファイルを管理する場合は、file_idのライフサイクル管理を仕組み化しておきましょう。 ✨ 同じファイルに何度もお金を払うのは無駄。一度アップロードして使い回すだけで、コストも開発体験も改善します。 #Claude# #LLM#

🧵 TL;DR: 長く走るAIエージェントはトークンコストが膨らみがち。Deep Agents はプロンプトキャッシュを"設定不要"で効かせ、実タスクで最大80%のコスト削減を実現します。 タイトル: Prompt Caching with Deep Agents URL: ポイント 💸 毎リクエストで会話履歴・システムプロンプト・ツール定義を再処理してコストが積み上がるのが課題 ⚡ プロンプトキャッシュは静的部分の計算結果を再利用し、新規の差分だけを処理 🧩 明示的なキャッシュ区切り（breakpoint）で、プロンプトが少し変わっても部分ヒットを維持 🤖 Deep Agents は3戦略を自動適用（明示breakpoint／プロバイダ側の暗黙キャッシュ／キャッシュ最大化の構造化） 📊 実測でClaude Haiku 4.5は-77%、GPT-5.4-miniは-80%、Gemini 3.5-Flashは-49% 🔭 LangSmith でキャッシュ読み取りトークンを可視化し、削減を計測・最適化 ⏳ 会話が長いほど効果増。短いタスクでは恩恵は小さい 設定ゼロでプロバイダ差を吸収してくれる点が、実運用で効いてきそうです。 #LangChain# #AIエージェント#