／ 本日最終日！ 大好評受付中の店頭受取予約は本日23:59まで！ ＼ 🎮「Death end re;Quest」シリーズ 🐉「竜星のヴァルニール」 📮「届けろ！戦え！カラミティエンジェルズ」 🛒 #ナナメダケイ# 先生 #デスリク# #デスエンドリクエスト# #ヴァルニール# #カラエン#

ベースモデルに依存しないオーケストレーションに向けて ブログ： Sakana Fuguは、マルチエージェントのオーケストレーションを一つの基盤モデルとして提供するプロダクトです。一つのエンドポイントにリクエストを送ると、Fugu自身が処理の仕方を判断しモデル群に適切に タスクを割り振り、単一モデルを超える性能やコスト性能を達成します。 Sakana Fuguは、実際の処理を担う「モデルプール」と、どのモデルにどう任せるかを判断する「指揮者モデル」の二層構造です。モデルプールは当初から入れ替え可能な設計になっています。今回、モデルプールだけでなく、指揮者モデルに関しても、新しくオープンモデルであるGemma 4をベースに訓練し、当社の評価セットで従来と遜色ない性能とコスト削減効果を確認しました。 今後は自社開発モデルをベースとした指揮者モデルにも取り組み、求められるソブリン性の要件に応じてモデルオーケストレーションのポテンシャルをお届けできる体制を整えていきます。

便利だけど知られていないOpenAI APIの機能 🛡 ユーザーが入力したコンテンツ、有害な内容が混ざっていないか心配ではありませんか？ OpenAIの「Moderation（モデレーション）」は、テキストの有害性を判定する無料のエンドポイントです。暴力、ヘイト、セクシャルなコンテンツなどを検出し、安全なアプリケーション構築に役立ちます。 📌 タイトル：Moderation（モデレーション） 🔗 URL： 🧩 概要 ユーザー生成コンテンツを扱うアプリケーションでは、有害なコンテンツの検出が不可欠です。Moderation APIはテキストを複数のカテゴリ（暴力、ヘイトスピーチ、自傷行為、セクシャルコンテンツなど）で分析し、各カテゴリのスコアとフラグを返します。無料で利用でき、LLMの入出力両方のフィルタリングに使えます。 🛠 使い方 テキストをModeration APIのエンドポイントに送信するだけ。レスポンスには各カテゴリの判定結果（フラグ）とスコア（確信度）が含まれます。閾値はアプリケーションの要件に合わせてカスタマイズ可能。LLMのリクエスト前（入力フィルタ）と後（出力フィルタ）の両方に挟むことで、二重の安全ネットになります。 🏗 本番システムへの組み込み方 ・UGCプラットフォーム：投稿前にモデレーションを通し、有害コンテンツをブロックまたはレビューキューに。 ・チャットアプリの安全層：ユーザー入力をLLMに渡す前にチェック。有害な入力を事前に弾く。 ・LLM出力のフィルタ：モデルの出力をユーザーに返す前にモデレーション。意図しない有害出力をキャッチ。 ・コンテンツ管理ツール：既存コンテンツを一括スキャンし、ポリシー違反のものを検出。 💡 ユースケース 📝 ユーザー投稿コンテンツのフィルタリング 🤖 LLMの入出力の安全チェック 🔍 既存コンテンツのポリシー違反スキャン 💬 チャットアプリの有害メッセージ検出 ⚠️ 注意点 モデレーションは完璧ではなく、偽陽性（問題ないのに有害判定）や偽陰性（有害なのに見逃し）が発生します。厳しい閾値はUXを損ない、緩い閾値はリスクを残します。アプリケーションの特性に合わせて閾値を調整し、エッジケースは人間のレビューで補完する設計が重要です。また、テキスト以外（画像、音声）のモデレーションは別途対応が必要です。 ✨ 安全なAIアプリの土台は「入口と出口のフィルタ」。無料で使えるので、まずはLLMの入出力にモデレーションを挟んでみてください。 #OpenAI# #LLM#

「配信率100%、スキーマ有効性100%、エラー0件」の完璧なパイプラインなのに、同じリクエストを投げ直したら判定結果が変わる。そんな衝撃の負の結果を、事前登録＋完全な監査証跡つきで報告した論文です。 タイトル: Clean Engineering, Unstable Measurement: A Preregistered Reliability Failure of Black-Box LLM Observers on Shared Endpoints URL: 🔧 注目ポイント1: エンジニアリングの完璧さは測定の信頼性を保証しない 3,312件の計画済みコールで応答率・スキーマ有効性ともに100%、再試行やエラーも0件という理想的な実行にもかかわらず、繰り返しランキングの一致度（Spearman中央値）はわずか0.400。事前登録した安定性ゲート（閾値0.90）を明確に下回りました。 🎲 注目ポイント2: バイト同一の入力でも出力がドリフトする 同じリクエストを24時間後に再実行しても、全順位の一致率はわずか0.780。しかも面白いことに、同一日内の別ウィンドウ同士でも中央値0.805とほぼ同じ数値になり、これは「翌日ドリフト」ではなく共有エンドポイントの即時的な非決定性であることが判明しました。 📉 注目ポイント3: サンプル数を増やしても解決しない オブザーバー呼び出しを8回から500回（合計74.8万コール）まで増やしても、安定性ゲートの通過率は0/500のまま。候補間のスコア差がノイズフロアより7〜10桁も小さいため、そもそも順位付け不可能なタスクが多いことが根本原因でした。 LLMを評価の「ものさし」として使う前に、そのものさし自体が安定しているかを計測する重要性を教えてくれる一本だと思います。 #LLM評価# #再現性#

# ADK 2.0の便利だけど知られていない機能 🌍 AIエージェントが重要なアクションを実行する前に、人間の確認を挟めたら安心だと思いませんか？ ADK 2.0のアクション確認機能は、ツール実行前にユーザーの承認を求めるフローを簡単に組み込める仕組みです。Boolean方式とAdvanced方式の2つのアプローチがあり、用途に応じて使い分けられます。 📌 タイトル：アクション確認 (Action Confirmations) 🔗 URL： 🧩 概要 アクション確認機能は、エージェントがツールを呼び出す際に実行を一時停止し、ユーザーの承認を得てから処理を続行する仕組みです。Boolean方式では `require_confirmation=True` を設定するか、動的に確認要否を判定する関数を渡せます。Advanced方式では `tool_context.request_confirmation` を使い、ヒントやペイロードを含む詳細な確認リクエストを送信できます。フローは「リクエストステージ（一時停止）→ レスポンスステージ（続行）」の2段階で構成されます。 🛠 使い方 Boolean方式は最もシンプルで、ツール定義時に `require_confirmation=True` を指定するだけです。 ```python from adk import FunctionTool def delete_record(record_id: str) -> str: # 削除処理 return f"Deleted {record_id}" tool = FunctionTool( func=delete_record, require_confirmation=True # 常に確認を求める ) ``` Advanced方式では、ツール関数内で `tool_context.request_confirmation` を呼び出し、確認メッセージやペイロードをカスタマイズできます。リモート確認の場合は `/run_sse` エンドポイント経由で `FunctionResponse` を返すことで、外部システムからの承認も可能です。 🏗 本番システムへの組み込み方 ・データ削除や課金処理など不可逆な操作には必ず確認フローを設定する ・動的確認関数を使って、金額や影響範囲に応じて確認の要否を切り替える ・リモート確認を活用して、Slackやメール経由での承認ワークフローを構築する ・確認待ちのタイムアウト処理を適切に設計し、放置されたリクエストを処理する 💡 ユースケース 🗑 データベースレコードの削除前に内容を表示して確認を求める 💳 一定額以上の決済処理で承認フローを挟む 📧 大量メール送信前に送信先リストと内容を確認させる 🔧 本番環境の設定変更前に変更内容のレビューを求める ⚠️ 注意点 アクション確認機能は `DatabaseSessionService` および `VertexAiSessionService` ではサポートされていません。これらのセッションサービスを使用する場合は、別の方法で確認フローを実装する必要があります。また、確認フロー中はエージェントの実行が一時停止するため、長時間の確認待ちが発生する場合のセッション管理に注意してください。 ✨ アクション確認を適切に組み込むことで、エージェントの自律性を保ちながら人間の監督を確保できます。特に本番環境では、安全弁として積極的に活用しましょう。 #ADK# #AIAgent#

便利だけど知られていないGemini APIの機能 📁 同じファイル、毎回アップロードし直していませんか？一度上げれば何度でも使えます。 GeminiのFiles APIは、ファイルをアップロードして複数のリクエストで再利用できる機能です。毎回ファイルを添付し直す必要がなくなり、効率的なファイル活用が可能になります。 📌 タイトル：Files API 🔗 URL： 🧩 概要 大きなファイルや同じファイルを何度も使うケースで、毎回リクエストにインラインで含めるのは非効率です。Files APIはファイルをGoogleにアップロードし、返されるURIで以降のリクエストから参照できます。画像、動画、PDF、音声など様々な形式に対応。アップロード済みファイルはサーバー側に保持されるため、転送の重複を省けます。 🛠 使い方 media.upload エンドポイントにファイルをアップロードします。返されたファイルURIを、generateContentリクエストのfileData部分に指定するだけ。アップロード済みファイルの一覧取得や削除も可能です。ファイルには有効期限があり、期限後は自動削除されます。 🏗 本番システムへの組み込み方 ・マルチモーダル分析：大きな動画や音声ファイルを一度アップし、「要約して」「翻訳して」「この部分を説明して」と複数回の分析を実行。 ・ドキュメントレビュー：レビュー対象のPDFをアップロードし、複数の観点（品質、正確性、スタイル等）から順にチェック。 ・教育コンテンツ：教材ファイルをアップし、生徒ごとに異なる質問をしても同じファイルを参照。 ・画像カタログ分析：商品画像をアップして、説明文生成、タグ付け、品質チェックを順番に実行。 💡 ユースケース 🎬 大きな動画/音声の複数観点分析 📄 ドキュメントの多角的レビュー 🎓 共通教材に対する個別Q&A 🛒 商品画像の一括多用途処理 ⚠️ 注意点 アップロードファイルには有効期限（通常48時間）があり、それを超えると自動削除されます。長期的に使うファイルは自前のストレージで管理し、必要時に再アップする設計にしましょう。また、ファイルの合計容量にも制限があるため、不要なファイルは定期的に削除してください。 ✨ ファイルの「アップロード→参照」パターンを覚えるだけで、マルチモーダルの使い勝手が格段に上がります。まずは大きめのPDFや動画で試してみてください。 #Gemini# #LLM#

便利だけど知られていないGemini APIの機能 🔑 ブラウザからLive APIに直接つなぎたい。でもAPIキーは露出させたくない。 Geminiの「エフェメラルトークン（Ephemeral tokens）」は、短命の使い捨てトークンを発行してクライアントから安全にLive APIへ接続する仕組みです。メインのAPIキーをフロントエンドに渡す必要がなくなります。 📌 タイトル：エフェメラルトークン（Ephemeral tokens） 🔗 URL： 🧩 概要 Live API（リアルタイム音声/動画）をブラウザやモバイルアプリから直接使う場合、APIキーをクライアントに渡すとセキュリティリスクになります。Ephemeral tokensは、サーバー側でメインAPIキーを使って短命トークンを発行し、クライアントはそのトークンで接続する仕組みです。トークンは短時間で失効するため、万が一漏洩しても被害を最小限に抑えられます。 🛠 使い方 バックエンドサーバーでGemini APIにエフェメラルトークンの発行をリクエストします。返されたトークンをフロントエンドに渡し、クライアントはそのトークンでLive APIのWebSocketに接続。トークンは数分で失効するため、必要に応じて再発行する仕組みを組み込みます。 🏗 本番システムへの組み込み方 ・ブラウザ音声チャット：Webアプリからリアルタイム音声会話を提供。サーバーを中継せず直接接続することで低レイテンシを実現。 ・モバイル音声アシスタント：スマホアプリから直接Live APIに接続。APIキーはサーバーに保持したまま。 ・ライブ配信連携：配信プラットフォームのフロントエンドからリアルタイム翻訳やキャプション生成。 ・対面接客AI：タブレット端末からLive APIに接続して、店頭での音声アシスタントを構築。 💡 ユースケース 🎙️ ブラウザからのリアルタイム音声チャット 📱 モバイルアプリの音声AI連携 🎬 ライブ配信のリアルタイム処理 🏪 店頭タブレットの音声アシスタント ⚠️ 注意点 トークンの有効期限は短いため、長時間セッションでは途中でトークンの再発行が必要です。トークン発行のバックエンドは必ず認証を入れ、不正なトークン発行を防いでください。また、トークン発行自体のレート制限も考慮しましょう。 ✨ クライアント直接接続でレイテンシを下げつつ、APIキーの安全性も確保。リアルタイムAI体験の構築に欠かせない仕組みです。 #Gemini# #LLM#

# AIエージェントをエンタープライズシステムに組み込む意思決定ポイント # 同期 vs 非同期｜Synchronous vs Asynchronous 🎯 ポイント エージェントの応答を「ユーザーが画面の前で待つ」設計にしていますか、それとも「完了したら通知」の設計ですか？ この選択は体験設計・アーキテクチャ・スケーラビリティに直結します。数秒で返せるチャット的なやり取りと、数分かかるバッチ分析では、最適な実行モデルが根本的に異なります。間違えるとタイムアウト地獄か、簡単な質問に数分待たされる体験崩壊が待っています🔑 📋 概要 同期実行はユーザーとの往復対話が価値の源泉となるケースに向いています。処理時間が5秒未満で完了する見込みがあり、Slackのチャットボットやライブチャット対応のようにリアルタイム性が求められる場面です。ストリーミング出力でトークン単位に逐次表示すれば、体感速度をさらに補えます。一方、非同期実行は処理時間が数十秒〜数分に達するケースに適しています。複数SaaSの横断調査、大量データの集計・分析、Jiraの全スプリント横断レポート生成など、重い処理はジョブキューに投げて完了通知をSlackやメールで受け取る設計が正解です。イベント駆動（Webhook / CDC）で起動するエージェントも非同期が自然な選択となります📊 🔍 意思決定のポイント 判断は「処理時間の見込み」と「ユーザーが待つかどうか」の2軸で決めます。 処理時間5秒未満 → 同期で問題なし 処理時間10秒超 → 非同期を検討 5〜10秒 → ストリーミングで同期を維持できるか評価 加えて「往復対話が価値を生むか」も重要です。追加質問・確認・修正のラリーが必要なら同期、バッチ処理や定期レポートならユーザーは画面の前にいないので非同期一択です。同時リクエスト数が数千以上のスパイクが見込まれる場合は、ジョブキューでバックプレッシャーを制御する非同期が安全です⚡ 💡 要点と詳細 ハイブリッド構成が実務では最も一般的です： 同期開始→非同期エスカレーション：最初は同期で応答し、処理が10秒を超えそうなら「バックグラウンドで処理中です」とユーザーに伝えてジョブキューに移行します。完了後にSlack / メールで通知します。 ストリーミング＋進捗表示：同期的にストリーミング出力しつつ、裏でツール呼び出しを並列実行します。中間結果を逐次表示することで体感待ち時間を短縮します。 ServiceNowのインシデント対応を例にすると、一次回答は同期チャットで即座に返し、根本原因分析や類似インシデントの横断調査は非同期ジョブで実行する、という使い分けが理にかなっています。 障害時のリカバリも大きな判断材料です。途中で失敗した場合にチェックポイントから再開したいなら、非同期＋永続キューが必須です🔄 ⚖️ トレードオフ すべてを同期で実装すると、重い処理でタイムアウトが頻発します。API Gatewayの30秒制限に引っかかり、ユーザーは空白画面を見続けることになります。コネクションプールが枯渇してシステム全体が停止する事態も起こり得ます😰 一方、すべてを非同期にすると、簡単な質問への回答にもキュー経由の遅延が入り、チャット体験が著しく劣化します。「今日の天気は？」に3分後にSlack通知で回答されても、誰も嬉しくありません。 進捗通知の不在も見落としがちな罠です。非同期ジョブの完了を通知しないと、ユーザーは結果を取りに来ません。「投げたけど返ってこない」と認識され、システム自体の信頼が崩壊します⚠️ 🛠️ ユースケース Slackチャットボット：ナレッジ検索やFAQ回答は同期（5秒未満で完了、ストリーミング出力）。レポート生成やデータ分析の依頼は非同期（ジョブキュー→完了後にスレッドへ通知）。同一ボットが処理時間の見込みで自動的に切り替えるのが理想です📚 Salesforce商談分析：単一商談の要約は同期でサイドパネルに即表示。全商談の四半期横断分析は非同期でバックグラウンド実行し、完了後にダッシュボードを更新します🛒 CI/CDパイプライン連携：プルリクエストの差分要約は同期で即コメント。全コードベースのセキュリティスキャンは非同期でジョブ実行し、結果をJiraチケットに起票します🔧 実践のコツ：同期エンドポイントには必ずタイムアウトを設定し、超過したら非同期にフォールバックする設計を組み込んでください。「たぶん5秒で終わる」は信用できません💪 #AIエージェント# #エンタープライズアーキテクチャ#

AIエージェントをエンタープライズシステムに組み込むプラクティス 【サーキットブレーカ＋モデルフォールバック】 💡 LLMプロバイダは落ちる。それを前提に設計していますか？サーキットブレーカとフォールバックで、単一障害点を構造的に排除しましょう。 🔥 解決する課題 - LLMプロバイダの障害・メンテナンスでエージェントが完全停止する - 障害中のプロバイダへのリトライが蓄積し、システム全体の負荷を悪化させる - 単一プロバイダへの依存が全エージェントの可用性リスクになる 🏗️ 提案パターン プライマリモデルのエラー率やレイテンシが閾値を超えたら、セカンダリモデル（別プロバイダや別リージョン）へ自動切替します。セカンダリも不可なら、キャッシュ応答や「現在対応できません」メッセージで縮退応答を返します。サーキットブレーカ（Open/Half-Open/Closed）で障害時のリクエスト洪水を防止し、復旧後はHalf-Open状態で段階的にプライマリへ戻します。この仕組みはAIゲートウェイに組み込み、個別アプリでの重複実装を避けるのが鉄則です。 ✅ 選定条件 - 向き：全本番環境（LLMの可用性変動は前提として備えるべき） - 不向き：特になし（本番運用であれば原則適用） ⚠️ 落とし穴 - タイムアウトを長くしすぎるとユーザー離脱やリソース枯渇を招く - 副作用を伴う操作のリトライは冪等キーなしでは重複実行の危険がある - フォールバックモデルの品質差を事前にevalで検証しておかないと、切替後の品質劣化に気づかない 🛠️ 実装方針 1. マルチプロバイダ抽象レイヤ（LiteLLM / Portkey）を導入し、プライマリ・セカンダリモデルの切替をアプリコードから分離します 2. サーキットブレーカ（resilience4j / Polly）をAIゲートウェイに組み込み、エラー率・レイテンシ閾値（P99の2〜3倍を起点）で Open/Half-Open/Closed を自動遷移させます 3. フォールバック先モデルの品質をevalデータセットで事前検証し、許容範囲を確認してから登録します 4. 副作用を伴う操作には冪等キーを付与し、リトライ時の重複実行を防止します 5. ヘルスチェックエンドポイントを設け、復旧検知後にHalf-Open状態で段階的にプライマリへトラフィックを戻します #AIエージェント# #エンタープライズアーキテクチャ#

# ADK 2.0の便利だけど知られていない機能 🌍 エージェントのツール実行が遅いと感じたことはありませんか？並列実行で劇的に高速化できるかもしれません。 ADK 2.0（v1.10.0以降）では、複数のファンクションツールを並列に実行する仕組みが提供されています。async関数の活用、CPU集約処理のオフロード、プロンプト最適化を組み合わせることで、ツール実行のパフォーマンスを大幅に向上させられます。 📌 タイトル：ツールパフォーマンス最適化 🔗 URL： 🧩 概要 ADK 2.0のパフォーマンス最適化は、ファンクションツールの並列実行を中心とした機能です。v1.10.0以降で利用可能で、ツール関数を `async def` で定義することが前提となります。長時間ループ内では `asyncio.sleep(0)` でyieldし、CPU集約的な処理には `ThreadPoolExecutor` を使用します。さらに、プロンプトに「常に関数を並列で呼び出すこと」と指示を加えることで、LLMが積極的に並列呼び出しを行うよう誘導できます。 🛠 使い方 ツール関数は `async def` で定義し、I/O待ちの処理を並列化します。 ```python import asyncio from concurrent.futures import ThreadPoolExecutor async def fetch_data(url: str) -> str: """データを取得する（並列実行対応）""" async with aiohttp.ClientSession() as session: async with session.get(url) as resp: return await resp.text() # CPU集約処理はThreadPoolExecutorにオフロード executor = ThreadPoolExecutor(max_workers=4) async def heavy_computation(data: str) -> str: loop = asyncio.get_event_loop() result = await process_data, data) return result ``` 長時間ループでは `asyncio.sleep(0)` を挟んでイベントループに制御を返します。また、大量データはチャンクに分割して処理します。エージェントのプロンプトにも「always call functions in parallel」と明示し、ツールのdescriptionに並列実行のヒントを含めると効果的です。 🏗 本番システムへの組み込み方 ・すべてのツール関数を `async def` で定義し、同期的なブロッキング呼び出しを排除する ・CPU集約処理は `ThreadPoolExecutor` で別スレッドにオフロードし、イベントループをブロックしない ・大量データ処理はチャンク分割して段階的に処理する ・エージェントのシステムプロンプトに並列呼び出しの指示を含め、ツールのdescriptionにも並列実行可能である旨を記載する 💡 ユースケース 🔍 複数のAPIエンドポイントに同時リクエストして結果を集約する 📊 大量のデータセットをチャンク分割して並列に分析する 🌐 複数言語への翻訳を同時に実行する 📁 複数ファイルの読み込みと前処理を並列化する ⚠️ 注意点 並列実行にはツール関数を `async def` で定義することが必須です。同期関数では並列化の恩恵を受けられません。また、`ThreadPoolExecutor` のワーカー数はリソースに応じて適切に設定し、過剰な並列度によるメモリ枯渇やレートリミット超過に注意してください。プロンプトによる並列呼び出しの誘導はLLMの判断に依存するため、必ず並列化される保証はありません。 ✨ async関数とプロンプト最適化の組み合わせにより、エージェントのツール実行速度を劇的に改善できます。I/O待ちが多いワークフローでは特に効果を発揮します。 #ADK# #AIAgent#