🚀 FastAPIを「最初のエンドポイント」から「本番でスケールするAIシステム」まで一気通貫で学べる電子書籍です。LLM/RAG serving まで踏み込み、各章末に面接問題が付くのが実用的です。 タイトル: FastAPI for AI Engineers: From First Endpoint to Production-Scale AI Systems URL: 🚀 概要 PythonでMLモデルやLLM/RAGを本番運用するAIエンジニア向けの実践書（初版・2026年、AI Engineering Insider）。全10章・計100問の面接問題に加え、実在の障害事例やコストモデルのコラムが織り込まれています。 ❓ 解決する課題 ・モデルは作れても、本番でスケールするAPIとして安全に配信するのは別スキル ・LLM/RAGの serving はストリーミング・ガードレール・コスト管理など固有の難しさがある 本書はFastAPIを「AI/MLの事実上の serving レイヤー」として体系化します。 💡 構成と扱う技術 ・基礎：ASGI/WSGI、Uvicorn、OpenAPI、Pydantic v2によるスキーマ分離と検証 ・実装：冪等性、適切なステータスコード、ページネーション、Router→Service→Repositoryのクリーンアーキテクチャ ・DB/セキュリティ：SQLAlchemy/SQLModel/Alembic、N+1、プールサイジング、JWT、BOLA対策、OWASP API Top 10 ・非同期：「イベントループを絶対にブロックしない」、def vs async defの使い分け、httpxのリトライ/サーキットブレーカー 🎯 核心（第9章 AI/RAG/LLM） ・lifespanで重みを一度だけロード、CPU推論はスレッドにオフロード ・LLMゲートウェイで認証・プロンプト・ガードレール・コスト計測を集約、SSEでトークンを逐次配信 ・埋め込み＋ベクトルDB（pgvectorから開始）でRAGを構築し、出力はPydanticで検証→失敗なら差し戻して再試行 ・max_tokensを「支出上限」として型で強制 📊 注目ポイント ・実在の障害（Netflix、Stripe、GitLab、Optus、Air Canada）から学ぶ実践志向 ・第10章はGunicorn+Uvicorn、K8sのliveness/readiness、可観測性の3本柱（p99 vs p50）、SLOベースのアラートまでカバー #FastAPI# #AIエンジニアリング#

「なぜその判断をしたのか？」にAIエージェントが答えるには、フラットなチャットログではなく“つながった記憶”が必要でした🕸️ それを1コマンドで丸ごと立ち上げるツールの登場です。 タイトル: Introducing Create Context Graph URL: 🕸️ 概要 Create Context Graphは、グラフベースのメモリを備えたフルスタックのAIエージェントアプリを、たった1コマンドで生成するNeo4j LabsのCLIスキャフォールディングツールです。生成されるアプリには、FastAPIバックエンド、Next.jsフロントエンド、AIエージェントフレームワーク、Neo4jグラフデータベースが一式含まれます。 ❓ 解決する課題 AIエージェントは作りやすくなりましたが、関係性や因果を理解するのは依然として苦手です。 ・フラットなチャットログやベクトルストアでは、「なぜその判断をしたのか」「何がこの作業をブロックしているのか」といった構造的な問いに答えられません ・つまり、エージェントには関係を捉える「高度な記憶」が欠けていました 💡 方法論と仕組み ・データを「コンテキストグラフ」（つながったナレッジ構造）に変換し、チャット履歴・ベクトルコンテンツ・推論トレースの3種のメモリを整理します ・エンティティモデルはPOLE+O（Person, Organization, Location, Event, Object）に、ドメイン固有の型を重ねます ・エージェントが判断を下すと、その推論チェーンがDecisionTraceノードとして記録され、紐づくTraceStepで構成されるため、クエリ可能な来歴（provenance）が生まれます ・PydanticAI・LangGraph・Claude Agent SDKなど複数フレームワークに対応し、22の組み込みドメイン、Linear・Claude Code・GitHubのコネクタ、推論経路のリアルタイム可視化、シークレット自動リダクションを備えます 🌍 ユースケース ・課題の依存関係やチームのワークフローを開発者がクエリする ・Claude Codeのセッション履歴から個人の開発分析を行う ・判断・コミット・作業項目を組み合わせたマルチツールの相関分析 判断の来歴をクエリ可能にできるため、エージェントの説明可能性やデバッグ、チーム横断の知識統合に役立ちます。 #GraphRAG# #Neo4j#

# OpenAI Agent SDKの便利で実践的な使い方 🌍 エージェントの「中で何が起きているか」を可視化しましょう。組み込みトレーシングで LLM 呼び出し・ツール実行・ハンドオフ・ガードレールの全フローを追跡できます。 トレーシングはデフォルトで有効。Traces ダッシュボードでエージェントの動作を視覚的に確認し、デバッグと品質改善を加速します。 📌 タイトル：Tracing 🔗 URL： 🧩 概要 OpenAI Agent SDK の組み込みトレーシングは、エージェント実行の全ステップ（LLM 呼び出し、ツール実行、ハンドオフ、ガードレール評価）を自動的に記録します。デフォルトで有効になっており、OpenAI の Traces ダッシュボードでフローを視覚的に確認できます。`with trace("name")` で関連する複数の実行をグループ化し、`flush_traces()` でワーカー環境でのトレース送信を確実にし、`RunConfig(trace_include_sensitive_data=False)` や環境変数でプライバシーを制御できます。 🛠 使い方 `agents` から `Agent`, `Runner`, `trace` をインポートします。`Agent` を作成して ` "AIの最新トレンドは？")` で実行するだけで、トレーシングはデフォルトで自動的に有効になり、LLM 呼び出しやツール実行が記録されます。 🏗 実践的な使い方 **with trace() で関連する実行をグループ化** 複数のエージェント実行をひとつのトレースにまとめて、ワークフロー全体を俯瞰できるようにします。 `agents` から `trace` をインポートし、`with trace("Joke workflow"):` ブロック内で複数の ` 呼び出しを実行します。ジョーク生成、評価、スコアが7未満なら改善という一連のフローが、ひとつのトレースにグループ化されてダッシュボードで俯瞰できるようになります。 **flush_traces() でワーカー環境のトレース送信を確実に** Celery/RQ/FastAPI のバックグラウンドワーカーでは、プロセス終了前にトレースを送信する必要があります。 `agents` から `flush_traces` をインポートします。Celery タスク内では ` message))` の後に `flush_traces()` を呼び出してトレースを送信します。FastAPI では `@app.on_event("shutdown")` フックで `flush_traces()` を呼び出し、プロセス終了前のトレース送信を保証します。 **プライバシー制御で機密データを保護** ZDR（Zero Data Retention）環境や個人情報を扱う場合のトレース制御パターンです。 ` に `run_config=RunConfig(trace_include_sensitive_data=False)` を渡すと（既定値は `True`）、LLM の入出力や関数呼び出しのデータがトレースに含まれなくなります。既定値は環境変数 `OPENAI_AGENTS_TRACE_INCLUDE_SENSITIVE_DATA` でも切り替えられます。トレーシング自体を完全に無効化するには、環境変数 `OPENAI_AGENTS_DISABLE_TRACING=1` を設定するか、`RunConfig(tracing_disabled=True)` を指定します。 💡 ユースケース 📊 デフォルト有効のトレーシングで、LLM/ツール/ハンドオフ/ガードレールのフローを Traces ダッシュボードで可視化 🔗 with trace("Joke workflow") で複数のエージェント実行をグループ化し、ワークフロー全体を俯瞰 🔄 Celery/RQ/FastAPI ワーカーで flush_traces() を呼び出し、プロセス終了前のトレース送信を保証 🔒 trace_include_sensitive_data=False で医療・金融データのプライバシーを保護 ⚠️ 注意点 - トレーシングはデフォルトで有効のため、意図せず機密データがトレースに含まれる可能性があります。本番環境では `trace_include_sensitive_data` の設定を確認してください。 - `flush_traces()` はブロッキング処理のため、リクエストのクリティカルパスには入れず、シャットダウンフックやタスク終了時に呼び出してください。 - トレースデータは OpenAI に送信されます。コンプライアンス要件がある場合は `OPENAI_AGENTS_DISABLE_TRACING=1` で無効化するか、カスタムプロセッサ（次セクション参照）で送信先を変更してください。 ✨ 組み込みトレーシングは「設定ゼロで動く」のが最大の強みです。まずはそのままダッシュボードを確認し、ワークフローのグループ化やプライバシー設定を必要に応じて追加していきましょう！ #OpenAIAgentSDK# #AIAgent#

# ADKの便利で実践的な使い方 DockerfileもK8sマニフェストも書かずにエージェントをデプロイしたい？☁️ `adk deploy cloud_run`コマンド一発で、コンテナサーバレス環境にエージェントが立ち上がります。Dev UIも付けられて、開発と運用がシームレスに！ ## 📌 タイトル Cloud Run — コマンド一発のコンテナサーバレスデプロイ ## 🔗 URL ## 🧩 概要 ADKのCloud Runデプロイは、`adk deploy cloud_run`コマンドでDockerfileやマニフェストの手動作成なしにエージェントをサーバレス環境にデプロイします。`--with_ui`でDev UIを同梱、`--session_service_uri=agentengine://`でマネージドセッションと統合でき、オートスケーリングなWebバックエンドとして即座に利用可能です。 ## 🛠 使い方 基本のデプロイコマンド： ```bash adk deploy cloud_run \ --project=$GOOGLE_CLOUD_PROJECT \ --region=$GOOGLE_CLOUD_LOCATION \ $AGENT_PATH ``` 主要オプション： - `--with_ui`: ADK開発インターフェースをAPIサーバーと一緒にデプロイ - `--session_service_uri`: セッションサービスのURIを指定（Agent Runtimeのマネージドセッションは `agentengine://`） - `--service_name`: Cloud Runサービス名をカスタマイズ - `--port`: コンテナのリスニングポート指定（デフォルト8000） 代替方法として、`gcloud run deploy`でカスタムDockerfileを使い、既存のFastAPIアプリにエージェントを組み込むことも可能です。 ## 🏗 実践的な使い方 - **プロトタイプの公開**: `--with_ui`付きでデプロイし、チームにDev UI経由でエージェントを試してもらう - **既存Webアプリとの統合**: `gcloud run deploy`でカスタムFastAPIアプリにエージェント機能を追加 - **マネージドセッション**: `--session_service_uri=agentengine://`でAgent Runtimeのセッション管理を利用し、ステートフルな会話を実現 - **オートスケーリング**: トラフィックに応じた自動スケーリングでWebバックエンドとして安定運用 - **認証制御**: デプロイ時にunauthenticatedアクセスの可否を選択。非公開APIには`gcloud auth print-identity-token`でアクセス ## 💡 ユースケース - 社内ツールとしてエージェントをDev UI付きで素早く展開 - 既存のFastAPI/Flaskアプリにエージェント機能を追加 - Slackボットやチャットアプリのバックエンドとしてサーバレスで運用 - Agent Runtimeのマネージドセッションを活用したステートフルなチャットサービス ## ⚠️ 注意点 - デプロイ時にunauthenticatedアクセスを許可するか確認されます。公開APIの場合のみ'y'を選択してください - Cloud Runのコールドスタートを考慮し、レイテンシが重要な場合は最小インスタンス数の設定を検討してください - `--with_ui`はあくまで開発用です。本番環境では適切な認証を設定してください - デフォルトポートは8000です。既存サービスと競合する場合は`--port`で変更してください ## ✨ Dockerfile不要、マニフェスト不要。コマンド一発でサーバレスエージェントを世界に公開。Cloud Runデプロイの手軽さをぜひ体験してください！⚡ #ADK# #AIAgent#