公開生放送 #サニタイ# （中上、台風で不在です🫠） KBS京都さん 創立75周年おめでとうございます🙋‍♀️ SUNNY TIME ❤︎ コーナーVTR 『中上恭子の ととのって、いただきます。』 築100年の古民家をリノベーションしたプライベートサウナ、6ISHIKI（ムイシキ）で贅沢時間を過ごしたあとは、併設してあるカフェでフルコースをいただきました🤤 最高すぎて…見てね🫶🏻 KBSホールに足を運ばれる皆さま、安全を最優先に楽しんできてください☺️

／ KBS京都テレビ サニータイム☀️ @kbs_sanitai ＼ 📧→ 番組へのメッセージもお待ちしてます 📺8月1日(土) 10:30〜11:55放送 チャンネル❺ ✔︎杉浦太陽さん & おマリさん お久しぶりです @marimiura427 #サニタイ#

# AIエージェントをソフトウェアに組み込むプラクティス # ツールゲートウェイ・MCP仲介 🎯 エージェントのツール呼び出し、全部「野良API」になっていませんか？ AIエージェントが複数のツールやMCPサーバを直接呼び出す構成は、認可漏れ・二重実行・監査不能の温床です。単一のゲートウェイを挟むだけで、セキュリティの一貫性が劇的に変わります。 🔥 解決する課題 エージェントが外部ツールを直接叩く構成では、認可・レート制限・ログがツールごとにバラバラになります。プロンプトインジェクションで悪意ある引数が混入しても個別ツール側では弾けず、権限昇格や意図しない操作が起きえます。さらに呼び出しログが分散し、「誰の権限で・なぜこのツールが呼ばれたか」の事後追跡コストが跳ね上がります。 💡 提案パターン 全ツール呼び出しを単一のゲートウェイ層に集約し、認可・入力サニタイズ・レート制限・監査ログを一元管理します。タスク種別やユーザ権限に応じてツールを動的にスコーピングし、LLMに不要なツールを見せない設計にします。書込系ツールには操作単位の細粒度認可とHITL承認を、読取系にはカテゴリ単位の緩い認可を適用する非対称ポリシーが鍵です。ツールの追加・削除もゲートウェイの設定変更だけで完結し、エージェント本体のコード変更は不要になります。 ✅ 選定条件 使うとき： - エージェントが複数ツールを呼び出し、少なくとも一つが副作用を持つ - ユーザ入力や外部データがツール引数に含まれうる（input_trustが低い） - 「どのツールが・どの引数で・誰の権限で呼ばれたか」の説明義務がある 使わないとき： - ツールが1つだけかつ読み取り専用で、ゲートウェイのオーバーヘッドが見合わない - 全ツールが社内信頼済みの実験環境で、まずプロトタイプ速度を優先したい ⚠️ 落とし穴 - ゲートウェイ自体が単一障害点になります。ヘルスチェックと縮退モード（読取のみ許可など）の設計が必須です - 認可やサニタイズをプロンプトで行ってはいけません。「このツールは使わないで」はインジェクションで迂回されます - レート制限はセッション単位だけでは不十分です。大量セッション攻撃に備え、グローバル単位との二層で設けましょう 🔧 実装方針 - ゲートウェイのポリシーをYAML等の宣言的定義で管理し、ツールごとにtype（read/write）・認可粒度・レート制限・サニタイズ・ログレベルを設定します - タスク種別・ユーザ権限・会話フェーズに応じてLLMに露出するツールを動的にスコーピングし、不要なツールを選択肢から除外します - ヘルスチェックと縮退モード（読取のみ許可）を設け、ゲートウェイ障害時にもシステム全体が停止しない設計にします - MCPサーバ間のスキーマ不統一をゲートウェイ層で正規化し、エージェントには一貫したインターフェースを提供します - 高リスクなコード実行はサンドボックスへルーティングし、長時間セッションには短命の権限リースで権限範囲を時間制限します #AIエージェント# #ソフトウェアアーキテクチャ#

# AIエージェントをソフトウェアに組み込むプラクティス # プロンプトの成果物化 🎯 プロンプトの一文字を変えただけで本番障害。変更履歴もロールバック手段もありませんでした。 プロンプトはコードと同等以上のリスクを持つ成果物です。バージョン管理・テスト・段階デプロイの対象にしましょう。 🔥 解決する課題 LLMベースのシステムでは、プロンプトの些細な変更がモデル出力を大きく変えます。プロンプトをコード中のリテラル文字列として管理していると、変更追跡ができず障害の切り分けが困難になります。回帰テストの仕組みがなく品質変化を定量評価できません。問題が起きても「前のプロンプトに戻す」にコードデプロイが必要です。規制領域では「どのバージョンのプロンプトでどの判断がなされたか」の監査が求められますが、プロンプトがコード内に散在しているとこの紐づけが困難です。 💡 提案パターン プロンプトを独立した成果物としてバージョン管理し、変更時にはCIで回帰テスト（評価ハーネス）を実行します。本番環境ではカナリアリリース（5〜10%）で段階的にロールアウトし、品質低下を検知したら即座にロールバックします。実行時ログにはプロンプトIDとバージョンを記録し、事後監査で「この判断はどのプロンプトに基づくか」を示せる設計にします。プロンプトとモデルの互換性も記録し、モデル更新時に再評価が必要なプロンプトを特定できるようにします。 ✅ 選定条件 使うとき： - プロンプトの変更履歴と実行時バージョンの記録が求められる（規制領域・品質管理） - プロンプトが複数箇所から参照され、一元管理が必要 - A/Bテストや段階的ロールアウトを行いたい 使わないとき： - プロンプトが1〜2個で変更頻度も低い個人プロジェクトやPoC - 出力品質の変動が許容される探索的用途 ⚠️ 落とし穴 - テンプレート変数にユーザ入力が入る場合、インジェクション対策としてエスケープやサニタイズが必要です - プロンプト解決を外部APIに依存しすぎると可用性リスクが増します。起動時フェッチ＋ローカルキャッシュも検討しましょう - プロンプトは行指向フォーマット（YAML/Markdown）で保存してください。巨大な1行JSONではdiffレビューが困難です 🔧 実装方針 - プロンプトをYAML等の行指向フォーマットで管理し、テンプレート・変数定義・モデル互換性・評価ベースラインを一つのファイルに集約します - ランタイムではレジストリからプロンプトIDで解決し、カナリア対象なら確率的にカナリア版を返す仕組みを組み込みます - 実行時ログにプロンプトIDとバージョンを必ず記録し、事後監査で「どの判断がどのプロンプトに基づくか」を追跡可能にします - プロンプト変更時にはCIで評価ハーネスを自動実行し、品質の回帰を検知してからカナリアリリースで段階的にロールアウトします #AIエージェント# #ソフトウェアアーキテクチャ#

本当は定期的にやりたい不定期コラム。 「できれば明日も褒められたい」→「明日の自分に褒められたい」に変わりました。誰かに褒められたかった私が、自分で自分を褒めてあげることの大切さに気づいた成長を表してるとかしていないとか（笑）テイストは変わりません！今後ともよろしくお願いします！