ログを取るだけでは事故は防げません。問題のあるリクエストを、LLMに届く前に止める「実行時ガバナンス」の登場です🛡️ タイトル: LangSmith LLM Gateway: runtime governance built into the agent lifecycle URL: 🛡️ 概要 エージェントとモデルプロバイダーの間に立つ実行時ガバナンスの層です。LangSmithプラットフォーム内の強制ポイントとして、問題を「後から記録する」のではなく「発生源で止める」ことを狙います。 ❓ 解決する課題 可観測性（ログ）だけでは問題を防げません。インシデントが起きてから記録するのでは遅く、問題のあるリクエストは外部のLLMプロバイダーに届く前に止めるべきだ、という考えが出発点です。 💡 機能の説明 ・支出コントロール：組織・ワークスペース・ユーザー・APIキー単位でハード上限。超過時は402エラー ・コストの可視化：組織単位のリアルタイム支出追跡 ・データ保護：モデルに渡る前にPIIや秘密情報を自動リダクション ・トレース統合：Gateway経由の呼び出しが同じワークスペースに表示 ・監査ログと階層的ポリシー 設定は最小限で、base_urlをGatewayに向け、キーをシークレットに保存し、UIでポリシーを定義するだけです。 🌍 ユースケース ・リトライループによる暴走的な支出の防止 ・SSNやPIIなど機微データのプロバイダーログ流出の防止 ・組織的なコストガバナンスとコンプライアンス監査 #LLMOps# #AIガバナンス#

「ソフトが実際にやること」と「ユーザーがそう信じていること」のズレ——この根本問題に、“明示的な意味”という統一尺度で挑む論文です📐 タイトル: Making Software Meaningful URL: 📐 概要 ソフトウェアの使いやすさ・モジュール性・説明責任を高める統一的な尺度として、「明示的な意味（explicit meaning）」を採用することを提唱する論文です。技術用語ではなく、ドメイン固有の言葉でソフトの振る舞いを共有表現として記述します。 ❓ 解決する課題 ソフトウェア工学には根本的なギャップがあります。 ・「ソフトが実際に行うこと」と「ユーザーがそうだと信じていること」がズレる ・このズレが、使いにくさやバグ、不信を生みます 開発者とユーザーが、何をしてなぜそうするのかについて単一で明示的な理解を持つことが鍵だと主張します。 💡 方法論と提案手法 個人・行為・その結果生じる事実という、ドメイン固有の現象を「概念」に整理し、共通の語彙とします。3つの実践で示します。 ・ユーザビリティ設計：共有された意味でユーザーと設計者の視点を揃える ・モジュール式のコード生成：LLMで「意味の概念単位」を「コードの単位」に対応づけ、モジュール性と可読性を高める ・エージェントの説明責任：明示的に定義した「意図された振る舞い」に基づく行動規範を実装する 🌍 ユースケース LLM支援開発でのモジュール性・可読性の向上や、自律エージェントの意図を明示して説明責任を持たせるAIガバナンスに応用できます。人間とAIが協働してソフトを作る時代に、「意味」を中心に据える価値を示します。 #ソフトウェア工学# #AIガバナンス#

セマンティックレイヤーでAIのガバナンスを固める確認項目。 ・行・ロール権限を「クエリ生成時」に効かせているか ・MCP経由で指標を発見 ・参照させるか ・監査ログの取得 ・指標定義の所有者と更新責任 ・BIとAIで同一の定義を共有しているか 権限を後付けでなく生成の仕組みにするのが重要

【品質担保・ガバナンス・セキュリティ…全てをAI前提に変える】 Claudeを導入してコーディングの速度を上げるだけでは意味がない 👉 なぜ「AI責任者」が「人事責任者」を兼任するのか？ 当事者のメルカリ・木村俊也さんに聞きました @kimuras @mshrnakagawa

日経デジタルガバナンスにて、Sakana AIの「事後学習」技術と Sakana Chat / Namazuモデルに関する記事が掲載されました。 Namazuモデル開発をリードしたリサーチサイエンティストの菅沼雅徳とチーフサイエンティストの秋葉拓哉に取材いただきました。 記事: Sakana Chat: 取り組みの詳細 🐟 初の一般向けサービス 3月24日に公開した Sakana Chat は、これまで主に企業向けにAIシステムを提供してきたSakana AIにとって、初の一般ユーザー向けサービスです。 🧠 事後学習（Post-training）による進化 搭載している「Namazuモデル」のα版は、既存のオープンモデルに対し、独自の事後学習（Post-training）を施して構築したものです。ベースモデルの推論能力を損なうことなく、出力の中立性・事実の網羅性・日本語性能などを向上させています。世界トップ水準のオープンモデルをも意図したアラインメントへと調整できることは、様々な産業におけるAI導入にとっても重要な意味を持ちます。 🇯🇵 ソブリンAIへの新しいアプローチ 記事内、秋葉は「（ソブリンAIを開発する上で）日本が持つべき技術には様々なレイヤーがあり、事後学習もその一つとして貢献したい」と語っています。 ゼロから国産LLMを構築するアプローチに加えて、世界中で進化し続けるオープンウェイトモデルを土台に日本の文脈へ最適化するアプローチも、現実的な選択肢となり得ると考えています。

米中がAIの政府間対話で合意　中国外務省公表「ガバナンスを促進」 中国外務省は19日、米国と中国がAI（人工知能）の課題についての政府間対話を始めることで合意したと発表した。

AIが自律性を高める時代、問われるのは「どう活用するか」だけではない。 人とAIがともに制御を担う、新たなガバナンスへ。 ProVision 📖 技術の信頼性 ― AIは誰が制御するのか 🔗

AIは「導入するもの」から、「企業を設計する前提」へ。 Think 2026で見えたのは、AIエージェント、リアルタイム・データ、IT運用、ガバナンスが連動する新たな企業変革の構造。 📘 ProVisionで読み解く、AIファースト企業の現在地　

🌸イベント登壇のお知らせ🌸 #AI人工知能EXPO# NEO「AI Summit」に、弊社の高木が登壇します テーマは 「社内データを安全に使い尽くす！攻めの国産プライベートAI戦略」 データ主権やガバナンス、自社専用AIの最前線を解説します❗️ 【8/5(水)10:00~】お申込はこちら👇️

企業でAIエージェントを動かす鍵は「賢さ」より「統制」。女王蜂と働き蜂のアーキテクチャが答えを示します🐝 タイトル: Queen-Bee Agents: A BeeSpec-Centered Architecture for Governed Enterprise MCP Orchestration URL: 🐝 概要 中央の「女王（Queen）」制御プレーンが実行を統率し、専門の「働き蜂（Bee）」が制約付きアクセスで動くマルチエージェントシステムです。ガバナンスを効かせた企業向けのMCPオーケストレーションを実現します。 ❓ 解決する課題 企業がエージェントを導入するとき必要なのは生の能力だけではありません。LLMを社内ツールやMCPに繋ぐ際、ポリシーの強制、テナント単位の分離、明示的な運用境界を越えない実行という統制が不可欠でした。 💡 方法論と提案手法 ・核心はBeeSpec：Queenがコンパイルする構造化仕様で、各Beeのタスクスコープの実行パラメータを定義 ・テナント分離されたMCPコネクタで分離を担保 ・監査に裏付けられた実行時ガバナンス ・検索駆動の能力付与で、必要な能力を動的に付与 ・複数バックエンドをサポート 📊 実験結果 ・検索駆動バリアントは59の企業タスクで成功率0.964 ・ガバナンス違反ゼロ ・単一エージェントや静的ベースラインよりスコープ付き実行の品質が優れる ・承認ゲートを伴う複数Beeのワークフロー協調を実証 #AIエージェント# #MCP#