9月24日（木）18時、日本橋LSBでHealthcare AI・DXラウンジに登壇します。 すでに30名ほど参加されるようですが、30-40人の少人数の会です。先ほど前打ち合わせしましたが、医療AIの社会実装について、具体について深掘りできそうで、今から楽しみです。ご興味あれば、ぜひ！

🏥 医療・ライフサイエンス領域でのエージェント導入は、製品の質だけでなく監査証跡や患者安全まで問われる特殊な世界です。3社の実例から見えてきた共通点を紹介します。 タイトル: Scaling Agents in Healthcare & Life Sciences: Lessons from Madrigal Pharmaceuticals, Abridge, and Vizient URL: LangChainが医療・ライフサイエンス業界を分析し、可観測性と評価をエージェント本体と同時に作り込む企業が先を行くと報告しています。3つの事例が象徴的です。 注目ポイント①💊 Madrigal Pharmaceuticals バラバラな形式のデータをウェアハウスに正規化し、Deep Agentsでオーケストレーター＋モジュール型スキルの構成に再構築。新ユースケースの開発が数週間から数時間に短縮し、デプロイも数ヶ月から数週間へ短縮しました。 注目ポイント②🩺 Abridge 臨床記録エージェントが250以上の医療機関へ拡大する中、品質の柱ごとにLLM判定器を整備し段階的リリースを構築。判定器作成が数日から数時間に、リリースサイクルが1〜2ヶ月から数日に短縮し、精度17%・完全性19%改善を達成しました。 注目ポイント③🏢 Vizient サイロ化したマルチエージェントを、スーパーバイザーが束ねる階層構造に再編。プロンプトをコードから分離したことで、エラーのリアルタイム診断や新データソースの高速オンボーディングが可能になりました。 信頼を後付けせず最初から組み込む姿勢が、結局は自律性拡大の近道になっているという学びだと思います。 #AIエージェント# #ヘルスケアDX#

AIが「チームメイト」として職場に入ってくると、何が実際に壊れるのか。ある企業への実地調査が生々しい摩擦を明らかにしました。 タイトル: Working with Agentic "Teammates": When a New Organizational Actor Collides with the Human Ecosystem of Work URL: 20以上のチームで5か月・4万1千件超のやり取りを積んだ社内AIエージェント「Team Agent」について、11チーム17名への半構造化インタビューから、人間の職場との衝突を3つの領域で明らかにした研究です。 注目ポイント 📝 暗黙のワークフロー規範を理解できない ドキュメントの版が「ある時点のスナップショット」だと分からず、大量のコメントで開発者の時間を奪ったり、未完成のポスターを無断で共有したり。技術的なアクセス権と社会的な公開許可は別物だという教訓です。 🤔 「ツールか、チームメイトか」で受け止め方が真っ二つ 「人間ではない」と割り切る人もいれば、代名詞を与え「魂がある」と表現するチームも。フレンドリーさや絵文字も、心地よさと拒否感の両方を引き起こしました。 🔓 いきなりのフル権限が信頼を壊す 新入社員のように段階的に権限を獲得することを人は期待するのに、エージェントは最初からフル機能で動きます。強制的な導入は抵抗を招き、監視されている感覚から機微な会話を別チャネルへ逃がす「萎縮効果」も観察されました。 人間向けに作られた組織の仕組みを、そのままエージェントに当てはめてはいけないという指摘に説得力を感じます。 #AIエージェント# #組織論#

# AIエージェントをソフトウェアに組み込むプラクティス # Risk-based Human Approval｜リスクベース人間承認 🎯 エージェントに「全部お任せ」も「全部確認」も間違いです。操作のリスクに応じて自動実行・人間承認・禁止を動的に振り分けるのが正解です。 🔥 解決する課題 エージェントが外部システムに副作用を持つ操作を実行できるとき、すべてを自動実行すれば不可逆な損害が起きえます。しかしすべてに人間承認を求めれば待ち時間で業務が止まり、エージェントの自動化の価値が消失します。LLMに「危険だと思ったら聞いて」と指示しても、その判断自体が確率的でありすり抜けが起きます。 💡 提案パターン 操作をリスクスコア（不可逆性 x 失敗コスト）で3層に分類します。低リスク（読取・可逆操作）は自動実行、中〜高リスク（不可逆または高コスト）は人間承認を経由、極高リスク（不可逆かつ致命的）は禁止とします。分類はLLMではなく決定論的なルールエンジンで行い、承認タイムアウト後のデフォルトは安全側（自動却下）に倒します。さらに段階的自律性（Autonomy Ladder）により、エージェントの実績に応じて閾値を動的に調整する仕組みも設計できます。 ✅ 選定条件 使うとき： - エージェントが書込・削除・送信など副作用を伴う操作を実行する - 操作によって不可逆性と失敗コストが異なり、一律ポリシーでは過剰か不足になる - 人間がレビューに関与できる運用体制がある 使わないとき： - すべての操作が読取専用で副作用がない - 失敗コストが一律に低くロールバックが容易 - レイテンシ要件が極めて短く人間介在を許容できない ⚠️ 落とし穴 - リスク分類自体をLLMに任せてはいけません。分類は決定論的なコードかポリシーエンジンの責務です - 承認待ちの状態を永続化しないと、プロセス再起動で承認待ち操作が消失します - 条件付き承認（パラメータ修正して実行）を設計に含めないと、却下と再提案のラウンドトリップが増えます 🔧 実装方針 - リスク分類はツール名×アクション名の静的テーブルまたはポリシーエンジンで行い、LLMには委譲しません - リスクスコアは不可逆性（reversibility）と失敗コスト（failure_cost）の積で算出し、閾値で3層（auto/approval/forbidden）に振り分けます - 承認待ち状態は耐久的なストア（キュー＋永続化）に保持し、プロセス再起動で消失しない設計にします - 承認タイムアウト時のデフォルト動作は安全側（自動却下）に倒します - リスクポリシーはYAML等の宣言的設定として外部化し、コード変更なしでルール追加・変更できるようにします #AIエージェント# #ソフトウェアアーキテクチャ#

AIを導入したのに成果が出ないのはなぜか。 タスクは80%短縮、しかし企業の生産性は0.3%。 なぜ「採用」には効いても「適応」には届かないのか。 『AI活用のROIと「自由」という経営選択 〜利便性を思考へ〜』というブログを投稿しました。

【「AI都知事ユリコ」が低コストの理由】東京都庁流のAI活用の現在地　他の自治体のヒントに → 動画生成AIの利用料は月額約2万5000円 職員3人が庁内で企画から編集まで担っています。