AIによる開発生産性の向上を最大限享受するためには「いかにAIに任せて適当にやれるか」が大事。いちいちレビューもしてられないし人間が許可とかしていられないんですよもう。そんな風に、日々の開発を適当にやれる未来のために、妥協なく仕組みを作るしかない

# AIエージェントをエンタープライズシステムに組み込む意思決定ポイント # 棄権閾値｜Abstention Threshold 🎯 ポイント エージェントが「自信がないときに黙る」仕組み、ちゃんと設計していますか？ 棄権閾値とは、エージェントが「自信がない」と判断して回答を棄権し人間にエスカレーションする信頼度スコアの境界線です。低すぎると誤答がユーザーに届き、高すぎるとエスカレーションだらけで自動化の意味がなくなります。誤答コストの大きさに応じてタスクカテゴリごとに異なる閾値を設定する多段構成が正解です🔑 📋 概要 棄権閾値は、エージェントが回答に自信がないときに人間へのエスカレーションを発動する信頼度スコアの基準値です。閾値が低ければ自動解決率は上がりますが誤答リスクも上がり、高ければ安全ですがエスカレーションが増えて人間の負荷と応答遅延が増大します。「間違った回答を自信満々にする」エージェントは信頼を致命的に損ないます。一方で「何でもかんでも聞いてくる」エージェントは導入の意味がありません。この間のバランスを、業務の誤答コストに基づいて精密に設計するのがこのダイヤルの役割です。 🔍 意思決定のポイント このダイヤルは「誤答した場合のコスト」で決めます。 致命的（不可逆・法的リスク・金銭損害）→ 高い閾値（0.85〜0.95）。返金金額の誤り、契約条件の誤案内、医療・法律相談など。少しでも不確実なら棄権。 中程度（修正可能だが手間がかかる）→ 中程度の閾値（0.70〜0.85）。Jiraチケットの優先度誤判定、Salesforceの商談ステージ誤更新など。 軽微（すぐ修正でき影響が限定的）→ 低い閾値（0.50〜0.70）。FAQ回答候補の表示、Slackでの情報検索結果など。多少の誤りは許容。 一律の閾値は避け、タスクカテゴリごとに異なる閾値を設定する多段構成にしてください⚡ 💡 要点と詳細 棄権閾値を機能させるには、信頼度スコアの設計が重要です。4つの算出方法があります： モデルのlogprob — トークンレベルの確率を集約します。分類タスクでは有効ですが、自由形式の回答では使いにくくなります。 自己評価プロンプト — 「回答の確信度を0〜1で評価せよ」と追加プロンプトで問います。キャリブレーションが必要です。 複数回生成の一致度 — 同じ入力を3〜5回生成し、回答の一致率を信頼度とします。コストはかかりますがロバストです。 検索ヒットの関連度スコア — RAGベースの回答では、検索結果の類似度スコアを信頼度の代理指標にします。 計測すべき指標は、自動解決率（エスカレーションせずに完了した割合）、誤答率（自動回答のうち誤っていた割合、目安として2〜5%以下）、不要棄権率（棄権したが正しく回答できていたケースの割合）、エスカレーション後の解決時間、そして信頼度スコアのキャリブレーション（信頼度0.8の回答の実際の正答率が80%前後か）です📊 ⚖️ トレードオフ 閾値が低すぎると、自動解決率は上がりますが誤答がユーザーに到達します。「間違った回答を自信満々にする」ケースが増え、信頼毀損や実害が発生します。特に金銭・法的リスクが絡む業務では、一度の誤答が取り返しのつかない結果を招きます😰 一方、閾値が高すぎると、エスカレーションが増えすぎて人間がボトルネックになります。ユーザーの待ち時間が増加し、エージェント導入の価値が問われます。期待される自動解決率の目安は、致命的リスクで40〜60%、中程度で60〜80%、軽微で80〜95%です。この数字から大きく外れていれば閾値の見直しが必要です⚠️ 🛠️ ユースケース Zendesk顧客対応：返金・解約に関する回答は閾値0.90で厳格に棄権します。間違った返金額を案内するリスクは取れません。一方、商品情報の案内は閾値0.65で自動回答を優先し、スループットを確保します📚 ServiceNow ITサポート：パスワードリセット手順（定型・低リスク）は閾値0.50で積極的に自動対応。権限変更の承認判断（高リスク）は閾値0.90で、不確実なら即エスカレーションします🎯 Salesforce営業支援：商談の受注確度予測は閾値0.75。データが不十分で信頼度が閾値を下回る場合は「判断を保留します。追加情報をご確認ください」と棄権し、誤った確度予測による営業判断ミスを防ぎます🔧 実践のコツ：初期は高めの閾値（0.85）で開始し、2〜4週間のデータ蓄積後に不要棄権率を分析して0.05刻みで下げてください。誤答率が許容範囲を超えたら即座に閾値を戻すこと。信頼度スコアのキャリブレーションは月次で実施し、モデル更新によるドリフトを補正してください。棄権時には「確認中です、担当者におつなぎします」のように、棄権を透明に伝えるUX設計も忘れずに💪 #AIエージェント# #エンタープライズアーキテクチャ#

AIツールを使っても、良いソフトウェアを作るには開発者自身の技術理解と判断力が不可欠だ、という主張記事だった。 ・ただフライパンに肉を置くだけのステーキ調理に、スキルはほとんど要らない ・だが、本当に美味しいステーキを安定して焼くのは非常に困難 ・AIを使った昨今のソフトウェア開発も、これと同じ状況になりつつある ・誰もがAIに指示を投げ、想像通りの完璧なソフトウェアが出てくることを期待している ・しかしAIは熟練のシェフではなく、単なるレシピ実行機にすぎない ・運が良ければAIは素晴らしいコードを出力してくれる ・ただ、堂々と黒焦げの炭を出して「これはミディアムレアだ」と言い張ることもある ・これで困った人は、高価なAIプロダクトや新しいフレームワークに課金して解決しようとする ・しかし、そうしたサービスの裏側でも結局は同じAIが料理をしていることが多い ・AIは反復作業を自動化し、開発を大幅に高速化できる ・一方で、品質を定義し、トレードオフを判断することはAIにはできない ・技術的には正しくても本質的に間違っているコードを見抜くのは人間の役割 ・結局のところ、望む結果を安定して得るには、自分自身でソフトウェアを深く理解して学ぶしかない

AIをどれだけ使いこなす人がチームにいても、組織は「平均的な体験」の速度でしか変わらない。 仕事は人をまたいで流れるから、一人の速さは、次の人の待ち時間に吸収されていく。 だからチームにAIを広げる仕事の本体は、スターを増やすことより、平均を一段上げること。 地味ですが、組織の速度はそこで決まると思っています。

AIコーディングツールの指数関数的なコスト増をいかにコントロールしていくかについてのdatabricks記事。（一部引き算して読む感じ） ・AIコーディングツールは生産性を劇的に向上させる ・しかし、それに伴ってコストも指数関数的に増大している ・放置すれば、AIによる恩恵がコストで相殺される ・そのため、最高性能ではなく、コスパに優れた効率性フロンティアの追求が必要になっていく ・具体的な対策の筆頭は、より安価で効率的なモデルへの移行 ・特定のモデルへの依存を防ぐため、メタハーネスを導入して柔軟性を確保する ・また、タスクの難易度に応じて安価なモデルと高性能モデルを動的にルーティングする手法も有効 ・予算管理において、利用上限でアクセスを完全に遮断するのは悪手 ・これは、最も生産性の高い開発者の足を引っ張ってしまうため ・代わりにコストを可視化し、閾値を超えたら安価なモデルへダウンシフトさせる仕組みが望ましい ・さらに、不要なコンテキストを削ってトークン消費を抑えることも大事に ・また、プロンプトキャッシングを活用することで、コストを大幅に削減できる （で、Unity AI Gateway というプロダクトの宣伝になるので、以下は略）

# AIエージェントをソフトウェアに組み込むプラクティス # 読取自由・書込ゲート 🎯 「全ツール呼び出しに承認を求める」設計は、承認疲れで自壊します。 読取と書込を非対称に扱うだけで、安全性と生産性の両立が実現できます。承認すべき操作に人間の注意を集中させましょう。 🔥 解決する課題 エージェントのツール呼び出しには副作用のある操作とない操作が混在しています。すべてに一律の承認を求めると、読取が大半を占める実運用では承認疲れが発生し、肝心の書込操作の承認が形骸化してしまいます。かといってすべてを自由にすれば、不可逆な書込操作で取り返しのつかない変更が走るリスクが残ります。 💡 提案パターン ツール呼び出しを「読取（検索・取得・参照）」と「書込（作成・更新・削除・送信）」に二分し、読取は自由に許可、書込にだけ認可・検証・承認・監査のゲートを設けます。R/W分類はツール定義時に静的に付与し、LLMの判断には委ねません。書込ゲートの厳格度は可逆性で段階化し、不可逆操作（メール送信・決済）は人間承認必須、可逆操作（下書き保存）はポリシー検証のみとします。これにより承認疲れを劇的に減らしつつ、副作用の安全性を維持できます。 ✅ 選定条件 使うとき： - 読取と書込が混在し、読取が多数を占める - 不可逆な書込操作（メール送信、決済、本番DB変更）が含まれる - 承認疲れを防ぎ、人間のレビュー帯域を高リスク操作に集中させたい 使わないとき： - 読取自体が機密データへのアクセスを含む場合（個人情報検索など）は、読取にも認可が必要 - 全操作が読取専用で書込がそもそも存在しない場合 - 実験環境で全操作が可逆かつ低コストな場合 ⚠️ 落とし穴 - R/W分類をLLMに任せてはいけません。インジェクションで書込ツールが「読取」と判断される経路を作ります - 「読取だが副作用がある」操作（API呼び出し回数カウント、閲覧履歴記録など）を見落とさないでください - 可逆な書込と不可逆な書込を同じ厳格度にすると、承認疲れの問題が再発します 🔧 実装方針 - ツール定義時にtype（read/write）とgate種別（none/auto/human_approval）を静的に付与し、実行時にLLMが分類を変更できない構造にします - 読取パスではメタデータのみをログに記録し、書込パスでは入力検証・ゲート判定・実行・監査ログの全量記録をパイプラインとして実装します - 書込ゲートの厳格度をreversibleフラグで段階化し、不可逆操作にはdry-runの前段必須化も組み合わせます - ゲート判定ロジックはゲートウェイ層のコードで強制し、プロンプトによる制御は一切使用しません #AIエージェント# #ソフトウェアアーキテクチャ#

AIKaに限らないんだけど90年代に多いジャンプするときのﾋｭﾋｭﾋｭﾋｭ…！って感じのタツノコっぽい効果音すごい好きなので自分の漫画がアニメ化したらあの音使ってほしい

AI各社は、きっとそろそろ、業務会社のノウハウを持った人をリクルートして吸収することをやり出すんじゃないかな。ネットに落ちている情報はもう学習しただろうから。

AIで答えを出すのは速くなった。だから価値が移った先は、たぶん「どの問いを立てるか」だと思っている。 支援先の初回面談で、「課題は何ですか」とは聞かないようにしている。事前に調べて、仮説を持っていく。「ここで手が止まっていませんか」と、先に置いてしまう。 外れてもいい。むしろ外れた時のほうがいい。「いや、実はこっちなんです」と、本音のほうが出てくる。 答えを出す速さは、もう差にならない。たたき台になる問いを、どれだけ用意して行けるか。準備の精度が、そのまま提供できる価値になっている気がする。