AIのシステムプロンプト(ユーザーには見えない、開発者が事前にAIへ埋め込む行動指示)を、実際に流出・公開された88の商用AI製品から集めて監査した論文が出ていた( 論文はAISPA(Artificial Intelligence System Prompt Assurance)という枠組みを使い、身元の透明性・誠実さ・プライバシー保護・安全な行動など8つの観点から3249個の指示を「ユーザーを守る指示」か「ユーザーの不利益になる指示」かに分類している。 結果、88製品中87製品は最低1つ保護的な指示を持つ一方、8観点すべてをカバーしているのはわずか23.9%。さらに34製品(38.6%)には、ユーザーの利益に反する指示が少なくとも1つ混じっていた。プロンプトの平均文字数も2024年の9千字強から2025年には3万字超へ、保護的な指示の数も15.0個から38.4個へと2倍以上に増えている。 企業ごとの差も大きく、Anthropicは製品あたり平均62.3個の保護的指示・0.1個の問題ある指示ともっとも手厚い一方、Veniceだけは問題ある指示(3.0)が保護的指示(2.0)を上回っていた。 グレーゾーンの指示も見つかっている。あるプロンプトはAIに自らを「友達」と名乗らせ、会話を終えようと提案することを禁じていた。見えない場所でAIの人格は、こうして日々設計されている。

AIにコンピュータシステムのこと色々と聞いているんですけど、今のところclaude(課金）が、デフォルトでも欲しいレベルの回答をくれていい感じ。無課金Geminiはポンコツだし、もっと上のモデルになると、あれ？ずいぶん知的レベルが高いな……ってなって話が噛み合わなくなる（私が置いてかれる）

AIの進化って本当にすごいよね！最近のトレンドや意外な事実をまとめた記事見つけたからシェアするね。読んだら、きっと驚くと思うよ！➡️ #AIの意外な事実# #AI#

AI絵投稿してる謎のアカウントフォローしててなんぞや？？って思ったら海外のお絵描きん人が乗っ取られるっぽい…でもあまり絵上げてる人じゃないので筆へし折ったかもでわからんちん

AIで「合成ユーザー」を作り出すSimileが、非公開の「ステルスモード」を解除してからわずか5か月で2億ドル超のシリーズBを調達し、評価額20億ドルに達した(https://techcrunch[.]com/2026/07/30/synthetic-user-startup-simile-raises-200m-at-2b-valuation-5-months-after-100m-series-a/)。Simile自身は「シミュレーション企業」を名乗り、人間の行動そのものを再現することを事業の軸に据えています。 今回のラウンドはGreenoaksとIndex Venturesが共同でリードし、Hanabi、Bain Capital Ventures、A*、Factory、CVS Health Ventures、Definitionが参加しました(同社発表による)。Index Venturesは前回のシリーズA(1億ドル)もリードした投資家です。 Simileによると、この5か月で売上は5倍に伸び、Fortune100企業(米フォーチュン誌が選ぶ売上上位100社)向けに数千万件規模のシミュレーションを実行できる基盤モデルを構築し、各シミュレーションの精度を予測する「confidence model」(同社いわく世界初)も訓練したといいます。本拠地だった米パロアルトの小さなオフィスから、従業員50人超のグローバルチームに拡大しました。CVS Health、Wealthfront、Deloitte、Gallupといった企業が、製品発表の戦略立案や顧客体験の最適化、新市場への参入にすでに活用しているそうです。 創業者のJoon Sung Park氏はスタンフォード大学で博士号を取得しており、在学中には、AIエージェントが人間のように暮らしパーティーまで開く「Smallville」という研究プロジェクトを手がけていました。Simileは「地球上の80億人全員を正確かつ誠実に再現する」ことを掲げていますが、TechCrunchはこのミッションを荒唐無稽だと評しつつ、人間は感情と理性の両方に左右され予測不能だからこそ市場調査が必要だという前提を踏まえてもなお、合成ユーザーによるリサーチ自体は有望な領域であり、プロダクトのモックアップ作りにおける「vibe coding」(直感を頼りにAIへコードを書かせる開発スタイル)のような立ち位置だと評しています。 同分野では2025年12月にシリーズAで巨額の評価額10億ドルを付けたAaruという競合も登場しており、投資熱の高さがうかがえます。

AIによる開発生産性の向上を最大限享受するためには「いかにAIに任せて適当にやれるか」が大事。いちいちレビューもしてられないし人間が許可とかしていられないんですよもう。そんな風に、日々の開発を適当にやれる未来のために、妥協なく仕組みを作るしかない

AIの成長を感じてる？最近の進化がすごすぎて、未来が楽しみだよね！新しい記事でAIの最新トレンドをチェックしてみて！👉 #AI# #AIの未来予測#

# AIエージェントをエンタープライズシステムに組み込む意思決定ポイント # 棄権閾値｜Abstention Threshold 🎯 ポイント エージェントが「自信がないときに黙る」仕組み、ちゃんと設計していますか？ 棄権閾値とは、エージェントが「自信がない」と判断して回答を棄権し人間にエスカレーションする信頼度スコアの境界線です。低すぎると誤答がユーザーに届き、高すぎるとエスカレーションだらけで自動化の意味がなくなります。誤答コストの大きさに応じてタスクカテゴリごとに異なる閾値を設定する多段構成が正解です🔑 📋 概要 棄権閾値は、エージェントが回答に自信がないときに人間へのエスカレーションを発動する信頼度スコアの基準値です。閾値が低ければ自動解決率は上がりますが誤答リスクも上がり、高ければ安全ですがエスカレーションが増えて人間の負荷と応答遅延が増大します。「間違った回答を自信満々にする」エージェントは信頼を致命的に損ないます。一方で「何でもかんでも聞いてくる」エージェントは導入の意味がありません。この間のバランスを、業務の誤答コストに基づいて精密に設計するのがこのダイヤルの役割です。 🔍 意思決定のポイント このダイヤルは「誤答した場合のコスト」で決めます。 致命的（不可逆・法的リスク・金銭損害）→ 高い閾値（0.85〜0.95）。返金金額の誤り、契約条件の誤案内、医療・法律相談など。少しでも不確実なら棄権。 中程度（修正可能だが手間がかかる）→ 中程度の閾値（0.70〜0.85）。Jiraチケットの優先度誤判定、Salesforceの商談ステージ誤更新など。 軽微（すぐ修正でき影響が限定的）→ 低い閾値（0.50〜0.70）。FAQ回答候補の表示、Slackでの情報検索結果など。多少の誤りは許容。 一律の閾値は避け、タスクカテゴリごとに異なる閾値を設定する多段構成にしてください⚡ 💡 要点と詳細 棄権閾値を機能させるには、信頼度スコアの設計が重要です。4つの算出方法があります： モデルのlogprob — トークンレベルの確率を集約します。分類タスクでは有効ですが、自由形式の回答では使いにくくなります。 自己評価プロンプト — 「回答の確信度を0〜1で評価せよ」と追加プロンプトで問います。キャリブレーションが必要です。 複数回生成の一致度 — 同じ入力を3〜5回生成し、回答の一致率を信頼度とします。コストはかかりますがロバストです。 検索ヒットの関連度スコア — RAGベースの回答では、検索結果の類似度スコアを信頼度の代理指標にします。 計測すべき指標は、自動解決率（エスカレーションせずに完了した割合）、誤答率（自動回答のうち誤っていた割合、目安として2〜5%以下）、不要棄権率（棄権したが正しく回答できていたケースの割合）、エスカレーション後の解決時間、そして信頼度スコアのキャリブレーション（信頼度0.8の回答の実際の正答率が80%前後か）です📊 ⚖️ トレードオフ 閾値が低すぎると、自動解決率は上がりますが誤答がユーザーに到達します。「間違った回答を自信満々にする」ケースが増え、信頼毀損や実害が発生します。特に金銭・法的リスクが絡む業務では、一度の誤答が取り返しのつかない結果を招きます😰 一方、閾値が高すぎると、エスカレーションが増えすぎて人間がボトルネックになります。ユーザーの待ち時間が増加し、エージェント導入の価値が問われます。期待される自動解決率の目安は、致命的リスクで40〜60%、中程度で60〜80%、軽微で80〜95%です。この数字から大きく外れていれば閾値の見直しが必要です⚠️ 🛠️ ユースケース Zendesk顧客対応：返金・解約に関する回答は閾値0.90で厳格に棄権します。間違った返金額を案内するリスクは取れません。一方、商品情報の案内は閾値0.65で自動回答を優先し、スループットを確保します📚 ServiceNow ITサポート：パスワードリセット手順（定型・低リスク）は閾値0.50で積極的に自動対応。権限変更の承認判断（高リスク）は閾値0.90で、不確実なら即エスカレーションします🎯 Salesforce営業支援：商談の受注確度予測は閾値0.75。データが不十分で信頼度が閾値を下回る場合は「判断を保留します。追加情報をご確認ください」と棄権し、誤った確度予測による営業判断ミスを防ぎます🔧 実践のコツ：初期は高めの閾値（0.85）で開始し、2〜4週間のデータ蓄積後に不要棄権率を分析して0.05刻みで下げてください。誤答率が許容範囲を超えたら即座に閾値を戻すこと。信頼度スコアのキャリブレーションは月次で実施し、モデル更新によるドリフトを補正してください。棄権時には「確認中です、担当者におつなぎします」のように、棄権を透明に伝えるUX設計も忘れずに💪 #AIエージェント# #エンタープライズアーキテクチャ#