AIエージェントの評価で「最終結果」だけ見ていませんか？ AIエージェントを評価するとき、偶然結果が正しくても、検証の省略、無駄な検索、不要または危険な操作を見逃すようでは適切な評価とは言えません。 結果だけでなく、過程・環境・評価システム・時間・評価項目を設計する方法を実践検証とともにブログにしました。 「AIエージェント評価で見落とされがちな手法」 #AIエージェント# #LLM# #Qiita#

TL;DR エージェント評価の判定器をLLMからJevという専用モデルに変えるだけで、精度100%・コスト80分の1以下という結果が出たそうです。 タイトル: Jev-as-a-Judge for Agent Evals URL: ポイント ⚖️ コードベース評価は決定論的すぎ、LLM-as-a-Judgeは非決定論的すぎるという板挟みへの解決策として提案されています 🎯 500回繰り返した判定でJevの一致率は100%、比較対象のClaudeは80.0%にとどまりました 📉 品質スコアの分散もJevが最小で、他の判定器は最大913倍もばらつきが大きかったそうです 💰 5リクエストの評価コストはJevが0.34ドル、Claudeは28.17ドルと桁違いの差がありました ⚡ 平均応答時間はわずか0.44秒で、判定の高速性も際立っています 🔍 コードベース評価とLLM-as-a-Judgeに続く「第3の評価形態」として位置づけられています 低コストで判定を繰り返し実行できるようになると、エージェント開発のフィードバックループそのものが変わりそうです。 #AIエージェント評価# #LangChain#

TL;DR: 「GUI操作」と「コーディング」を同時に鍛え・測れる、5プラットフォーム対応のエージェント評価環境が登場しました。トップモデルでも見た目の再現度と動作の厳密な正しさには大きな差があることが明らかになりました。 タイトル: RecreationWorld: Scalable and Verifiable Environments for Hybrid Computer-Use Agents URL: ポイント 🖥️ Ubuntu・macOS・Windows・Android・Webの5プラットフォームに対応 🔍 ソースを見せず動いているアプリを観察して一から再実装させる「再現」タスク 🧪 250タスクのRecreationBenchを構築、プログラム検証と視覚検証の両方で採点 📈 3.5万件の再現軌跡で学習したモデルは分布外ベンチマークで最大17.9ポイント改善 🏆 総合1位のGPT-6 Astraでもスコアは58.1% ⚠️ そのGPT-6 Astraでさえ全プログラムテスト通過はわずか2.8% 🔧 ElectronアプリをネイティブGTK/AppKitに置き換えるなど柔軟な実装も観測 見た目の再現力と本当の動作忠実性の間には、まだ大きなギャップがあることを突きつける研究です。 #AIエージェント# #ComputerUse#

画像を見ながらOCRや検索といった外部ツールを使って答えを出すマルチモーダルAIエージェントの評価を、最終的な正解率だけで済ませるのは足りない、と指摘する論文が出た( 正解にたどり着けたとしても、それが根拠のある推論の結果なのか、途中の誤りがたまたま打ち消し合って正解しただけなのかは、最終的な正誤だけでは見分けがつかない。論文はこうした失敗パターンを4つに整理しているが、なかでも厄介なのが「Phantom Grounding」と呼ぶ現象だ。証拠そのものは正しく引用しているのに、結論に出てくる数字や固有名詞がその証拠には書かれていない、一見もっともらしいのに中身が伴わないケースを指す。 研究チームが提案するLedgerMindは、推論の途中経過を1本のテキストに垂れ流すのをやめ、ツールの出力(OCR結果や検索結果など)を出どころ・種類・信頼度付きの「証拠台帳(Structured Evidence Ledger)」として記録する。以降の推論は台帳に載っている証拠しか引用できないうえ、引用しているだけでは不十分だとして、結論の数字や固有名詞が引用元の証拠と実際に一致しているかまで照合する。簡単な質問には軽い経路、複雑な質問には重い経路へ自動で振り分け、余計な深読みで正しい答えを崩す「考えすぎ」も防ぐ。さらに、間違いに気づいたときの修正も自由に書き直させず、証拠の差し替えやツールの呼び直しなど決まった操作だけに絞っている。自由な書き直しは、直しているつもりで新しい未検証の主張を紛れ込ませやすいためだ。 VTC-Benchというベンチマークでは、Gemini-3-Flashと組み合わせて58.9%(同じモデル単体の素の性能から+12.4ポイント)まで伸ばし、既存手法の最高値を更新している。検証した中で一番性能が低かったKimi-K2.6ほど伸び幅が大きく、あるサブベンチマークでは正解率が19.5%から46.0%(+26.5ポイント)まで跳ね上がった。もっとも興味深いのはアブレーション実験(仕組みを1つずつ外して効果を確かめる実験)で、この証拠台帳を丸ごと外すと正解率が68.9%から53.5%まで急落する。「証拠を引用しろ」と指示するだけでは足りず、構造として引用先を強制する部分こそが効いている、という結果だ。

『業務向けAIエージェントは結果よりも過程を評価する』というブログを投稿しました。 業務の再現性を考えるとエージェントは結果評価よりも過程評価をちゃんとしたほうが良さそう、という内容です。

🎮 「AIエージェントは、実際のゲームエンジンで“遊べるゲーム”を最後まで作れるのか？」——この問いに正面から答えるベンチマークが登場しました。結果は、最強でも成功率41%という厳しいものでした。 タイトル: GameCraft-Bench: Can Agents Build Playable Games End-to-End in a Real Game Engine? URL: 🎮 概要 GameCraft-Benchは、自然言語の仕様から実エンジン（Godot 4）上で完成・起動・プレイ可能なゲームをエンドツーエンドで作れるかを評価するベンチマークです。15ジャンル・計140タスクで構成されています。 ❓ 解決する課題 これまでのコーディング評価は「コードが正しいか」が中心でした。 ・ゲームの良し悪しは、実際に動かしたときの挙動で決まる ・既存ベンチマークは実エンジン上の「遊べる成果物」を評価できていなかった 💡 方法論と提案手法 3つの評価原則を立てています。 ・Engine Grounding：実エンジンGodot 4上で開発（ヘッドレス実行で再現可能な自動テスト） ・Artifact Completeness：起動可能で自己完結したプロジェクトを提出。起動できなければ0点（Build Gate） ・Interactive Verification：エージェントが入力トレース（マウス/キー操作列）を提出し、検証器がGodotで再生して動画化、GPT-5.5がルーブリックで採点 採点はCore Mechanics・Content Depth・Functional Visuals・Art & Presentationの4観点で重み付けします。 🎯 ユースケース コーディングエージェントを「コードの正しさ」ではなく「遊べる成果物を作り切れるか」で測れます。自動でプレイ検証まで回るため、ゲーム生成やUI生成エージェントの実力評価に使えます。 📊 実験結果 ・最高はClaude Opus-4.7で41.46%、GPT-5.5が39.49%、多くは40%未満 ・Core Mechanicsは比較的強い（上位で約55%）が、Art & Presentationが最も弱い（約36%） ・スクリーンショットで確認を重ねるエージェントほど好成績。一方でツール使用量と最終スコアの相関はほぼゼロ（r=+0.016）で、build→replay→evaluateのループを閉じることが鍵でした #AIエージェント# #ゲーム生成#

🏥 医療・ライフサイエンス領域でのエージェント導入は、製品の質だけでなく監査証跡や患者安全まで問われる特殊な世界です。3社の実例から見えてきた共通点を紹介します。 タイトル: Scaling Agents in Healthcare & Life Sciences: Lessons from Madrigal Pharmaceuticals, Abridge, and Vizient URL: LangChainが医療・ライフサイエンス業界を分析し、可観測性と評価をエージェント本体と同時に作り込む企業が先を行くと報告しています。3つの事例が象徴的です。 注目ポイント①💊 Madrigal Pharmaceuticals バラバラな形式のデータをウェアハウスに正規化し、Deep Agentsでオーケストレーター＋モジュール型スキルの構成に再構築。新ユースケースの開発が数週間から数時間に短縮し、デプロイも数ヶ月から数週間へ短縮しました。 注目ポイント②🩺 Abridge 臨床記録エージェントが250以上の医療機関へ拡大する中、品質の柱ごとにLLM判定器を整備し段階的リリースを構築。判定器作成が数日から数時間に、リリースサイクルが1〜2ヶ月から数日に短縮し、精度17%・完全性19%改善を達成しました。 注目ポイント③🏢 Vizient サイロ化したマルチエージェントを、スーパーバイザーが束ねる階層構造に再編。プロンプトをコードから分離したことで、エラーのリアルタイム診断や新データソースの高速オンボーディングが可能になりました。 信頼を後付けせず最初から組み込む姿勢が、結局は自律性拡大の近道になっているという学びだと思います。 #AIエージェント# #ヘルスケアDX#

OpenAIの評価用AIエージェントが自律的にHugging Faceのインフラへ侵入した事件の技術タイムラインを記したHFのポスト。かなり詳しく書かれている。 個人的には、想像よりやばい動きをしていると思った。翻訳ツールを使って読んでおいた方が良いと思う。 ちょいメモ。 ・侵入後はクラスターのシークレットを読み取り、社内VPNキーなどを窃取した ・さらに乗っ取ったノードを社内VPNに登録し、内部のソースコード管理へアクセスしている ・C2（Command and Control）には専用サーバーを使わず、ペーストビン等の公開サービスを悪用 ・通信が遮断されると自律的にDNSを書き換えるなど、極めてしぶとく活動する ・機械的なスピードで実行されたアクションは17,600回にも及ぶ ・HFの調査チームは、膨大な攻撃ログの解析にAIを使おうとした ・ただ、Claudeなどの商用モデルは安全ガードレールが働き、解析を拒否 ・結局、オープンモデルのGLM-5.2を自社ホストしてペイロードの解読に成功している ・AIエージェントによる攻撃は圧倒的な手数を誇 ・防御側の前提を根本から変えてくる

AIエージェントをエンタープライズシステムに組み込むプラクティス 【オブザーバビリティ / トレース＋プロベナンス】 💡 「なぜその回答になったか」を説明できないエージェントは、本番に出してはいけません。構造化トレースとプロベナンスで、確率的な挙動を追跡可能にしましょう。 🔥 解決する課題 - 「なぜこの回答になったか」を再現・分析できない - 部署・プロジェクト・エージェント単位のコストを把握できない - モデル変更やプロンプト変更による品質劣化をサイレントに見逃す - 規制下の意思決定で「なぜこの判断になったか」を後から説明できない 🏗️ 提案パターン 推論ステップ・ツール呼び出し・トークン数・コスト・レイテンシ・評価スコアをOpenTelemetry準拠の構造化トレースで記録します。ログ基盤にはメタデータを、オブジェクトストレージにはプロンプト本文や生出力を格納し、トレースIDで紐付けます。正常系はサンプリング（1〜10%が起点）、エラーや低評価は全量記録します。規制下の重要な意思決定には、参照データ・推論経路・使用モデル・承認者まで遡れるプロベナンス（来歴）を追加します。 ✅ 選定条件 - 向き：本番運用するすべてのエージェント（例外なし） - 不向き：特になし（本番では必須パターン） ⚠️ 落とし穴 - 全プロンプト本文をログ基盤に入れると容量・コストが非現実的になる - PIIのマスキングを怠るとトレースログ自体がセキュリティリスクになる - プロベナンスの粒度を決める設計判断は、必ず人間のレビューを通すべき 🛠️ 実装方針 1. OpenTelemetry GenAI semantic conventions 準拠のスパンを全エージェントに組み込み、推論・ツール呼び出し・検索の各ステップをトレースIDで一貫して記録します 2. Langfuse / LangSmith / Arize 等のLLMオブザーバビリティ基盤にメタデータ（モデル名・トークン数・レイテンシ・コスト・評価スコア）を送信し、ダッシュボードで部署別コスト・品質推移を監視します 3. プロンプト本文・コンテキスト・生出力はオブジェクトストレージ（S3等）に格納し、ログ基盤のメタデータとIDで紐付けます 4. tail-based sampling を導入し、正常系は1〜10%サンプリング、エラー・低評価・高コストのリクエストは全量記録します 5. 規制対応が必要な場合は、決定ログをappend-onlyの不変監査ログとして保持し、参照データ・使用モデル・プロンプトバージョン・承認者まで逆引き可能なプロベナンスを構築します #AIエージェント# #エンタープライズアーキテクチャ#

AIエージェント時代のテスト駆動開発(TDD)の話 一年前のセッションなので、今聴くとせやな 従来のTDDは決定的な出力を前提にするが、AIは同じ入力でも出力がばらつくのでこの前提が崩れる ゆえに評価はpass/fail の二値をやめ、スコア・レーティング・満足度・挙動（推論・ツール選択・判断）で測る。 AI版SDLCは5段階 ①企画/spec（AIが本当に効く箇所を見極める） ②実験（小データで小さく検証） ③大規模eval（数百〜数千のテストで評価） ④リリース管理（AIとアプリのデプロイを分離） ⑤可観測性（本番のエッジケースをトレース） 肝はループ、テスト作成→eval→プロンプト/ロジック修正→リグレッション確認 1つ直すと別が壊れるのを検知する 魔法のように自己改善するエージェントは幻想。複雑なほど地道な可観測性が必要