SHAPで不正検知モデルを説明できれば安心、と思っていたら実はもっと大きな穴があったという話です。
タイトル: What SHAP Can't Explain About Agentic AI Fraud
URL:
❓ そもそも不正検知はどうやって「人間らしさ」を見ているの?
💡 タイピングの癖やデバイスの切り替え、取引タイミングの揺らぎなど、人間のストレスやベースラインからの逸脱を手がかりにしてきました。これがこの10年の不正検知の前提でした。
❓ SHAPは何を解決してくれるの?
💡 金額・タイミング・デバイス・頻度といった取引特徴量をランク付けして「なぜこの取引を怪しいと判断したか」を説明してくれます。コンプライアンス担当者が監査できる透明性を提供します。
❓ 自律エージェントが相手だと何が変わるの?
💡 エージェントには概日リズムもパニックによるミスもなく、人間離れした一貫性で取引します。つまり「人間のベースラインからのズレ」という前提自体が成立しなくなります。
❓ ではどうすればいいの?
💡 取引単位のスコアリングではなく、エージェントの意思決定経路やツール呼び出しを追う「軌跡監査」への転換が必要だと著者は論じます。ただし実装済みの解決策はまだ存在しないそうです。
#
不正検知# #
説明可能AI#