登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 SearchAgents
SearchAgents コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
SearchAgents を含む検索結果
🔎 検索エージェントのRL学習が途中で伸びなくなる、その隠れた原因を突き止めた論文です。 タイトル: Harness-G: A Graph-Structured Harness for Search Agents URL: ❓ なぜ学習が崩壊するの? 💡 「検索等価性崩壊」が原因です。文字列は違うのに同じ証拠しか引かないクエリばかりになり、同じ証拠→同じ回答→同じ報酬でグループ内のアドバンテージが消え、学習信号が枯れてしまいます。 ❓ Harness-Gはどう解決するの? 💡 クエリを自由記述させるのをやめ、コーパスから作った段落-文-エンティティのグラフ上で「メニュー選択」に変えます。ポリシーは文字列でなく行動IDを選ぶだけ。有限・検証可能・先読み可能なので、検索結果の多様性が保たれます。 ❓ 信用割当(SNC)とは? 💡 凍結した回答器で「その行動が正解確率をどれだけ上げるか」を先読みし、他の候補との差で評価します(フロンティア相対)。さらに「先に橋渡しエンティティを見つける」ような後で効く一手を来歴を辿って後方伝播(イネーブルメント)。追加ロールアウト不要です。 ❓ 効果は? 💡 6つのQAでGraph-R1を1.5Bで+10.74、3Bで+3.98上回り両スケール最高。マルチホップで特に強く、グラフ構築はAPIコスト$0です。 #検索エージェント# #強化学習#
もっと見る
TL;DR: 検索エージェントへの攻撃を、防御に合わせて自ら進化させると、固定の攻撃より大きく精度を下げられました。静的なベンチマークは、リスクを過小評価しているかもしれません。 The Web Doesn't Sit Still: Adversarial Self-Evolving Attacks on Search Agents ポイント ・🧪 RAGポイズニングの評価を、固定テンプレートではなく「進化する攻撃」で行う枠組み ・🧬 CREO: 成功と失敗の推論トレースを対比し、LLMが戦略を交叉・突然変異させる進化的最適化 ・🔁 防御側は前ラウンドの攻撃パターンをプロンプトに開示して対抗する二階層の設定 ・📉 MuSiQueのGLM-5.1は、基準Acc 82がAuthChainで41、CREOで16に低下 ・⚠️ 平均TASRはCREOが60.5〜74.6%、FactSwapは約20% ・😵 偽情報を信じるだけでなく、矛盾に混乱して回答を拒否する「認知的麻痺」も新指標APRで計測 ・🛡️ キーワードやパープレキシティのフィルタはほぼ無効。有効な防御も残存リスクが大きい 評価はマルチホップQAに限られ、防御は戦略を知った条件です。それでも、検索エージェントの安全性評価は適応型攻撃を前提にすべきだと示しています。 #AIセキュリティ# #検索エージェント#
もっと見る
TL;DR 自分で問題を作り自分で答える自己進化型エージェントは、出題者と解答者が同じ間違いで「意気投合」してしまう「共食い」に陥ります。出典を分割して評価する手法でこれを防ぎ、性能を8ポイント以上改善しました。 タイトル: False Frontiers: Diagnosing and Mitigating Co-Cheating in Self-Evolving Search Agents URL: ポイント 🔁 出題者と解答者が同じ出典由来の誤りを共有し、偽の一致が報酬として循環する「共食い」を発見 📉 標準的なDr. Zeroでは偽の一致が6.1%・8.8%発生 ✂️ 出典を2つのフォールドに分割し、互いに相手側で学習した補助解答者が採点するCrossFitを提案 📊 CrossFit単独で偽の一致を3.0%・3.7%に、MSVと併用すると2.0%・1.7%まで削減 🚀 下流タスクの平均Cover-EMはDr. Zero比で8.8・8.4ポイント向上 🧩 マルチホップタスクほど改善幅が大きく、平均10ポイント以上の効果 💰 計算コストはベースラインの1.72〜2.7倍増加するが、半予算の変種でも効果を確認 評価者自身の学習履歴まで監査しないと、見かけの進歩に騙されるという指摘が印象的です。 #自己進化エージェント# #強化学習#
もっと見る