🛡 TL;DR: 「LLM版のペネトレーションテスト」を謳うオープンソースのレッドチーミングフレームワークです。 タイトル: confident-ai/deepteam URL: 📌 ポイント 🎯 50種類以上の脆弱性をデータ漏洩・バイアス・認可バイパス・エージェント固有リスクなど6カテゴリで網羅 ⚔️ プロンプトインジェクションやマルチターンのジェイルブレイクなど20種類以上の攻撃手法を用意 📋 OWASP Top 10 for LLMs/Agents、NIST AI RMF、MITRE ATLASなど業界標準フレームワークに準拠 🔒 評価はすべてローカル実行でデータを外部送信しない設計 🚦 本番運用向けにToxicityGuardなど7種類のリアルタイムガードレールも搭載 ⭐ GitHubで2.8kスター、1,187件超のコミットで活発に開発中 `pip install`してコールバック関数を渡すだけで始められる手軽さも、実運用で導入しやすいポイントだと思います。 #LLMセキュリティ# #レッドチーミング#

エージェントの不具合を「本番で気づく」から「デプロイ前に潰す」へ。LangSmithが新機能を発表しました。 タイトル: LangSmith Engine v2: Red Teaming and Automated Testing URL: 📝 概要 LangSmith Engineは問題の自動検知と修正生成を行うツールで、5月のローンチ以来7,000万件超のトレースを解析してきました。v2では「レッドチーミング」と「修正の自動検証」という2つの新機能が加わります。 ❓ 解決する課題 これまで開発者は、未検証の修正をそのままデプロイするか、手動検証に時間をかけるかの二択を迫られていました。レイテンシ増加や非効率な実行パスといった微妙な劣化も、人のレビューでは見落とされがちでした。 💡 方法論と提案手法 Engineは本番トレースとリポジトリを解析してエージェントの挙動を理解し、ハルシネーションやプロンプト違反を本番投入前に体系的にテストします。さらに、失敗をサンドボックスで再現して修正案を生成し、元の失敗ケースで反復的に検証した上で、通過した解決策だけを人間のレビューに回します。 📊 実験結果 ・問題検知能力がIssueBenchで2倍以上改善 ・生成される修正案の有効性がTerminal-Bench相当の指標で25%向上 🌍 ユースケース LangSmith PlusおよびEnterprise SaaSユーザー向けに提供開始、セルフホスト対応も近日予定。Deploymentユーザー向けにはプライベートベータで提供中です。 #LangSmith# #AIエージェント#

「レッドラインに挑むことは許されない」中国駐米大使が米国を牽制→習近平氏はトランプ氏に台湾への武器売却停止を要求か、米中首脳会談へ 台湾問題を軸に、首脳会談前から米中の駆け引きが激しくなっています。

レッドブルは消費税1%、リポDは10%のまま→「食品」か「指定医薬部外品」かで税率9%差、2027年4月から2年間限定…新聞は何%なんだよw 減税の恩恵は、飲み物の種類より制度上の分類で分かれます。

レッドソックスは7月28日(日本時間7/29)にアスレチックスに負けてから8連勝中 7月の成績は球団記録の15連勝を経て21勝4敗(勝率.840) そこから更に勝ちを重ねております ガチでほんとにあった怖い赤靴下🟥🧦

＼ #れっどげーむ# ／ ありがとうございました！ ほんとみんな好き〜^ᴗ.ᴗ^♩!!! 来てくれたみんなから楽しかったって声沢山聞けて超嬉しかった😭😭🙏 楽しい時間をありがとう𖤐 ̖́- 囲まれショットを共有✌️⬇️