登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 イヨンジ
イヨンジ コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
イヨンジ を含む検索結果
LEE YOUNGJI ライブレポート到着🗣´- 大量のライブ写真とともに、 熱狂の公演の模様をぜひご覧ください! 🔗 #이영지# #イヨンジ#
間接プロンプトインジェクションのリスク考慮で「URL を与える時は慎重に」が原則ですけど、公式ページですから大丈夫でしょう。
このプロンプトインジェクションはかなり面白いな。 ・まず前提として、人は目で見える情報と自分の考えを感覚器官の違いで区別できる ・だが、LLMにはそれができない ・だから、情報を区別し、構造を与えるための目印として導入されたのがuserやtool、thinkといった役割(Role)タグ ・本来、役割タグは、ここから先は外部データである、ここはユーザーの指示である、といった境界線として機能するはずだった ・だが、モデルは、テキストがどのタグで囲まれているかよりも、どのように書かれているかという文体を基準にして情報の出所を判断していることがわかった ・この欠陥を突く攻撃が CoT Forgery ・最近の推論モデルは、回答を生成する前に内部で思考(think)する ・モデルにとって自分自身の思考は、再度検証する必要のない絶対的に信頼できる結論だったはず ・そこで、ユーザーのプロンプト内に、いかにもそのモデルが思考したかのような文体で、悪意のある行動を正当化する偽の推論プロセスを紛れ込ませる ・するとモデルは、自分がすでに考え落ちした結論だ、と錯覚して、ガードレールから逸脱する
もっと見る
金融特化型L1のインジェクティブ、米SECに移転代理人登録を申請 RWA基盤構築へ
TL;DR: プロンプトインジェクションを「モデルの賢さ」ではなく「システム設計」で防ぐ手法CaMeLです。AgentDojoで77%のタスクを、証明可能なセキュリティ付きで解決しました。 タイトル: Defeating Prompt Injections by Design URL: ポイント ・🧠 Privileged LLMは計画だけを書き、信頼できないデータは一切見ません ・🔒 Quarantined LLMは非信頼データを構造化するだけで、ツールは持ちません ・🏷️ 全ての値に出所と読み手のcapabilityを付与します ・📜 ツール呼び出し前にPythonのセキュリティポリシーで検査します ・📊 Claude 3.5 Sonnetで攻撃成功は0件。次点の防御は8件でした ・⚖️ 有用性は84%から77%へ。トークンは約2.8倍に増えます ・🕳️ 例外や時間などのサイドチャネルは課題として残ります 信頼できないモデルの周りに安全なシステムを作るという発想が、エージェントの本番運用で重要になりそうです。 #プロンプトインジェクション# #AIエージェント#
もっと見る
Live Search、イタンジと提携。全国10万部屋以上の物件写真を「ITANDI BB」から購入可能に
# Claude Agent SDKの便利で実践的な使い方 🛡 プロンプトインジェクション対策・認証情報プロキシ・最小権限で多層防御を構築しましょう。 セキュアデプロイメントは、分離技術・認証情報プロキシ・ネットワーク制御でエージェントの安全な本番運用を実現するガイドです。 📌 タイトル:AI エージェントの安全なデプロイ 🔗 URL: 🧩 概要 sandbox-runtime / Docker / gVisor / Firecracker の分離技術、認証情報プロキシパターン、ネットワーク・ファイルシステム制御を組み合わせた多層防御を提供します。 🛠 使い方 分離強度に応じて技術を選択:単一開発者/CI は sandbox-runtime、マルチテナントは gVisor/Firecracker。認証情報は Envoy / mitmproxy / LiteLLM で境界外注入します。 🏗 実践的な使い方 ・認証情報プロキシパターン:API キーをエージェント境界外のプロキシで注入し、エージェントは認証情報を見ずに API 呼び出しします。`ANTHROPIC_BASE_URL` でルーティング。 ・最小権限:必要ディレクトリのみ読み取り専用マウント、`.env`・`~/.aws/credentials`・`*.pem` を除外、`--network none` + Unix ソケットプロキシでネットワーク制限。 ・クラウドではプライベートサブネット + クラウドファイアウォールでプロキシ以外の送信を全ブロックし、許可リスト強制・認証情報注入・全トラフィックログを実現します。 💡 ユースケース 🔐 認証情報のエージェント境界外管理 🌐 ネットワーク制限による外部送信の防止 🏢 マルチテナント環境での強分離 ⚠️ 注意点 信頼できないコンテンツ(README、Web ページ、ユーザー入力)にはプロンプトインジェクションが含まれる可能性があります。ネットワーク制御は最後の防衛線として必ず設定してください。 #ClaudeAgentSDK# #AI#
もっと見る
# Claude Agent SDKの便利で実践的な使い方 🛡 プロンプトインジェクション対策・認証情報プロキシ・最小権限で多層防御を構築しましょう。 セキュアデプロイメントは、分離技術・認証情報プロキシ・ネットワーク制御でエージェントの安全な本番運用を実現するガイドです。 📌 タイトル:AI エージェントの安全なデプロイ 🔗 URL: 🧩 概要 sandbox-runtime / Docker / gVisor / Firecracker の分離技術、認証情報プロキシパターン、ネットワーク・ファイルシステム制御を組み合わせた多層防御を提供します。 🛠 使い方 分離強度に応じて技術を選択:単一開発者/CI は sandbox-runtime、マルチテナントは gVisor/Firecracker。認証情報は Envoy / mitmproxy / LiteLLM で境界外注入します。 🏗 実践的な使い方 ・認証情報プロキシパターン:API キーをエージェント境界外のプロキシで注入し、エージェントは認証情報を見ずに API 呼び出しします。`ANTHROPIC_BASE_URL` でルーティング。 ・最小権限:必要ディレクトリのみ読み取り専用マウント、`.env`・`~/.aws/credentials`・`*.pem` を除外、`--network none` + Unix ソケットプロキシでネットワーク制限。 ・クラウドではプライベートサブネット + クラウドファイアウォールでプロキシ以外の送信を全ブロックし、許可リスト強制・認証情報注入・全トラフィックログを実現します。 💡 ユースケース 🔐 認証情報のエージェント境界外管理 🌐 ネットワーク制限による外部送信の防止 🏢 マルチテナント環境での強分離 ⚠️ 注意点 信頼できないコンテンツ(README、Web ページ、ユーザー入力)にはプロンプトインジェクションが含まれる可能性があります。ネットワーク制御は最後の防衛線として必ず設定してください。 #ClaudeAgentSDK# #AI#
もっと見る
EpicAI、AIのセキュリティ分野日本語LLMのプロンプトインジェクション防御研究で「人工知能学会全国大会優秀賞」を...
政府が利用するLLMでは、データポイズニングやプロンプトインジェクションなどによって、回答の根拠や政策提案の方向性が意図的に誘導されるリスクがあります。 しかも、こうした攻撃は従来のソフトウェアの脆弱性とは異なり、完全に排除することが難しいという問題があります。 例えば、特定の政策に有利な情報を優先的に提示したり、不都合な情報を回答から除外したりすることで、利用者が気づかないまま判断に影響を受ける可能性があります。 有識者として、政府へのLLM導入を提案するのであれば、技術的な実現可能性や利便性だけでなく、脅威モデリング、敵対的テスト、独立した第三者評価、監査証跡、人間による最終判断の仕組みまで、導入前に具体化する必要があります。 電子投票も政府LLMも、技術を導入すること自体が目的ではありません。 重要なのは、その技術が民主的な意思決定の信頼性を損なわないことです。 安全性の検証を後回しにしたまま導入を進めるべきではないと考えています。
もっと見る