登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

検索結果 コンテキスト管理
コンテキスト管理 コミュニティ
1つのキーワードが1つのコミュニティです。
コミュニティ作成
アカウント
見つかりません
コンテキスト管理 を含む検索結果
TL;DR: 言語モデルに自分のコンテキストを「編集可能なファイル」として自由に管理させる新しいパラダイム「Context Language Models」が、多くのベンチマークで精度向上とFLOPs削減を同時に達成しました。 タイトル: Context Language Models URL: ポイント 📝 コンテキストをファイルとしてミラーリングし、モデル自身がBashコマンドで自由に編集・追記できる設計。要約や検索の閾値を人間が決める従来のハーネスから脱却 🧠 明示的な指示なしに「インコンテキスト・スコアボード」や再利用可能な関数定義など創発的な戦略を獲得 🔍 BrowseComp-Plusで精度59.4%・FLOPs21.5%削減、EdgeBench-10では要約ベース比スコアを上回りつつFLOPsを半分以下に 🎯 強化学習ではQwen3.5-9Bの精度を28.8%→42.5%に向上させつつFLOPsも削減(成功した軌跡の中でのみ効率に報酬を与える設計でハッキングを防止) ⚡ 新技術Suffix Cache Reuseが、コンテキスト編集後も残存部分のKVキャッシュを再利用し、サーバー側計算量を標準比35%削減 🧩 ContextBenchの診断タスクでは、要約ベースが失敗する高コンテキスト圧力下でもCLMは完全な精度を維持 コンテキスト管理そのものをモデルの能力として扱うという発想転換に、大きな可能性を感じます。 #コンテキスト管理# #LLM効率化#
もっと見る
便利だけど知られていないClaude APIの機能 🔢 APIを叩く前に「このリクエスト、何トークンだろう?」が分かったら便利だと思いませんか? ClaudeのToken Counting(トークンカウント)は、リクエストを送信する前にトークン数を計測できるエンドポイントです。コスト見積もりとコンテキスト管理を事前に行えます。 📌 タイトル:Token Counting(トークンカウント) 🔗 URL: 🧩 概要 LLMのコスト管理では「このリクエストは何トークンか」を事前に知ることが重要です。Token Countingは、Messages APIと同じ形式のリクエストを事前に送ることで、実際にモデルを呼び出す前に入力トークン数を返してくれるエンドポイントです。コンテキストウィンドウに収まるかの確認、コスト見積もり、プロンプトの最適化判断に使えます。 🛠 使い方 Count Tokens APIに、Messages APIと同じ形式のリクエスト(system、messages、tools等)を送ります。レスポンスとして入力トークン数が返されるので、コンテキスト上限と比較したり、コスト計算に使ったりできます。実際のモデル推論は行われないため、コストはかかりません。 🏗 本番システムへの組み込み方 ・コスト管理ダッシュボード:リクエスト前にコストを見積もり、予算超過を事前に検知。ユーザーに「このリクエストは約XX円です」と表示することも。 ・コンテキスト管理:会話履歴+新しいメッセージのトークン数をチェックし、上限に近ければCompactionやContext Editingを発動。 ・プロンプト最適化:プロンプトの変更前後でトークン数を比較し、削減効果を定量的に評価。 ・レート制限管理:トークン消費の見積もりを事前に行い、レート制限に引っかかる前に調整。 💡 ユースケース 💰 リクエスト前のコスト見積もり 📏 コンテキストウィンドウ管理 🔧 プロンプト最適化の効果測定 ⚖️ レート制限の事前管理 ⚠️ 注意点 Token Countingの結果は入力トークンのみです。出力トークンは予測できないため、総コストの正確な事前計算にはなりません。あくまで入力側のコスト見積もりとコンテキスト管理のツールとして使ってください。また、APIコールの分だけオーバーヘッドはあるので、すべてのリクエストで呼ぶのではなく必要な場面で使うのが効率的です。 ✨ 「送ってみないとわからない」では予算管理ができません。事前にトークンを数えて、コストとコンテキストを計画的に管理しましょう。 #Claude# #LLM#
もっと見る
TL;DR:「エージェント開発の難問は解決済み」という見方に、LangChainのHarrison Chaseが異を唱えています。常時稼働でゴールを追うエージェントには、6つの未解決課題があるそうです。 New context engineering challenges in late 2026 ポイント ・🔔 プロアクティブさ:役立つ通知と、うるさい通知のバランスが未解決 ・🧠 メモリ:難しいのは保存ではなく「何を覚えるか」を決める知能層 ・⏳ 非同期:長い作業を走らせつつ、メインのエージェントは応答し続ける必要がある ・🎯 ゴール追跡:同じ行動の繰り返しを避け、長期で一貫して進める ・⚠️ 仕様ゲーミング:「全バグを消せ」でコードベースごと消す例 ・🌐 ブラウザ:スクリーンショットかDOMか、両方が大きいときのコンテキスト管理 要約、オフロード、スキル、サブエージェントといった既知の技法の「次」を整理した論点集です。数値や解決策はなく、意見記事である点にご注意ください。 #ContextEngineering# #AIAgents#
もっと見る
🤖 AIエージェントは、自分自身が動くための「実行基盤」を自分で作って改善できるのでしょうか。 タイトル: HarnessDev: Can LLMs Create and Evolve Their Own Agent Harness? URL: ❓ そもそも「ハーネス」とは何ですか 💡 実行ループ・ツール利用・コンテキスト管理・失敗からの復旧・検証など、エージェントを動かす実行基盤のことです。これまでの評価はハーネスを固定してモデル性能だけを測ってきましたが、実際はハーネスの設計品質も実力を大きく左右します。 ❓ LLMは最小限の材料からハーネスを作れますか 💡 わざと弱いシードハーネスから構築させたところ、最高スコアのOpus 4.8でも67.8点にとどまり、人間が作った参照実装(86.2点)には及びませんでした。特にリサーチ・検索領域でのギャップが最も大きかったです。 ❓ 自分でハーネスを改善(進化)させることはできますか 💡 5つのモデルすべてが可視フィードバック上では改善しましたが、隠されたタスクでの改善幅は大幅に縮小。バージョン切り替えの64回中、ノイズを超える明確な改善は2回だけでした。 ❓ 別の実行者モデルに載せ替えても性能は保たれますか 💡 保たれないケースが目立ちました。Opusが作ったハーネスは実行者をGeminiに固定した途端、SWE-Proスコアが69.3から33.0に急落。ハーネスは特定モデルの前提を埋め込んでしまうため、移植性には注意が必要です。 #AIエージェント# #LLM#
もっと見る
単一文書のQ&Aから、数千文書を横断する分析へ——10万社が使うBoxが、Deep Agentsで「AIネイティブ」に生まれ変わった事例です📦 タイトル: Building Box AI: How an Enterprise Content Platform Went AI-Native with Deep Agents URL: 📦 概要 コンテンツ管理プラットフォームBoxが、Deep Agentsを採用して高度な複数文書分析を実現した事例です。親の「Global Agent」がリクエストの意図を分類し、必要に応じて子エージェントをツールとして動的に生成する階層型システムを構築しました。 ❓ 解決する課題 当初のBox AIは単一文書のQ&Aや知識ハブが中心でした。 ・しかし顧客は、数千文書を横断した調査の統合や、契約書をリスクフレームに照らした分析を求めました ・こうした多段階・分野横断のタスクは、従来のRAGベース検索では扱いきれませんでした 💡 方法論と提案手法 ・親のGlobal Agentが意図を分類し、単純なものは自分で、複雑なものは子エージェントを動的に生成して処理します ・全エージェントが共通ツール(BM25・ベクトル検索・構造化Q&A・ファイル操作)にアクセスできます ・子エージェントは隔離コンテキストで動き、ミドルウェア経由で結果を報告します ・ミドルウェアが本番の要:引用生成、プロンプトキャッシング、17万トークン超で自動要約するコンテキスト管理 ・Deep Agents採用の理由は、モデル非依存(OpenAI/Anthropic/Google)と反復速度です 📊 実験結果 / 実績 ・新エージェントの投入が、数ヶ月から数週間に短縮 ・再帰的な親子システムは、当初の専門エージェント構成より4倍速く出荷 ・単純なクエリは子生成をバイパスし、不要なレイテンシを排除 #AIエージェント# #エンタープライズAI#
もっと見る
🔁 キャビネットを34回調べ続けて50ステップで力尽きたエージェントが、同じタスクを17ステップで解けるようになりました。 タイトル: Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States URL: 履歴を保持したり圧縮したりするのではなく、「今の世界はこうなっている」という信念を明示的に持ち続けることで長時間タスクを安定させる、学習不要の推論時フレームワークPoSの提案です。 注目ポイントは3つあります。 🗂 信念を構造として持つ 世界状態をEntity・State・Relationの構造で表し、各状態には出所と確信度、可能なら裏づけの証拠まで添えます。環境を網羅的にモデル化せず、行動の実行可能性や目標の充足に効く記録だけを残すのがポイントです。あわせて「まだ知るべきこと」と「まだ達成すべきこと」をギャップとして明示します。 🐞 毎ステップ、信念を検証する Belief Sentinelという検証器が、更新された信念に矛盾がないか、観測やこれまでの証拠と食い違っていないかを毎回チェックし、確定前に修正させます。電子レンジが開と閉の両方で記録されると、マグを入れる前に開けるべきか判断できなくなる、という類の破綻を防ぐ役割です。 🚨 空回りを検知して脱出する 進捗が出ないまま行動し続ける状態をBelief Trappingと呼び、未解決ギャップの残存率・進捗のない遷移の割合・同じ状態の再訪頻度の3指標で検知します。そのうえで挙動パターン(静止・循環・漂流)と詰まっているギャップの種別に分けて診断し、両方に合わせた復旧制約をかけます。 4ベンチマーク・3バックボーンすべてで最高性能を記録し、RCA-100では最強ベースラインを相対37.89%上回りました。総トークンは5倍に増えますが、タスクエージェント自身の消費は20.9%減っています。 #AIエージェント# #コンテキスト管理#
もっと見る
iPhone Duoではなく、iPadでGrok BotとMuseを開いて、重い腰をあげつつ、パーソナルエージェントたちのためのコンテキストレイヤーを改めて整えている スーパー雑プロンプト —— Notion でパーソナルエージェント用のコンテキストを管理していくよ プロジェクト(基本期日が存在する大きな作業単位。期日がなうものは分割して期日をつける プロジェクト間のリレーションをつけるが親子は無し タスク(既存のあるよね?それ拡張 ドキュメント(長期記憶 メモリ(短期記憶 のDB構成 全てプロジェクトに紐付く 作成者propでどのエージェントかを判定したい 標準の作成者は全部私になるから別のプロパティでエージェントを分類 Muse Chatgpt notion AI Grok Botあたり タスクなどが追加されたら、他のエージェントトリガーして読み込ませて、何か作業や対応を実行するようにしたい。他のエージェントと呼び出す仕組みのnotionを介してやりたいって感じ
もっと見る
# OpenAI Agent SDKの便利だけど知られていない機能 🌍 ツールの出力が巨大すぎて、コンテキストウィンドウを圧迫していませんか? ToolOutputTrimmerを使えば、古いツール出力を自動的にトリミングし、コンテキストを効率的に管理できます。 📌 タイトル:Tool output trimmer 拡張 🔗 URL: 🧩 概要 `ToolOutputTrimmer` は `CallModelInputFilter` として動作し、会話履歴内のツール出力をスライディングウィンドウ方式でトリミングします。直近のターン(デフォルト2ターン)はそのまま保持し、古いターンの出力が `max_output_chars`(デフォルト500文字)を超える場合、先頭 `preview_chars`(デフォルト200文字)だけを残して切り詰めます。元のメッセージは変更せず、浅いコピーで非破壊的に処理されます。 🛠 使い方 ```python from agents import RunConfig from agents.extensions.tool_output_trimmer import ToolOutputTrimmer # デフォルト設定で使用 trimmer = ToolOutputTrimmer() # カスタム設定 trimmer = ToolOutputTrimmer( recent_turns=3, # 直近3ターンは保持 max_output_chars=1000, # 1000文字超でトリミング preview_chars=300, # 先頭300文字を残す trimmable_tools=["search", "fetch_page"], # 特定ツールのみ対象 ) # RunConfigに設定 config = RunConfig(call_model_input_filter=trimmer) result = await "質問", run_config=config) ``` 🏗 本番システムへの組み込み方 ・大量のテキストを返すツール(検索、Web取得など)には積極的に適用する ・`trimmable_tools` で対象ツールを限定し、重要なツール出力は保持する ・`recent_turns` はエージェントの推論に必要な直近のコンテキスト量に合わせて調整する ・非破壊的なので、デバッグ時に元のメッセージを確認できる 💡 ユースケース 🔍 大量の検索結果を返すRAGパイプラインのコンテキスト最適化 📄 長文Webページの取得結果を効率的に管理 🔄 マルチターン会話でのトークン消費量削減 💰 コンテキストウィンドウの有効活用によるAPIコスト最適化 ⚠️ 注意点 トリミングにより古いターンの詳細情報が失われるため、エージェントが過去のツール出力を参照する必要がある場合は `recent_turns` を十分に大きく設定してください。また、`trimmable_tools` を指定しない場合は全ツールが対象になります。 ✨ ToolOutputTrimmerで、長い会話でもコンテキストを賢く管理しましょう。 #OpenAIAgentSDK# #AIAgent#
もっと見る
# AIエージェントをソフトウェアに組み込むプラクティス # コンテキスト予算配分 🎯 「全部入れれば精度が上がる」は幻想です。コンテキストウィンドウは有限の予算として管理しましょう。 スロットごとに配分比率を決め、信号密度を最大化するパターンです。 🔥 解決する課題 RAGやメモリを使うエージェントでは、検索結果・会話履歴・システム指示・長期メモリが同じコンテキストウィンドウを奪い合います。情報を詰め込むほどコストは増え、会話が長くなるとシステム指示の割合が縮んで振る舞いが劣化します。さらに"Lost in the Middle"問題により、窓の中盤に置かれた重要な情報が実質的に無視されてしまいます。 💡 提案パターン コンテキストウィンドウをシステム指示・検索結果・会話履歴・メモリなどのスロットに分け、各スロットに最大占有率と優先度を設定します。システム指示は圧縮対象外の固定枠(10〜20%)として先に確保し、検索結果はリランク後にtop-k件に絞り、履歴は窓使用率が閾値を超えたら要約圧縮します。配置順序はLost in the Middle対策として、最重要情報を先頭に、直近入力を末尾に置きます。cost_sensitivityが高い環境ほどtop-kを絞り、圧縮閾値を下げ、履歴を短く保ちます。 ✅ 選定条件 使うとき: - RAGやメモリを使い、投入候補がモデル窓サイズの50%を超えうる - コスト感度が中以上で、投入トークンの増加がコストや推論時間に影響する - 複数ターンの会話で履歴が蓄積し、他の情報のスペースを圧迫する 使わないとき: - 投入情報がシステム指示+単発入力のみで窓の30%未満に収まる場合 - ロングコンテキストモデルを使い投入量が窓の20%未満、かつコスト感度が低い場合 ⚠️ 落とし穴 - システム指示を圧縮対象にしてはいけません。ツール定義や安全指示が削られると振る舞いが壊れます - リランクなしのtop-kは信号密度が低いです。ベクトル検索上位20件からクロスエンコーダで3〜8件に絞りましょう - 要約圧縮は非可逆です。重要な決定事項や固有名詞が落ちるリスクがあるため、キーワード抽出を併用してください 🔧 実装方針 - コンテキストウィンドウをスロット(system/user/retrieval/history/memory)に分割し、各スロットに最大占有率・優先度・圧縮可否を定義した構造体で管理します - システム指示は圧縮対象外の最高優先度として先に確保し、残りの予算を他スロットに優先度降順で配分します - 検索結果はベクトル検索の上位候補をクロスエンコーダでリランクしてから予算内に収め、信号密度を最大化します - 履歴スロットが予算を超過した場合は要約圧縮を適用し、圧縮前にキーワード抽出して重要情報の欠落を防ぎます #AIエージェント# #ソフトウェアアーキテクチャ#
もっと見る