論文の概要: Beyond Token Savings: A Systematic Study of Context Compression in LLM Agents
- arxiv url: http://arxiv.org/abs/2609.32961v1
- Date: Sat, 26 Sep 2026 21:46:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 11:38:27.376298
- Title: Beyond Token Savings: A Systematic Study of Context Compression in LLM Agents
- Title(参考訳): トーケンセービングを超えて: LLMエージェントにおける文脈圧縮の体系的研究
- Abstract要約: 我々は、同様の成功のポリシーが、異なるタスクを解決できるのに対して、同じポリシーはモデル間でかなり異なるパフォーマンスを実現できることに気付きました。
本研究の結果は,タスク,モデル,ワークロードに対するエージェントの実行とポリシーの調整に対する効果によって,圧縮を評価する動機付けである。
- 参考スコア(独自算出の注目度): 0.6433095104138579
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As LLM agents tackle longer tasks, they increasingly compress growing histories of reasoning, actions, and tool outputs. Compression can reduce token use, but it also changes the information available for later decisions. Existing agentic harnesses bundle decisions about what to compress, when to compress, and how much to remove into fixed policies. A systematic characterization is needed to disentangle these decisions and reveal how each affects task success and execution cost. We systematically vary these decisions across three open-weight models on SWE-bench Verified and Terminal-Bench 1.0. Across nearly 35,000 agent runs, we measure task success, token use, end-to-end latency, and estimated cost. We find that fewer tokens need not mean faster or cheaper execution: on Terminal-Bench with Qwen, policies using roughly one-third as many tokens can take 20-80% longer than the uncompressed agent. Policies with similar overall success can solve different tasks, while the same policy can perform quite differently across models. Our results motivate evaluating compression by its effects on agent execution and tailoring policies to the task, model, and workload.
- Abstract(参考訳): LLMエージェントがより長いタスクに取り組むにつれて、推論、アクション、ツールアウトプットの増大する履歴を圧縮する傾向にある。
圧縮はトークンの使用を減らすことができるが、後の決定で利用可能な情報も変更する。
既存のエージェントは、何を圧縮するか、いつ圧縮するか、固定されたポリシーにどれくらい取り除くかについて、バンドルの決定を利用する。
これらの決定を混乱させ、各決定がタスクの成功と実行コストにどのように影響するかを明らかにするには、体系的な特徴が必要である。
SWE-bench Verified と Terminal-Bench 1.0 の3つのオープンウェイトモデルでこれらの決定を体系的に変更する。
35,000近いエージェントの実行に対して、タスク成功、トークン使用、エンドツーエンドのレイテンシ、推定コストを測定します。
Qwen の Terminal-Bench では、多くのトークンの約3分の1 のポリシは、圧縮されていないエージェントよりも 20-80% 長くかかります。
全体的に成功しているポリシーは、異なるタスクを解決できるが、同じポリシーはモデル間でかなり異なる動作をすることができる。
本研究の結果は,タスク,モデル,作業負荷に対するエージェントの実行とポリシーの調整に効果のある圧縮を評価する動機付けである。
関連論文リスト
- TRACER: Per-Tool Context Retention for LLM Agents via Consequence-Attributed Reinforcement Learning [8.886237275784852]
既存の圧縮戦略では、個々のツール出力の削除によるダウンストリームの結果を考慮せずに、保持予算を割り当てている。
そこで, TRACERを提案し, 圧縮を逐次的なツールごとの決定問題として定式化する。
論文 参考訳(メタデータ) (2026-08-29T16:50:44Z) - Permission Denied: Policy-Graded Evaluation of Coding Agents in Hardened Environments [0.0]
実世界の一般的な企業規制から派生したネストされたセキュリティポリシーレベルに対して、ターミナルベンチ2.1上の12のコーディングエージェントを評価した。
我々は、政策が行動を妨げるときにエージェントがどのように振る舞うかを特徴付け、障害のハードニングを分解する。
コーディングエージェントのポリシー制約付き評価を可能にするオープンソースのハードニングプラグインであるBoundary-Benchをリリースする。
論文 参考訳(メタデータ) (2026-08-02T14:26:12Z) - Ordered Action Tokens for Visuomotor Policy Learning [47.37773778249323]
アクショントークン化は、連続したロボットアクションチャンクを離散トークンにマッピングする。
本稿では,高圧縮,全復調性,順序付きトークン空間を満足する,学習されたアクショントークン化ツールであるOrdered Action Tokenization(OAT)を紹介する。
OATは一貫して強力なポリシー性能を提供し、推論時に大幅な柔軟性を提供します。
論文 参考訳(メタデータ) (2026-07-23T07:04:51Z) - Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。
ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。
MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。
ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
論文 参考訳(メタデータ) (2026-02-12T02:38:57Z) - AgentCompress: Task-Aware Compression for Affordable Large Language Model Agents [0.0]
70ビリオンパラメータモデルを使用した1セッションは、クラウドコンピューティングの料金が約127ドルである。
本稿では,タスク認識型動的圧縮によってこの問題に対処するフレームワークであるAgentCompressを提案する。
計算コストは68.3%減少し、当初の成功率の96.2%を維持した。
論文 参考訳(メタデータ) (2026-01-08T18:13:46Z) - VisionSelector: End-to-End Learnable Visual Token Compression for Efficient Multimodal LLMs [82.72388893596555]
MLLM(Multimodal Large Language Models)は、計算とメモリのボトルネックに遭遇する。
従来のトークン圧縮技術は、重要な情報を破棄するリスクを負うルールによって制約されることが多い。
我々は,トークン圧縮をエンドツーエンドの学習可能な決定プロセスに再構成する軽量なプラグアンドプレイフレームワークとして,トークン圧縮を再構成する。
論文 参考訳(メタデータ) (2025-10-18T17:54:18Z) - Compressing Many-Shots in In-Context Learning [61.231471139896506]
マルチショットプロンプトを圧縮することにより,ICL推論のメモリと計算効率を向上させる手法を提案する。
まず,既存のプロンプト圧縮手法がマルチショット圧縮には有効でないことを示す。
本稿では,レイヤワイド圧縮手法であるMemComを提案する。
論文 参考訳(メタデータ) (2025-10-17T16:57:42Z) - Understanding and Improving Information Preservation in Prompt Compression for LLMs [15.797246416590339]
情報集約的なタスクでは、プロンプト長は急速に増加し、計算要求の増大、性能劣化、無関係または冗長な情報からのバイアスが引き起こされる。
本稿では,プロンプト圧縮手法の詳細な解析を可能にする総合評価フレームワークを提案する。
論文 参考訳(メタデータ) (2025-03-24T20:06:11Z) - On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。
不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。
本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
論文 参考訳(メタデータ) (2024-08-02T03:25:20Z) - DiSparse: Disentangled Sparsification for Multitask Model Compression [92.84435347164435]
DiSparseは、シンプルで効果的で、第一級のマルチタスクプルーニングとスパーストレーニングスキームである。
実験の結果,様々な設定や設定において優れた性能を示した。
論文 参考訳(メタデータ) (2022-06-09T17:57:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。