論文の概要: TRACER: Per-Tool Context Retention for LLM Agents via Consequence-Attributed Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2608.29363v1
- Date: Sat, 29 Aug 2026 16:50:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.943771
- Title: TRACER: Per-Tool Context Retention for LLM Agents via Consequence-Attributed Reinforcement Learning
- Title(参考訳): TRACER:連続型強化学習によるLLMエージェントのツールごとのコンテキスト保持
- Abstract要約: 既存の圧縮戦略では、個々のツール出力の削除によるダウンストリームの結果を考慮せずに、保持予算を割り当てている。
そこで, TRACERを提案し, 圧縮を逐次的なツールごとの決定問題として定式化する。
- 参考スコア(独自算出の注目度): 8.886237275784852
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Enterprise data agents answer business queries by chaining many tool calls over multiple reasoning steps, routinely accumulating hundreds of thousands of context tokens per session. Existing compression strategies typically allocate retention budgets without accounting for the downstream consequences of removing individual tool outputs. Aggressive compression may therefore trigger costly tool re-invocations that offset the initial savings. We call this the compression--consequence gap. To close it, we propose TRACER, which formulates compression as a sequential per-tool decision problem. A lightweight REINFORCE policy assigns query-conditioned retention ratios using only information available at each compression event. Its consequence-aware objective jointly accounts for task success, total token consumption, and post-compression tool re-invocations. To improve credit assignment, TRACER uses a learned outcome model to compare the predicted consequences of the selected retention ratio with those of fully retaining each tool output. On held-out production queries across three compressor backends, TRACER reduces total token consumption by 29--46% relative to keeping all context while maintaining comparable or higher task success. Compared with a tool-type-conditional static policy, TRACER provides an additional 15--18% of token savings. Interventional rollouts show that the learned per-tool credit scores correlate with measured single-tool consequences. The learned policy also yields positive savings when transferred across agent backbones and compressor architectures, and reduces token consumption by 18--25% on five held-out LOCA-bench environments. These results demonstrate the value of consequence-aware, per-tool context retention for improving the efficiency of long-horizon language agents.
- Abstract(参考訳): エンタープライズデータエージェントは、複数の推論ステップに多くのツールコールをチェーンすることでビジネスクエリに応答し、セッション毎に数十万のコンテキストトークンを定期的に蓄積する。
既存の圧縮戦略は、個々のツール出力の削除によるダウンストリームの結果を考慮せずに、保持予算を割り当てる。
したがって、攻撃的な圧縮は、初期保存をオフセットするコストの高いツールの再起動を引き起こす可能性がある。
これを圧縮(consequence-consequence gap)と呼ぶ。
そこで我々は, TRACERを提案し, 圧縮を逐次的なツールごとの決定問題として定式化する。
軽量なREINFORCEポリシーは、各圧縮イベントで利用可能な情報のみを使用して、クエリ条件の保持率を割り当てる。
結果認識の目的は、タスクの成功、トークンの総消費、圧縮後のツールの再起動を共同で行うことである。
信頼割当を改善するため、TRACERは学習結果モデルを用いて、選択された保持率の予測結果と、各ツール出力を完全に保持する結果を比較する。
TRACERは3つの圧縮機バックエンドにまたがる運用クエリに対して、すべてのコンテキストを維持しながら、同等あるいは高いタスク成功を維持しながら、トークン総消費量を29~46%削減する。
ツールタイプの条件付き静的ポリシと比較して、TRACERはトークンの保存を15~18%追加する。
インターベンショナルロールアウトは、学習したツール単位のクレジットスコアが測定されたシングルツール結果と相関していることを示している。
学習されたポリシーは、エージェントのバックボーンとコンプレッサーアーキテクチャ間で転送された際の正の節約ももたらし、保持された5つのLOCAベンチ環境においてトークンの消費量を18-25%削減する。
これらの結果から,長期言語エージェントの効率を向上させるために,ツールごとの文脈保持を意識することの価値が示された。
関連論文リスト
- CoACT: Action-Preserving Observation Compression for Coding Agents [8.484842324052751]
本稿では,符号化エージェントの動作保存型観測圧縮手法であるCoACTを提案する。
CoACTは、生の観測と同じ次のアクションを誘導するために圧縮された観察を必要とする、次のアクション保存(NAP)上に構築されている。
3つのエージェントモデルで検証されたSWEベンチ実験の結果,CoACTは平均トークン消費量を33.0%削減することがわかった。
論文 参考訳(メタデータ) (2026-07-03T03:17:52Z) - Notation Matters: A Benchmark Study of Token-Optimized Formats in Agentic AI Systems [0.0]
Agentic AIシステムの大規模言語モデルは、ツールスキーマと実行結果を構造化データとして消費する。
最近の研究は、よりコンパクトな代替品として、TOON(Token-Oriented Object Notation)やTRON(Token Reduced Object Notation)などのトークン最適化代替案を提案する。
我々は,TOONとTRONを4つのエージェントベンチマーク (BFCL, MCPBenchPP, MCP-Universe, StableTool) と5つのオープンウェイトLDMで評価した。
論文 参考訳(メタデータ) (2026-05-28T09:38:13Z) - On the Effectiveness of Context Compression for Repository-Level Tasks: An Empirical Investigation [22.803236151303846]
リポジトリレベルのコードインテリジェンスタスクは、長い複数ファイルコンテキストを処理するために大きな言語モデルを必要とする。
コンテキスト圧縮は、入力を凝縮することでこれらのリスクを軽減する。
本稿では,リポジトリレベルのコードインテリジェンスのためのコンテキスト圧縮に関する最初の体系的実証的研究について述べる。
論文 参考訳(メタデータ) (2026-04-15T11:00:17Z) - Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。
ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。
MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。
ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
論文 参考訳(メタデータ) (2026-02-12T02:38:57Z) - AgentOCR: Reimagining Agent History via Optical Self-Compression [25.87457777208574]
本稿では,視覚トークンの優れた情報密度を利用するフレームワークであるAgentOCRを紹介する。
履歴をハッシュ可能なセグメントに分解し、ビジュアルキャッシュを維持することで、AgentOCRは冗長な再レンダリングを取り除く。
以上の結果から,AgentOCRは95%以上のテキストベースのエージェント性能を保ちながら,トークン消費量を大幅に削減していることがわかった。
論文 参考訳(メタデータ) (2026-01-08T10:10:20Z) - VisionSelector: End-to-End Learnable Visual Token Compression for Efficient Multimodal LLMs [82.72388893596555]
MLLM(Multimodal Large Language Models)は、計算とメモリのボトルネックに遭遇する。
従来のトークン圧縮技術は、重要な情報を破棄するリスクを負うルールによって制約されることが多い。
我々は,トークン圧縮をエンドツーエンドの学習可能な決定プロセスに再構成する軽量なプラグアンドプレイフレームワークとして,トークン圧縮を再構成する。
論文 参考訳(メタデータ) (2025-10-18T17:54:18Z) - Winning the Pruning Gamble: A Unified Approach to Joint Sample and Token Pruning for Efficient Supervised Fine-Tuning [71.30276778807068]
サンプルプルーニングとトークンプルーニングを戦略的に協調する統合フレームワークを提案する。
Q-Tuningは、トレーニングデータの12.5%しか使用せず、全データSFTベースラインに対する平均38%の改善を実現している。
論文 参考訳(メタデータ) (2025-09-28T13:27:38Z) - ResT: Reshaping Token-Level Policy Gradients for Tool-Use Large Language Models [62.82372407840088]
大規模言語モデル(LLM)は受動的生成を超越し、外部ツールを呼び出すことで目標指向エージェントとして機能する。
textbfReshaped textbfToken-level policy gradients (textbfResT) for tool-use task。
textbfResTは最先端の結果を達成し、以前のメソッドを最大8.76%$で上回っている。
論文 参考訳(メタデータ) (2025-09-26T03:38:27Z) - CORE-RAG: Lossless Compression for Retrieval-Augmented LLMs via Reinforcement Learning [22.93037884068796]
Retrieval-Augmented Generation (RAG) は、知識更新のタイムラインと大規模言語モデルにおける応答の事実的正確性を高めるための有望なアプローチとして登場した。
RAG用に調整された文書圧縮への既存のアプローチは、しばしばタスクパフォーマンスを低下させる。
我々は、RAGにおけるロスレスコンテキスト圧縮の新しい手法であるCOREを提案する。
論文 参考訳(メタデータ) (2025-08-24T12:21:50Z) - Efficient Token Compression for Vision Transformer with Spatial Information Preserved [59.79302182800274]
トーケン圧縮は、トランスモデルの計算およびメモリ要求の低減に不可欠である。
本稿では,Prune と Merge という,効率的なハードウェア互換のトークン圧縮手法を提案する。
論文 参考訳(メタデータ) (2025-03-30T14:23:18Z) - Concise and Precise Context Compression for Tool-Using Language Models [60.606281074373136]
ツールを用いた言語モデルにおいて,ツール文書を簡潔かつ高精度な要約シーケンスに圧縮する2つの手法を提案する。
API-BankとAPIBenchの結果,最大16倍の圧縮率で上行ベースラインに匹敵する性能を示した。
論文 参考訳(メタデータ) (2024-07-02T08:17:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。