論文の概要: An Empirical Cost Attribution of Context-Compression Gateways in Multi-Turn Coding Agents
- arxiv url: http://arxiv.org/abs/2609.22114v1
- Date: Wed, 19 Aug 2026 07:43:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.716944
- Title: An Empirical Cost Attribution of Context-Compression Gateways in Multi-Turn Coding Agents
- Title（参考訳）: マルチターン符号化エージェントにおけるコンテクスト圧縮ゲートウェイの実証的コスト特性
- Abstract要約: 符号化エージェント (Claude Code, Codex) とフロンティア LLM (Claude Sonnet, GPT-5) 間の生産圧縮ゲートウェイ (Paritok) を実装。
実際のセッションのトークン請求書を3つの独立したレバーに分解する。ツールスキーマフィルタリング、ファイル読み込みとツール出力のコンテンツ圧縮、履歴要約である。
強力なシングルショット圧縮ベンチマーク - SWEベンチの品質の86.5%が25.7%の圧縮速度で維持されており、このゲートウェイがデプロイするモデルによって達成されている - はマルチターンエージェントのコストであり、コスト削減の議論として言及されてはならない。
- 参考スコア（独自算出の注目度）: 0.9689471757238836
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Context compression is widely proposed as a way to cut the token bill of LLM coding agents, and public benchmarks report that aggressive compression preserves task-solving quality. These two facts do not imply the third one commonly assumed: that compressing file reads saves money in a real multi-turn agent. We instrument a production compression gateway (Paritok) between coding agents (Claude Code, Codex) and frontier LLMs (Claude Sonnet, GPT-5), and decompose the token bill of real sessions into three independent levers: tool-schema filtering, content compression of file reads and tool output, and history summarization. Measured in isolation under controlled A/B runs, the three save at fundamentally different rates. Tool-schema filtering removes a fixed block every turn, roughly 21K-57K tokens on a typical turn; it is linear in the turn count N and the only unambiguously and reproducibly positive lever. Content compression saves only about 2% of the cache-priced prefix per turn, but compressed reads accumulate in history and are re-sent on every later turn, so its cumulative saving grows quadratically, about 3350*N^2 tokens (measured), overtaking the fixed tool-filter saving within roughly 6 turns until the context window caps it. A non-destructive gateway lets the agent pull original bytes back on demand; each recall re-sends exactly the one segment just compressed away, so its cost is fixed and bounded rather than a multiplicative blowup, and heavy recall spends the accumulated saving back one segment at a time. Finally, a strong single-shot compression benchmark - 86.5% of SWE-bench quality retained at a 25.7% compression rate, achieved by the model this gateway deploys (Paritok-4B, reported separately) - is orthogonal to multi-turn agent cost and must not be cited as a cost-saving argument. We distill the results into an actionable recipe for where token-saving effort pays off.
- Abstract（参考訳）: 文脈圧縮はLLM符号化エージェントのトークン請求を削減する方法として広く提案されており、アグレッシブ圧縮はタスク解決の品質を保っていると公開ベンチマークが報告している。
この2つの事実は、圧縮されたファイルが実際のマルチターンエージェントにお金を節約する、という3番目の仮定を暗示していない。
我々は,コーディングエージェント (Claude Code, Codex) とフロンティア LLM (Claude Sonnet, GPT-5) の間のプロダクション圧縮ゲートウェイ (Paritok) を実装し,実際のセッションのトークン請求書を3つの独立したレバーに分解する。
制御されたA/B実行下で分離して測定された3つのデータは、基本的に異なるレートで保存される。
ツールスキーマフィルタリングは、典型的には21K-57Kトークンの1ターンごとに固定ブロックを除去する。
コンテント圧縮は1ターンあたりキャッシュプライドプレフィックスの約2%しか保存しないが、圧縮された読み込みは履歴に蓄積され、後回ごとに再送信されるため、累積保存は2次的に増加し、約3350*N^2トークン(測定)が増加し、固定ツール-フィルタの保存はコンテキストウィンドウが上限になるまで約6ターン以内である。
エージェントが元のバイトをオンデマンドで引き戻すことができる。各リコールは、ちょうど圧縮された1セグメントを正確に再送信するので、そのコストは乗算的なブローアップではなく固定され、バウンダリされ、重いリコールは1セグメントごとに蓄積された貯蓄に費やされる。
最後に、強力なシングルショット圧縮ベンチマーク - SWEベンチの品質の86.5%を25.7%の圧縮速度で保持し、このゲートウェイがデプロイするモデル(Paritok-4B、別報告)によって達成される - はマルチターンエージェントのコストに直交しており、コスト削減の議論として言及してはならない。
トークンセービングの取り組みが報われるための、実行可能なレシピとして、結果を蒸留します。
関連論文リスト
- TRACER: Per-Tool Context Retention for LLM Agents via Consequence-Attributed Reinforcement Learning [8.886237275784852]
既存の圧縮戦略では、個々のツール出力の削除によるダウンストリームの結果を考慮せずに、保持予算を割り当てている。
そこで, TRACERを提案し, 圧縮を逐次的なツールごとの決定問題として定式化する。
論文 参考訳（メタデータ） (2026-08-29T16:50:44Z) - Paritok-4B: Intent-Conditioned Context Compression for Coding Agents [0.9689471757238836]
Paritok-4Bは、4BのLoRA圧縮機で、2つのコミットメントに基づいて構築されたコーディング・エージェント・トラジェクトリを駆動する。
書き直しではなくスパンを選択し、96.4%の識別子、パス、および出力した番号が入力にすでに表示されている。
エージェントの現在のタスクでは、主に保持されたセグメント内で動作し、どのラインが生き残るかを選択する。
論文 参考訳（メタデータ） (2026-08-25T07:53:30Z) - Omni2LoRA: Coherence-Preserving Parametric Memory for Efficient Omni Language Models [65.49950267695267]
我々はコヒーレンス保存コンテクスト蒸留によるパラメトリックメモリの効率的な圧縮フレームワークであるOmni2LoRAを紹介する。
本手法は,マルチモーダルメモリを固定予算で再利用可能なパラメータ状態に変換することにより,応答時間のマルチモーダルトーケン負荷をゼロにする。
論文 参考訳（メタデータ） (2026-08-10T07:49:10Z) - ShortOPD: Recovering Pruned LLMs with Short-to-Long On-Policy Distillation [72.54604107217669]
textscpass@$k$は圧縮後にほぼ消滅するが、textscpass@$k$は繰り返しサンプリングの下でほぼ回復する。
回復は、密集したトークンレベルの監督の下で、圧縮されたモデル自身のオン政治状態で訓練すべきである。
我々は,教師が確認した反復接尾辞を検知する短時間のOPDスケジュールであるtextbfshortopdを提案する。
論文 参考訳（メタデータ） (2026-07-14T17:50:50Z) - Token Reduction Is Not Cost Reduction [0.0]
再建した4成分の約87%に占めるコスト構成は,急激なキャッシュトラフィックが支配的であった。
ローカルペイロードの削減は、エンドツーエンドの請求コストの信頼できる予測器ではなかった。
本稿では,トークンの削減のみではなく,成功調整請求コストによる文脈還元システムの評価を提案する。
論文 参考訳（メタデータ） (2026-07-13T21:10:22Z) - End-to-End Context Compression at Scale [81.70601323130997]
長期コンテキスト言語モデル推論は、KVキャッシュがコンテキスト長とともに増加するにつれて、メモリによってボトルネックとなる。
KVキャッシュを圧縮する最近の技術は、モデル品質を著しく低下させるか、あるいはかなりの時間を要するか、1つの長いプロンプトを圧縮するために計算する。
既存のアプローチは、精度-効率のフロンティア上のKVキャッシュ圧縮と競合しない。
論文 参考訳（メタデータ） (2026-06-08T15:43:16Z) - SelKV: Selective KV Cache Merging with Per-Token Merge-or-Drop and Attention Compensation [0.0]
大規模言語モデルは、メモリフットプリントがコンテキスト長とともに線形に増加するキー値(KV)キャッシュに依存して、テキストを自動回帰的に生成する。
最近の圧縮法はトークンマージによるコストを軽減している。
これらの制約に対処するKVキャッシュ圧縮のためのトレーニングフリーでデュアルコンポーネントのフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-19T17:44:56Z) - Prompt Compression in Production Task Orchestration: A Pre-Registered Randomized Trial [0.05586191108738562]
即時圧縮の経済性は、入力トークンの削減だけでなく、圧縮が出力長をどのように変化させるかにも依存する。
実運用マルチエージェントタスクオーケストレーションにおける即時圧縮を予め登録した6腕ランダム化制御試行において,これを評価した。
論文 参考訳（メタデータ） (2026-03-06T21:47:34Z) - Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。
ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。
MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。
ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
論文 参考訳（メタデータ） (2026-02-12T02:38:57Z) - Compressing Many-Shots in In-Context Learning [61.231471139896506]
マルチショットプロンプトを圧縮することにより,ICL推論のメモリと計算効率を向上させる手法を提案する。
まず,既存のプロンプト圧縮手法がマルチショット圧縮には有効でないことを示す。
本稿では,レイヤワイド圧縮手法であるMemComを提案する。
論文 参考訳（メタデータ） (2025-10-17T16:57:42Z) - R1-Compress: Long Chain-of-Thought Compression via Chunk Compression and Search [61.4807238517108]
CoT(Chain-of-Thought)推論は、ステップバイステップの問題解決を可能にすることで、大きな言語モデル(LLM)を強化する。
CoTのLong-CoTへの拡張はトークン長の増加による計算オーバーヘッドを大幅に増加させる。
ローカル情報とコヒーレンスの両方を保存する2段階のチャンクレベル圧縮フレームワークであるR1-Compressを提案する。
論文 参考訳（メタデータ） (2025-05-22T16:06:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。