論文の概要: CliffCompaction: Cost-Efficient Compaction for Long-Horizon Coding Agents
- arxiv url: http://arxiv.org/abs/2609.26779v1
- Date: Tue, 22 Sep 2026 17:55:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-24 01:05:39.778345
- Title: CliffCompaction: Cost-Efficient Compaction for Long-Horizon Coding Agents
- Title（参考訳）: CliffCompaction:長軸符号化剤のコスト効率向上
- Abstract要約: 我々は,コンテキスト下でのコストを最大50%削減する自動演算技術であるCliffCompactionを開発した。
CliffCompactionのロールアウトあたりの節約により、テスト時間スケーリングのパフォーマンス-コストのトレードオフがより効率的になる。
CliffCompactionは、コンテンツを切り落としたり、リフレッシュしたり、書き直したりするだけで、コンパクトな情報を忠実に保ちます。
- 参考スコア（独自算出の注目度）: 17.617116772190908
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agents often work on complex problems that require millions of tokens of context, which necessitates compacting across sessions due to limited context windows. We develop CliffCompaction, an autocompaction technique that reduces cost by up to 50% under a bounded context while maintaining or improving performance on Terminal-Bench and achieving new levels of efficiency for test-time scaling and state-of-the-art results on KernelBench. The per-rollout savings of CliffCompaction make the performance--cost trade-off of test-time scaling more efficient, adding over 10 percentage points on Terminal-Bench for less than the cost of two full-context runs. Under parallel test-time scaling, CliffCompaction lets Kimi K2.6 match Opus 4.7, and exceed Opus 4.6 and GPT-5.3 Codex at lower cost. The key to CliffCompaction's effectiveness is that it keeps compacted information faithful by only truncating or dropping content, never rephrasing or rewriting it. We never compact a compaction---each pass operates only on original content, and prior compacted output is discarded, preventing context drift from accumulating. These properties sustain continual learning over sessions exceeding a million tokens: on KernelBench, CliffCompaction reaches CUDA kernel speedups of $2.23\times$ after 200 steps and $3.58\times$ after 400 steps, surpassing specialized search algorithms and trained agents despite being a general-purpose compaction technique. We open-source a scaffold-agnostic API-proxy implementation of CliffCompaction usable with Claude Code, Codex and other harnesses.
- Abstract（参考訳）: エージェントはしばしば、数百万のコンテキストトークンを必要とする複雑な問題に取り組む。
本研究では,端末弁の性能を維持・改善し,テストタイムスケーリングやカーネル弁の最先端化に新たなレベルの効率性を実現するとともに,境界条件下でのコストを最大50%削減する自動演算技術であるCliffCompactionを開発した。
CliffCompactionのロールアウトあたりの節約により、テスト時間スケーリングのパフォーマンスとコストのトレードオフがより効率的になり、ターミナル・ベンチで10%以上のポイントを2つのフルコンテキスト実行のコストよりも小さくする。
CliffCompactionは並列テストタイムで、Kim K2.6がOpus 4.7と一致し、低コストでOpus 4.6とGPT-5.3コーデックスを上回る。
CliffCompactionの有効性の鍵は、コンテンツを切り落としたり、リフレッシュしたり書き直したりするだけで、コンパクトな情報を忠実に保ち続けることである。
我々は圧縮を決してコンパクトにしない-これらのパスは元のコンテンツでのみ動作し、事前の圧縮された出力は破棄され、コンテキストのドリフトが蓄積されるのを防ぐ。
KernelBenchでは、CliffCompactionはCUDAカーネルのスピードアップを200ステップ後に$$2.23、400ステップ後に$3.58の$で達成し、汎用的な圧縮技術であるにもかかわらず、特殊な検索アルゴリズムや訓練されたエージェントを超越している。
Claude CodeやCodexなどのハーネスで使用可能なCliffCompactionの,足場に依存しないAPI-プロキシ実装をオープンソースとして公開しています。
関連論文リスト
- SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness [55.660824003457115]
RSIにインスパイアされたアプローチをハーネス層に導入し、多数の多様な環境にまたがって自動検索ループをスケールして、ハーネスをロールアウトします。
4つのメカニズムが選択を乗り越え、SoL-Piを形成し、アクションの実行、コンテキストのコンパクト化、監視処理、デリゲートされた読み込みを行う。
推定時給は、ネイティブのコーデックスやクロードコードと比べて8.75ドルから13.50ドル、Piと比較して4.36ドルから5.71ドルである。
論文 参考訳（メタデータ） (2026-09-17T14:58:29Z) - ECHO: Early-layer Collaborative Hierarchical Orchestration with Bonus Logits in Speculative Decoding [60.34475274870224]
ECHOは、LLM層間の機能的非対称性を利用する階層的なデュアルループフレームワークである。
インナーループ内では、アーリーレイヤのボーナスロジットは、最小限のコストで、高速で多段階のドラフトツリー探索を駆動する。
ECHOは平均的なトークンを著しく増加させ、2.4$times$2.9$times$スピードアップを達成する。
論文 参考訳（メタデータ） (2026-09-15T14:21:33Z) - Inference Economics of Enterprise Coding Agents: A Case Study of Cloud vs. On-Premise LLMs [0.5352699766206807]
単発モノレポの連続28日間における単発非ランダム化縦断ケーススタディについて検討した。
即時キャッシュ(99.3%のヒット率)がAPIのコストを88.6%削減し、有効な0.57%のトークンが得られた。
論文 参考訳（メタデータ） (2026-07-13T07:04:49Z) - End-to-End Context Compression at Scale [81.70601323130997]
長期コンテキスト言語モデル推論は、KVキャッシュがコンテキスト長とともに増加するにつれて、メモリによってボトルネックとなる。
KVキャッシュを圧縮する最近の技術は、モデル品質を著しく低下させるか、あるいはかなりの時間を要するか、1つの長いプロンプトを圧縮するために計算する。
既存のアプローチは、精度-効率のフロンティア上のKVキャッシュ圧縮と競合しない。
論文 参考訳（メタデータ） (2026-06-08T15:43:16Z) - Still: Amortized KV Cache Compaction in a Single Forward Pass [1.9331338820553994]
KVキャッシュは、長期の言語モデルのデプロイメントにおけるメモリボトルネックである。
単一のフォワードパスでコンパクトなキーと値を生成する冷凍ベースモデルに対して、一度トレーニングされた小さな層ごとのPerceiverであるStillを紹介する。
論文 参考訳（メタデータ） (2026-06-05T22:21:23Z) - LongAttnComp: Cross-Family Context Compression for Long-Context Reasoning [2.1218260966433955]
LongAttnCompは、軽量なクロスアテンションスコアリング層を微調整するAttnCompの長いコンテキスト適応である。
InfiniteBenchのコード-デバッグでは、LongAttnCompはフルコンテキストの正確さにマッチするか、超える。
LongBench v2では、2段階のレシピが多文書推論のステージ1のギャップを埋めている。
論文 参考訳（メタデータ） (2026-05-31T16:40:36Z) - A Self-Evolving Framework for Efficient Terminal Agents via Observational Context Compression [39.60395856651371]
TACOは、既存の端末エージェントのためのプラグアンドプレイ、トレーニング不要、自己進化型ターミナルエージェント圧縮フレームワークである。
相互作用軌跡から構造化圧縮規則を発見し、洗練し、再利用する。
エージェントの足場とバックボーンモデル間のタスクパフォーマンスとトークン効率を一貫して改善する。
論文 参考訳（メタデータ） (2026-04-21T15:25:54Z) - CompLLM: Compression for Long Context Q&A [47.90063873976842]
そこで本研究では,実用的デプロイメント用に設計されたソフト圧縮技術であるCompLLMを紹介する。
CompLLMはコンテキストを水平に処理する代わりにセグメントに分割し、それぞれを独立して圧縮する。
実験の結果,2倍圧縮速度でコンテクスト長のCompLLMでは,TTFT(Time To First Token)を最大4倍高速化し,KVキャッシュサイズを50%削減できることがわかった。
論文 参考訳（メタデータ） (2025-09-23T16:49:43Z) - R1-Compress: Long Chain-of-Thought Compression via Chunk Compression and Search [61.4807238517108]
CoT(Chain-of-Thought)推論は、ステップバイステップの問題解決を可能にすることで、大きな言語モデル(LLM)を強化する。
CoTのLong-CoTへの拡張はトークン長の増加による計算オーバーヘッドを大幅に増加させる。
ローカル情報とコヒーレンスの両方を保存する2段階のチャンクレベル圧縮フレームワークであるR1-Compressを提案する。
論文 参考訳（メタデータ） (2025-05-22T16:06:59Z) - ParallelComp: Parallel Long-Context Compressor for Length Extrapolation [51.68913021512016]
超長い文脈(テキスト長 >128K)の補間は、大きな言語モデル(LLM)にとって大きな課題である。
本研究では,メモリボトルネックを効果的に克服する並列長コンテキスト圧縮手法であるParallelCompを提案する。
チャンクスループットが1.76倍向上し、プリフィル段階では23.50倍の高速化を実現し、性能損失を無視できる。
論文 参考訳（メタデータ） (2025-02-20T07:10:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。