論文の概要: The Physical Cost of Context: Quality-Constrained Resource Accounting for Coding Agents
- arxiv url: http://arxiv.org/abs/2610.34763v1
- Date: Mon, 26 Oct 2026 03:07:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.712183
- Title: The Physical Cost of Context: Quality-Constrained Resource Accounting for Coding Agents
- Title(参考訳): 文脈の物理的コスト:コーディングエージェントの品質制約された資源会計
- Abstract要約: 品質保証されたプロトコルは、論理的なプロンプトの最小再利用プレフィックスにプリフィルされ、KVの常駐、時間、エネルギーを測定する。
Eager、モデルコールを35.7%削減、GPUエネルギープロキシを33.2%削減(Grep)
100個のSWE-bench認証インスタンスにミニSWE-agentをインストールすると、最後の5つの観測だけがイーガーの迅速なボリュームを33.3%削減するが、タスク毎に135.9kの再利用トークンが失われる。
- 参考スコア(独自算出の注目度): 4.94551266071363
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Coding agents resend a growing context on every model call, and context policies are usually judged by the prompt tokens they save. Executed work also depends on call count and prefix reuse: a caching runtime prefills only the tokens after the longest cached prefix. A shorter prompt can therefore cost more if it rewrites cached history. Our quality-gated protocol splits executed prefill into logical prompt minus reused prefix and measures KV residency, time, and energy. On 450 localization cases derived from SWE-rebench V2, preloading ten retrieved blocks (Eager) and adding anchored history compaction (Compact) both pass a five-point non-inferiority gate. In a separate 900-cell study, Eager cuts model calls by 35.7% and the GPU-energy proxy by 33.2% against on-demand search (Grep); Compact saves nothing further. Enabling prefix caching leaves Eager's prompt volume similar (+8.3%; its 95% CI spans zero) but cuts its uncached prefill by 67.7%. Deleting history can turn a token saving into extra work. With mini-SWE-agent on 100 SWE-bench Verified instances, keeping only the last five observations (Mask-5) cuts Eager's prompt volume by 33.3% but loses 135.9k reusable tokens per task. Uncached prefill rises by 608.5%, the energy proxy by 125.6%, and the policy misses the quality gate. Policies thus save physical work by shortening the trajectory and can multiply it by editing reusable history.
- Abstract(参考訳): コーディングエージェントは、すべてのモデルコールで成長するコンテキストを再送し、コンテキストポリシーは通常、保存するプロンプトトークンによって判断される。
キャッシュランタイムは、最も長いキャッシュされたプレフィックスの後にトークンのみをプリフィルする。
したがって、キャッシュされた履歴を書き換える場合、短いプロンプトでより多くのコストがかかる可能性がある。
我々の品質保証プロトコルは、実行済みプレフィルを論理的プロンプト最小再利用プレフィックスに分割し、KV常駐、時間、エネルギーを測定する。
SWE-rebench V2から派生した450のローカライゼーションケースでは、10個の検索ブロック(Eager)をプリロードし、アンカー付き履歴圧縮(Compact)を追加する。
900セルの別の研究で、Eagerはモデルコールを35.7%削減し、GPUエネルギープロキシを33.2%削減した。
プレフィックスキャッシングはイーガーのプロンプトボリューム(+8.3%、95%CIは0)と似ているが、未処理のプリフィルを67.7%削減する。
履歴の削除はトークンの保存を余分な作業に変えます。
100個のSWE-bench認証インスタンスにミニSWE-agentを持つと、最後の5つの観測(Mask-5)だけがイーガーの迅速なボリュームを33.3%削減するが、タスク毎に135.9kの再利用可能なトークンが失われる。
未処理のプリフィルは608.5%上昇し、エネルギープロキシは125.6%上昇し、ポリシーは品質ゲートを欠いている。
したがって、ポリシーは軌道を短くすることで物理的な作業を節約し、再利用可能な履歴を編集してそれを乗算することができる。
関連論文リスト
- Cache Engineering for Agents [9.70023392405603]
大規模言語モデル(LLM)エージェントはますます複雑なタスクを処理し、観察と行動の長い軌跡をナビゲートする。
これらのトラジェクトリが大きくなるにつれて、キー値(KV)キャッシュI/Oとストレージが主流となる。
そこで我々は,新たな手法としてキャッシュエンジニアリングを提案する。これによりエージェントは,動作中のKVキャッシュを直接制御できる。
論文 参考訳(メタデータ) (2026-10-20T17:32:24Z) - Request Order Matters: Cache-History Sensitivity in Selective KV-Cache Reuse for Rolling Agents [0.0]
ドキュメント整列型再計算により、リクエスト注文間の回答のばらつきが69.0%から、CacheBlendのトークンのトップ$k$ポリシーが26.1%に削減される。
我々のアブレーション研究は, 転がり軸受の作業負荷において, 連続性が頑健な選択的再計算に関連する主要な要因であることを示している。
論文 参考訳(メタデータ) (2026-10-05T05:37:22Z) - Turning Interaction History into Execution State: A Runtime Layer for Long-Horizon Coding Agents [48.967927222079965]
Ledgerは、エージェントの完了したインタラクションを明示的な実行状態に蒸留するランタイム層である。
Ledgerはこの状態をオンライン実行台帳に保持し、各ステップの2つのバウンダリに適用される。
500のSWE-bench検証インスタンス全体で、LedgerはPass@1を56.2%から64.2%に、GPT-5 miniを75.8%から81.0%に、MiniMax M2.5を81.0%に引き上げている。
論文 参考訳(メタデータ) (2026-08-01T18:25:00Z) - Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。
より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。
我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
論文 参考訳(メタデータ) (2026-07-30T02:42:51Z) - Cache-Aware Prompt Compression:A Two-Tier Cost Model for LLM API Caching [7.336436436266022]
AnthropicのSonnet 4.6 APIで,そのコストを実証的に評価した。
キャッシュ対応プロンプト圧縮(CAPC)を提案する。
CAPCはLongBench-v2の16/16構成で最も安価な戦略である。
論文 参考訳(メタデータ) (2026-07-17T00:03:47Z) - StepCache: Step-Level Reuse with Lightweight Verification and Selective Patching for LLM Serving [0.0]
StepCacheはバックエンドに依存しないステップレベルの再利用レイヤで、出力を順序付けられたステップに分割します。
StepCacheは、選択的パッチによって失敗したリージョンのみを再生する。
平均レイテンシは2.13秒から0.67秒、中央レイテンシは2.42秒から0.01秒、p95レイテンシは3.38秒から3.30秒に減少する。
論文 参考訳(メタデータ) (2026-03-24T17:19:26Z) - Structured Distillation for Personalized Agent Memory: 11x Token Reduction with Retrieval Preservation [0.0]
AIエージェントとの長い会話は、あるユーザにとって単純な問題を生み出します。
本研究では,個人化されたエージェントメモリについて検討する。あるユーザのエージェントとの会話履歴を,後続検索のためのコンパクトな検索層に抽出する。
6つのソフトウェアエンジニアリングプロジェクトから4,182件の会話(14,340件の交換)を適用すれば、平均交換長が371件から38件に短縮され、11倍の圧縮が得られる。
論文 参考訳(メタデータ) (2026-03-13T14:21:58Z) - Training-Free Exponential Context Extension via Cascading KV Cache [49.608367376911694]
カスケードサブキャッシュバッファを利用して,最も関連性の高いトークンを選択的に保持する機構を導入する。
本手法は,1Mトークンのフラッシュアテンションと比較して,プリフィルステージ遅延を6.8倍削減する。
論文 参考訳(メタデータ) (2024-06-24T03:59:17Z) - Get More with LESS: Synthesizing Recurrence with KV Cache Compression for Efficient LLM Inference [78.65321721142624]
我々はキー値(KV)キャッシュによって課されるメモリボトルネックに焦点を当てる。
既存のKVキャッシュ手法は、比較的重要でないKVペアの大きなスワストを刈り取ったり、取り除いたりすることでこの問題に対処する。
本稿では,固定サイズキャッシュと退避型キャッシュを簡易に統合したLESSを提案する。
論文 参考訳(メタデータ) (2024-02-14T18:54:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。