論文の概要: Paritok-4B: Intent-Conditioned Context Compression for Coding Agents
- arxiv url: http://arxiv.org/abs/2608.24188v1
- Date: Tue, 25 Aug 2026 07:53:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.863261
- Title: Paritok-4B: Intent-Conditioned Context Compression for Coding Agents
- Title(参考訳): Paritok-4B:コーディングエージェントの入出力コンテキスト圧縮
- Abstract要約: Paritok-4Bは、4BのLoRA圧縮機で、2つのコミットメントに基づいて構築されたコーディング・エージェント・トラジェクトリを駆動する。
書き直しではなくスパンを選択し、96.4%の識別子、パス、および出力した番号が入力にすでに表示されている。
エージェントの現在のタスクでは、主に保持されたセグメント内で動作し、どのラインが生き残るかを選択する。
- 参考スコア(独自算出の注目度): 0.9689471757238836
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Coding agents re-send large file reads and tool outputs to a frontier LLM every turn, and this context dominates their token bill. General-purpose prompt compressors are trained on prose and suit code poorly: they paraphrase identifiers and drop the exact spans an agent needs to edit. We present Paritok-4B, a 4B LoRA compressor for coding-agent trajectories built on two commitments. It is extractive: it selects spans rather than rewriting them, and 96.0% of the identifiers, paths, and numbers it emits already appear in its input, holding at 96.2% on held-out SWE-bench Lite output. It is intent-conditioned: told the agent's current task, it acts chiefly inside a retained segment, selecting which lines survive (retained lines are +0.067 more intent-relevant than removed ones, paired 95% CI [+0.056, +0.078]) rather than changing how much is retained. We distil a gpt-4.1-mini teacher over 67,074 real OpenHands trajectories into 40,606 validated examples and fine-tune Qwen3-4B. On all 300 SWE-bench Lite instances, Paritok-4B compresses agent context to 25.7% of its size, 2.0x harder than a gpt-4.1-mini compressor (50.2%) and 2.4x harder than gpt-5 (61.9%), while retaining 86.5% of uncompressed single-shot solve quality. Fed the cat -n line-numbered input real agents produce, it compresses slightly less (27.8%) and retains more (89.3%); there the paired test is informative, with 30 instances solved only uncompressed and 17 only compressed, an exact McNemar p=0.079, so at this sample size compressing context to roughly a quarter of its size does not significantly reduce the solve rate. The model is a 264 MB adapter that self-hosts on one 24 GB GPU with no per-token compressor fee, which at list prices decides the economics: gpt-5 as a compressor is net-negative, costing more than the downstream tokens it saves. Weights, data, and evaluation scripts are open (Apache 2.0).
- Abstract(参考訳): コーディングエージェントは、大きなファイルの読み込みとツール出力を毎回フロンティアLSMに再送信し、このコンテキストがトークンの請求書を支配します。
汎用的なプロンプト圧縮機は、散文と不適切なコードで訓練され、識別子を言い換え、エージェントが編集するために必要な正確なスパンをドロップする。
2つのコミットメントに基づいて構築された符号化エージェント軌道の4BLORA圧縮機であるParitok-4Bを提案する。
書き直しではなくスパンを選択し、96.0%の識別子、パス、数値が既に入力に表示され、96.2%のSWE-bench Lite出力を保持する。
エージェントの現在のタスクに対して、主に保持されたセグメント内で動作し、どのラインが生き残るかを選択する(保持された行は削除された行よりもインテント関連性の高い+0.067で、95% CI [+0.056, +0.078])。
我々はgpt-4.1-miniの教師を67,074以上の実OpenHandsトラジェクトリを40,606の検証例とQwen3-4Bに分解する。
300のSWE-bench Liteインスタンスでは、Paritok-4Bはエージェントコンテキストを25.7%、gpt-4.1-mini圧縮機(50.2%)より2.0倍、gpt-5(61.9%)より2.4倍、圧縮されていないシングルショットの解決品質の86.5%に圧縮する。
猫-n系統番号の入力リアルエージェントを生産し、圧縮をわずかに減らし(27.8%)、より多く(89.3%)保持する。ここでは、ペアテストは、30のインスタンスが非圧縮のみを解き、17のインスタンスは圧縮のみであり、正確なマクネマールp=0.079であるので、このサンプルサイズの圧縮コンテキストにおいて、その大きさの約4分の1まで圧縮しても、解率を著しく低下させることはない。
モデルは264MBのアダプタで、24GBのGPU上で、トーケンあたりの圧縮機料金なしで自己ホストする。
ウェイト、データ、評価スクリプトはオープンである(Apache 2.0)。
関連論文リスト
- The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
コード修復における制御ケーススタディを報告し,新しい現象ではない。
私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。
BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。
厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
論文 参考訳(メタデータ) (2026-08-14T19:22:50Z) - Smarter and Cheaper at Once: Byte-Exact KV-Cache Grafting Turns a Frozen Small Model into a Verified-Knowledge Flywheel [0.0]
凍結した小さな言語モデルを、重みを変えることなく、同時により有能かつ劇的に安価にします。
浮動小数点回転符号化モデルにおいて,自己配置グラフトは数値的に正確な操作点であることを示す。
システムは動作レベルで記述され、エンジンはプロプライエタリであり、報告された全ての数値はコミットされた入力と出力によってバックアップされるので、スコアはそれなしで再チェックできる。
論文 参考訳(メタデータ) (2026-07-15T23:55:48Z) - VisualClaw: A Real-Time, Personalized Agent for the Physical World [76.89211120690028]
2つの原則に基づいて構築された自己進化型マルチモーダルエージェントであるVisualClawを紹介する。
第一に、ハイブリッド符号化は、情報の少ないストリーミングフレームをカスケードゲートでフィルタリングすることにより、デプロイメントコストを低減する。
第二に、スキルの進化により、エージェントは失敗から学び、将来の質問に役立つスキルバンク更新を生成する。
論文 参考訳(メタデータ) (2026-06-15T06:58:22Z) - Claw-SWE-Bench: A Benchmark for Evaluating OpenClaw-style Agent Harnesses on Coding Tasks [75.92297551160692]
OpenClawのような汎用エージェントは、自律的なツールユーザとしてますます利用されている。
マルチリンガルなSWEベンチマークおよびアダプタプロトコルであるClaw-SWE-Benchを紹介する。
Claw-SWE-Benchは、SWEスタイルの符号化エージェント評価の第一級軸として、ハーネスとコスト会計を扱う。
論文 参考訳(メタデータ) (2026-06-10T17:16:23Z) - Skill-as-Pseudocode: Refactoring Skill Libraries to Pseudocode for LLM Agents [50.78646963535282]
Skill-as-Pseudocode (SaP) はマークダウンスキルライブラリの型付き擬似コードへの自動変換である。
1つ以上のスキルから引き出された類似の手続きパスのクラスタごとに、SaPは型付きコントラクトを抽出し、それを4チェック決定性検証器を通じてフィルタリングする。
プロモートされた契約は、復元された具体的なアクションテンプレートと共に書き直されたスキルスケルトンにインライン化され、エージェントは2つの補完的な信号を与える。
論文 参考訳(メタデータ) (2026-05-27T04:48:40Z) - Structured Distillation for Personalized Agent Memory: 11x Token Reduction with Retrieval Preservation [0.0]
AIエージェントとの長い会話は、あるユーザにとって単純な問題を生み出します。
本研究では,個人化されたエージェントメモリについて検討する。あるユーザのエージェントとの会話履歴を,後続検索のためのコンパクトな検索層に抽出する。
6つのソフトウェアエンジニアリングプロジェクトから4,182件の会話(14,340件の交換)を適用すれば、平均交換長が371件から38件に短縮され、11倍の圧縮が得られる。
論文 参考訳(メタデータ) (2026-03-13T14:21:58Z) - Nacrith: Neural Lossless Compression via Ensemble Context Modeling and High-Precision CDF Coding [0.0]
本研究では,自然言語テキストにおいて評価されたシステム間で最高の圧縮結果を得る圧縮システムであるNacrithについて述べる。
このシステムは500MBのGGUF重量と1ワーカーあたり1.2GBのVRAMしか必要としない。
Alice29 (Canterbury Corpus, 152 KB) では、Nacrith は 0th-, 1st-, 2nd-order Shannon entropy 境界以下で 0.918bits per byte (bpb) を達成する。
論文 参考訳(メタデータ) (2026-02-23T09:14:05Z) - Haiku to Opus in Just 10 bits: LLMs Unlock Massive Compression Gains [29.943032644387362]
ゲーム「Twenty Questions」に触発された対話型ロッキープロトコル「QA」について紹介する。
数学、科学、コードにまたがる8つのベンチマークでは、10のバイナリ質問が、標準ベンチマーク上の小さなモデルと大きなモデルの間の能力ギャップの23%から72%を回復する。
これは以前のLCMベースの圧縮より100倍以上小さい。
論文 参考訳(メタデータ) (2026-02-09T18:52:02Z) - The Perplexity Paradox: Why Code Compresses Better Than Math in LLM Prompts [0.0]
コード生成はアグレッシブ・プロンプト・圧縮(r >= 0.6)を許容し、チェーン・オブ・シークレット推論は徐々に低下する。
TAAC (Task-Aware Adaptive Compression) は品質保持率96%で22%のコスト削減を実現し, 定比圧縮を7%上回った。
論文 参考訳(メタデータ) (2026-01-21T18:03:27Z) - Compressing Many-Shots in In-Context Learning [61.231471139896506]
マルチショットプロンプトを圧縮することにより,ICL推論のメモリと計算効率を向上させる手法を提案する。
まず,既存のプロンプト圧縮手法がマルチショット圧縮には有効でないことを示す。
本稿では,レイヤワイド圧縮手法であるMemComを提案する。
論文 参考訳(メタデータ) (2025-10-17T16:57:42Z) - R1-Compress: Long Chain-of-Thought Compression via Chunk Compression and Search [61.4807238517108]
CoT(Chain-of-Thought)推論は、ステップバイステップの問題解決を可能にすることで、大きな言語モデル(LLM)を強化する。
CoTのLong-CoTへの拡張はトークン長の増加による計算オーバーヘッドを大幅に増加させる。
ローカル情報とコヒーレンスの両方を保存する2段階のチャンクレベル圧縮フレームワークであるR1-Compressを提案する。
論文 参考訳(メタデータ) (2025-05-22T16:06:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。