論文の概要: Maximising Transparency in Context Compaction Improves Retention of Facts and Commitments for Lightweight Coding Agents
- arxiv url: http://arxiv.org/abs/2610.20116v1
- Date: Wed, 14 Oct 2026 12:43:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.143343
- Title: Maximising Transparency in Context Compaction Improves Retention of Facts and Commitments for Lightweight Coding Agents
- Title（参考訳）: コンテクスト圧縮における透明性の最大化は、軽量符号化剤のファクトとコミットの保持を改善する
- Abstract要約: 本稿では,オープンソースのPi符号化エージェントのための簡易な決定論的手法であるPalper-Compactを提案する。
ユーザとアシスタントのコンテキストにおける散文がモデルやアルゴリズムによって変更されることを保証し、圧縮が情報が削除された場合に明示的にフラグを付ける。
提案手法は,Piの既定のモデル記述要約圧縮と,類似した手法を用いた一般的な決定法であるpi-vccとを比較した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Long coding agent sessions outgrow the model's context window, so agents compact: older history is replaced by something shorter, usually a model-written summary. A summary selects and rewords, and the agent cannot see what was lost. Existing work has explored a range of compaction techniques, but comparatively little attention has been paid to their effectiveness with lightweight models, including those deployed locally or used for high-volume workloads. Here, we present transparent-compact, a simple deterministic method for the open-source Pi coding agent, designed specifically for use with such models and with the purpose of maximising the transparency of the agent's view of its own compacted context. It guarantees that user and assistant prose in its context is unchanged by a model or algorithm, and explicitly flags where compaction has stripped information. We compare it with Pi's default model-written summary compaction and with pi-vcc, a popular deterministic method with similar methods but without verbatim retention of prose. Our benchmarks run on four models of varying performance levels, with emphasis on Qwen3.8-27B: a lightweight model at the top end of what consumer hardware can serve locally. On sets probing commitments (rules the user set which exist only in the conversation) and recall of facts, transparent-compact matched or outperformed both alternatives. In particular, it showed an advantage in avoiding confident blunders, i.e. assertion of false information as opposed to recognizing that something was not recalled. Even with a frontier model, its advantage was present but smaller. We argue that transparent-compact spares lightweight models from reasoning or searching their way around what compaction lost, and results in improved recall and application of information as a result, without the need for task or context-specific structuring of the session history.
- Abstract（参考訳）: 長いコーディングエージェントセッションはモデルのコンテキストウィンドウを超過するため、エージェントはコンパクトになる。
要約は選択してリワードし、エージェントは失ったものを見ることができない。
既存の作業は、さまざまなコンパクト化テクニックを探求してきたが、ローカルにデプロイされたり、高ボリュームのワークロードに使用されるような、軽量モデルの有効性には、比較的注意が払われていない。
本稿では,オープンソースPi符号化エージェントの簡易な決定論的手法であるPhilip-Compactについて述べる。
ユーザとアシスタントのコンテキストにおける散文がモデルやアルゴリズムによって変更されることを保証し、圧縮が情報が削除された場合に明示的にフラグを付ける。
提案手法は,Piの既定のモデル記述要約圧縮と,類似した手法を用いた一般的な決定法であるpi-vccとを比較した。
当社のベンチマークでは、Qwen3.8-27Bという、コンシューマハードウェアがローカルに提供可能な最上位の軽量モデルに重点を置いて、さまざまなパフォーマンスレベルの4つのモデルを実行しています。
約束(会話にのみ存在するユーザセットを破棄する)と事実のリコールを行うセットでは、透明なコンパクト性は両方の選択肢にマッチするか、より優れています。
特に、何かがリコールされていないことを認識するのとは対照的に、確実な失敗、すなわち偽情報の主張を避けることには有利であった。
フロンティアモデルでさえ、その利点はあったがより小さいものだった。
透明コンパクト化は, セッション履歴のタスクやコンテキスト固有の構造化を必要とせずに, コンパクションが失ったものを推論したり, 検索したりすることなく, 結果として情報のリコールや適用が向上すると主張している。
関連論文リスト
- Memory Control Signals Emerge Before Action in Long Horizon Agents [55.84813053778976]
各エージェントアクションの直前に隠された状態を調べ、圧縮とリコールの要求がモデルの内部表現にすでにエンコードされていることを確認する。
本研究では,状態誘導圧縮と外部エビデンス検索を組み合わせたPreaction Memory with Evidence Retrieval (PaMER)を提案する。
論文 参考訳（メタデータ） (2026-09-23T03:23:34Z) - SlimPer: Make Personalization Model Slim and Smart [20.68857468213109]
SlimPer は,コンパクトで統一されたユーザ,項目> 知識基盤の反復的改良としてパーソナライズされたランキングを再構築する。
SlimPerは単一のバックボーン内でスパース、シークエンス、シークエンス機能を統一し、アテンションメカニズムを通じて固有の解釈性を提供する。
論文 参考訳（メタデータ） (2026-07-14T02:31:32Z) - Sparse Autoencoders enable Robust and Interpretable Fine-tuning of CLIP models [20.739509756066795]
CLIPのような大規模で事前訓練された視覚言語モデルは、さまざまなタスクにまたがる顕著なゼロショットパフォーマンスを示している。
近年のアプローチでは、このトレードオフを緩和しようと試みているが、しばしば計算コストの高いテキストガイダンスに依存している。
そこで本研究では,モデルの視覚的表現のみで動作する頑健な微調整手法であるSAE-FTを提案する。
論文 参考訳（メタデータ） (2026-05-15T13:54:21Z) - GenericAgent: A Token-Efficient Self-Evolving LLM Agent via Contextual Information Density Maximization (V1.0) [56.81743709880371]
Long-Horizon Large Language Model (LLM) エージェントは、コンテキストによって根本的に制限される。
長い水平性能は、文脈長ではなく、有限の文脈予算内で意思決定関連情報がどれだけ維持されているかによって決定される。
我々は、情報密度とコンテキストの1つの原理に基づいて構築された汎用的自己進化型LLMエージェントシステムであるGenericAgent(GA)を提案する。
論文 参考訳（メタデータ） (2026-04-18T17:59:15Z) - Improving Sparse Memory Finetuning [6.491055956716639]
大規模言語モデル(LLM)は通常、トレーニング後に静的になるが、現実のアプリケーションは既存の能力を劣化させることなく、新しい知識への継続的な適応を必要とする。
完全な微調整やパラメータ効率の手法のようなモデル更新の標準的なアプローチは、基本的なトレードオフに直面します。
Sparse Memory Finetuning (SMF)は、明示的なメモリ層内のパラメータの小さなサブセットにアップデートをローカライズすることで、有望な代替手段を提供する。
論文 参考訳（メタデータ） (2026-04-06T23:16:10Z) - Stacked from One: Multi-Scale Self-Injection for Context Window Extension [69.24689919827817]
Modelnameは、多粒度コンテキスト圧縮とクエリ対応情報取得に基づく新しいフレームワークである。
modelnameachievesパフォーマンスは、強いベースラインと同等か、優れている。
論文 参考訳（メタデータ） (2026-03-05T03:16:16Z) - Spatial Autoregressive Modeling of DINOv3 Embeddings for Unsupervised Anomaly Detection [15.896078006029475]
DINOモデルは、教師なし異常検出(UAD)において、最近強力なパフォーマンスを実現したリッチなパッチレベル表現を提供する。
既存のほとんどの手法では、パッチ間の空間的および近傍的な関係を無視して、通常の画像からパッチ埋め込みを抽出し、それらを個別にモデル化する。
本稿では,2次元自己回帰(AR)モデルを用いて,パッチ埋め込み間の空間的および文脈的依存関係を明示的にモデル化するフレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-03T13:30:33Z) - Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。
本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文 参考訳（メタデータ） (2025-10-02T06:25:10Z) - Spurious Feature Eraser: Stabilizing Test-Time Adaptation for Vision-Language Foundation Model [86.9619638550683]
視覚言語基礎モデルは、画像とテキストのペアデータに拡張性があるため、多数の下流タスクで顕著な成功を収めている。
しかし、これらのモデルは、決定ショートカットの結果、きめ細かな画像分類などの下流タスクに適用した場合に重大な制限を呈する」。
論文 参考訳（メタデータ） (2024-03-01T09:01:53Z) - Coreference Resolution without Span Representations [20.84150608402576]
我々は,スパン表現や手作り機能,NLPへの依存を取り除く軽量なコア参照モデルを導入する。
我々のモデルは現行のエンドツーエンドモデルと競合するが、よりシンプルで効率的である。
論文 参考訳（メタデータ） (2021-01-02T11:46:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。