論文の概要: Compress What You See, Not What You Say: Anchored Context Distillation for Latent-Observation Software Engineering Agents
- arxiv url: http://arxiv.org/abs/2609.31430v1
- Date: Fri, 25 Sep 2026 15:51:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.477331
- Title: Compress What You See, Not What You Say: Anchored Context Distillation for Latent-Observation Software Engineering Agents
- Title（参考訳）: 目にするものを圧縮する - 潜在観測ソフトウェアエンジニアリングエージェントの文脈蒸留
- Abstract要約: Latent Observations, Hard Actions (LOHA) は、圧縮された履歴を正確な参照に必要なテキストから分離するコンテキストレイアウトである。
LOHAは、古いツールの観察をソフトトークンに圧縮し、エージェント自身のターンと最後のK観察をテキストで保持する。
ACDは、ベースモデルのフルテキスト予測を潜在ビューに蒸留し、その振る舞いを同じベースモデルへの平文入力に固定する。
- 参考スコア（独自算出の注目度）: 9.105007404211452
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tool observations dominate the context of software-engineering agents, making long interaction histories costly to maintain. Existing context compression methods can discard information needed by later actions, while adapting agents to soft-token representations can compromise their original behavior. To reduce context while preserving action-critical information and agent behavior, we combine Latent Observations, Hard Actions (LOHA), a context layout that separates compressed history from text needed for exact reference, with Anchored Context Distillation (ACD), a training method that enables latent reading while constraining behavioral drift. LOHA compresses older tool observations into soft tokens while retaining the agent's own turns and the last K observations in text, providing compact access to historical information and exact access to recent content. To enable the agent to use this representation, ACD distills the base model's full-text predictions into the latent view while anchoring its behavior on plain-text inputs to the same base model. On SWE-bench Verified, K=3 reduces context per call by 43% for Qwen3-4B and 57% for SWE-Master-4B-RL, with resolve rates of 12.1% and 21.8% versus 14.5% and 27.5% for their uncompressed bases. A single-run recency sweep reaches 14.4% and 23.0% at K=8, with larger windows generally favoring task performance over compression. Under a 32K-token limit, Qwen3 with K=3 resolves 21.1% of a 199-instance subset versus 11.1% for the same adapted agent using full text. In concurrent single-GPU serving, it achieves 1.9 times that full-text agent's instance throughput.
- Abstract（参考訳）: ツールの観察は、ソフトウェアエンジニアリングエージェントのコンテキストを支配し、長時間のインタラクション履歴を維持するのにコストがかかる。
既存のコンテキスト圧縮手法は、後続のアクションに必要な情報を破棄することができるが、エージェントをソフトトケン表現に適応させることで、元の振る舞いを損なうことができる。
動作クリティカルな情報とエージェントの振る舞いを保存しながらコンテキストを減少させるために、圧縮された履歴を正確な参照に必要なテキストから分離するコンテキストレイアウトである遅延観察、ハードアクション(LOHA)と、動作のドリフトを制限しながら潜時読みを可能にする訓練方法であるAnchored Context Distillation(ACD)を組み合わせる。
LOHAは、古いツールの観察をソフトトークンに圧縮し、エージェント自身のターンと最後のK観察をテキストで保持し、履歴情報へのコンパクトなアクセスと最近のコンテンツへの正確なアクセスを提供する。
エージェントがこの表現を使えるようにするために、ACDはベースモデルのフルテキスト予測を潜在ビューに蒸留し、その振る舞いを同じベースモデルへの平文入力に固定する。
SWE-bench Verifiedでは、K=3はQwen3-4Bが43%、SWE-Master-4B-RLが57%、リゾルバレートが12.1%、21.8%、非圧縮ベースが14.5%、27.5%である。
K=8で14.4%、K=8で23.0%に達し、大きなウィンドウは圧縮よりもタスクパフォーマンスを好んでいる。
32K-token制限の下では、Qwen3とK=3は199-instanceサブセットの21.1%を解決している。
並列シングルGPUサービスでは、フルテキストエージェントのインスタンススループットの1.9倍を達成する。
関連論文リスト
- KuaFu: Compressing Long User Behavior into Understanding at Billion Scale [8.879165508803753]
KuaFuは、最小限のユニットが1つの振舞いアイテムである統一された振舞い圧縮層である。
5つの指標のすべてで、圧縮されていないシングルタスクのプロダクションモデルと一致または超えます。
Tencentの広告とレコメンデーションプラットフォーム上で10ヶ月間稼働しており、全体のGMVは1.37%上昇している。
論文 参考訳（メタデータ） (2026-09-25T09:39:39Z) - Security Assessment of DeepSeek Harness with A.I.G: Evaluating Resistance to Indirect Prompt Injection [5.713807329849712]
我々は、DeepSeek Harness(DSH)の間接的インジェクションを評価し、テストの構築、制御されたテナントの提供、DSHの実行、トレースの収集、結果の判断を行う。
この研究は、14,560の間接コンテンツチャネル、テキストおよびファイルキャリアモード、35のペイロード目標、1つの修正されていないベースライン、12のアタックメソッドを制御している。
論文 参考訳（メタデータ） (2026-08-17T10:43:07Z) - Reading is not Reasoning: Bridging the Agentic Policy Gap in Vision-Text Compression [26.345226427880306]
多段階の言語モデルエージェントは、成長する相互作用履歴を繰り返し処理し、かなりのコンテキストコストをもたらす。
視覚-テキスト圧縮は、履歴を画像としてレンダリングすることでこれらのコストを削減するが、その結果、大きな能力ギャップが生じる。
ビジュアル・ヒストリー・エージェントは、行動選択、クエリの定式化、停止、エビデンスの使用において体系的なドリフトを示し、エージェントポリシーのギャップを明らかにしている。
論文 参考訳（メタデータ） (2026-08-09T23:38:12Z) - Addressable Recall Compaction for Long Context-Window Control in AI Agents [6.124773188525719]
ロングホライゾンLSMエージェントは、最終的にモデルの固定されたコンテキストウインドウを超えることができる推論トレース、アクション、ツール観察を蓄積する。
本稿では,アーカイブストレージとアクティブ・コンテクスト・プレゼンテーションを分離したコンテキスト管理フレームワークARCを提案する。
ARCは、ツールの観察を追加専用でID対応のログに格納し、圧縮が必要なときに古い観察をコンパクトな引用に置き換える。
論文 参考訳（メタデータ） (2026-07-27T20:51:05Z) - CoACT: Action-Preserving Observation Compression for Coding Agents [8.484842324052751]
本稿では,符号化エージェントの動作保存型観測圧縮手法であるCoACTを提案する。
CoACTは、生の観測と同じ次のアクションを誘導するために圧縮された観察を必要とする、次のアクション保存(NAP)上に構築されている。
3つのエージェントモデルで検証されたSWEベンチ実験の結果,CoACTは平均トークン消費量を33.0%削減することがわかった。
論文 参考訳（メタデータ） (2026-07-03T03:17:52Z) - VISUALSKILL: Multimodal Skills for Computer-Use Agents [63.79539541125141]
ターゲットアプリケーション毎に調整された階層型マルチモーダルスキルであるVISUALSKILLを提案する。
著者によるドキュメンテーションとライブアプリケーションUI探索を組み合わせた2段階のパイプラインで、それぞれのスキルを構築します。
2つのCUAベンチマークでは、Claude Code CLIエージェントがClaude Opus 4.6によって支援され、VISUALSKILLで平均スコア0.456に達した。
論文 参考訳（メタデータ） (2026-06-16T19:57:07Z) - Skill-as-Pseudocode: Refactoring Skill Libraries to Pseudocode for LLM Agents [50.78646963535282]
Skill-as-Pseudocode (SaP) はマークダウンスキルライブラリの型付き擬似コードへの自動変換である。
1つ以上のスキルから引き出された類似の手続きパスのクラスタごとに、SaPは型付きコントラクトを抽出し、それを4チェック決定性検証器を通じてフィルタリングする。
プロモートされた契約は、復元された具体的なアクションテンプレートと共に書き直されたスキルスケルトンにインライン化され、エージェントは2つの補完的な信号を与える。
論文 参考訳（メタデータ） (2026-05-27T04:48:40Z) - Prune Redundancy, Preserve Essence: Vision Token Compression in VLMs via Synergistic Importance-Diversity [54.95089105944234]
視覚言語モデル(VLM)は、過剰な視覚トークンの生成によって引き起こされる計算の非効率性に直面する。
2段階パイプラインを特徴とする訓練不要なSynergistic Importance-DiversityアプローチPruneSIDを提案する。
LLaVA-NeXTでは11.1%のトークン保持率で96.3%の精度、極端な圧縮速度(5.6%)で92.8%の精度を実現した。
論文 参考訳（メタデータ） (2026-03-10T10:31:58Z) - AgentFold: Long-Horizon Web Agents with Proactive Context Management [98.54523771369018]
LLM ベースの Web エージェントは情報検索を大いに約束するが,その有効性はコンテキスト管理における基本的なトレードオフによって妨げられる。
本稿では,プロアクティブなコンテキスト管理を中心としたエージェントパラダイムであるAgentFoldを紹介する。
単純な微調整により,BrowseCompでは36.2%,BrowseComp-ZHでは47.3%を達成した。
論文 参考訳（メタデータ） (2025-10-28T17:51:50Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳（メタデータ） (2025-09-25T14:05:55Z) - R1-Compress: Long Chain-of-Thought Compression via Chunk Compression and Search [61.4807238517108]
CoT(Chain-of-Thought)推論は、ステップバイステップの問題解決を可能にすることで、大きな言語モデル(LLM)を強化する。
CoTのLong-CoTへの拡張はトークン長の増加による計算オーバーヘッドを大幅に増加させる。
ローカル情報とコヒーレンスの両方を保存する2段階のチャンクレベル圧縮フレームワークであるR1-Compressを提案する。
論文 参考訳（メタデータ） (2025-05-22T16:06:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。