論文の概要: When Can Agents Forget Their Reasoning? ICLR for Long-Horizon Agent Context Compression
- arxiv url: http://arxiv.org/abs/2609.29875v1
- Date: Thu, 24 Sep 2026 14:28:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:10.006623
- Title: When Can Agents Forget Their Reasoning? ICLR for Long-Horizon Agent Context Compression
- Title(参考訳): エージェントはいつ推論を許せるか? ロングホライゾンエージェントコンテキスト圧縮のためのICLR
- Abstract要約: ロングホライズル言語モデルエージェントは、推論履歴を継続的に蓄積する。
歴史的推論の除去は、将来の行動と結果として生じる相互作用の軌跡を変える可能性がある。
長軸推論のためのインタラクションアウェア圧縮を提案する。
- 参考スコア(独自算出の注目度): 55.84813053778976
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long horizon language model agents continually accumulate reasoning history, increasing context length and inference cost even after earlier decisions have been executed and observed. Unlike static Chain of Thought compression, removing historical reasoning can change future actions and the resulting interaction trajectory. We study when such reasoning can be safely forgotten. We propose Interaction Aware Compression for Long Horizon Reasoning (ICLR), a training free online method that ranks reasoning blocks using frozen proxy entropy while preserving actions, tool calls, and observations. On 260 WorkBuddyBench tasks, ICLR improves average reward from 0.699 to 0.718, while reducing input, output, and cache read tokens by 25.5%, 14.4%, and 33.3%, respectively. Ablations reveal trajectory amplification, where local reasoning deletion produces nonlinear changes in total computation by altering subsequent interaction. Representation probing, activation patching, and controlled trajectory analyses further suggest that historical reasoning becomes more replaceable once task relevant derived state has been reliably externalized into code, files, tool outputs, or environmental feedback. These results characterize agent reasoning as dynamic working state rather than permanent interaction history.
- Abstract(参考訳): 長期水平言語モデルエージェントは、推論履歴を継続的に蓄積し、以前の決定が実行され、観察された後でも、文脈長と推論コストを増大させる。
思考圧縮の静的連鎖とは異なり、歴史的推論の除去は将来の行動と結果として生じる相互作用の軌跡を変える可能性がある。
このような推論がいつ安全に忘れられるか研究する。
ICLR(Interaction Aware Compression for Long Horizon Reasoning)は,凍結プロキシエントロピーを用いた推論ブロックのランク付けを行う学習自由オンライン手法である。
260のWorkBuddyBenchタスクでは、平均報酬を0.699から0.718に改善し、それぞれ入力、出力、キャッシュ読み取りトークンを25.5%、14.4%、33.3%削減した。
アブレーションにより軌道増幅が示され、そこでは局所的な推論の削除が、その後の相互作用を変化させることで、全体の計算に非線形に変化をもたらす。
さらに、コード、ファイル、ツールアウトプット、環境フィードバックに確実に外部化されると、履歴的推論が置き換え可能であることを示唆している。
これらの結果は、エージェント推論を永続的な相互作用履歴ではなく、動的作業状態として特徴づける。
関連論文リスト
- StateComp: Learning When to Compress History in Long Horizon Agents [55.84813053778976]
本研究では,現在エージェントの状態に応じて過去のインタラクションを安全に圧縮できるフレームワークであるState Conditioned Compression(StateComp)を提案する。
WorkBenchBuddyの実験では、StateCompはタスク性能を維持しながら総エージェントと要約トークンを52.27%削減し、表現抽出において12.67倍の高速化を実現している。
論文 参考訳(メタデータ) (2026-09-23T03:34:08Z) - DRSR: Learning Set-Level Deletion Risk for Efficient Long-Horizon Agents [55.84813053778976]
ロングホライゾン言語モデルエージェントは、現在の決定と関係が変化する推論の痕跡、ツール交換、観察を蓄積する。
直接セットリスクスコアは、削除セットの選択としてエージェント履歴圧縮リスクを定式化する。
メカニカル・アナリシスとアブリケーションは、決定に制約のある関係、保持されたコンテキスト情報、ペア・インタラクション、および棄権がそれぞれ信頼できるプルーニングに寄与していることを示している。
論文 参考訳(メタデータ) (2026-09-23T03:06:01Z) - Think Wider: Mitigating Latent Rank Collapse in Implicit Chain-of-Thought Reasoning [3.216436532980238]
CoT推論(Chain-of-Thought reasoning)は、中間計算を導入することにより、大規模言語モデルの推論能力を向上させる。
しかし、明確な論理はデコードの長さ、レイテンシ、コンテキストコストを増大させる。
Implicit CoTは、中間的推論を連続的な潜在状態に移すことにより、より効率的な代替手段を提供する。
論文 参考訳(メタデータ) (2026-09-07T12:18:51Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳(メタデータ) (2026-03-23T14:48:54Z) - Balancing Faithfulness and Performance in Reasoning via Multi-Listener Soft Execution [79.98699884805636]
Reasoning Execution by Multiple Listeners (REMUL) は多人数の強化学習手法である。
REMULは、推論が他の当事者に従えるかがより忠実になるという仮説に基づいている。
スピーカーは、リスナーにとって明らかな推論を生み出すことで報われます。
論文 参考訳(メタデータ) (2026-02-18T02:55:55Z) - Reasoning While Asking: Transforming Reasoning Large Language Models from Passive Solvers to Proactive Inquirers [41.58256327940237]
Proactive Interactive Reasoningは、大規模言語モデルからProactive Inquirerに変換する。
PIRは、ユーザと直接対話することで、前提レベルと意図レベルの不確実性を目標とします。
数学的推論、コード生成、文書編集の実験は、PIRが強いベースラインを一貫して上回ることを示した。
論文 参考訳(メタデータ) (2026-01-29T18:56:12Z) - Metacognitive Reuse: Turning Recurring LLM Reasoning Into Concise Behaviors [45.578570554635775]
大規模言語モデル(LLM)は、思考の連鎖を拡大することによって、多段階の問題を解決する。
再帰的推論の断片を簡潔かつ再利用可能な「行動」に変換する簡単なメカニズムについて検討する。
これらの振る舞いは"振る舞いハンドブック"に格納され、推論時のモデルインコンテキストにそれらを供給するか、教師付き微調整によってパラメータに蒸留する。
論文 参考訳(メタデータ) (2025-09-16T16:44:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。