論文の概要: ARSM: Auto-Regressive State Machine for Agentic Reasoning Compression
- arxiv url: http://arxiv.org/abs/2609.32852v1
- Date: Sat, 26 Sep 2026 18:26:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 19:35:06.465021
- Title: ARSM: Auto-Regressive State Machine for Agentic Reasoning Compression
- Title(参考訳): ARSM:エージェント推論圧縮のための自動回帰状態マシン
- Abstract要約: Auto-Regressive State Machine (ARSM)は、構造化状態の進化を通じて、その場での推論圧縮を可能にする軽量なトレーニングフリーフレームワークである。
ARSMは、トークン消費を同時に削減しながらタスクパフォーマンスを維持する。
- 参考スコア(独自算出の注目度): 3.15372331123246
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While Large Language Model (LLM)-based agents demonstrate strong capabilities in long-horizon tasks by interleaving reasoning with external environment interactions, the continuous accumulation of context rapidly creates a critical memory bottleneck. Existing memory compression methods rely on task-specific optimization or external auxiliary models, introducing significant computational overhead. Furthermore, the resulting compressed representations tend to lose structured relationships, leading to information dilution, attention collapse, and degraded decision consistency. To address these limitations, we propose Auto-Regressive State Machine (ARSM), a lightweight training-free framework that enables in-situ reasoning compression through structured state evolution. ARSM introduces two key components: (i) a trajectory abstraction mechanism that reorganizes interaction histories into compact Hypothesis-Action-Result (HAR) micro-chains; (ii) a dynamic state machine that regulates hierarchical memory through atomic operations and a compression-control parameter. These components are unified within an auto-regressive, self-compressive generation space, where each model output jointly performs external action execution and internal state updates. We evaluate ARSM on Webshop, Multi-Objective Multi-Hop QA, and SWE-Bench Lite datasets. Experimental results show that ARSM maintains the task performance while simultaneously reducing token consumption, offering a practical, cost-effective route toward scalable autonomous agents for long-horizon tasks.
- Abstract(参考訳): 大言語モデル(LLM)ベースのエージェントは、外部環境の相互作用と推論をインターリーブすることによって、長期的タスクにおいて強力な機能を示す一方で、コンテキストの連続的な蓄積は、急速に重要なメモリボトルネックを生み出します。
既存のメモリ圧縮手法はタスク固有の最適化や外部補助モデルに依存しており、計算オーバーヘッドがかなり大きい。
さらに、圧縮された表現は構造化された関係を失う傾向にあり、情報希釈、注意崩壊、劣化した決定一貫性をもたらす。
これらの制約に対処するため、構造化状態の進化を通じてその場での推論圧縮を可能にする軽量なトレーニングフリーフレームワークであるAuto-Regressive State Machine (ARSM)を提案する。
ARSMは2つの重要なコンポーネントを導入している。
一 相互作用履歴をコンパクトな仮説-反応結果(HAR)マイクロチェーンに再構成する軌道抽象機構
(II) 原子操作と圧縮制御パラメータを介して階層記憶を制御する動的状態マシン。
これらのコンポーネントは、各モデル出力が外部アクションの実行と内部状態の更新を共同で実行する自動回帰自己圧縮生成空間内で統合される。
我々は、Webshop、Multi-Objective Multi-Hop QA、SWE-Bench Liteデータセット上でARSMを評価する。
実験の結果、ARSMはトークン消費を同時に低減しつつタスク性能を維持しており、長距離タスクのためのスケーラブルな自律エージェントへの実用的で費用対効果の高いルートを提供する。
関連論文リスト
- AttnCompress: Dynamic Attention-Guided Trajectory Compression for Software Engineering Agents [33.01897134024342]
本稿では,動的注意誘導軌道圧縮フレームワークであるAttnCompressを紹介する。
AttnCompressは意味的整合性と動的適応性のギャップを埋める。
合格率は53.17%で、最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2026-09-08T06:42:24Z) - Advancing Omnimodal Embodied Agents from Isolated Skills to Everyday Physical Autonomy [79.09714980186278]
非構造化環境で永続的なエンボディエージェントを構築するには、異種ツールの統一的なオーケストレーションが必要である。
我々は,多モーダルなセマンティックプランナを統合したフレームワークであるOmniActを紹介した。
すべての複雑性レベルにわたって、エンドツーエンドの成功において一貫した改善が達成されます。
論文 参考訳(メタデータ) (2026-06-25T16:36:35Z) - Task-Aware Structured Memory for Dynamic Multi-modal In-Context Learning [40.577016426387694]
MLLM(Multi-modal large language model)は、テキスト内学習(ICL)に依存して高速なタスク適応を行う。
既存のメモリ圧縮アプローチは、厳密なトークン除去やサンプル依存の重要度推定に依存している。
TASMは,タスク認識,構造保存,動的アクセス可能なメモリ構成を通じて,これらの制約に対処する,トレーニング不要のフレームワークである。
論文 参考訳(メタデータ) (2026-06-10T09:30:25Z) - Towards Efficient Agents: A Co-Design of Inference Architecture and System [66.59916327634639]
本稿では,エージェントアクセラレーションのための統合フレームワークであるAgentInferを提案する。
問題をAgentCollab、AgentSched、AgentSAM、AgentCompressの4つの相乗的コンポーネントに分解する。
BrowseComp-zhとDeepDiverベンチマークの実験では、これらの手法の相乗的コラボレーションを通じて、AgentInferは非効率なトークン消費を50%以上削減することを示した。
論文 参考訳(メタデータ) (2025-12-20T12:06:13Z) - PAACE: A Plan-Aware Automated Agent Context Engineering Framework [2.1756081703276]
大規模言語モデル(LLM)エージェントは、キュレート、変換、圧縮され、忠実さを維持し、注意の希釈を回避し、推論コストを削減しなければならない、急速に拡大するコンテキストを生成する。
PAACE(Plan-Aware Automated Context Engineering)は,Next-k-task Relevance Modeling, plan-aware instruction co-refinement,関数保存圧縮を通じて,LLMエージェントの進化状態を最適化する統合フレームワークである。
長期のベンチマーク(AppWorld、OfficeBench、および8-Objective QA)の実験では、PAACEは、コンテキスト負荷を大幅に削減しながら、エージェントの正しさを一貫して改善することを示した。
論文 参考訳(メタデータ) (2025-12-18T12:54:56Z) - The Curious Case of In-Training Compression of State Space Models [49.819321766705514]
ステートスペースモデル(SSM)は、並列化可能なトレーニングと高速推論の両方を提供する。
鍵となる設計上の課題は、表現力の最大化と計算負荷の制限の間の適切なバランスを打つことだ。
我々のアプローチである textscCompreSSM はリニアリカレントユニットのような線形時間不変SSMに適用されるが、選択モデルにも拡張可能である。
論文 参考訳(メタデータ) (2025-10-03T09:02:33Z) - MEM1: Learning to Synergize Memory and Reasoning for Efficient Long-Horizon Agents [84.62985963113245]
我々は,長時間のマルチターンタスクに対して,エージェントが一定のメモリで動作可能な,エンドツーエンドの強化学習フレームワークMEM1を紹介する。
各ターンでMEM1は、メモリ統合と推論を共同でサポートするコンパクトな共有内部状態を更新する。
その結果,MEM1-7Bは16目的のマルチホップQAタスクにおいて,Qwen2.5-14B-Instructと比較してメモリ使用量を3.7倍削減し,3.5倍の性能向上を示す。
論文 参考訳(メタデータ) (2025-06-18T19:44:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。