論文の概要: Elastic Horizon: Discovering the Effective Interaction Frontier in Agentic Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2609.07247v1
- Date: Mon, 07 Sep 2026 09:09:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.399338
- Title: Elastic Horizon: Discovering the Effective Interaction Frontier in Agentic Reinforcement Learning
- Title(参考訳): Elastic Horizon: エージェント強化学習における効果的なインタラクションフロンティアの発見
- Abstract要約: 既存のスケジュールはオープンループで、手動で指定した最大値まで水平線を単調に増加させ、さらなる拡張が止まることを検知するメカニズムはない。
コストが線形に増大している間に、追加の相互作用が利得を減少させる動的境界という効果的な相互作用フロンティア仮説を提案する。
次に、軌道長の90分の1でこの境界を追跡する閉ループコントローラであるElastic Horizonを紹介します。
- 参考スコア(独自算出の注目度): 17.44408292274574
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scaling the interaction horizon-the maximum number of environment interactions per episode-improves LLM agents on long-horizon tasks, and curriculum-based methods that progressively expand the horizon outperform fixed-horizon alternatives. However, existing schedules are open-loop: they monotonically increase the horizon until a manually specified maximum, with no mechanism to detect when further expansion stops helping. We propose the effective interaction frontier hypothesis: a dynamic boundary beyond which additional interactions yield diminishing returns while cost grows linearly. We then introduce Elastic Horizon, a closed-loop controller that tracks this boundary via the 90th percentile of successful trajectory lengths. On AppWorld and BFCL, fixed-horizon sweeps reveal clear saturation plateaus; Elastic Horizon stabilizes the horizon inside the saturation band from both under- and over-capacity initializations, attains the best success rates across 7B and 14B backbones, and saves up to 25% of per-step trajectory tokens. Our work shifts the paradigm from how to scale interaction horizons to when to stop scaling.
- Abstract(参考訳): 相互作用の地平線を拡大する - エピソードごとの環境相互作用の最大数-は、LLMエージェントをロングホライゾンタスクで改善する。
しかし、既存のスケジュールはオープンループであり、手動で指定した最大値まで水平線を単調に増加させ、さらなる拡張が止まることを検知するメカニズムは存在しない。
コストが線形に増大している間に、追加の相互作用が利得を減少させる動的境界という効果的な相互作用フロンティア仮説を提案する。
次に、軌道長の90分の1でこの境界を追跡する閉ループコントローラであるElastic Horizonを紹介します。
弾性ホライゾンは飽和帯内の地平線をアンダーキャパシティとオーバーキャパシティの両方の初期化から安定化し、7Bと14Bのバックボーンで最高の成功率を獲得し、ステップ単位の軌道トークンの最大25%を節約する。
私たちの仕事はパラダイムを、インタラクションの地平線をスケールする方法から、スケーリングをやめるタイミングにシフトします。
関連論文リスト
- Act More, Decide Less: Skill-Guided Adaptive Action Chunking for Long-Horizon LLM Agents [50.85250898062218]
大規模言語モデル(LLM)エージェントは、通常、ReActスタイルのプロトコルに従う。
自然な方法は、エージェントが可変長のアクションチャンクを出力することです。
しかし、こうした政策を標準的な強化学習で素直に訓練することは失敗する。
論文 参考訳(メタデータ) (2026-09-02T03:17:11Z) - Knowing When to Stop: Adaptive Action Chunking via Internal Cross-Attention Dynamics in VLAs [4.792917095787488]
アクションチャンキングは、現代のVision-Language-Action(VLA)フレームワークにおける標準的な実行戦略である。
短いチャンクは頻繁な推論を必要とするが、長いチャンクは新しく観測された状態と不一致となることがある。
我々は,この制限を,アクションエキスパートの内部的クロスアテンションダイナミクスに基づく適応的アクションチャンキングアプローチで解決する。
論文 参考訳(メタデータ) (2026-09-01T08:38:16Z) - WALL-SS: Scaling Long-horizon World Models via Next-Scale Autoregression [24.010807495676605]
生成的世界モデルは、相互作用の下で世界がどのように進化するかの予測モデルを提供する。
WALL-SSは,スケールワイドの自己回帰スケーリングによって視覚的未来を生成する世界モデルである。
We show that WALL-SS improves action following and trajectory accuracy, support coherent minute-long streaming rollout under bounded memory, and consistent benefit of on-policy alignment。
論文 参考訳(メタデータ) (2026-08-26T17:57:12Z) - Across the Loss Landscape with Progressive Growth [51.366966420881646]
成長を漸進的緩和と見なして、より平坦な地域に向けての訓練戦略がいかに成長・最適化されるかを示す。
制御されたおもちゃの流域や現実的なResNet/CI-100環境でこれらの予測を実証的に検証する。
プログレッシブな部分空間成長は、より平坦な解を確実に生成するが、曲率の低減は、普遍的にテスト性能の向上に変換されず、平坦性一般化接続における微妙さを強調している。
論文 参考訳(メタデータ) (2026-08-25T13:50:48Z) - Spatial Attention: Adapting Execution Horizons for Diffusion Policies via Observation Sensitivity [26.591374083905336]
サンプル化された動作チャンクの実行地平線を適応的に調整し、応答性と計算効率のバランスをとる。
チャンクサンプリングの固定予算の下では,乱れによる累積可能性低下を最小化する実行地平線が空間的注意の増大とともに減少することを示す。
論文 参考訳(メタデータ) (2026-07-06T07:22:04Z) - GraphWorld: Long-Horizon Planning with World Models for End-to-End Autonomous Driving [56.50032398571235]
GraphWorldはE2E-ADフレームワークで、潜在世界モデリングを通じて長期計画を明確に強化する。
本研究では,エゴ車と周辺エージェントの相互作用をモデル化することで,エゴ中心の潜在世界表現を学習する世界国家計画を提案する。
この潜在世界状態は、重要な相互作用のダイナミクスと安全関連セマンティクスを捉え、長距離で安全を意識した軌道計画の指針となる条件付け信号として機能する。
論文 参考訳(メタデータ) (2026-06-15T06:26:46Z) - Extreme Motion Generation via Hybrid Null-Space Control for Straight-Line Path Following [10.975583425374532]
本稿では, マニピュレータの作業空間内で, 予め定義された軌道に沿った経路長を最大化する「極端運動生成」について検討する。
本稿では,RLベースとモデルベースコントローラを正規化した連接限界距離に応じて切り替えるステップレベルハイブリッドコントローラを提案する。
提案手法を7-DoF Franka FR3を用いて一万進路追従タスクに適用し,平均ロールアウト期間をモデルベースベースラインより27%延長した。
論文 参考訳(メタデータ) (2026-06-02T09:33:08Z) - Offline Reinforcement Learning with Universal Horizon Models [15.801661284310823]
我々は、任意の地平線の下での将来の状態を直接予測するGHMの一般化である普遍地平線モデル(UHM)を導入する。
過大な地平線をカプセル化することでトレーニングを安定させるために,ウィンソライズした地平線分布を用いたスケーラブルな値学習法を提案する。
OGBenchタスク100件の実験結果から,提案手法が競争基準よりも優れていることが示された。
論文 参考訳(メタデータ) (2026-05-15T04:30:30Z) - On Training Large Language Models for Long-Horizon Tasks: An Empirical Study of Horizon Length [62.99653688239127]
形状訓練力学におけるタスク水平長の役割について検討する。
地平線長の増大はトレーニングのボトルネックとなる。
この制限に対処する上で,地平線低減が鍵となる原理であることを実証する。
論文 参考訳(メタデータ) (2026-05-04T13:25:05Z) - Nesterov Method for Asynchronous Pipeline Parallel Optimization [59.79227116582264]
パイプライン並列処理における非同期最適化のために,Nesterov Accelerated Gradient (NAG) の変種を導入する。
具体的には、NAGのルックアヘッドステップを変更して、勾配の安定性を効果的に解決する。
我々は、勾配の固定遅延の存在下で、我々のアプローチがサブ線形速度で収束することを理論的に証明する。
論文 参考訳(メタデータ) (2025-05-02T08:23:29Z) - Reward Tweaking: Maximizing the Total Reward While Planning for Short
Horizons [66.43848057122311]
Reward tweakingは、元の有限水平全報酬タスクに対して最適な振る舞いを誘導する代理報酬関数を学習する。
報酬の調整は、短い地平線を計画しているにもかかわらず、エージェントがより長い水平方向のリターンに導くことを示す。
論文 参考訳(メタデータ) (2020-02-09T09:50:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。