論文の概要: Jaxolotl: A Unified High-Performance Benchmark Suite for LTL-Based Multi-Task RL
- arxiv url: http://arxiv.org/abs/2609.38065v1
- Date: Tue, 29 Sep 2026 17:30:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.785638
- Title: Jaxolotl: A Unified High-Performance Benchmark Suite for LTL-Based Multi-Task RL
- Title(参考訳): Jaxolotl: LTLベースのマルチタスクRLのための統一された高性能ベンチマークスイート
- Abstract要約: Jaxolotlはマルチタスク強化学習(RL)のための統一された高性能ベンチマークスイートである
JITで完全にコンパイルされたトレーニングと評価を可能にし、エンドツーエンドのスピードアップを最大220タイムで達成できる。
このフレームワークを使って既存のアプローチを体系的に評価し、補完的な強みと限界を明らかにします。
- 参考スコア(独自算出の注目度): 54.08661695738909
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training agents to follow arbitrary instructions is an important goal of multi-task reinforcement learning (RL). Linear temporal logic (LTL) provides a precise and structured formalism for specifying instructions to agents, and has been successfully adopted for training generalist multi-task policies. However, differences in implementations, task distributions, and evaluation protocols make existing methods difficult to compare, while high computational costs limit the scale and statistical reliability of experiments. We introduce Jaxolotl, a unified high-performance benchmark suite for multi-task LTL-RL to address these concerns. Jaxolotl provides a modular, end-to-end JAX implementation of six representative algorithms and four environments, together with newly curated task suites and a standardised, statistically robust evaluation protocol. By precompiling symbolic task representations into static arrays, Jaxolotl enables fully JIT-compiled training and evaluation, achieving end-to-end speedups of up to $220\times$ and supporting controlled comparisons at substantially greater experimental scale. We use this framework to systematically evaluate existing approaches, revealing complementary strengths and limitations: general methods capable of non-myopic reasoning struggle as the number of propositions grows, while methods with stronger scaling rely on environment-specific assumptions and suffer from myopia.
- Abstract(参考訳): 任意の指示に従う訓練エージェントは、マルチタスク強化学習(RL)の重要な目標である。
線形時間論理(LTL)はエージェントへの命令を指定するための正確で構造化された形式を提供し、汎用マルチタスクポリシーの訓練に成功している。
しかし、実装、タスク分布、評価プロトコルの違いにより、既存の手法の比較が困難になり、高い計算コストで実験の規模や統計的信頼性が制限される。
これらの問題に対処するため,マルチタスクLTL-RLのためのベンチマークスイートであるJaxolotlを紹介した。
Jaxolotlは6つの代表アルゴリズムと4つの環境のモジュール式でエンドツーエンドのJAX実装と、新しくキュレートされたタスクスイートと、標準化された統計的に堅牢な評価プロトコルを提供する。
シンボリックなタスク表現を静的配列にプリコンパイルすることで、Jaxolotlは完全にJITコンパイルされたトレーニングと評価を可能にし、最大220\times$のエンドツーエンドのスピードアップを実現し、かなり大きな実験的なスケールで制御された比較をサポートする。
我々はこの枠組みを,既存のアプローチを体系的に評価し,補完的な強みと限界を明らかにしている:命題数の増加に伴って非神秘的推論に苦しむ一般的な方法と,より強力なスケーリング手法は,環境固有の仮定に依存し,ミオピアに苦しむ方法である。
関連論文リスト
- Turn-level Multiscale Density Ratio Estimation for LLM Agents [17.09218511959141]
複数のエージェントシナリオにおけるLarge Language Model (LLM)のポストトレーニングは、より良いパフォーマンスを達成するために必要である。
本稿では,対応するターンに異なる重みを割り当てるターンレベルマルチスケール比推定法(tlm-DRE)を提案する。
実験の結果,提案手法は従来のアライメント手法と競合する性能を示した。
論文 参考訳(メタデータ) (2026-09-15T07:36:23Z) - Benchmarking the Limits of In-Context Reinforcement Learning for Ad-Hoc Teamwork [45.63941874462679]
In-Context Reinforcement Learning (ICRL)は、ファンデーションエージェントが新しいタスクに即時に適応することを可能にするが、Ad-Hoc Teamwork (AHT)において、未知のパートナとの協調が不要な場合、その有効性は未検討のままである。
本稿では,Overcooked-V2 の高スループット JAX 実装をベースに構築された大規模ベンチマーク ICRL4AHT を紹介する。
我々は, アルゴリズム蒸留 (AD) やDPT (Decision-Pretrained Transformer) など, 数百万の遷移にまたがる代表的履歴条件ICRLアルゴリズムを評価する。
論文 参考訳(メタデータ) (2026-05-23T06:39:21Z) - Small Model as Master Orchestrator: Learning Unified Agent-Tool Orchestration with Parallel Subtask Decomposition [61.291733522717415]
Agent-as-Toolは並列オーケストレーションのパラダイムであり、エージェントとツールの両方を標準化された学習可能なアクション空間に緩和する。
ParaManagerは、サブタスク解決から計画決定を分離し、ステート対応の並列サブタスク分解、デリゲート、非同期実行を可能にする。
実験により、ParaManagerは複数のベンチマークで高い性能を示し、目に見えないモデルプールの下で堅牢な一般化を示す。
論文 参考訳(メタデータ) (2026-04-18T14:41:27Z) - TGRPO :Fine-tuning Vision-Language-Action Model via Trajectory-wise Group Relative Policy Optimization [12.061547251822326]
Trajectory-based Group Relative Policy Optimization (TGRPO)は、Visual-Language-Action(VLA)モデルのためのオンラインRLベースのトレーニングフレームワークである。
TGRPOの平均成功率は80.7%で、これはスーパーバイザードファインチューニング(SFT)よりも4.2%高く、他の代表的RLベースのポストトレーニング手法よりも優れていた。
論文 参考訳(メタデータ) (2025-06-10T04:27:49Z) - Benchmarking Agentic Workflow Generation [80.74757493266057]
複数面シナリオと複雑なグラフワークフロー構造を備えた統合ワークフロー生成ベンチマークであるWorfBenchを紹介する。
また,サブシーケンスとサブグラフマッチングアルゴリズムを利用したシステム評価プロトコルWorfEvalを提案する。
我々は、生成されたタスクが下流のタスクを強化し、推論中により少ない時間で優れたパフォーマンスを達成することを観察する。
論文 参考訳(メタデータ) (2024-10-10T12:41:19Z) - RL-GPT: Integrating Reinforcement Learning and Code-as-policy [82.1804241891039]
本稿では,低速エージェントと高速エージェントからなる2レベル階層型フレームワークRL-GPTを提案する。
遅いエージェントはコーディングに適したアクションを分析し、速いエージェントはコーディングタスクを実行する。
この分解は、各エージェントが特定のタスクに効果的に集中し、パイプライン内で非常に効率的なことを証明します。
論文 参考訳(メタデータ) (2024-02-29T16:07:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。