論文の概要: Beyond Isolation: Unlocking Reinforcement Learning Component Synergy for Sample-Efficient Continuous Control
- arxiv url: http://arxiv.org/abs/2608.07086v1
- Date: Fri, 07 Aug 2026 10:38:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.476253
- Title: Beyond Isolation: Unlocking Reinforcement Learning Component Synergy for Sample-Efficient Continuous Control
- Title(参考訳): 分離を超えて: サンプル効率の良い継続的制御のための強化学習コンポーネントのシナジーをアンロックする
- Abstract要約: 強化学習システムは、他の機械学習パラダイムよりもはるかに複雑である。
個々のアルゴリズムコンポーネントの進歩にもかかわらず、それらの機能的相互依存性は未解明のままである。
モデルベース表現,最適化安定性,経験再現の3つの重要な次元を協調する RL フレームワーク ROSER を提案する。
- 参考スコア(独自算出の注目度): 59.15149762610843
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reinforcement learning systems are significantly more complex than other machine learning paradigms due to inherent properties, causing RL system design to jointly account for many tightly coupled factors. Despite advances in individual algorithmic components, their functional interdependencies remain underexplored: do they exhibit mutual synergy or counterproductive interference? To bridge this gap, we conduct a systematic investigation and find that the efficacy of different components exhibits significant task-dependency, and naively stacking state-of-the-art techniques does not necessarily yield performance gains; instead, it often triggers emergent challenges, such as compounded non-stationarity. Building upon these findings, we distill a suite of actionable insights into the principled coordination of these components. Guided by these insights, we propose ROSER, an RL framework that coordinates three critical dimensions: Model-based Representation, Optimization Stability, and Experience Replay. Across diverse continuous-control benchmarks, ROSER consistently outperforms vanilla baselines and achieves 17.60% gains over naive stack. Our findings underscore the necessity of a holistic perspective in RL system design and paves the way for developing sample-efficient agents.
- Abstract(参考訳): 強化学習システムは、固有の性質のため、他の機械学習パラダイムよりもはるかに複雑であり、RLシステム設計は、多くの密結合要因を共同で考慮する。
個々のアルゴリズム成分の進歩にもかかわらず、それらの機能的相互依存性は未解明のままであり、相互の相乗効果や反生産的干渉を示すか?
このギャップを埋めるために、系統的な調査を行い、異なるコンポーネントの有効性が重要なタスク依存性を示すことを発見し、その代わりに、複雑な非定常性のような創発的な課題を引き起こすことが多い。
これらの知見に基づいて、これらの成分の原理的な調整に関する実用的な知見の集合を抽出する。
これらの知見に基づいて、モデルベース表現、最適化安定性、体験再生の3つの重要な次元を協調するRLフレームワークであるROSERを提案する。
様々な連続制御ベンチマークで、ROSERはバニラベースラインを一貫して上回り、単純スタックよりも17.60%向上している。
本研究は,RLシステム設計における全体論的な視点の必要性を浮き彫りにした。
関連論文リスト
- ARISE-RL: Agentic Rubric-Grounded Iterative Self-Evolution with Reinforcement Learning [74.19730275669227]
ARISE-RLは、オープンエンドエージェントをトレーニングするための新しいフルサイクルの自己進化フレームワークである。
Reward-Gated Self-Evolution Distillation (RG-SED)を提案する。
ECR-Benchは,シングルツールディープリサーチとマルチツールトラベルプランニングを対象とする,専門家校正型ルーリックベンチマークスイートである。
論文 参考訳(メタデータ) (2026-09-01T10:54:13Z) - Relatron: Automating Relational Machine Learning over Relational Databases [50.94254514286021]
本稿では, RDL と DFS を共有設計空間に統合し, 多様な RDB タスクを対象としたアーキテクチャ中心の検索を行う。
RDLはDFSを一貫して上回り、高いタスク依存性を持つ。(2)タスク全体において単一のアーキテクチャが支配的であり、タスク認識モデル選択の必要性を強調し、精度は選択アーキテクチャの信頼性の低いガイドである。
論文 参考訳(メタデータ) (2026-02-26T02:45:22Z) - Integrating Diverse Assignment Strategies into DETRs [61.61489761918158]
ラベル割り当ては、特にDETRスタイルのフレームワークにおいて、オブジェクト検出器において重要なコンポーネントである。
我々は,任意のDETR型検出器に多様な割り当て戦略をシームレスに統合する,フレキシブルで軽量なフレームワークであるLoRA-DETRを提案する。
論文 参考訳(メタデータ) (2026-01-14T07:28:54Z) - Quantum Decision Transformers (QDT): Synergistic Entanglement and Interference for Offline Reinforcement Learning [0.2538209532048867]
本稿では、量子インスパイアされた計算機構を取り入れた新しいアーキテクチャである量子決定変換器(QDT)を紹介する。
提案手法は,非局所的特徴相関をキャプチャする絡み込み操作による量子刺激注意と,マルチパス処理による量子フィードフォワードネットワークと,適応計算のための学習可能な干渉の2つのコアコンポーネントを統合する。
論文 参考訳(メタデータ) (2025-12-09T16:47:37Z) - Rewarding the Journey, Not Just the Destination: A Composite Path and Answer Self-Scoring Reward Mechanism for Test-Time Reinforcement Learning [29.778703252962092]
大規模言語モデル(LLM)の進化のための強力なパラダイムとして強化学習(RL)が登場した。
外部の監督なしに動作する新しいテストタイム報酬機構を開発した。
論文 参考訳(メタデータ) (2025-10-20T07:53:51Z) - CoDiEmb: A Collaborative yet Distinct Framework for Unified Representation Learning in Information Retrieval and Semantic Textual Similarity [20.349897901019574]
統合されたテキスト埋め込みをトレーニングするための統合フレームワークであるCoDiEmbを紹介する。
CoDiEmbは、効果的な共同最適化のための3つの重要なイノベーションを統合している。
我々の結果と分析は、このフレームワークがクロスタスクトレードオフを緩和していることを示している。
論文 参考訳(メタデータ) (2025-08-15T12:46:35Z) - Improving Retrieval-Augmented Generation through Multi-Agent Reinforcement Learning [88.55095746156428]
Retrieval-augmented Generation (RAG) は、外部知識を大規模言語モデルに組み込むために広く利用されている。
標準的なRAGパイプラインは、クエリ書き換え、文書検索、文書フィルタリング、回答生成など、いくつかのコンポーネントで構成されている。
本稿では,複数コンポーネントからなる複雑なRAGパイプラインを多エージェント協調作業として扱うことを提案する。
論文 参考訳(メタデータ) (2025-01-25T14:24:50Z) - A Thorough Performance Benchmarking on Lightweight Embedding-based Recommender Systems [67.52782366565658]
State-of-the-art recommender system (RS) は、埋め込みベクトルによって符号化される分類的特徴に依存し、結果として非常に大きな埋め込みテーブルとなる。
軽量埋め込み型RSの繁栄にもかかわらず、評価プロトコルには幅広い多様性が見られる。
本研究では, LERSの性能, 効率, クロスタスク転送性について, 徹底的なベンチマークによる検討を行った。
論文 参考訳(メタデータ) (2024-06-25T07:45:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。