論文の概要: Sample Complexity of Equivariant Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2609.36421v1
- Date: Tue, 29 Sep 2026 00:25:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.07794
- Title: Sample Complexity of Equivariant Reinforcement Learning
- Title(参考訳): 等変強化学習におけるサンプル複雑度
- Abstract要約: 強化学習(Reinforcement Learning, RL)は、ロボット制御のための強力なフレームワークであるが、その実践的応用は、しばしば高いサンプルの複雑さによって妨げられる。
グループ対称性の活用はRLのサンプルの複雑さを著しく減少させることを示す。
この結果から, 学習パイプラインに対称性を組み込むことで, サンプル効率と性能が大幅に向上することが示唆された。
- 参考スコア(独自算出の注目度): 1.7149364927872013
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reinforcement learning (RL) is a powerful framework for robotic control, yet its practical application is often hindered by high sample complexity. This is particularly restrictive in physical domains where interaction data is costly. While the world often exhibits geometric and physical symmetries, standard RL algorithms typically fail to exploit this structure. In this paper, we demonstrate that exploiting group symmetries significantly reduces the sample complexity of RL. Focusing on finite-horizon Markov decision processes, we find that leveraging homomorphisms induced by group symmetries significantly reduces the theoretical upper and lower bounds on the number of environment interactions required to reach an optimal return. We further extend these bounds to continuous state and action spaces, providing corresponding sample-complexity guarantees under appropriate regularity assumptions. Beyond theory, we validate our findings through controlled experiments and demonstrate the advantages of symmetry-aware policy learning on high-dimensional continuous robotic simulations. Our results show that integrating symmetry into the learning pipeline yields substantial gains in sample efficiency and performance, offering a principled path toward more data-efficient robotics.
- Abstract(参考訳): 強化学習(Reinforcement Learning, RL)は、ロボット制御のための強力なフレームワークであるが、その実践的応用は、しばしば高いサンプルの複雑さによって妨げられる。
これは、インタラクションデータが高価である物理領域では特に制限がある。
世界はしばしば幾何学的および物理的対称性を示すが、標準的なRLアルゴリズムは一般にこの構造を利用することができない。
本稿では,グループ対称性の活用がRLのサンプル複雑性を著しく減少させることを示す。
有限水平マルコフ決定過程に着目して、群対称性によって誘導される準同型を活用することにより、最適なリターンに達するために必要な環境相互作用の数に関する理論上および下限を著しく減少させる。
さらに、これらの境界を連続状態および作用空間に拡張し、適切な正則性仮定の下で対応するサンプル複素性保証を提供する。
理論の他に,制御実験により得られた知見を検証し,高次元連続ロボットシミュレーションにおける対称性を考慮したポリシー学習の利点を実証する。
この結果から, 学習パイプラインに対称性を組み込むことで, サンプル効率と性能が大幅に向上し, よりデータ効率のよいロボティクスへの道筋が整ったことが示唆された。
関連論文リスト
- Influence-Guided Symbolic Regression: Scientific Discovery via LLM-Driven Equation Search with Granular Feedback [56.69850045068714]
逐次的2段階プロセスとして方程式発見をフレーム化する方法である textitInfluence-Guided Regression (IGSR) を導入する。
LLM-SRBench, 薬理学的PKPDモデル, 疫学シミュレーション, 実世界のゲノムデータなど, IGSRの有効性を示す。
論文 参考訳(メタデータ) (2026-05-27T23:48:01Z) - Sample-Efficient Neurosymbolic Deep Reinforcement Learning [49.60927398960061]
本稿では,背景記号知識を統合し,サンプル効率を向上させるニューロシンボリックディープRL手法を提案する。
オンライン推論は2つのメカニズムを通じてトレーニングプロセスのガイドを行う。
我々は、最先端の報奨機ベースラインよりも優れた性能を示す。
論文 参考訳(メタデータ) (2026-01-06T09:28:53Z) - Partially Equivariant Reinforcement Learning in Symmetry-Breaking Environments [10.122552307413711]
グループ対称性は強化学習(RL)に強力な誘導バイアスを与える
グループ対称性は強化学習(RL)に強力な誘導バイアスを与える
論文 参考訳(メタデータ) (2025-11-30T14:41:08Z) - Improving Deepfake Detection with Reinforcement Learning-Based Adaptive Data Augmentation [60.04281435591454]
CRDA(Curriculum Reinforcement-Learning Data Augmentation)は、マルチドメインの偽造機能を段階的にマスターするための検出器を導く新しいフレームワークである。
私たちのアプローチの中心は、強化学習と因果推論を統合することです。
提案手法は検出器の一般化性を大幅に向上し,複数のクロスドメインデータセット間でSOTA法より優れている。
論文 参考訳(メタデータ) (2025-11-10T12:45:52Z) - Reinforcement Learning Using known Invariances [54.91261509214309]
本稿では、既知のグループ対称性をカーネルベースの強化学習に組み込むための理論的枠組みを開発する。
対称性を意識したRLは、標準のカーネルよりも大幅に性能が向上することを示す。
論文 参考訳(メタデータ) (2025-11-05T13:56:14Z) - Latent Mixture of Symmetries for Sample-Efficient Dynamic Learning [7.722898209589864]
工学系におけるモデルに基づく制御と強化学習には,ダイナミクスの学習が不可欠である。
複雑な力学測定から,対称性を重畳した潜在因子の混合を捉える表現モデルであるLatent Mixture of Symmetries (Latent MoS)を提案する。
論文 参考訳(メタデータ) (2025-10-04T00:06:31Z) - Multi-Group Equivariant Augmentation for Reinforcement Learning in Robot Manipulation [3.842041548518154]
実世界のロボット操作における視覚運動学習の展開には、サンプリング効率が不可欠である。
非等尺対称性構造を含む部分可観測マルコフ決定過程(POMDP)の新規な定式化を導入する。
我々はMEAとオフライン強化学習を統合し、サンプリング効率を向上させるとともに、ボクセルに基づく視覚表現を導入する。
論文 参考訳(メタデータ) (2025-08-15T04:30:01Z) - Distributionally Robust Model-based Reinforcement Learning with Large
State Spaces [55.14361269378122]
強化学習における3つの大きな課題は、大きな状態空間を持つ複雑な力学系、コストのかかるデータ取得プロセス、トレーニング環境の展開から現実の力学を逸脱させることである。
広範に用いられているKullback-Leibler, chi-square, および全変分不確実性集合の下で, 連続状態空間を持つ分布ロバストなマルコフ決定過程について検討した。
本稿では,ガウス過程と最大分散削減アルゴリズムを用いて,多出力名目遷移力学を効率的に学習するモデルベースアプローチを提案する。
論文 参考訳(メタデータ) (2023-09-05T13:42:11Z) - Sample-Efficient Reinforcement Learning with Symmetry-Guided Demonstrations for Robotic Manipulation [7.099237102357281]
強化学習(RL)は、特に高次元連続状態-作用空間において、サンプル効率の低下に悩まされる。
デモとRL生成の両方を格納するデュアルバッファアーキテクチャを用いた新しいトレーニングフレームワークであるDemo-EASEを紹介する。
その結果,Demo-EASEは標準のRLベースラインに比べてコンバージェンスを著しく加速し,最終性能を向上させることがわかった。
論文 参考訳(メタデータ) (2023-04-12T11:38:01Z) - DEALIO: Data-Efficient Adversarial Learning for Imitation from
Observation [57.358212277226315]
観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。
近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。
この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。
よりデータ効率の高いifOアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-31T23:46:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。