論文の概要: Reflex: Reinforcement Learning with Reflection Symmetry Exploitation in State-Based Continuous Control
- arxiv url: http://arxiv.org/abs/2605.23415v1
- Date: Fri, 22 May 2026 09:24:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 17:29:20.286605
- Title: Reflex: Reinforcement Learning with Reflection Symmetry Exploitation in State-Based Continuous Control
- Title(参考訳): リフレクション: 状態ベース連続制御における反射対称性爆発による強化学習
- Authors: Shuai Zhen, Yifan Zhang, Yuling Wang, Yanhua Yu,
- Abstract要約: Reflexは、オン・ポリティクスとオフ・ポリティクスのRLアルゴリズムの両方とシームレスに統合するパラダイムである。
対称性を保存する最適値関数とポリシーの理論解析に基づいて、Reflexはリフレクション対称性をポリシー学習に統合する。
我々はReflexをPPOとSACと統合し、OpenAI GymとDeepMind Controlベンチマークのスイートで評価する。
- 参考スコア(独自算出の注目度): 10.639649058223114
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reinforcement learning has long struggled with poor sample efficiency. One promising approach to mitigate this problem is leveraging group-invariant Markov Decision Processes ($G$-invariant MDPs). Existing works in this direction have primarily focused on image-based RL and rotational symmetry such as $\mathrm{SO(2)}$, leaving state-based RL and reflection symmetry largely underexplored. In this work, we focus on state-based continuous control tasks and exploit reflection symmetry by introducing Reflex, a paradigm that seamlessly integrates with both on-policy and off-policy RL algorithms. We formalize two types of reflection-axial reflection and bilateral reflection, and characterize their corresponding transformations. Building on a theoretical analysis of symmetry-preserving optimal value functions and policies, Reflex integrates reflection symmetry into policy learning through principled symmetry regularization mechanisms. We integrate Reflex with PPO and SAC, and evaluate it on a suite of OpenAI Gym and DeepMind Control benchmarks, demonstrating superior performance over standard baselines while improving sample efficiency. Our code is available at https://github.com/TonyStark042/Reflex.
- Abstract(参考訳): 強化学習は長い間、サンプル効率の悪さに悩まされてきた。
この問題を緩和するための有望なアプローチの1つは、群不変マルコフ決定過程(G$不変のMDP)を活用することである。
この方向の既存の研究は、主に画像ベースのRLと$\mathrm{SO(2)}$のような回転対称性に焦点を当てており、状態ベースのRLと反射対称性はほとんど探索されていない。
本研究では、状態ベース連続制御タスクに焦点をあて、リフレクション対称性を利用する。Reflexは、オン・ポリティクスとオフ・ポリティクスのRLアルゴリズムをシームレスに統合するパラダイムである。
我々は2種類の反射軸反射と両側反射を定式化し、対応する変換を特徴付ける。
対称性保存最適値関数とポリシーの理論解析に基づいて、Reflexはリフレクション対称性を原則的対称性正規化機構を通じてポリシー学習に統合する。
我々はReflexをPPOとSACと統合し、OpenAI GymとDeepMind Controlベンチマークのスイートで評価し、標準ベースラインよりも優れた性能を示し、サンプル効率を改善した。
私たちのコードはhttps://github.com/TonyStark042/Reflex.comから入手可能です。
関連論文リスト
- SiMPO: Measure Matching for Online Diffusion Reinforcement Learning [52.46919717963149]
一般単調関数を持つ拡散RLにおける再重み付けスキームを一般化する,シンプルで統一的なフレームワークであるSiMPOを紹介する。
SiMPOは2段階の測度マッチングレンズを介して拡散RLを再考する。
我々は、負の再重み付けが準最適行動から政策を積極的に反映していることを示す幾何学的解釈を提供する。
論文 参考訳(メタデータ) (2026-03-10T22:01:13Z) - ParamMem: Augmenting Language Agents with Parametric Reflective Memory [50.28529749962535]
自己回帰により、言語エージェントは反復的に解を洗練できるが、しばしば推論性能を制限する反復的な出力を生成する。
モデルパラメータにクロスサンプル反射パターンをエンコードするパラメトリックメモリモジュールであるParamMemを紹介する。
本稿では,パラメトリックメモリとエピソードメモリとクロスサンプルメモリを統合したリフレクションベースのエージェントフレームワークであるParamAgentを提案する。
論文 参考訳(メタデータ) (2026-02-26T18:28:04Z) - PRISM: Parallel Reward Integration with Symmetry for MORL [21.062340361303608]
本研究はMORL(Multi-Objective Reinforcement Learning)について研究し,時間周波数で目的が著しく異なることを示す。
本稿では,報酬チャネルの整合における帰納バイアスとして反射対称性を適用したPRISM(Parallel Reward Integration with Symmetry)アルゴリズムを提案する。
MuJoCoベンチマーク全体では、PRISMはスパースリワードベースラインと、フルに密集した報酬でトレーニングされた託宣の両方を一貫して上回っている。
論文 参考訳(メタデータ) (2026-02-20T15:02:42Z) - Partially Equivariant Reinforcement Learning in Symmetry-Breaking Environments [10.122552307413711]
グループ対称性は強化学習(RL)に強力な誘導バイアスを与える
グループ対称性は強化学習(RL)に強力な誘導バイアスを与える
論文 参考訳(メタデータ) (2025-11-30T14:41:08Z) - Reinforcement Learning Using known Invariances [54.91261509214309]
本稿では、既知のグループ対称性をカーネルベースの強化学習に組み込むための理論的枠組みを開発する。
対称性を意識したRLは、標準のカーネルよりも大幅に性能が向上することを示す。
論文 参考訳(メタデータ) (2025-11-05T13:56:14Z) - Equivariant Goal Conditioned Contrastive Reinforcement Learning [5.019456977535218]
Contrastive Reinforcement Learning (CRL)は、ラベルのない相互作用から有用な構造化表現を抽出するための有望なフレームワークを提供する。
等変制約を用いた潜在空間をさらに構造化する等変CRLを提案する。
我々のアプローチは、状態ベースと画像ベースの両方の設定において、さまざまなシミュレーションタスクにおいて、強いベースラインを一貫して上回ります。
論文 参考訳(メタデータ) (2025-07-22T01:13:45Z) - CyclicReflex: Improving Large Reasoning Models via Cyclical Reflection Token Scheduling [16.151066326284376]
大規模推論モデル(LRM)は、複雑な問題解決のための多段階推論を実行するためにテスト時間スケーリングを利用する。
我々は、リフレクショントークンを「リソース」として扱い、リソース割り当ての問題を導入する。
本稿では,リフレクショントークンのロジットを動的に変調するデコード戦略である循環反射トークンスケジューリング(CyclicReflex)を提案する。
論文 参考訳(メタデータ) (2025-06-04T03:43:38Z) - Optimal Goal-Reaching Reinforcement Learning via Quasimetric Learning [73.80728148866906]
準メトリック強化学習(QRL)は、準メトリックモデルを用いて最適な値関数を学習する新しいRL法である。
オフラインおよびオンラインの目標達成ベンチマークでは、QRLはサンプル効率とパフォーマンスが改善されている。
論文 参考訳(メタデータ) (2023-04-03T17:59:58Z) - Symmetry-Aware Transformer-based Mirror Detection [85.47570468668955]
デュアルパス・シンメトリ・アウェア・トランスフォーマーを用いたミラー検出ネットワーク(SATNet)を提案する。
SATNetにはSymmetry-Aware Attention Module (SAAM)とContrastとFusion Decoder Module (CFDM)の2つの新しいモジュールが含まれている。
実験の結果,SATNet は RGB と RGB-D の両方のミラー検出法に優れることがわかった。
論文 参考訳(メタデータ) (2022-07-13T16:40:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。