論文の概要: Hybrid Reinforcement Learning Breaks Sample Size Barriers in Linear MDPs

• arxiv url: http://arxiv.org/abs/2408.04526v1
• Date: Thu, 8 Aug 2024 15:26:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-09 15:18:18.455837
• Title: Hybrid Reinforcement Learning Breaks Sample Size Barriers in Linear MDPs
• Title（参考訳）: ハイブリッド強化学習は線形MDPにおけるサンプルサイズバリアを破る
• Authors: Kevin Tan, Wei Fan, Yuting Wei,
• Abstract要約: Xie ら (2022) による重要な疑問は、ハイブリッド RL が純粋にオフラインかつ純粋にオンラインの RL で確立された既存の下位境界に対して改善できるかどうかである。 本研究では,線形関数近似を用いたPACと後悔最小化RLの計算効率のよいアルゴリズムを開発した。
• 参考スコア（独自算出の注目度）: 15.033410073144939
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Hybrid Reinforcement Learning (RL), where an agent learns from both an offline dataset and online explorations in an unknown environment, has garnered significant recent interest. A crucial question posed by Xie et al. (2022) is whether hybrid RL can improve upon the existing lower bounds established in purely offline and purely online RL without relying on the single-policy concentrability assumption. While Li et al. (2023) provided an affirmative answer to this question in the tabular PAC RL case, the question remains unsettled for both the regret-minimizing RL case and the non-tabular case. In this work, building upon recent advancements in offline RL and reward-agnostic exploration, we develop computationally efficient algorithms for both PAC and regret-minimizing RL with linear function approximation, without single-policy concentrability. We demonstrate that these algorithms achieve sharper error or regret bounds that are no worse than, and can improve on, the optimal sample complexity in offline RL (the first algorithm, for PAC RL) and online RL (the second algorithm, for regret-minimizing RL) in linear Markov decision processes (MDPs), regardless of the quality of the behavior policy. To our knowledge, this work establishes the tightest theoretical guarantees currently available for hybrid RL in linear MDPs.
• Abstract（参考訳）: エージェントがオフラインデータセットと未知の環境でオンライン探索の両方から学習するハイブリッド強化学習(RL)は、最近の大きな関心を集めている。 Xie et al (2022) が主張する重要な疑問は、ハイブリッドRLが単一政治中心性仮定に頼ることなく、純粋にオフラインかつ純粋にオンラインRLで確立された既存の下限を改善できるかどうかである。 Li et al (2023) はこの質問に対して表型PAC RLの場合において肯定的な回答を与えたが、後悔を最小化する RL の場合と非タブラキな場合の両方で疑問は未解決のままである。 本研究では,近年のオフラインRLの進歩と報酬に依存しない探索に基づいて,線形関数近似を用いたPACおよび後悔最小化RLの計算効率向上のためのアルゴリズムを開発した。 これらのアルゴリズムは, オフラインRL(PAC RLの第1アルゴリズム, PAC RL)とオンラインRL(第2アルゴリズム, 後悔最小化RL)の線形マルコフ決定過程(MDP)において, 動作ポリシーの質に関わらず, 精度が悪く, 改善できることを示す。 我々の知る限り、この研究は線形MDPにおけるハイブリッドRLで現在利用可能な最も厳密な理論的保証を確立する。

関連論文リスト

• More Benefits of Being Distributional: Second-Order Bounds for Reinforcement Learning [58.626683114119906]
  本研究では,分散強化学習(DistRL)がオンラインとオフラインのRLの2次境界を得ることができることを示す。 我々の結果は、低ランク MDP とオフライン RL に対する最初の2階境界である。
  論文  参考訳（メタデータ） (2024-02-11T13:25:53Z)
• Offline Reinforcement Learning for Wireless Network Optimization with Mixture Datasets [13.22086908661673]
  強化学習(RL)により、無線無線リソース管理(RRM)におけるオンラインRLの採用が促進された。 オンラインRLアルゴリズムは環境と直接対話する必要がある。 オフラインのRLは、すべての関連する行動ポリシーが非常に最適である場合でも、ほぼ最適のRLポリシーを生成することができる。
  論文  参考訳（メタデータ） (2023-11-19T21:02:17Z)
• Bridging Distributionally Robust Learning and Offline RL: An Approach to Mitigate Distribution Shift and Partial Data Coverage [32.578787778183546]
  オフライン強化学習(RL)アルゴリズムは、過去の(オフライン)データを用いて最適な警察を学習する。 オフラインRLの主な課題の1つは、分散シフトである。 分散ロバスト学習(DRL)フレームワークを用いた2つのオフラインRLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-27T19:19:30Z)
• Reward-agnostic Fine-tuning: Provable Statistical Benefits of Hybrid Reinforcement Learning [66.43003402281659]
  オンラインデータ収集を効率的に活用してオフラインデータセットを強化し補完する方法に、中心的な疑問が浮かび上がっている。 我々は、純粋なオフラインRLと純粋なオンラインRLという、両方の世界のベストを打ち負かす3段階のハイブリッドRLアルゴリズムを設計する。 提案アルゴリズムは,データ収集時に報酬情報を必要としない。
  論文  参考訳（メタデータ） (2023-05-17T15:17:23Z)
• A Simple Reward-free Approach to Constrained Reinforcement Learning [33.813302183231556]
  本稿では, 報酬のないRLと制約付きRLを橋渡しする。特に, 報酬のないRLオラクルが与えられた場合, アプローチ性や制約付きRL問題は, サンプル複雑性において無視できるオーバーヘッドで直接解決できる, メタアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-07-12T06:27:30Z)
• A Minimalist Approach to Offline Reinforcement Learning [10.904148149681932]
  オフライン強化学習は、固定されたデータのバッチから学習するタスクを定義する。 本稿では,最小限の変更を行いながら,深いRLアルゴリズムを実現することを目的とする。 オンラインRLアルゴリズムのポリシー更新に振舞いクローン項を追加するだけで、最先端のオフラインRLアルゴリズムの性能にマッチできることがわかった。
  論文  参考訳（メタデータ） (2021-06-12T20:38:59Z)
• Combining Pessimism with Optimism for Robust and Efficient Model-Based Deep Reinforcement Learning [56.17667147101263]
  実世界のタスクでは、強化学習エージェントはトレーニング中に存在しない状況に遭遇する。 信頼性を確保するため、RLエージェントは最悪の状況に対して堅牢性を示す必要がある。 本稿では,Robust Hallucinated Upper-Confidence RL (RH-UCRL)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-18T16:50:17Z)
• EMaQ: Expected-Max Q-Learning Operator for Simple Yet Effective Offline and Online RL [48.552287941528]
  オフ・ポリティクス強化学習は、意思決定ポリシーのサンプル効率の学習を約束する。 オフラインのRL設定では、標準のオフポリシーのRLメソッドは大幅に性能が低下する。 本稿では,提案アルゴリズムとより密接な関係を持つ期待値Q-Learning(EMaQ)を提案する。
  論文  参考訳（メタデータ） (2020-07-21T21:13:02Z)
• Critic Regularized Regression [70.8487887738354]
  批判正規化回帰(CRR)形式を用いてデータからポリシーを学習するための新しいオフラインRLアルゴリズムを提案する。 CRRは驚くほどよく動作し、高次元の状態と行動空間を持つタスクにスケールする。
  論文  参考訳（メタデータ） (2020-06-26T17:50:26Z)
• MOReL : Model-Based Offline Reinforcement Learning [49.30091375141527]
  オフライン強化学習(RL)では、環境との歴史的相互作用のデータセットのみに基づく高報酬政策を学習することが目的である。 モデルベースオフラインRLのためのアルゴリズムフレームワークMOReLを提案する。 オフラインRLベンチマークにおいてMOReLが最先端の結果と一致するか,あるいは超えるかを示す。
  論文  参考訳（メタデータ） (2020-05-12T17:52:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。