論文の概要: The Three Regimes of Offline-to-Online Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2510.01460v1
• Date: Wed, 01 Oct 2025 20:58:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-03 16:59:20.873299
• Title: The Three Regimes of Offline-to-Online Reinforcement Learning
• Title（参考訳）: オフライン・オンライン強化学習の3つのレジーム
• Authors: Lu Li, Tianwei Ni, Yihao Sun, Pierre-Luc Bacon,
• Abstract要約: オフラインからオンラインへの強化学習(RL)は、トレーニング前のオフラインデータセットと微調整のためのオンラインインタラクションを活用する実用的なパラダイムとして登場した。 この矛盾を説明できる安定性-塑性原理を提案する。 この作業は、オフラインデータセットと事前訓練済みポリシーの相対的なパフォーマンスに基づいて、オフラインからオンラインまでのRLの設計選択を導くための原則化されたフレームワークを提供する。
• 参考スコア（独自算出の注目度）: 22.777667142224587
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Offline-to-online reinforcement learning (RL) has emerged as a practical paradigm that leverages offline datasets for pretraining and online interactions for fine-tuning. However, its empirical behavior is highly inconsistent: design choices of online-fine tuning that work well in one setting can fail completely in another. We propose a stability--plasticity principle that can explain this inconsistency: we should preserve the knowledge of pretrained policy or offline dataset during online fine-tuning, whichever is better, while maintaining sufficient plasticity. This perspective identifies three regimes of online fine-tuning, each requiring distinct stability properties. We validate this framework through a large-scale empirical study, finding that the results strongly align with its predictions in 45 of 63 cases. This work provides a principled framework for guiding design choices in offline-to-online RL based on the relative performance of the offline dataset and the pretrained policy.
• Abstract（参考訳）: オフライン間強化学習(RL)は、オフラインデータセットを事前トレーニングやオンラインインタラクションに活用して微調整を行う実践的パラダイムとして登場した。 しかし、その経験的行動は非常に矛盾するものであり、ある設定でうまく機能するオンラインファインチューニングの設計選択は、別の設定で完全に失敗する可能性がある。 我々は、オンラインの微調整中に事前訓練されたポリシーやオフラインデータセットの知識を保存し、十分な可塑性を維持しながら、安定性と塑性の原則を提案する。 この視点は、オンライン微調整の3つのレギュレーションを特定し、それぞれ異なる安定性特性を必要とする。 その結果, 63例中45例において, 結果が強く一致していることが判明した。 この作業は、オフラインデータセットと事前訓練済みポリシーの相対的なパフォーマンスに基づいて、オフラインからオンラインまでのRLの設計選択を導くための原則化されたフレームワークを提供する。

関連論文リスト

• Active Advantage-Aligned Online Reinforcement Learning with Offline Data [56.98480620108727]
  A3RLは,アクティブアドバンテージアライメント・アライメント・サンプリング・ストラテジーを取り入れた新しい信頼度を取り入れた手法である。 本手法はオフラインデータを利用する競合するオンラインRL技術より優れていることを示す。
  論文  参考訳（メタデータ） (2025-02-11T20:31:59Z)
• Optimistic Critic Reconstruction and Constrained Fine-Tuning for General Offline-to-Online RL [36.65926744075032]
  オフラインからオンラインへの強化学習(O2O)は、オンラインインタラクションの制限によって、パフォーマンスが急速に向上する。 近年の研究では、特定のオフラインRL手法の微調整戦略を設計することが多く、任意のオフライン手法から一般のO2O学習を行うことはできない。 この2つのミスマッチを同時に処理し,オフラインメソッドからオンラインメソッドへの一般的なO2O学習を実現することを提案する。
  論文  参考訳（メタデータ） (2024-12-25T09:52:22Z)
• Bayesian Design Principles for Offline-to-Online Reinforcement Learning [50.97583504192167]
  オフラインからオンラインへの微調整は、探索にコストがかかる、あるいは安全でない、現実世界のアプリケーションにとって極めて重要です。 本稿では,オフラインからオフラインまでの微調整のジレンマに対処する:エージェントが悲観的のままであれば,より良いポリシーを習得できないかもしれないが,楽観的になった場合,性能が突然低下する可能性がある。 このようなジレンマを解決するにはベイズ設計の原則が不可欠であることを示す。
  論文  参考訳（メタデータ） (2024-05-31T16:31:07Z)
• Uni-O4: Unifying Online and Offline Deep Reinforcement Learning with Multi-Step On-Policy Optimization [24.969834057981046]
  従来のアプローチでは、オフラインとオンラインの学習を別々の手順として扱い、冗長な設計と限られたパフォーマンスをもたらす。 オフライン学習とオンライン学習の両方に、政治上の目的を利用するUni-o4を提案する。 本手法は,オフラインとオフラインのファインチューニング学習の両方において,最先端の性能を実現することを実証する。
  論文  参考訳（メタデータ） (2023-11-06T18:58:59Z)
• ENOTO: Improving Offline-to-Online Reinforcement Learning with Q-Ensembles [52.34951901588738]
  我々はENsemble-based Offline-To-Online (ENOTO) RLという新しいフレームワークを提案する。 Q-networksの数を増やすことで、オフラインの事前トレーニングとオンラインの微調整を、パフォーマンスを低下させることなくシームレスに橋渡しします。 実験により,ENOTOは既存のオフラインRL手法のトレーニング安定性,学習効率,最終性能を大幅に向上できることが示された。
  論文  参考訳（メタデータ） (2023-06-12T05:10:10Z)
• Finetuning from Offline Reinforcement Learning: Challenges, Trade-offs and Practical Solutions [30.050083797177706]
  オフライン強化学習(RL)では、環境とのインタラクションなしに、オフラインデータセットから有能なエージェントをトレーニングすることができる。 このようなオフラインモデルのオンライン微調整により、パフォーマンスがさらに向上する。 より高速な改善のために、標準的なオンラインオフラインアルゴリズムを使用することが可能であることを示す。
  論文  参考訳（メタデータ） (2023-03-30T14:08:31Z)
• Adaptive Behavior Cloning Regularization for Stable Offline-to-Online Reinforcement Learning [80.25648265273155]
  オフライン強化学習は、固定データセットから学習することで、環境と対話することなくエージェントの動作を学ぶことができる。 オンラインの微調整中、オフラインからオンラインデータへの突然の分散シフトにより、事前訓練されたエージェントのパフォーマンスが急速に低下する可能性がある。 エージェントの性能と訓練安定性に基づいて,オンラインファインチューニングにおける行動クローンの損失を適応的に評価することを提案する。 実験の結果,提案手法はD4RLベンチマークにおいて,最先端のオフライン-オンライン強化学習性能が得られることがわかった。
  論文  参考訳（メタデータ） (2022-10-25T09:08:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。