論文の概要: Learning Long-Term Reward Redistribution via Randomized Return
Decomposition
- arxiv url: http://arxiv.org/abs/2111.13485v1
- Date: Fri, 26 Nov 2021 13:23:36 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-29 14:21:47.024119
- Title: Learning Long-Term Reward Redistribution via Randomized Return
Decomposition
- Title(参考訳): ランダム回帰分解による長期報酬再分配の学習
- Authors: Zhizhou Ren, Ruihan Guo, Yuan Zhou, Jian Peng
- Abstract要約: 軌跡フィードバックを用いたエピソード強化学習の問題点について考察する。
これは、エージェントが各軌道の終端で1つの報酬信号しか取得できないような、報酬信号の極端な遅延を指す。
本稿では,代償再分配アルゴリズムであるランダムリターン分解(RRD)を提案する。
- 参考スコア(独自算出の注目度): 18.47810850195995
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many practical applications of reinforcement learning require agents to learn
from sparse and delayed rewards. It challenges the ability of agents to
attribute their actions to future outcomes. In this paper, we consider the
problem formulation of episodic reinforcement learning with trajectory
feedback. It refers to an extreme delay of reward signals, in which the agent
can only obtain one reward signal at the end of each trajectory. A popular
paradigm for this problem setting is learning with a designed auxiliary dense
reward function, namely proxy reward, instead of sparse environmental signals.
Based on this framework, this paper proposes a novel reward redistribution
algorithm, randomized return decomposition (RRD), to learn a proxy reward
function for episodic reinforcement learning. We establish a surrogate problem
by Monte-Carlo sampling that scales up least-squares-based reward
redistribution to long-horizon problems. We analyze our surrogate loss function
by connection with existing methods in the literature, which illustrates the
algorithmic properties of our approach. In experiments, we extensively evaluate
our proposed method on a variety of benchmark tasks with episodic rewards and
demonstrate substantial improvement over baseline algorithms.
- Abstract(参考訳): 強化学習の多くの実践的応用は、エージェントがスパースや遅延報酬から学ぶ必要がある。
エージェントの行動が将来の成果に寄与する能力に挑戦する。
本稿では,軌道フィードバックを用いたエピソジック強化学習の課題定式化について検討する。
これは、エージェントが各軌道の終端で1つの報酬信号しか取得できないような、報酬信号の極端な遅延を指す。
この問題設定の一般的なパラダイムは、疎い環境信号の代わりに、補助的な報酬関数、すなわち代用報酬関数を設計して学習することである。
本稿では,エピソディック強化学習のためのプロキシ報酬関数を学習するために,新しい報酬再分配アルゴリズムであるランダム化回帰分解(rrd)を提案する。
モンテカルロサンプリングによるサロゲート問題を確立し,長ホリゾン問題に対する最小二乗法に基づく報酬再分配をスケールする。
本稿では,本手法のアルゴリズム的特性を示す文献上の既存手法との関連から,サーロゲート損失関数を解析する。
実験では,提案手法を多種多様なベンチマークタスクに対して広く評価し,ベースラインアルゴリズムよりも大幅に改善した。
関連論文リスト
- R3HF: Reward Redistribution for Enhancing Reinforcement Learning from Human Feedback [25.27230140274847]
人間のフィードバックからの強化学習(RLHF)は、大きな言語モデル(LLM)を人間の好みに合わせるためのパラダイムを提供する。
本稿では,より微細なトークンレベルの報酬配分を容易にするR3HFという新たな報酬分配手法を提案する。
論文 参考訳(メタデータ) (2024-11-13T02:45:21Z) - Beyond Simple Sum of Delayed Rewards: Non-Markovian Reward Modeling for Reinforcement Learning [44.770495418026734]
強化学習(Reinforcement Learning, RL)は、報酬信号から学習することで、エージェントに様々なスキルを習得する権限を与える。
伝統的な手法では、マルコフ報酬の根底にある存在を仮定し、観測された遅延報酬は単にインスタンスレベルの報酬の和である。
本稿では,特殊なインシーケンスアテンション機構を備えた複合遅延逆変換器(CoDeTr)を提案する。
論文 参考訳(メタデータ) (2024-10-26T13:12:27Z) - Walking the Values in Bayesian Inverse Reinforcement Learning [66.68997022043075]
ベイズIRLの鍵となる課題は、可能な報酬の仮説空間と可能性の間の計算的ギャップを埋めることである。
本稿では,この知見に基づく新しいマルコフ連鎖モンテカルロ法であるValueWalkを提案する。
論文 参考訳(メタデータ) (2024-07-15T17:59:52Z) - Reinforcement Learning from Bagged Reward [46.16904382582698]
強化学習(RL)では、エージェントが取るアクション毎に即時報奨信号が生成されることが一般的である。
多くの実世界のシナリオでは、即時報酬信号の設計は困難である。
本稿では,双方向の注意機構を備えた新たな報酬再分配手法を提案する。
論文 参考訳(メタデータ) (2024-02-06T07:26:44Z) - Let's reward step by step: Step-Level reward model as the Navigators for
Reasoning [64.27898739929734]
Process-Supervised Reward Model (PRM)は、トレーニングフェーズ中にステップバイステップのフィードバックをLLMに提供する。
LLMの探索経路を最適化するために,PRMからのステップレベルのフィードバックを応用した欲求探索アルゴリズムを提案する。
提案手法の汎用性を探るため,コーディングタスクのステップレベル報酬データセットを自動生成する手法を開発し,コード生成タスクにおける同様の性能向上を観察する。
論文 参考訳(メタデータ) (2023-10-16T05:21:50Z) - Reward Uncertainty for Exploration in Preference-based Reinforcement
Learning [88.34958680436552]
好みに基づく強化学習アルゴリズムを対象とした探索手法を提案する。
我々の基本的な考え方は、学習した報酬に基づいて、斬新さを測定することによって、本質的な報酬を設計することである。
実験により、学習報酬の不確実性からの探索ボーナスは、好みに基づくRLアルゴリズムのフィードバック効率とサンプル効率の両方を改善することが示された。
論文 参考訳(メタデータ) (2022-05-24T23:22:10Z) - Anti-Concentrated Confidence Bonuses for Scalable Exploration [57.91943847134011]
固有の報酬は、探検と探検のトレードオフを扱う上で中心的な役割を果たす。
楕円ボーナスを効率的に近似するためのエンファンティ集中型信頼境界を導入する。
我々は,Atariベンチマーク上での現代固有の報酬と競合する,深層強化学習のための実用的な変種を開発する。
論文 参考訳(メタデータ) (2021-10-21T15:25:15Z) - MURAL: Meta-Learning Uncertainty-Aware Rewards for Outcome-Driven
Reinforcement Learning [65.52675802289775]
本研究では,不確かさを意識した分類器が,強化学習の難しさを解消できることを示す。
正規化最大度(NML)分布の計算法を提案する。
得られたアルゴリズムは、カウントベースの探索法と、報酬関数を学習するための先行アルゴリズムの両方に多くの興味深い関係を持つことを示す。
論文 参考訳(メタデータ) (2021-07-15T08:19:57Z) - Curious Exploration and Return-based Memory Restoration for Deep
Reinforcement Learning [2.3226893628361682]
本稿では,バイナリ成功/障害報酬関数を用いて,単一エージェントの目標達成のためのトレーニングに焦点をあてる。
提案手法は,かなり複雑な状態と動作空間を有する環境でエージェントを訓練するために利用できる。
論文 参考訳(メタデータ) (2021-05-02T16:01:34Z) - Learning Guidance Rewards with Trajectory-space Smoothing [22.456737935789103]
長期的信用割当は深層強化学習における重要な課題である。
既存の政策段階のアルゴリズムとQラーニングアルゴリズムは、豊富な短期的な監督を提供する密集した環境報酬に依存している。
近年の研究では、粗末な環境報酬や遅延した環境報酬の代わりに使用できる密集した「ガイダンス」報酬を学習するためのアルゴリズムが提案されている。
論文 参考訳(メタデータ) (2020-10-23T23:55:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。