論文の概要: Anti-Exploration by Random Network Distillation
- arxiv url: http://arxiv.org/abs/2301.13616v2
- Date: Wed, 17 May 2023 12:23:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-18 20:17:13.464252
- Title: Anti-Exploration by Random Network Distillation
- Title(参考訳): ランダムネットワーク蒸留による爆発防止
- Authors: Alexander Nikulin, Vladislav Kurenkov, Denis Tarasov, Sergey
Kolesnikov
- Abstract要約: ランダムネットワーク蒸留 (RND) の条件付けは, 不確実性推定器として用いるのに十分な識別性がないことを示す。
この制限は、FiLM(Feature-wise Linear Modulation)に基づく条件付けによって回避できることを示す。
D4RLベンチマークで評価したところ、アンサンブルベースの手法に匹敵する性能を達成でき、アンサンブルのない手法よりも広いマージンで性能を向上できることがわかった。
- 参考スコア(独自算出の注目度): 63.04360288089277
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite the success of Random Network Distillation (RND) in various domains,
it was shown as not discriminative enough to be used as an uncertainty
estimator for penalizing out-of-distribution actions in offline reinforcement
learning. In this paper, we revisit these results and show that, with a naive
choice of conditioning for the RND prior, it becomes infeasible for the actor
to effectively minimize the anti-exploration bonus and discriminativity is not
an issue. We show that this limitation can be avoided with conditioning based
on Feature-wise Linear Modulation (FiLM), resulting in a simple and efficient
ensemble-free algorithm based on Soft Actor-Critic. We evaluate it on the D4RL
benchmark, showing that it is capable of achieving performance comparable to
ensemble-based methods and outperforming ensemble-free approaches by a wide
margin.
- Abstract(参考訳): 様々な分野におけるランダムネットワーク蒸留(rnd)の成功にもかかわらず、オフライン強化学習における分散動作をペナルティ化するための不確実性評価として使用するには十分な識別性は認められなかった。
本稿では,これらの結果を再検討し,rndプリエント条件付けのナイーブな選択により,爆発防止ボーナスを効果的に最小化することは不可能であり,識別性は問題ではないことを示す。
その結果, ソフトアクタ-クリティックに基づく簡易で効率的なアンサンブルフリーアルゴリズムを実現することができた。
d4rlベンチマークで評価し、アンサンブルベースの手法に匹敵する性能を達成でき、アンサンブルフリーのアプローチを高いマージンで上回ることができることを示した。
関連論文リスト
- Batch Ensemble for Variance Dependent Regret in Stochastic Bandits [41.95653110232677]
オンライン強化学習(RL:Reinforcement Learning)において、探索と搾取を効果的に行うことが重要な課題の1つだ。
実践的なアンサンブル法に着想を得た本研究では,マルチアーマッド・バンディット(MAB)のほぼ最適後悔を実現する,単純かつ新しいバッチアンサンブル方式を提案する。
提案アルゴリズムは, バッチ数という1つのパラメータしか持たず, 損失のスケールや分散といった分布特性に依存しない。
論文 参考訳(メタデータ) (2024-09-13T06:40:56Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - Reward Certification for Policy Smoothed Reinforcement Learning [14.804252729195513]
強化学習(Reinforcement Learning, RL)は、安全クリティカルな分野において大きな成功を収めた。
近年の研究では、その堅牢性を高めるために「平滑な政策」を導入している。
報酬の総額を認定する証明可能な保証を確立することは依然として困難である。
論文 参考訳(メタデータ) (2023-12-11T15:07:58Z) - Observation-Guided Diffusion Probabilistic Models [41.749374023639156]
観測誘導拡散確率モデル(OGDM)と呼ばれる新しい拡散に基づく画像生成法を提案する。
本手法は,観測プロセスの指導をマルコフ連鎖と統合することにより,トレーニング目標を再構築する。
本研究では,強力な拡散モデルベースライン上での多様な推論手法を用いたトレーニングアルゴリズムの有効性を示す。
論文 参考訳(メタデータ) (2023-10-06T06:29:06Z) - STEEL: Singularity-aware Reinforcement Learning [14.424199399139804]
バッチ強化学習(RL)は、事前収集されたデータを利用して最適なポリシーを見つけることを目的としている。
本稿では,状態空間と行動空間の両方に特異性を持たせる新しいバッチRLアルゴリズムを提案する。
悲観主義といくつかの技術的条件を利用して、提案したアルゴリズムに対する最初の有限サンプル後悔保証を導出する。
論文 参考訳(メタデータ) (2023-01-30T18:29:35Z) - Mitigating Algorithmic Bias with Limited Annotations [65.060639928772]
機密属性が公開されていない場合、バイアスを軽減するために、トレーニングデータの小さな部分を手動でアノテートする必要がある。
本稿では,アルゴリズムバイアスの影響を最大限に排除するために,限定アノテーションを誘導する対話型フレームワークであるアクティブペナライゼーション・オブ・差別(APOD)を提案する。
APODは完全なアノテートバイアス緩和と同等のパフォーマンスを示しており、機密情報が制限された場合、APODが現実世界のアプリケーションに利益をもたらすことを実証している。
論文 参考訳(メタデータ) (2022-07-20T16:31:19Z) - False Correlation Reduction for Offline Reinforcement Learning [115.11954432080749]
本稿では,実効的かつ理論的に証明可能なアルゴリズムであるオフラインRLに対するfalSe Correlation Reduction (SCORE)を提案する。
SCOREは、標準ベンチマーク(D4RL)において、様々なタスクにおいて3.1倍の高速化でSoTA性能を達成することを実証的に示す。
論文 参考訳(メタデータ) (2021-10-24T15:34:03Z) - Uncertainty Weighted Actor-Critic for Offline Reinforcement Learning [63.53407136812255]
オフライン強化学習は、探索を必要とせずに、事前に収集された静的データセットから効果的なポリシーを学ぶことを約束する。
既存のQラーニングとアクター批判に基づくオフポリティクスRLアルゴリズムは、アウト・オブ・ディストリビューション(OOD)アクションや状態からのブートストラップ時に失敗する。
我々は,OOD状態-動作ペアを検出し,トレーニング目標への貢献度を下げるアルゴリズムであるUncertainty Weighted Actor-Critic (UWAC)を提案する。
論文 参考訳(メタデータ) (2021-05-17T20:16:46Z) - Strictly Batch Imitation Learning by Energy-based Distribution Matching [104.33286163090179]
すなわち、強化信号へのアクセスがなく、遷移力学の知識がなく、環境とのさらなる相互作用もない。
1つの解決策は、既存のアルゴリズムをオフライン環境で動作させるために、見習いの学習に適合させることである。
しかし、このようなアプローチは、政治外の評価やオフラインモデルの推定に大きく依存しており、間接的で非効率である可能性がある。
優れたソリューションは、ポリシーを明示的にパラメータ化し、ロールアウトダイナミクスから暗黙的に学習し、完全にオフラインで運用できるべきだ、と私たちは主張する。
論文 参考訳(メタデータ) (2020-06-25T03:27:59Z) - Discriminative Adversarial Search for Abstractive Summarization [29.943949944682196]
シーケンシャルデコード(DAS)の新しい手法を提案する。
DASは外部メトリクスを必要とせず、露光バイアスの影響を軽減するのが望ましい特性である。
抽象的な要約作業における提案手法の有効性について検討する。
論文 参考訳(メタデータ) (2020-02-24T17:07:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。