論文の概要: Certificate-Guided Evaluation of Reinforcement Learning Generalization
- arxiv url: http://arxiv.org/abs/2606.00840v1
- Date: Sat, 30 May 2026 18:31:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.880054
- Title: Certificate-Guided Evaluation of Reinforcement Learning Generalization
- Title(参考訳): 強化学習一般化のための認証ガイドによる評価
- Abstract要約: 本稿では,強化学習アルゴリズムが生成した軌跡を検証できるニューラル証明関数を提案する。
我々は,いくつかの最先端の一般化可能なRLアルゴリズムの一般化を実証的に証明する手法の能力を実証した。
- 参考スコア(独自算出の注目度): 5.926203312586108
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This work presents a logic-driven framework to evaluate the performance of reinforcement learning (RL) algorithms in their ability to generalize to unseen tasks. Our framework defines a family of inductive reach-avoid tasks, characterized by structural similarities in task dynamics, enabling evaluation of generalization capabilities. We introduce a neural certificate function that validates trajectories generated by RL algorithms by enforcing key conditions, thereby serving as a litmus test for RL generalization. We empirically demonstrate our method's capability in certifying generalization for several state-of-the-art generalizable RL algorithms on challenging continuous environments. Our results show that a lower percentage of certificate function violations correlates with a higher number of test tasks successfully solved, highlighting the effectiveness of our framework in evaluating and distinguishing generalization capabilities of RL algorithms. This work provides a principled approach for benchmarking RL generalization.
- Abstract(参考訳): 本研究は、強化学習(RL)アルゴリズムの性能を、未知のタスクに一般化する能力で評価するための論理駆動型フレームワークを提案する。
本フレームワークは,タスクダイナミクスにおける構造的類似を特徴とする帰納的リーチ回避タスクのファミリーを定義し,一般化能力の評価を可能にする。
本稿では,RLアルゴリズムが生成するトラジェクトリをキー条件を強制することによって検証し,RL一般化のためのリトマステストとして機能するニューラル証明関数を提案する。
提案手法は,挑戦的連続環境におけるいくつかの最先端の一般化可能なRLアルゴリズムの一般化を実証的に証明する。
その結果, 証明関数違反率の低下は, RLアルゴリズムの一般化能力を評価し, 評価する上で, フレームワークの有効性を浮き彫りにしている。
この研究は、RL一般化のベンチマークに原則化されたアプローチを提供する。
関連論文リスト
- Robust General Utility for Reinforcement Learning [7.332941410825274]
一般用途による強化学習(RL)は、政策による占有率の任意の機能的ロバスト性を最適化することにより、古典的なRLを拡張している。
実際には、デプロイで使用されるユーティリティはトレーニングツールから逸脱し、以前の作業で対処できないギャップを生じさせる。
そこで本研究では, 実用上の不確実性を考慮した政策を訓練するミニマックス学習フレームワークである, 堅牢な汎用ユーティリティ RL を提案する。
論文 参考訳(メタデータ) (2026-08-04T12:28:39Z) - Towards a Theoretical Understanding to the Generalization of RLHF [15.278675771756541]
我々は線形報酬モデルの下で LLM の RLHF 上の一般化理論を構築する。
この結果は, RLHF 後の LLM の一般化を実証的に観測する新たな理論的証拠を与えるものであると論じる。
論文 参考訳(メタデータ) (2026-01-23T02:30:16Z) - Sample-Efficient Neurosymbolic Deep Reinforcement Learning [49.60927398960061]
本稿では,背景記号知識を統合し,サンプル効率を向上させるニューロシンボリックディープRL手法を提案する。
オンライン推論は2つのメカニズムを通じてトレーニングプロセスのガイドを行う。
我々は、最先端の報奨機ベースラインよりも優れた性能を示す。
論文 参考訳(メタデータ) (2026-01-06T09:28:53Z) - A Comprehensive Survey of Reinforcement Learning: From Algorithms to Practical Challenges [2.2448567386846916]
強化学習(RL)は人工知能(AI)の強力なパラダイムとして登場した。
本稿では,多種多様なアルゴリズムを巧みに分析するRLの包括的調査を行う。
我々は、RLアルゴリズムの選択と実装に関する実践的な洞察を提供し、収束、安定性、探索-探索ジレンマといった共通の課題に対処する。
論文 参考訳(メタデータ) (2024-11-28T03:53:14Z) - Exploiting Estimation Bias in Clipped Double Q-Learning for Continous Control Reinforcement Learning Tasks [5.968716050740402]
本稿では,連続制御タスクに対するアクター・クライブ法における推定バイアスの対処と活用に焦点を当てた。
RLエージェントのトレーニング中に最も有利な推定バイアスを動的に選択するためのBias Exploiting (BE) 機構を設計する。
多くの最先端のDeep RLアルゴリズムはBE機構を備えており、性能や計算の複雑さを妨げない。
論文 参考訳(メタデータ) (2024-02-14T10:44:03Z) - RL-ViGen: A Reinforcement Learning Benchmark for Visual Generalization [23.417092819516185]
視覚一般化のための強化学習ベンチマークRL-ViGenを紹介する。
RL-ViGenは多種多様なタスクと幅広い一般化型を含み、より信頼性の高い結論の導出を容易にする。
我々の願望は、RL-ViGenが将来の普遍的な視覚一般化RLエージェントの創出の触媒となることである。
論文 参考訳(メタデータ) (2023-07-15T05:45:37Z) - Provable Reward-Agnostic Preference-Based Reinforcement Learning [61.39541986848391]
PbRL(Preference-based Reinforcement Learning)は、RLエージェントが、軌道上のペアワイドな嗜好に基づくフィードバックを用いてタスクを最適化することを学ぶパラダイムである。
本稿では,隠れた報酬関数の正確な学習を可能にする探索軌道を求める理論的報酬非依存PbRLフレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-29T15:00:09Z) - Contextualize Me -- The Case for Context in Reinforcement Learning [49.794253971446416]
文脈強化学習(cRL)は、このような変化を原則的にモデル化するためのフレームワークを提供する。
我々は,cRLが有意義なベンチマークや一般化タスクに関する構造化推論を通じて,RLのゼロショット一般化の改善にどのように貢献するかを示す。
論文 参考訳(メタデータ) (2022-02-09T15:01:59Z) - Why Generalization in RL is Difficult: Epistemic POMDPs and Implicit
Partial Observability [92.95794652625496]
総合化は強化学習システムの展開における中心的な課題である。
限られた訓練条件から検査条件を特定できないように一般化することは、暗黙的な部分観察可能性をもたらすことを示す。
我々は、RLにおける一般化の問題を、部分的に観察されたマルコフ決定過程の解法として再考した。
論文 参考訳(メタデータ) (2021-07-13T17:59:25Z) - Variational Empowerment as Representation Learning for Goal-Based
Reinforcement Learning [114.07623388322048]
本稿では,標準目標条件付きRL (GCRL) を目的変動エンパワーメントによってカプセル化する方法について論じる。
我々の研究は、ゴールベースRLで表現学習技術を評価し、分析し、開発する新しい基礎を築いた。
論文 参考訳(メタデータ) (2021-06-02T18:12:26Z) - A Brief Look at Generalization in Visual Meta-Reinforcement Learning [56.50123642237106]
メタ強化学習アルゴリズムの一般化性能を評価する。
これらのアルゴリズムは、困難なタスクで評価された場合、強いオーバーフィッティングを示すことができる。
論文 参考訳(メタデータ) (2020-06-12T15:17:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。