論文の概要: RoAd-RL: A Unified Library and Benchmark for Robust Adversarial Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2606.29867v1
- Date: Mon, 29 Jun 2026 07:03:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.088132
- Title: RoAd-RL: A Unified Library and Benchmark for Robust Adversarial Reinforcement Learning
- Title(参考訳): RoAd-RL:ロバスト対応強化学習のための統一ライブラリとベンチマーク
- Abstract要約: Deep Reinforcement Learning (DRL)は、ロボット工学と自律システムにおいて大きな成功を収めた。
敵対的強化学習の研究は、しばしば断片化された実装、一貫性のない評価プロトコル、貧弱な堅牢性メトリクスによって制限される。
我々は、ポリシ、アタック、ディフェンス、ロバストネスメトリクスの統一的な抽象化を提供するオープンソースのベンチマークフレームワークである textbfRoAd-RL を提案する。
- 参考スコア(独自算出の注目度): 0.34410212782758043
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep Reinforcement Learning (DRL) has achieved significant success in robotics and autonomous systems, yet remains vulnerable to adversarial perturbations that can severely degrade performance. Research in adversarial reinforcement learning is often limited by fragmented implementations, inconsistent evaluation protocols, and poor reproducibility. To address these challenges, we present \textbf{RoAd-RL}, an open-source benchmarking framework that provides unified abstractions for policies, attacks, defenses, and robustness metrics, together with reproducible evaluation pipelines and seamless integration with Stable-Baselines3 and Gymnasium. We evaluate DQN, PPO, and SAC agents in LunarLander and Highway-v0 under 192 attack-defense configurations. Results reveal substantial variations in robustness across environments and show that some commonly used defenses can be more detrimental than the attacks they aim to mitigate, while temporal smoothing consistently achieves strong performance. RoAd-RL establishes a standardized benchmark for adversarial reinforcement learning research and is publicly available at https://pypi.org/project/road-rl.
- Abstract(参考訳): 深層強化学習(DRL)はロボット工学や自律システムにおいて大きな成功を収めてきたが、性能を著しく低下させる敵の摂動に弱いままである。
敵対的強化学習の研究は、しばしば断片化実装、一貫性のない評価プロトコル、再現性に制限される。
これらの課題に対処するため、我々は、ポリシー、アタック、ディフェンス、ロバストネスメトリクスの統一的な抽象化を提供するオープンソースのベンチマークフレームワークである‘textbf{RoAd-RL}と、再現可能な評価パイプラインと、Stable-Baselines3とGymnasiumとのシームレスな統合を提供する。
ルナーランダーとハイウェイ-v0におけるDQN, PPO, SACエージェントを192個の攻撃防御構成で評価した。
その結果、環境間のロバスト性はかなりのばらつきを示し、一般的に使用される防御は、彼らが狙っている攻撃よりも有害であることを示す一方で、時間的平滑化は、常に強いパフォーマンスを達成することを示す。
RoAd-RLは、敵の強化学習研究のための標準化されたベンチマークを確立し、https://pypi.org/project/road-rl.comで公開されている。
関連論文リスト
- ARISE-RL: Agentic Rubric-Grounded Iterative Self-Evolution with Reinforcement Learning [74.19730275669227]
ARISE-RLは、オープンエンドエージェントをトレーニングするための新しいフルサイクルの自己進化フレームワークである。
Reward-Gated Self-Evolution Distillation (RG-SED)を提案する。
ECR-Benchは,シングルツールディープリサーチとマルチツールトラベルプランニングを対象とする,専門家校正型ルーリックベンチマークスイートである。
論文 参考訳(メタデータ) (2026-09-01T10:54:13Z) - ARLArena: A Unified Framework for Stable Agentic Reinforcement Learning [75.73135757250806]
エージェント強化学習(ARL)は、複雑で多段階の対話的なタスクを解決するためのトレーニングエージェントにとって有望なパラダイムとして急速に注目を集めている。
初期の成果を奨励しているにもかかわらず、ARLは非常に不安定であり、しばしばトレーニングの崩壊につながる。
本稿では,制御された再現可能な環境下でのトレーニング安定性を検証した,安定したトレーニングレシピと系統的分析フレームワークであるARLArenaを提案する。
論文 参考訳(メタデータ) (2026-02-25T03:43:34Z) - Enhancing Security in Deep Reinforcement Learning: A Comprehensive Survey on Adversarial Attacks and Defenses [0.0]
本稿では、DRLの基本的枠組みを紹介し、複雑で変化する環境において直面する主なセキュリティ課題を分析する。
本研究は, 対人訓練, 競争訓練, 頑健な学習, 対人検出, 防衛蒸留, その他の防衛技術を含む, 現行の強靭性訓練戦略を体系的に要約する。
論文 参考訳(メタデータ) (2025-10-23T08:04:57Z) - Pruning Cannot Hurt Robustness: Certified Trade-offs in Reinforcement Learning [6.883578421923203]
我々は,国家のマルコフ決定プロセスにおけるプルーニングの下での確証された堅牢性に関する最初の理論的枠組みを開発する。
クリーンタスク性能,プルーニングによるパフォーマンス損失,ロバスト性向上を両立させる新しい3段階の後悔分解を導出する。
論文 参考訳(メタデータ) (2025-10-14T19:35:27Z) - Towards Robust Policy: Enhancing Offline Reinforcement Learning with Adversarial Attacks and Defenses [19.918548094276005]
オフライン強化学習(RL)は、大量のオフラインデータに対する事前トレーニングポリシによって、RLに固有の高価でリスクの高いデータ探索の課題に対処する。
本稿では,先進的な敵攻撃と防御を活用して,オフラインRLモデルのロバスト性を高める枠組みを提案する。
論文 参考訳(メタデータ) (2024-05-18T07:23:44Z) - Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。
我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
論文 参考訳(メタデータ) (2021-06-21T21:42:08Z) - Robust Reinforcement Learning on State Observations with Learned Optimal
Adversary [86.0846119254031]
逆摂動状態観測による強化学習の堅牢性について検討した。
固定されたエージェントポリシーでは、摂動状態の観測に最適な敵を見つけることができる。
DRLの設定では、これは以前のものよりもはるかに強い学習された敵対を介してRLエージェントに新しい経験的敵対攻撃につながります。
論文 参考訳(メタデータ) (2021-01-21T05:38:52Z) - Robust Deep Reinforcement Learning through Adversarial Loss [74.20501663956604]
近年の研究では、深層強化学習剤は、エージェントの入力に対する小さな逆方向の摂動に弱いことが示されている。
敵攻撃に対する堅牢性を向上した強化学習エージェントを訓練するための原則的フレームワークであるRADIAL-RLを提案する。
論文 参考訳(メタデータ) (2020-08-05T07:49:42Z) - Robust Reinforcement Learning using Adversarial Populations [118.73193330231163]
強化学習(Reinforcement Learning, RL)は、コントローラ設計に有効なツールであるが、堅牢性の問題に対処できる。
一つの逆数を使うことは、逆数の標準的なパラメトリゼーションの下での動的変動に一貫して堅牢性をもたらすわけではないことを示す。
本稿では,ロバスト RL の定式化に対する人口ベース増進法を提案する。
論文 参考訳(メタデータ) (2020-08-04T20:57:32Z) - Robust Deep Reinforcement Learning against Adversarial Perturbations on
State Observations [88.94162416324505]
深部強化学習(DRL)エージェントは、自然な測定誤差や対向雑音を含む観測を通して、その状態を観察する。
観測は真の状態から逸脱するので、エージェントを誤解させ、準最適行動を起こすことができる。
本研究は, 従来の手法を, 対人訓練などの分類タスクの堅牢性向上に応用することは, 多くのRLタスクには有効でないことを示す。
論文 参考訳(メタデータ) (2020-03-19T17:59:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。