論文の概要: Security of Deep Reinforcement Learning for Autonomous Driving: A Survey

• arxiv url: http://arxiv.org/abs/2212.06123v3
• Date: Thu, 25 Sep 2025 11:51:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-26 14:16:55.618888
• Title: Security of Deep Reinforcement Learning for Autonomous Driving: A Survey
• Title（参考訳）: 自動運転のための深層強化学習の安全性に関する調査
• Authors: Ambra Demontis, Srishti Gupta, Maura Pintor, Luca Demetrio, Kathrin Grosse, Hsiao-Ying Lin, Chengfang Fang, Battista Biggio, Fabio Roli,
• Abstract要約: 強化学習(RL)は、エージェントが環境との相互作用を通じて最適な行動を学ぶことを可能にする。 その約束にもかかわらず、RLは、政策学習を妥協したり、訓練されたエージェントによる誤った判断を誘発するために設計された攻撃に影響を受けやすい。
• 参考スコア（独自算出の注目度）: 20.703911484411737
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reinforcement learning (RL) enables agents to learn optimal behaviors through interaction with their environment and has been increasingly deployed in safety-critical applications, including autonomous driving. Despite its promise, RL is susceptible to attacks designed either to compromise policy learning or to induce erroneous decisions by trained agents. Although the literature on RL security has grown rapidly and several surveys exist, existing categorizations often fall short in guiding the selection of appropriate defenses for specific systems. In this work, we present a comprehensive survey of 86 recent studies on RL security, addressing these limitations by systematically categorizing attacks and defenses according to defined threat models and single- versus multi-agent settings. Furthermore, we examine the relevance and applicability of state-of-the-art attacks and defense mechanisms within the context of autonomous driving, providing insights to inform the design of robust RL systems.
• Abstract（参考訳）: 強化学習(Reinforcement Learning, RL)は、エージェントが環境との相互作用を通じて最適な行動を学ぶことを可能にする。 その約束にもかかわらず、RLは政策学習を妥協するか、訓練されたエージェントによる誤った判断を誘導するために設計された攻撃に影響を受けやすい。 RLのセキュリティに関する文献は急速に増加し、いくつかの調査が存在するが、既存の分類は特定のシステムに対する適切な防御の選択を導くのに不足することが多い。 本研究では、RLセキュリティに関する86の最近の研究を包括的に調査し、脅威モデルと単一対マルチエージェント設定に基づいて攻撃と防御を体系的に分類することで、これらの制限に対処する。 さらに、自律運転の文脈における最先端攻撃と防御機構の関連性や適用性について検討し、ロバストなRLシステムの設計に洞察を与える。

関連論文リスト

• A Safe and Efficient Self-evolving Algorithm for Decision-making and Control of Autonomous Driving Systems [19.99282698119699]
  自己進化型自動運転車は、現実世界の環境における未知のシナリオに対処することが期待されている。 強化学習は 最適な政策を学ぶことで 自己進化できる。 本稿では,ハイブリッドなメカニズム-経験-学習型拡張手法を提案する。
  論文  参考訳（メタデータ） (2024-08-22T08:05:03Z)
• Work-in-Progress: Crash Course: Can (Under Attack) Autonomous Driving Beat Human Drivers? [60.51287814584477]
  本稿では,現在のAVの状況を調べることによって,自律運転における本質的なリスクを評価する。 AVの利点と、現実のシナリオにおける潜在的なセキュリティ課題との微妙なバランスを強調した、特定のクレームを開発する。
  論文  参考訳（メタデータ） (2024-05-14T09:42:21Z)
• RACER: Epistemic Risk-Sensitive RL Enables Fast Driving with Fewer Crashes [57.319845580050924]
  本稿では,リスク感応制御と適応行動空間のカリキュラムを組み合わせた強化学習フレームワークを提案する。 提案アルゴリズムは,現実世界のオフロード運転タスクに対して,高速なポリシーを学習可能であることを示す。
  論文  参考訳（メタデータ） (2024-05-07T23:32:36Z)
• Evaluation of Safety Constraints in Autonomous Navigation with Deep Reinforcement Learning [62.997667081978825]
  学習可能なナビゲーションポリシとして,セーフとアンセーフの2つを比較します。 安全なポリシは、制約をアカウントに含めますが、もう一方はそうではありません。 安全政策は、よりクリアランスの高い軌道を生成することができ(障害物によらず)、全体的な性能を犠牲にすることなく、トレーニング中に衝突を減らすことができることを示す。
  論文  参考訳（メタデータ） (2023-07-27T01:04:57Z)
• Evaluating Model-free Reinforcement Learning toward Safety-critical Tasks [70.76757529955577]
  本稿では、国家安全RLの観点から、この領域における先行研究を再考する。 安全最適化と安全予測を組み合わせた共同手法であるUnrolling Safety Layer (USL)を提案する。 この領域のさらなる研究を容易にするため、我々は関連するアルゴリズムを統一パイプラインで再現し、SafeRL-Kitに組み込む。
  論文  参考訳（メタデータ） (2022-12-12T06:30:17Z)
• How to Learn from Risk: Explicit Risk-Utility Reinforcement Learning for Efficient and Safe Driving Strategies [1.496194593196997]
  本稿では,自動運転車の挙動を安全かつ効率的に解釈できるSafeDQNを提案する。 SafeDQNは様々なシナリオの解釈可能かつ安全な運転ポリシーを発見し、最先端の衛生技術がリスクと実用性の両方を評価するのにどのように役立つかを示す。
  論文  参考訳（メタデータ） (2022-03-16T05:51:22Z)
• Weakly Supervised Reinforcement Learning for Autonomous Highway Driving via Virtual Safety Cages [42.57240271305088]
  規則に基づく安全ケージは、車両の安全性の向上と強化学習エージェントに対する弱い監督を提供する自律型車両の縦方向制御に対する強化学習ベースのアプローチを提示する。 モデルパラメータが制約されたり,あるいは最適化されていない場合,モデルが強化学習だけでは運転を訓練できない場合でも,モデルが安全な運転方針を学習できることを示す。
  論文  参考訳（メタデータ） (2021-03-17T15:30:36Z)
• Safe Reinforcement Learning via Curriculum Induction [94.67835258431202]
  安全クリティカルなアプリケーションでは、自律エージェントはミスが非常にコストがかかる環境で学ぶ必要がある。 既存の安全な強化学習手法は、エージェントが危険な状況を避けるために、事前にエージェントを頼りにしている。 本稿では,エージェントが自動インストラクターの指導の下で学習する,人間の指導にインスパイアされた代替手法を提案する。
  論文  参考訳（メタデータ） (2020-06-22T10:48:17Z)
• Training Adversarial Agents to Exploit Weaknesses in Deep Control Policies [47.08581439933752]
  対戦型強化学習に基づく自動ブラックボックステストフレームワークを提案する。 提案手法は, オンラインテストにおいて明らかでないコントロールポリシの両方において, 弱点を見出すことができることを示す。
  論文  参考訳（メタデータ） (2020-02-27T13:14:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。