論文の概要: Targeted Adversarial Attacks on Deep Reinforcement Learning Policies via Model Checking

• arxiv url: http://arxiv.org/abs/2212.05337v1
• Date: Sat, 10 Dec 2022 17:13:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-13 17:22:53.515911
• Title: Targeted Adversarial Attacks on Deep Reinforcement Learning Policies via Model Checking
• Title（参考訳）: モデル検査による深層強化学習政策の敵対的攻撃
• Authors: Dennis Gross, Thiago D. Simao, Nils Jansen, Guillermo A. Perez
• Abstract要約: 本稿では,時間論理特性に対する敵攻撃の正確な影響を測定する指標を提案する。 また、敵攻撃に対するRLポリシーの堅牢性を検証するためのモデル検査手法も導入する。
• 参考スコア（独自算出の注目度）: 3.5884936187733394
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep Reinforcement Learning (RL) agents are susceptible to adversarial noise in their observations that can mislead their policies and decrease their performance. However, an adversary may be interested not only in decreasing the reward, but also in modifying specific temporal logic properties of the policy. This paper presents a metric that measures the exact impact of adversarial attacks against such properties. We use this metric to craft optimal adversarial attacks. Furthermore, we introduce a model checking method that allows us to verify the robustness of RL policies against adversarial attacks. Our empirical analysis confirms (1) the quality of our metric to craft adversarial attacks against temporal logic properties, and (2) that we are able to concisely assess a system's robustness against attacks.
• Abstract（参考訳）: 深層強化学習 (Deep Reinforcement Learning, RL) エージェントは、彼らのポリシーを誤解させ、パフォーマンスを低下させる可能性のある観察において、敵のノイズに敏感である。 しかし、敵は報酬を減らすだけでなく、ポリシーの特定の時相論理特性を変更することにも興味があるかもしれない。 本稿では,このような特性に対する敵意攻撃の正確な影響を測定する指標を提案する。 我々はこの指標を使って最適な敵攻撃を行う。 さらに,敵の攻撃に対するrlポリシのロバスト性を検証するためのモデルチェック手法を提案する。 実験分析により,(1)時間的論理特性に対する敵意攻撃を行うための測定基準の品質,(2)攻撃に対するシステムのロバスト性を簡潔に評価できることが確認された。

関連論文リスト

• Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
  対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。 距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。 予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
  論文  参考訳（メタデータ） (2022-11-04T13:54:02Z)
• On Trace of PGD-Like Adversarial Attacks [77.75152218980605]
  敵対的攻撃は、ディープラーニングアプリケーションに対する安全性とセキュリティ上の懸念を引き起こす。 モデルの勾配一貫性を反映した適応応答特性(ARC)特性を構築する。 私たちの方法は直感的で、軽量で、非侵襲的で、データ不要です。
  論文  参考訳（メタデータ） (2022-05-19T14:26:50Z)
• Deep-Attack over the Deep Reinforcement Learning [26.272161868927004]
  敵攻撃の開発により 強化学習が より脆弱になった 本研究は,実効性と盗聴を自然に考慮し,強化学習に基づく攻撃フレームワークを提案する。 また,これらの2つの側面において,攻撃モデルの性能を評価するための新しい指標を提案する。
  論文  参考訳（メタデータ） (2022-05-02T10:58:19Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• Targeted Attack on Deep RL-based Autonomous Driving with Learned Visual Patterns [18.694795507945603]
  近年の研究では、敵の攻撃に対する深い強化学習を通じて学んだコントロールポリシーの脆弱性が実証されている。 本研究では, 物理的対象物に配置した視覚的学習パターンを用いて, 標的攻撃の実現可能性について検討する。
  論文  参考訳（メタデータ） (2021-09-16T04:59:06Z)
• Balancing detectability and performance of attacks on the control channel of Markov Decision Processes [77.66954176188426]
  マルコフ決定過程(MDPs)の制御チャネルにおける最適ステルス毒素攻撃の設計問題について検討する。 この研究は、MDPに適用された敵国・毒殺攻撃や強化学習(RL)手法に対する研究コミュニティの最近の関心に動機づけられている。
  論文  参考訳（メタデータ） (2021-09-15T09:13:10Z)
• Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
  入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。 我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
  論文  参考訳（メタデータ） (2021-06-21T21:42:08Z)
• Robust Reinforcement Learning on State Observations with Learned Optimal Adversary [86.0846119254031]
  逆摂動状態観測による強化学習の堅牢性について検討した。 固定されたエージェントポリシーでは、摂動状態の観測に最適な敵を見つけることができる。 DRLの設定では、これは以前のものよりもはるかに強い学習された敵対を介してRLエージェントに新しい経験的敵対攻撃につながります。
  論文  参考訳（メタデータ） (2021-01-21T05:38:52Z)
• Adversary Agnostic Robust Deep Reinforcement Learning [23.9114110755044]
  深層強化学習政策は、訓練中の摂動によって着想される。 以前のアプローチでは、訓練プロセスに敵の知識を追加することができると仮定していた。 本稿では,敵からの学習を必要としない頑健なDRLパラダイムを提案する。
  論文  参考訳（メタデータ） (2020-08-14T06:04:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。