論文の概要: Angel or Demon: Investigating the Plasticity Interventions' Impact on Backdoor Threats in Deep Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2605.14587v1
• Date: Thu, 14 May 2026 08:58:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.736961
• Title: Angel or Demon: Investigating the Plasticity Interventions' Impact on Backdoor Threats in Deep Reinforcement Learning
• Title（参考訳）: Angel or Demon: プラスティックティ・インターベンションが深層強化学習におけるバックドアの脅威に与える影響を調査
• Authors: Oubo Ma, Ruixiao Lin, Yang Dai, Jiahao Chen, Chunyi Zhou, Linkang Du, Shouling Ji,
• Abstract要約: 代表的な介入と攻撃シナリオを統合した14,664症例について検討した。 1つの介入(SAM)だけがバックドアの脅威を悪化させ、他の介入はそれらを緩和する。 1) DRLの介入とバックドアの機械的相互作用を相互作用する頑健なバックドア注入の概念的枠組みと,(2) DRLのバックドア検出の指標としての異常な損失景観のシャープネスの2つの新しい知見を導出した。
• 参考スコア（独自算出の注目度）: 35.320708072497105
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Extensive research has highlighted the severe threats posed by backdoor attacks to deep reinforcement learning (DRL). However, prior studies primarily focus on vanilla scenarios, while plasticity interventions have emerged as indispensable built-in components of modern DRL agents. Despite their effectiveness in mitigating plasticity loss, the impact of these interventions on DRL backdoor vulnerabilities remains underexplored, and this lack of systematic investigation poses risks in practical DRL deployments. To bridge this gap, we empirically study 14,664 cases integrating representative interventions and attack scenarios. We find that only one intervention (i.e., SAM) exacerbates backdoor threats, while other interventions mitigate them. Pathological analysis identifies that the exacerbation is attributed to backdoor gradient amplification, while the mitigation stems from activation pathway disruption and representation space compression. From these findings, we derive two novel insights: (1) a conceptual framework SCC for robust backdoor injection that deconstructs the mechanistic interplay between interventions and backdoors in DRL, and (2) abnormal loss landscape sharpness as a key indicator for DRL backdoor detection.
• Abstract（参考訳）: 大規模な研究は、深層強化学習(DRL)に対するバックドア攻撃による深刻な脅威を浮き彫りにした。 しかしながら、以前の研究では主にバニラのシナリオに焦点が当てられていたが、プラスチックの介入は現代のDRLエージェントの必須の組み込みコンポーネントとして現れている。 可塑性損失の軽減に効果があるにもかかわらず、これらの介入がDRLバックドア脆弱性に与える影響は未解明のままであり、この系統的な調査の欠如は実際のDRLの展開にリスクをもたらす。 このギャップを埋めるために、代表的介入と攻撃シナリオを統合した14,664のケースを経験的に研究した。 1つの介入(SAM)だけがバックドアの脅威を悪化させ、他の介入はそれらを緩和する。 病理組織学的には、増悪はバックドア勾配の増幅に起因するが、緩和はアクティベーションパスの破壊と表現空間の圧縮に起因する。 これらの結果から, DRLにおける介入とバックドア間の機械的相互作用を分解するロバストなバックドア注入のための概念的枠組みSCCと, DRLのバックドア検出の指標として異常なロスランドスケープのシャープネスを導出した。

関連論文リスト

• Injection, Attack and Erasure: Revocable Backdoor Attacks via Machine Unlearning [2.1896295740048894]
  本稿では,攻撃目標達成後,バックドアを積極的にかつ徹底的に取り除くことができる,取り消し可能なバックドア攻撃の第1パラダイムを紹介する。 この研究は、バックドア攻撃研究の新しい方向性を開き、機械学習システムのセキュリティに対する新たな課題を提示します。
  論文  参考訳（メタデータ） (2025-10-15T09:09:43Z)
• Beyond Training-time Poisoning: Component-level and Post-training Backdoors in Deep Reinforcement Learning [2.8311497176067104]
  深層強化学習(Dep Reinforcement Learning, DRL)システムは、安全クリティカルなアプリケーションでますます使われているが、そのセキュリティはいまだに過小評価されている。 本研究は、特定の入力が観測空間に現れる場合にのみ悪意ある行為を引き起こす隠されたトリガーを埋め込むバックドア攻撃を調査する。 1) 完全モデル再訓練に耐える持続的バックドアを移植するためにコンポーネントレベルの欠陥を利用するTrojanentRLと,(2) トレーニングや検証,テストデータへのアクセスを必要としないトレーニング後のバックドア攻撃であるInfrectroRLである。
  論文  参考訳（メタデータ） (2025-07-07T11:15:54Z)
• Mitigating Deep Reinforcement Learning Backdoors in the Neural Activation Space [0.24578723416255752]
  本稿では,深層強化学習(DRL)エージェントポリシーにおけるバックドアの脅威について検討する。 実行時に検出する新しい方法を提案する。
  論文  参考訳（メタデータ） (2024-07-21T13:48:23Z)
• Variable-Agnostic Causal Exploration for Reinforcement Learning [56.52768265734155]
  強化学習のための新しいフレームワークVACERL(Variable-Agnostic Causal Exploration for Reinforcement Learning)を導入する。 本手法は,注目機構を用いて,重要変数に関連する重要な観測行動ステップを自動的に同定する。 これらのステップを接続する因果グラフを構築し、エージェントをタスク完了に対する因果的影響の大きい観察-作用ペアへと導く。
  論文  参考訳（メタデータ） (2024-07-17T09:45:27Z)
• On the Difficulty of Defending Contrastive Learning against Backdoor Attacks [58.824074124014224]
  バックドア攻撃が、特有のメカニズムによってどのように動作するかを示す。 本研究は, 対照的なバックドア攻撃の特異性に合わせて, 防御の必要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2023-12-14T15:54:52Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Demystifying Poisoning Backdoor Attacks from a Statistical Perspective [35.30533879618651]
  バックドア攻撃は、そのステルス性や潜在的に深刻な影響により、重大なセキュリティリスクを引き起こす。 本稿では,一定のトリガを組み込んだバックドア攻撃の有効性を評価する。 我々の導出した理解は、識別モデルと生成モデルの両方に適用できる。
  論文  参考訳（メタデータ） (2023-10-16T19:35:01Z)
• A Temporal-Pattern Backdoor Attack to Deep Reinforcement Learning [10.162123678104917]
  DRLに対する新しい時間パターンバックドアアタックを提案する。 提案したバックドア攻撃を,クラウドコンピューティングにおける典型的なジョブスケジューリングタスクに検証する。 我々のバックドアの平均的クリーンデータ精度と攻撃成功率は、それぞれ97.8%と97.5%に達する。
  論文  参考訳（メタデータ） (2022-05-05T12:03:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。