論文の概要: Provably Invincible Adversarial Attacks on Reinforcement Learning Systems: A Rate-Distortion Information-Theoretic Approach

• arxiv url: http://arxiv.org/abs/2510.13792v1
• Date: Wed, 15 Oct 2025 17:48:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-16 20:13:28.796626
• Title: Provably Invincible Adversarial Attacks on Reinforcement Learning Systems: A Rate-Distortion Information-Theoretic Approach
• Title（参考訳）: 強化学習システムにおける不可逆的敵対的攻撃--利率歪曲情報理論のアプローチ
• Authors: Ziqing Lu, Lifeng Lai, Weiyu Xu,
• Abstract要約: マルコフ決定プロセス(MDP)のための強化学習(RL)は多くのセキュリティ関連アプリケーションで登場している。 本稿では,RLに対する「不可逆的」あるいは「不可逆的」な逆攻撃を提案する。
• 参考スコア（独自算出の注目度）: 22.90190828541341
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reinforcement learning (RL) for the Markov Decision Process (MDP) has emerged in many security-related applications, such as autonomous driving, financial decisions, and drone/robot algorithms. In order to improve the robustness/defense of RL systems against adversaries, studying various adversarial attacks on RL systems is very important. Most previous work considered deterministic adversarial attack strategies in MDP, which the recipient (victim) agent can defeat by reversing the deterministic attacks. In this paper, we propose a provably ``invincible'' or ``uncounterable'' type of adversarial attack on RL. The attackers apply a rate-distortion information-theoretic approach to randomly change agents' observations of the transition kernel (or other properties) so that the agent gains zero or very limited information about the ground-truth kernel (or other properties) during the training. We derive an information-theoretic lower bound on the recipient agent's reward regret and show the impact of rate-distortion attacks on state-of-the-art model-based and model-free algorithms. We also extend this notion of an information-theoretic approach to other types of adversarial attack, such as state observation attacks.
• Abstract（参考訳）: マルコフ決定プロセス(MDP)のための強化学習(RL)は、自律運転、金融決定、ドローン/ロボットアルゴリズムなど、多くのセキュリティ関連のアプリケーションに登場した。 敵に対するRLシステムの堅牢性・防御性を向上するためには,RLシステムに対する様々な敵攻撃の研究が重要である。 これまでのほとんどの研究は、受取人(被害者)エージェントが決定論的攻撃を逆転することで打ち負かすことができるMDPにおける決定論的敵攻撃戦略を検討した。 本稿では,RLに対する「不可逆的」あるいは「不可逆的」な逆攻撃を提案する。 攻撃者は、エージェントのトランジションカーネル(または他の特性)の観察をランダムに変更するために、レート歪み情報理論のアプローチを適用する。 我々は、受取人の報酬を後悔する情報理論の下限を導出し、最先端のモデルベースおよびモデルフリーアルゴリズムに対するレート歪み攻撃の影響を示す。 我々はまた、この情報理論的アプローチの概念を、状態観察攻撃のような他の種類の敵攻撃にも拡張する。

関連論文リスト

• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Targeted Adversarial Attacks on Deep Reinforcement Learning Policies via Model Checking [3.5884936187733394]
  本稿では,時間論理特性に対する敵攻撃の正確な影響を測定する指標を提案する。 また、敵攻撃に対するRLポリシーの堅牢性を検証するためのモデル検査手法も導入する。
  論文  参考訳（メタデータ） (2022-12-10T17:13:10Z)
• Universal Distributional Decision-based Black-box Adversarial Attack with Reinforcement Learning [5.240772699480865]
  そこで我々は,強化学習アルゴリズムを用いて,対向的摂動の分布を求める画素ワイドな決定に基づく攻撃アルゴリズムを提案する。 実験により,提案手法は,攻撃成功率の向上と伝達可能性の向上により,最先端の意思決定ベース攻撃よりも優れていることが示された。
  論文  参考訳（メタデータ） (2022-11-15T18:30:18Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• Recent improvements of ASR models in the face of adversarial attacks [28.934863462633636]
  音声認識モデルは敵攻撃に対して脆弱である。 異なる攻撃アルゴリズムの相対的強度は、モデルアーキテクチャを変更する際に大きく異なることを示す。 ソースコードをパッケージとしてリリースし、将来の攻撃と防御の評価に役立ちます。
  論文  参考訳（メタデータ） (2022-03-29T22:40:37Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Adversarial Attack Attribution: Discovering Attributable Signals in Adversarial ML Attacks [0.7883722807601676]
  自動運転車やML-as-a-serviceのような生産システムでさえ、逆の入力の影響を受けやすい。 摂動入力は、攻撃を生成するために使われるメソッドに起因できるだろうか? 敵対攻撃属性の概念を導入し、敵対攻撃における攻撃可能信号の発見可能性を調べるための単純な教師付き学習実験フレームワークを作成する。
  論文  参考訳（メタデータ） (2021-01-08T08:16:41Z)
• Improving Robustness to Model Inversion Attacks via Mutual Information Regularization [12.079281416410227]
  本稿では,モデル逆転攻撃に対する防御機構について検討する。 MIは、ターゲット機械学習モデルへのアクセスからトレーニングデータ配布に関する情報を推測することを目的とした、プライバシ攻撃の一種である。 我々はMI攻撃に対するMID(Multual Information Regularization based Defense)を提案する。
  論文  参考訳（メタデータ） (2020-09-11T06:02:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。