論文の概要: Stealthy Adversarial Attacks on Stochastic Multi-Armed Bandits

• arxiv url: http://arxiv.org/abs/2402.13487v1
• Date: Wed, 21 Feb 2024 02:54:00 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-22 17:21:57.648102
• Title: Stealthy Adversarial Attacks on Stochastic Multi-Armed Bandits
• Title（参考訳）: 確率的マルチアーマッドバンドに対するステルス対立攻撃
• Authors: Zhiwei Wang, Huazheng Wang, Hongning Wang
• Abstract要約: マルチアーマド・バンディット(MAB)アルゴリズムに対する敵対的攻撃は文献で広く研究されている。 本研究は, 報酬中毒に対する攻撃に焦点を当て, 提案した検出方法により, 既存の攻撃のほとんどが容易に検出できることを示す。 このことは、MABに対するステルスシー攻撃の概念を研究し、その結果の攻撃可能性について調査する動機となっている。
• 参考スコア（独自算出の注目度）: 46.6541562214783
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial attacks against stochastic multi-armed bandit (MAB) algorithms have been extensively studied in the literature. In this work, we focus on reward poisoning attacks and find most existing attacks can be easily detected by our proposed detection method based on the test of homogeneity, due to their aggressive nature in reward manipulations. This motivates us to study the notion of stealthy attack against stochastic MABs and investigate the resulting attackability. Our analysis shows that against two popularly employed MAB algorithms, UCB1 and $\epsilon$-greedy, the success of a stealthy attack depends on the environmental conditions and the realized reward of the arm pulled in the first round. We also analyze the situation for general MAB algorithms equipped with our attack detection method and find that it is possible to have a stealthy attack that almost always succeeds. This brings new insights into the security risks of MAB algorithms.
• Abstract（参考訳）: 確率的マルチアームバンディット (MAB) アルゴリズムに対する敵対的攻撃は文献で広く研究されている。 本研究では,報酬中毒に対する攻撃に焦点をあて,報奨操作における攻撃性から,同質性検査に基づく検出法により,既存の攻撃のほとんどを容易に検出できることを示す。 このことは、確率的MABに対するステルス攻撃の概念を研究し、その結果の攻撃可能性を調べる動機となっている。 分析の結果、UCB1と$\epsilon$-greedyの2つのMABアルゴリズムに対して、ステルス攻撃の成功は、第1ラウンドで引き出された腕の実際の報酬と環境条件に依存することがわかった。 また,本手法を応用した一般的なmabアルゴリズムの状況を分析し,ほぼ常に成功したステルス攻撃が可能であることを確認した。 これはMABアルゴリズムのセキュリティリスクに対する新たな洞察をもたらす。

関連論文リスト

• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Adversarial Attacks on Adversarial Bandits [10.891819703383408]
  攻撃者は,任意の非相対的帯域幅アルゴリズムをミスリードして,準最適目標アームを選択することができることを示す。 この結果は、現実世界の盗賊ベースのシステムにおける重要なセキュリティ上の懸念を意味する。
  論文  参考訳（メタデータ） (2023-01-30T00:51:39Z)
• Understanding the Vulnerability of Skeleton-based Human Activity Recognition via Black-box Attack [53.032801921915436]
  HAR(Human Activity Recognition)は、自動運転車など、幅広い用途に採用されている。 近年,敵対的攻撃に対する脆弱性から,骨格型HAR法の堅牢性に疑問が呈されている。 攻撃者がモデルの入出力しかアクセスできない場合でも、そのような脅威が存在することを示す。 BASARと呼ばれる骨格をベースとしたHARにおいて,最初のブラックボックス攻撃手法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T09:51:28Z)
• Adversarial Attacks on Gaussian Process Bandits [47.84198626686564]
  本研究では,攻撃者の強さや事前情報に異なる仮定で様々な敵攻撃手法を提案する。 我々の目標は,GPバンディットに対する敵攻撃を理論的・実践的両面から理解することである。 GP帯域に対する敵攻撃は,攻撃予算が低い場合でも,$mathcalR_rmターゲットに対してアルゴリズムを強制的に強制することに成功した。
  論文  参考訳（メタデータ） (2021-10-16T02:39:10Z)
• Robust Stochastic Linear Contextual Bandits Under Adversarial Attacks [81.13338949407205]
  近年の研究では、最適なバンディットアルゴリズムは敵攻撃に対して脆弱であり、攻撃の有無で完全に失敗する可能性があることが示されている。 既存の堅牢なバンディットアルゴリズムは、報酬の攻撃下では、非コンテキスト設定でのみ機能する。 完全適応的かつ全能的な攻撃下での線形文脈帯域設定のための最初の頑健な帯域幅アルゴリズムを提供する。
  論文  参考訳（メタデータ） (2021-06-05T22:20:34Z)
• Action-Manipulation Attacks Against Stochastic Bandits: Attacks and Defense [45.408568528354216]
  我々はアクション・マニピュレーション・アタックと呼ばれる新しいタイプの攻撃を導入する。 この攻撃では、相手が選択したアクション信号を変更することができる。 このような攻撃に対して防御するために,アクション操作攻撃に対して堅牢な新しいアルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-02-19T04:09:15Z)
• Robust Stochastic Bandit Algorithms under Probabilistic Unbounded Adversarial Attack [41.060507338755784]
  本稿では,各ラウンドで敵が一定の確率で攻撃する攻撃モデルについて検討する。 そこで我々は, 中央値および探索支援UPBアルゴリズム(med-E-UCB)と中央値の$epsilon$-greedyアルゴリズム(med-$epsilon$-greedy)を提案する。 どちらのアルゴリズムも上記の攻撃モデルに対して確実に堅牢である。より具体的には、どちらのアルゴリズムも$mathcalO(log T)$ pseudo-regret (i.e.)を達成することを示す。
  論文  参考訳（メタデータ） (2020-02-17T19:21:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。