論文の概要: Adversarial Attacks on Adversarial Bandits

• arxiv url: http://arxiv.org/abs/2301.12595v1
• Date: Mon, 30 Jan 2023 00:51:39 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-31 16:13:03.437128
• Title: Adversarial Attacks on Adversarial Bandits
• Title（参考訳）: 敵対的帯域攻撃
• Authors: Yuzhe Ma, Zhijin Zhou
• Abstract要約: 攻撃者は,任意の非相対的帯域幅アルゴリズムをミスリードして,準最適目標アームを選択することができることを示す。 この結果は、現実世界の盗賊ベースのシステムにおける重要なセキュリティ上の懸念を意味する。
• 参考スコア（独自算出の注目度）: 10.891819703383408
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study a security threat to adversarial multi-armed bandits, in which an attacker perturbs the loss or reward signal to control the behavior of the victim bandit player. We show that the attacker is able to mislead any no-regret adversarial bandit algorithm into selecting a suboptimal target arm in every but sublinear (T-o(T)) number of rounds, while incurring only sublinear (o(T)) cumulative attack cost. This result implies critical security concern in real-world bandit-based systems, e.g., in online recommendation, an attacker might be able to hijack the recommender system and promote a desired product. Our proposed attack algorithms require knowledge of only the regret rate, thus are agnostic to the concrete bandit algorithm employed by the victim player. We also derived a theoretical lower bound on the cumulative attack cost that any victim-agnostic attack algorithm must incur. The lower bound matches the upper bound achieved by our attack, which shows that our attack is asymptotically optimal.
• Abstract（参考訳）: 攻撃者が被害者のバンディットプレーヤーの行動を制御するために損失や報奨信号を乱す、敵の多腕バンディットに対するセキュリティの脅威について検討する。 攻撃者は任意の非回帰逆バンディットアルゴリズムを誤解し、各ラウンドの副線形 (t-o(t)) 個数で最適のターゲットアームを選択できるが、副線形 (o(t)) 累積攻撃コストはかかる。 この結果は、例えばオンラインレコメンデーションにおいて、アタッカーがレコメンデーターシステムをハイジャックし、望ましい製品を宣伝できるような、現実世界の盗賊ベースのシステムにおける重要なセキュリティ上の懸念を意味する。 提案した攻撃アルゴリズムは, 後悔率のみの知識を必要とするため, 被害者が使用する具体的な盗賊アルゴリズムに非依存である。 また, 被害者に依存しない攻撃アルゴリズムは, 累積攻撃コストを理論的に下限に設定した。 下限は攻撃によって達成された上限と一致しており、これは我々の攻撃が漸近的に最適であることを示している。

関連論文リスト

• Optimal Cost Constrained Adversarial Attacks For Multiple Agent Systems [6.69087470775851]
  分散攻撃エージェントを用いた最適な敵エージェント対エージェント攻撃を行うという問題を定式化する。 そこで本稿では,静的制約付き攻撃-リソース割り当て最適化と動的プログラミングの段階間最適化を組み合わせた最適手法を提案する。 以上の結果から,攻撃エージェントが受ける報酬を大幅に削減できる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-11-01T21:28:02Z)
• Guidance Through Surrogate: Towards a Generic Diagnostic Attack [101.36906370355435]
  我々は、攻撃最適化中に局所最小限を避けるための誘導機構を開発し、G-PGAと呼ばれる新たな攻撃に繋がる。 修正された攻撃では、ランダムに再起動したり、多数の攻撃を繰り返したり、最適なステップサイズを検索したりする必要がありません。 効果的な攻撃以上に、G-PGAは敵防御における勾配マスキングによる解離性堅牢性を明らかにするための診断ツールとして用いられる。
  論文  参考訳（メタデータ） (2022-12-30T18:45:23Z)
• Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
  敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。 自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。 本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
  論文  参考訳（メタデータ） (2022-03-29T04:33:06Z)
• Efficient Action Poisoning Attacks on Linear Contextual Bandits [41.1063033715314]
  我々は新たな種類の攻撃を提案している。 相手は、エージェントが選択したアクション信号を変更することができる。 ホワイトボックスとブラックボックスの設定の両方において、提案した攻撃スキームはLinUCBエージェントにターゲットアームを非常に頻繁に引くように強制することができることを示す。
  論文  参考訳（メタデータ） (2021-12-10T07:39:07Z)
• When Are Linear Stochastic Bandits Attackable? [47.25702824488642]
  本稿では,$k$のリニアバンディット環境の攻撃性について検討する。 本稿では,LinUCBとロバスト位相除去に対する2段階攻撃法を提案する。
  論文  参考訳（メタデータ） (2021-10-18T04:12:09Z)
• Adversarial Attacks on Gaussian Process Bandits [47.84198626686564]
  本研究では,攻撃者の強さや事前情報に異なる仮定で様々な敵攻撃手法を提案する。 我々の目標は,GPバンディットに対する敵攻撃を理論的・実践的両面から理解することである。 GP帯域に対する敵攻撃は,攻撃予算が低い場合でも,$mathcalR_rmターゲットに対してアルゴリズムを強制的に強制することに成功した。
  論文  参考訳（メタデータ） (2021-10-16T02:39:10Z)
• Robust Stochastic Linear Contextual Bandits Under Adversarial Attacks [81.13338949407205]
  近年の研究では、最適なバンディットアルゴリズムは敵攻撃に対して脆弱であり、攻撃の有無で完全に失敗する可能性があることが示されている。 既存の堅牢なバンディットアルゴリズムは、報酬の攻撃下では、非コンテキスト設定でのみ機能する。 完全適応的かつ全能的な攻撃下での線形文脈帯域設定のための最初の頑健な帯域幅アルゴリズムを提供する。
  論文  参考訳（メタデータ） (2021-06-05T22:20:34Z)
• Action-Manipulation Attacks Against Stochastic Bandits: Attacks and Defense [45.408568528354216]
  我々はアクション・マニピュレーション・アタックと呼ばれる新しいタイプの攻撃を導入する。 この攻撃では、相手が選択したアクション信号を変更することができる。 このような攻撃に対して防御するために,アクション操作攻撃に対して堅牢な新しいアルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-02-19T04:09:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。