Fugu-MT 論文翻訳(概要): Towards Efficient and Domain-Agnostic Evasion Attack with High-dimensional Categorical Inputs

論文の概要: Towards Efficient and Domain-Agnostic Evasion Attack with High-dimensional Categorical Inputs

arxiv url: http://arxiv.org/abs/2212.06836v1
Date: Tue, 13 Dec 2022 18:45:00 GMT
ステータス: 処理完了
システム内更新日: 2022-12-15 14:46:30.039501
Title: Towards Efficient and Domain-Agnostic Evasion Attack with High-dimensional Categorical Inputs
Title（参考訳）: 高次元カテゴリー入力による効率的・非侵襲的侵入攻撃に向けて
Authors: Hongyan Bao, Yufei Han, Yujun Zhou, Xin Gao, Xiangliang Zhang
Abstract要約: 本研究の目的は,ドメインに依存しない領域において,高次元のカテゴリー入力を持つ摂動を攻撃可能な逆方向を探索することである。提案手法は,マルチアームバンディットプログラミングにおいて,各カテゴリ機能の変更を腕を引くものとして扱う。本研究は,高次元カテゴリ入力を用いた分類システムの逆脆弱性評価におけるFEATの適用性をさらに示唆するものである。
参考スコア（独自算出の注目度）: 33.36532022853583
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Our work targets at searching feasible adversarial perturbation to attack a classifier with high-dimensional categorical inputs in a domain-agnostic setting. This is intrinsically an NP-hard knapsack problem where the exploration space becomes explosively larger as the feature dimension increases. Without the help of domain knowledge, solving this problem via heuristic method, such as Branch-and-Bound, suffers from exponential complexity, yet can bring arbitrarily bad attack results. We address the challenge via the lens of multi-armed bandit based combinatorial search. Our proposed method, namely FEAT, treats modifying each categorical feature as pulling an arm in multi-armed bandit programming. Our objective is to achieve highly efficient and effective attack using an Orthogonal Matching Pursuit (OMP)-enhanced Upper Confidence Bound (UCB) exploration strategy. Our theoretical analysis bounding the regret gap of FEAT guarantees its practical attack performance. In empirical analysis, we compare FEAT with other state-of-the-art domain-agnostic attack methods over various real-world categorical data sets of different applications. Substantial experimental observations confirm the expected efficiency and attack effectiveness of FEAT applied in different application scenarios. Our work further hints the applicability of FEAT for assessing the adversarial vulnerability of classification systems with high-dimensional categorical inputs.
Abstract（参考訳）: 本研究の目的は,ドメインに依存しない領域において,高次元のカテゴリ入力を持つ分類器を攻撃するために,現実的な逆転摂動を探索することである。これは本質的にはNP-hard knapsack問題であり、探索空間は特徴次元が大きくなるにつれて爆発的に大きくなる。ドメイン知識の助けがなければ、ブランチ・アンド・バウンドのようなヒューリスティックな方法でこの問題は指数関数的複雑性に苦しむが、任意に悪い攻撃結果をもたらす可能性がある。本課題は,多腕バンディットを用いた組合せ探索のレンズを用いて解決する。提案手法は,マルチアームバンディットプログラミングにおいて,各カテゴリ機能の変更を腕を引くものとして扱う。本研究の目的は,Orthogonal Matching Pursuit (OMP)-enhanced Upper Confidence Bound (UCB) 探索戦略を用いて,高度に効率的かつ効果的な攻撃を実現することである。 FEATの残差を限定した理論的解析により,攻撃性能が保証される。実証分析では、異なるアプリケーションの現実世界のさまざまな分類データに対して、他の最先端のドメイン非依存な攻撃手法と比較する。現状実験により、異なる応用シナリオに適用されたFEATの予測効率と攻撃効果が確認された。本研究は,高次元カテゴリ入力を用いた分類システムの逆脆弱性評価におけるfeatの適用可能性も示唆する。

関連論文リスト

Efficient Adversarial Training in LLMs with Continuous Attacks [99.5882845458567]
大規模言語モデル(LLM)は、安全ガードレールをバイパスできる敵攻撃に対して脆弱である。本稿では,2つの損失からなる高速対向訓練アルゴリズム(C-AdvUL)を提案する。 C-AdvIPOは、対向的に堅牢なアライメントのためのユーティリティデータを必要としない、対向型のIPOである。
論文参考訳（メタデータ） (2024-05-24T14:20:09Z)
ODDR: Outlier Detection & Dimension Reduction Based Defense Against Adversarial Patches [4.4100683691177816]
敵対的攻撃は、機械学習モデルの信頼性の高いデプロイに重大な課題をもたらす。パッチベースの敵攻撃に対処するための総合的な防御戦略である外乱検出・次元削減(ODDR)を提案する。提案手法は,逆パッチに対応する入力特徴を外れ値として同定できるという観測に基づいている。
論文参考訳（メタデータ） (2023-11-20T11:08:06Z)
Probabilistic Categorical Adversarial Attack & Adversarial Training [45.458028977108256]
敵対的な例の存在は、人々が安全クリティカルなタスクにディープニューラルネットワーク(DNN)を適用することに大きな懸念をもたらします。分類データを用いて敵の例を生成する方法は重要な問題であるが、広範囲にわたる探索が欠如している。本稿では,離散最適化問題を連続的な問題に変換する確率的カテゴリー逆攻撃(PCAA)を提案する。
論文参考訳（メタデータ） (2022-10-17T19:04:16Z)
Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
論文参考訳（メタデータ） (2022-03-25T19:57:19Z)
Unreasonable Effectiveness of Last Hidden Layer Activations [0.5156484100374058]
本研究では, 高い温度値を持つモデルの出力層で広く知られているアクティベーション関数を用いることで, 標的および標的外攻撃事例の勾配をゼロにする効果が示された。 CIFAR10データセットであるMNIST(Digit)に対するアプローチの有効性を実験的に検証した。
論文参考訳（メタデータ） (2022-02-15T12:02:59Z)
EAD: an ensemble approach to detect adversarial examples from the hidden features of deep neural networks [1.3212032015497979]
本稿では,敵のサンプルを識別するためのアンサンブル逆検出器 (EAD) を提案する。 EADは、事前訓練されたディープニューラルネットワーク(DNN)の内部表現における入力インスタンスの異なる特性を利用する複数の検出器を組み合わせる。 EAD が AUROC と AUPR で最良であることを示す。
論文参考訳（メタデータ） (2021-11-24T17:05:26Z)
Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
論文参考訳（メタデータ） (2021-06-21T21:42:08Z)
Universal Adversarial Perturbations for Malware [15.748648955898528]
universal adversarial perturbation (uaps) は入力空間全体に一般化するノイズパターンを特定する。マルウェア分類におけるUAPの課題と強みについて検討する。本稿では,問題空間変換に基づく知識を用いた逆トレーニングに基づく緩和を提案する。
論文参考訳（メタデータ） (2021-02-12T20:06:10Z)
Detection of Adversarial Supports in Few-shot Classifiers Using Feature Preserving Autoencoders and Self-Similarity [89.26308254637702]
敵対的なサポートセットを強調するための検出戦略を提案する。我々は,特徴保存型オートエンコーダフィルタリングと,この検出を行うサポートセットの自己相似性の概念を利用する。提案手法は攻撃非依存であり, 最善の知識まで, 数発分類器の検出を探索する最初の方法である。
論文参考訳（メタデータ） (2020-12-09T14:13:41Z)
A black-box adversarial attack for poisoning clustering [78.19784577498031]
本稿では,クラスタリングアルゴリズムのロバスト性をテストするために,ブラックボックス対逆攻撃法を提案する。我々の攻撃は、SVM、ランダムフォレスト、ニューラルネットワークなどの教師付きアルゴリズムに対しても転送可能であることを示す。
論文参考訳（メタデータ） (2020-09-09T18:19:31Z)
Discrete Action On-Policy Learning with Action-Value Critic [72.20609919995086]
離散的な行動空間における強化学習(RL)は、実世界の応用では至るところで行われているが、その複雑さは行動空間次元とともに指数関数的に増大する。我々は,行動値関数を推定し,相関行動に適用し,これらの評価値を組み合わせて勾配推定の分散を制御する。これらの取り組みにより、分散制御技術に頼って、関連するRLアルゴリズムを実証的に上回る、新たな離散的なRLアルゴリズムが実現される。
論文参考訳（メタデータ） (2020-02-10T04:23:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。