論文の概要: Attack Transferability Characterization for Adversarially Robust Multi-label Classification

• arxiv url: http://arxiv.org/abs/2106.15360v1
• Date: Tue, 29 Jun 2021 12:50:20 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-30 22:59:07.157406
• Title: Attack Transferability Characterization for Adversarially Robust Multi-label Classification
• Title（参考訳）: 逆ロバストなマルチラベル分類のための攻撃伝達性評価
• Authors: Zhuo Yang, Yufei Han, Xiangliang Zhang
• Abstract要約: 本研究は,マルチラベル分類器に対する非目標回避攻撃に焦点を当てた。 脅威の目標は、可能な限り多くのラベルに対して、ミス分類を引き起こすことだ。 我々は,攻撃の伝達可能性レベルが分類器の攻撃可能性を決定する方法を明らかにする。
• 参考スコア（独自算出の注目度）: 37.00606062677375
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite of the pervasive existence of multi-label evasion attack, it is an open yet essential problem to characterize the origin of the adversarial vulnerability of a multi-label learning system and assess its attackability. In this study, we focus on non-targeted evasion attack against multi-label classifiers. The goal of the threat is to cause miss-classification with respect to as many labels as possible, with the same input perturbation. Our work gains in-depth understanding about the multi-label adversarial attack by first characterizing the transferability of the attack based on the functional properties of the multi-label classifier. We unveil how the transferability level of the attack determines the attackability of the classifier via establishing an information-theoretic analysis of the adversarial risk. Furthermore, we propose a transferability-centered attackability assessment, named Soft Attackability Estimator (SAE), to evaluate the intrinsic vulnerability level of the targeted multi-label classifier. This estimator is then integrated as a transferability-tuning regularization term into the multi-label learning paradigm to achieve adversarially robust classification. The experimental study on real-world data echos the theoretical analysis and verify the validity of the transferability-regularized multi-label learning method.
• Abstract（参考訳）: マルチラベル回避攻撃が広範に存在するにもかかわらず、マルチラベル学習システムの対角的脆弱性の起源を特徴づけ、その攻撃可能性を評価することは、オープンで不可欠な問題である。 本研究では,マルチラベル分類器に対する非目標回避攻撃に着目した。 脅威の目標は、可能な限り多くのラベルに対して、同じ入力摂動を伴うミス分類を引き起こすことである。 本研究は,マルチラベル分類器の機能的特性に基づいて,まず攻撃の伝達性を特徴付けることにより,マルチラベル攻撃の詳細な理解を得る。 我々は,攻撃の伝達可能性レベルが,敵のリスクに関する情報理論的解析を確立することにより,分類器の攻撃性を決定する方法を明らかにする。 さらに,sae(soft attackability estimator)と呼ばれる移動性中心攻撃性評価法を提案し,対象とするマルチラベル分類器の脆弱性レベルを評価する。 この推定器は変換可能性調整正規化項として多ラベル学習パラダイムに統合され、逆向きに堅牢な分類を実現する。 実世界データに関する実験的研究は,理論解析を反映し,トランスファー可能性正規化マルチラベル学習法の有効性を検証する。

関連論文リスト

• Multi-granular Adversarial Attacks against Black-box Neural Ranking Models [111.58315434849047]
  多粒性摂動を取り入れた高品質な逆数例を作成する。 我々は,多粒体攻撃を逐次的意思決定プロセスに変換する。 本手法は,攻撃の有効性と非受容性の両方において,一般的なベースラインを超えている。
  論文  参考訳（メタデータ） (2024-04-02T02:08:29Z)
• An Adversarial Approach to Evaluating the Robustness of Event Identification Models [12.862865254507179]
  本稿では,事象分類の特徴を抽出する物理に基づくモーダル分解法について考察する。 得られた分類器は、その堅牢性を評価するために、逆アルゴリズムに対してテストされる。
  論文  参考訳（メタデータ） (2024-02-19T18:11:37Z)
• Adversarial Attacks are a Surprisingly Strong Baseline for Poisoning Few-Shot Meta-Learners [28.468089304148453]
  これにより、システムの学習アルゴリズムを騙すような、衝突する入力セットを作れます。 ホワイトボックス環境では、これらの攻撃は非常に成功しており、ターゲットモデルの予測が偶然よりも悪化する可能性があることを示す。 攻撃による「過度な対応」と、攻撃が生成されたモデルと攻撃が転送されたモデルとのミスマッチという2つの仮説を探索する。
  論文  参考訳（メタデータ） (2022-11-23T14:55:44Z)
• Learning-based Hybrid Local Search for the Hard-label Textual Attack [53.92227690452377]
  我々は,攻撃者が予測ラベルにのみアクセス可能な,滅多に調査されていないが厳格な設定,すなわちハードラベル攻撃を考える。 そこで本研究では,Learning-based Hybrid Local Search (LHLS)アルゴリズムという,新たなハードラベル攻撃を提案する。 我々のLHLSは、攻撃性能と敵の品質に関する既存のハードラベル攻撃を著しく上回っている。
  論文  参考訳（メタデータ） (2022-01-20T14:16:07Z)
• Characterizing the Evasion Attackability of Multi-label Classifiers [37.00606062677375]
  マルチラベル学習システムにおける脱出攻撃は、興味深いが、広く目撃されているが、まれな研究トピックである。 マルチラベルの敵対的脅威の攻撃可能性を決定する重要な要因を特徴づけることが、脆弱性の起源を解釈する鍵である。 グラディラベル空間探索による効率的な経験的攻撃性推定器を提案する。
  論文  参考訳（メタデータ） (2020-12-17T07:34:40Z)
• Adversarial Self-Supervised Contrastive Learning [62.17538130778111]
  既存の対数学習アプローチは、主にクラスラベルを使用して、誤った予測につながる対数サンプルを生成する。 本稿では,未ラベルデータに対する新たな逆攻撃を提案する。これにより,モデルが摂動データサンプルのインスタンスレベルのアイデンティティを混乱させる。 ラベル付きデータなしで頑健なニューラルネットワークを逆さまにトレーニングするための,自己教師付きコントラスト学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-13T08:24:33Z)
• Towards Robust Fine-grained Recognition by Maximal Separation of Discriminative Features [72.72840552588134]
  本研究は, 粒度認識ネットワークにおけるクラス間の潜伏表現の近接性を, 敵攻撃の成功の鍵となる要因として同定する。 注意に基づく正規化機構を導入し、異なるクラスの識別潜在特徴を最大限に分離する。
  論文  参考訳（メタデータ） (2020-06-10T18:34:45Z)
• Domain Knowledge Alleviates Adversarial Attacks in Multi-Label Classifiers [34.526394646264734]
  機械学習に基づく分類器に対する敵対的攻撃は、防御機構とともに、広く研究されている。 本稿では,ドメイン知識の活用が不整合予測の自然な方法となり得るマルチラベル分類に注目を向ける。 この直感を,一階述語論理知識を制約に変換し,半教師付き学習問題に注入する枠組みで検討する。
  論文  参考訳（メタデータ） (2020-06-06T10:24:54Z)
• Certified Robustness to Label-Flipping Attacks via Randomized Smoothing [105.91827623768724]
  機械学習アルゴリズムは、データ中毒攻撃の影響を受けやすい。 任意の関数に対するランダム化スムージングの統一的なビューを示す。 本稿では,一般的なデータ中毒攻撃に対して,ポイントワイズで確実に堅牢な分類器を構築するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2020-02-07T21:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。