論文の概要: Can Targeted Clean-Label Poisoning Attacks Generalize?

• arxiv url: http://arxiv.org/abs/2412.03908v1
• Date: Thu, 05 Dec 2024 06:27:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-06 14:42:32.911759
• Title: Can Targeted Clean-Label Poisoning Attacks Generalize?
• Title（参考訳）: クリーンラベルの毒殺攻撃を狙うことができるのか?
• Authors: Zhizhen Chen, Subrat Kishore Dutta, Zhengyu Zhao, Chenhao Lin, Chao Shen, Xiao Zhang,
• Abstract要約: 標的の毒殺攻撃が、それらの標的の未知のバリエーションに一般化できるかどうかを検討する。 特に、異なる視点を持つ物体や、異なる外観を持つ動物種など、多様な標的変異を探索する。 本手法はコサイン類似性に基づく攻撃を20.95%の精度で達成する。
• 参考スコア（独自算出の注目度）: 11.499065606209925
• License:
• Abstract: Targeted poisoning attacks aim to compromise the model's prediction on specific target samples. In a common clean-label setting, they are achieved by slightly perturbing a subset of training samples given access to those specific targets. Despite continuous efforts, it remains unexplored whether such attacks can generalize to unknown variations of those targets. In this paper, we take the first step to systematically study this generalization problem. Observing that the widely adopted, cosine similarity-based attack exhibits limited generalizability, we propose a well-generalizable attack that leverages both the direction and magnitude of model gradients. In particular, we explore diverse target variations, such as an object with varied viewpoints and an animal species with distinct appearances. Extensive experiments across various generalization scenarios demonstrate that our method consistently achieves the best attack effectiveness. For example, our method outperforms the cosine similarity-based attack by 20.95% in attack success rate with similar overall accuracy, averaged over four models on two image benchmark datasets. The code is available at https://github.com/jiaangk/generalizable_tcpa
• Abstract（参考訳）: 標的の毒殺攻撃は、特定のターゲットサンプルに対するモデルの予測を損なうことを目的としている。 一般的なクリーンラベル設定では、特定のターゲットへのアクセスを与えられたトレーニングサンプルのサブセットをわずかに摂動させることで達成される。 継続的な努力にもかかわらず、そのような攻撃がそれらの標的の未知のバリエーションに一般化できるかどうかはまだ明らかになっていない。 本稿では,この一般化問題を体系的に研究する第一歩を踏み出す。 広く採用されているコサイン類似性に基づく攻撃は、限定的な一般化性を示す。 特に、異なる視点を持つ物体や、異なる外観を持つ動物種など、多様な標的変異を探索する。 様々な一般化シナリオにわたる大規模な実験により,本手法が最高の攻撃効果を確実に達成できることが実証された。 例えば、我々の手法は、2つの画像ベンチマークデータセットで平均4モデル以上の精度で、コサイン類似性に基づく攻撃を20.95%の攻撃成功率で上回っている。 コードはhttps://github.com/jiaangk/ generalizable_tcpaで入手できる。

関連論文リスト

• Any Target Can be Offense: Adversarial Example Generation via Generalized Latent Infection [83.72430401516674]
  GAKerは任意のターゲットクラスに対して逆例を構築することができる。 本手法は,未知のクラスに対する攻撃成功率を約14.13%で達成する。
  論文  参考訳（メタデータ） (2024-07-17T03:24:09Z)
• AttackBench: Evaluating Gradient-based Attacks for Adversarial Examples [26.37278338032268]
  アドリシャルな例は、通常、勾配ベースの攻撃に最適化される。 それぞれ異なる実験装置を用いて前任者を上回る性能を発揮する。 これは過度に最適化され、偏見のある評価を提供する。
  論文  参考訳（メタデータ） (2024-04-30T11:19:05Z)
• Protecting Model Adaptation from Trojans in the Unlabeled Data [120.42853706967188]
  本稿では,よく設計された毒物標的データによるモデル適応に対するトロイの木馬攻撃の可能性について検討する。 本稿では,既存の適応アルゴリズムとシームレスに統合可能なDiffAdaptというプラグイン・アンド・プレイ手法を提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:42:10Z)
• Transferable Attack for Semantic Segmentation [59.17710830038692]
  敵が攻撃し、ソースモデルから生成された敵の例がターゲットモデルを攻撃するのに失敗するのを観察します。 本研究では, セマンティックセグメンテーションのためのアンサンブルアタックを提案する。
  論文  参考訳（メタデータ） (2023-07-31T11:05:55Z)
• GLOW: Global Layout Aware Attacks for Object Detection [27.46902978168904]
  敵攻撃は、予測器が誤った結果を出力するような摂動画像を狙う。 本稿では,グローバルなレイアウト認識型敵攻撃を発生させることにより,様々な攻撃要求に対処するアプローチを提案する。 実験では,複数種類の攻撃要求を設計し,MS検証セット上でのアイデアの検証を行う。
  論文  参考訳（メタデータ） (2023-02-27T22:01:34Z)
• Object-fabrication Targeted Attack for Object Detection [54.10697546734503]
  物体検出の敵攻撃は 標的攻撃と未標的攻撃を含む。 新たなオブジェクトファブリケーションターゲット攻撃モードは、特定のターゲットラベルを持つ追加の偽オブジェクトをファブリケートする検出器を誤解させる可能性がある。
  論文  参考訳（メタデータ） (2022-12-13T08:42:39Z)
• Identifying a Training-Set Attack's Target Using Renormalized Influence Estimation [11.663072799764542]
  本研究は、特定のテストインスタンスがトレーニングセットアタックのターゲットであるかどうかを判定するターゲット識別タスクを提案する。 単一の攻撃方法やデータモダリティではなく、各トレーニングインスタンスのモデル予測への貢献度を定量化するインフルエンス推定に基づいて構築する。
  論文  参考訳（メタデータ） (2022-01-25T02:36:34Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)
• Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
  Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。 我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。 実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
  論文  参考訳（メタデータ） (2021-03-06T05:50:29Z)
• Untargeted, Targeted and Universal Adversarial Attacks and Defenses on Time Series [0.0]
  我々は,UCR時系列データセットに対して,対象外,対象外,普遍的敵攻撃を行った。 これらの攻撃に対して,ディープラーニングに基づく時系列分類モデルが脆弱であることを示す。 また、トレーニングデータのごく一部しか必要としないため、普遍的敵攻撃は優れた一般化特性を有することを示す。
  論文  参考訳（メタデータ） (2021-01-13T13:00:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。