論文の概要: Explore the Effect of Data Selection on Poison Efficiency in Backdoor Attacks

• arxiv url: http://arxiv.org/abs/2310.09744v1
• Date: Sun, 15 Oct 2023 05:55:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-17 18:29:46.487227
• Title: Explore the Effect of Data Selection on Poison Efficiency in Backdoor Attacks
• Title（参考訳）: バックドア攻撃における毒物効率に及ぼすデータ選択の影響の検討
• Authors: Ziqiang Li, Pengfei Xia, Hong Sun, Yueqi Zeng, Wei Zhang, and Bin Li
• Abstract要約: 本研究では,サンプル選択の観点から,バックドアアタックの毒殺効率の向上に焦点をあてる。 各種毒物試料の寄与を示すために, 試料の忘れイベントを採用し, 損失面の曲率を用いて, この現象の有効性を解析した。
• 参考スコア（独自算出の注目度）: 10.817607451423765
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As the number of parameters in Deep Neural Networks (DNNs) scales, the thirst for training data also increases. To save costs, it has become common for users and enterprises to delegate time-consuming data collection to third parties. Unfortunately, recent research has shown that this practice raises the risk of DNNs being exposed to backdoor attacks. Specifically, an attacker can maliciously control the behavior of a trained model by poisoning a small portion of the training data. In this study, we focus on improving the poisoning efficiency of backdoor attacks from the sample selection perspective. The existing attack methods construct such poisoned samples by randomly selecting some clean data from the benign set and then embedding a trigger into them. However, this random selection strategy ignores that each sample may contribute differently to the backdoor injection, thereby reducing the poisoning efficiency. To address the above problem, a new selection strategy named Improved Filtering and Updating Strategy (FUS++) is proposed. Specifically, we adopt the forgetting events of the samples to indicate the contribution of different poisoned samples and use the curvature of the loss surface to analyses the effectiveness of this phenomenon. Accordingly, we combine forgetting events and curvature of different samples to conduct a simple yet efficient sample selection strategy. The experimental results on image classification (CIFAR-10, CIFAR-100, ImageNet-10), text classification (AG News), audio classification (ESC-50), and age regression (Facial Age) consistently demonstrate the effectiveness of the proposed strategy: the attack performance using FUS++ is significantly higher than that using random selection for the same poisoning ratio.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)のパラメータ数がスケールするにつれて、トレーニングデータの渇きも大きくなる。 コスト削減のため、ユーザや企業が時間を要するデータ収集をサードパーティに委譲することが一般的になっている。 残念ながら、最近の研究では、DNNがバックドア攻撃にさらされるリスクが高まることが示されている。 具体的には、攻撃者はトレーニングデータのごく一部を毒殺することで、トレーニングモデルの振る舞いを悪意を持って制御することができる。 本研究では,サンプル選択の観点から,バックドアアタックの中毒効率の向上に焦点をあてる。 既存の攻撃方法は、無作為なデータを良性集合からランダムに選択し、その中にトリガーを埋め込むことで、有毒なサンプルを構築する。 しかし、このランダム選択戦略は、各サンプルがバックドア注入に異なる貢献をする可能性があることを無視し、中毒効率を低下させる。 上記の問題に対処するため、改良フィルタリング・更新戦略(FUS++)と呼ばれる新しい選択戦略を提案する。 具体的には, 異なる毒性試料の寄与を示すために試料の忘れイベントを採用し, 損失面の曲率を用いて, この現象の有効性を解析した。 そこで我々は,異なるサンプルの曲率を忘れることと組み合わせて,単純かつ効率的なサンプル選択戦略を行う。 画像分類 (CIFAR-10, CIFAR-100, ImageNet-10), テキスト分類 (AG News), 音声分類 (ESC-50), 年齢回帰 (Facial Age) に関する実験結果は, 提案手法の有効性を一貫して示している。

関連論文リスト

• Unlearnable Examples Detection via Iterative Filtering [84.59070204221366]
  ディープニューラルネットワークは、データ中毒攻撃に弱いことが証明されている。 混合データセットから有毒なサンプルを検出することは極めて有益であり、困難である。 UE識別のための反復フィルタリング手法を提案する。
  論文  参考訳（メタデータ） (2024-08-15T13:26:13Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Efficient Trigger Word Insertion [9.257916713112945]
  我々の主な目的は、テキストバックドア攻撃において、良好なアタック成功率(ASR)を達成しつつ、有毒なサンプルの数を減らすことである。 トリガー語最適化と有毒なサンプル選択の観点から,効率的なトリガー語挿入戦略を提案する。 提案手法は, 汚れラベル設定で有毒な試料が10個あれば90%以上を達成でき, クリーンラベル設定ではトレーニングデータの1.5%しか必要としない。
  論文  参考訳（メタデータ） (2023-11-23T12:15:56Z)
• Confidence-driven Sampling for Backdoor Attacks [49.72680157684523]
  バックドア攻撃は、悪質なトリガをDNNモデルに過剰に挿入することを目的としており、テストシナリオ中に不正な制御を許可している。 既存の方法では防衛戦略に対する堅牢性が欠如しており、主に無作為な試薬を無作為に選別しながら、引き金の盗難を強化することに重点を置いている。 信頼性スコアの低いサンプルを選別し、これらの攻撃を識別・対処する上で、守備側の課題を著しく増大させる。
  論文  参考訳（メタデータ） (2023-10-08T18:57:36Z)
• Boosting Backdoor Attack with A Learnable Poisoning Sample Selection Strategy [32.5734144242128]
  データポゾンベースのバックドア攻撃は、ターゲットモデルのトレーニングプロセスを制御することなく、トレーニングデータセットを操作することによって、モデルにバックドアを挿入することを目的としている。 そこで本研究では,min-max最適化を用いて,マスクとモデルパラメータを併用して学習可能な毒素サンプル選択手法を提案する。 ベンチマークデータセットの実験では、バックドア攻撃性能を高めるためのアプローチの有効性と効率が示されている。
  論文  参考訳（メタデータ） (2023-07-14T13:12:21Z)
• A Proxy Attack-Free Strategy for Practically Improving the Poisoning Efficiency in Backdoor Attacks [13.421850846744539]
  本稿では, プロキシーアタックフリー戦略 (PFS) を提案する。 PFSは、清潔な毒物とそれに対応する毒物との類似性の高い試料の選択が、攻撃の成功率を著しく高めるという観察によって動機付けられている。
  論文  参考訳（メタデータ） (2023-06-14T07:33:04Z)
• Exploring Model Dynamics for Accumulative Poisoning Discovery [62.08553134316483]
  そこで我々は,モデルレベルの情報を通して,防衛を探索するための新しい情報尺度,すなわち,記憶の離散性(Memorization Discrepancy)を提案する。 暗黙的にデータ操作の変更をモデル出力に転送することで、メモリ識別は許容できない毒のサンプルを発見することができる。 我々は、その性質を徹底的に探求し、累積中毒に対する防御のために、離散型サンプル補正(DSC)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T14:45:24Z)
• Versatile Weight Attack via Flipping Limited Bits [68.45224286690932]
  本研究では,展開段階におけるモデルパラメータを変更する新たな攻撃パラダイムについて検討する。 有効性とステルスネスの目標を考慮し、ビットフリップに基づく重み攻撃を行うための一般的な定式化を提供する。 SSA(Single sample attack)とTSA(Singr sample attack)の2例を報告した。
  論文  参考訳（メタデータ） (2022-07-25T03:24:58Z)
• Data-Efficient Backdoor Attacks [14.230326737098554]
  ディープニューラルネットワークはバックドア攻撃に弱い。 本稿では,その選択による毒性データ効率の向上について定式化する。 同じ攻撃成功率は、有毒サンプル量のわずか47%から75%で達成できる。
  論文  参考訳（メタデータ） (2022-04-22T09:52:22Z)
• PiDAn: A Coherence Optimization Approach for Backdoor Attack Detection and Mitigation in Deep Neural Networks [22.900501880865658]
  バックドア攻撃はディープニューラルネットワーク(DNN)に新たな脅威をもたらす 汚染されたデータを浄化するコヒーレンス最適化に基づくアルゴリズムであるPiDAnを提案する。 当社のPiDAnアルゴリズムは90%以上の感染クラスを検出でき、95%の有毒サンプルを識別できる。
  論文  参考訳（メタデータ） (2022-03-17T12:37:21Z)
• SelectAugment: Hierarchical Deterministic Sample Selection for Data Augmentation [72.58308581812149]
  そこで我々は,SelectAugmentと呼ばれる効果的な手法を提案し,決定論的かつオンラインに拡張するサンプルを選択する。 具体的には、各バッチにおいて、まず増分比率を決定し、次にこの比で各トレーニングサンプルを増分するかを決定する。 これにより、サンプルを増量する際のランダム性による負の効果を効果的に軽減し、DAの有効性を向上させることができる。
  論文  参考訳（メタデータ） (2021-12-06T08:38:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。