論文の概要: COLLIDER: A Robust Training Framework for Backdoor Data

• arxiv url: http://arxiv.org/abs/2210.06704v1
• Date: Thu, 13 Oct 2022 03:48:46 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-14 14:03:37.394296
• Title: COLLIDER: A Robust Training Framework for Backdoor Data
• Title（参考訳）: COLLIDER: バックドアデータのためのロバストトレーニングフレームワーク
• Authors: Hadi M. Dolatabadi, Sarah Erfani, Christopher Leckie
• Abstract要約: ディープニューラルネットワーク(DNN)分類器は、バックドア攻撃に対して脆弱である。 敵は、トリガーをインストールすることで、そのような攻撃でトレーニングデータのいくつかを毒する。 最近、悪意のあるバックドアDNNを検出するための様々なアプローチが提案されている。
• 参考スコア（独自算出の注目度）: 11.510009152620666
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural network (DNN) classifiers are vulnerable to backdoor attacks. An adversary poisons some of the training data in such attacks by installing a trigger. The goal is to make the trained DNN output the attacker's desired class whenever the trigger is activated while performing as usual for clean data. Various approaches have recently been proposed to detect malicious backdoored DNNs. However, a robust, end-to-end training approach, like adversarial training, is yet to be discovered for backdoor poisoned data. In this paper, we take the first step toward such methods by developing a robust training framework, COLLIDER, that selects the most prominent samples by exploiting the underlying geometric structures of the data. Specifically, we effectively filter out candidate poisoned data at each training epoch by solving a geometrical coreset selection objective. We first argue how clean data samples exhibit (1) gradients similar to the clean majority of data and (2) low local intrinsic dimensionality (LID). Based on these criteria, we define a novel coreset selection objective to find such samples, which are used for training a DNN. We show the effectiveness of the proposed method for robust training of DNNs on various poisoned datasets, reducing the backdoor success rate significantly.
• Abstract（参考訳）: deep neural network (dnn) 分類器はバックドア攻撃に対して脆弱である。 敵は、トリガーを設置することで、そのような攻撃でトレーニングデータのいくつかを毒する。 目標は、トレーニング済みのDNNが、クリーンなデータに対して通常通り実行しながらトリガーが起動されるたびに、攻撃者の望ましいクラスを出力できるようにすることである。 最近、悪意のあるバックドアDNNを検出するための様々なアプローチが提案されている。 しかし、逆行訓練のような堅牢でエンドツーエンドのトレーニングアプローチは、バックドアの有毒なデータからまだ発見されていない。 本稿では,データの基盤となる幾何学的構造を活用し,最も顕著なサンプルを選択するロバストなトレーニングフレームワークであるcollonderを開発することにより,そのような手法への第一歩を踏み出す。 具体的には,幾何学的コアセット選択目標を解決し,各トレーニング期間において有毒候補データを効果的にフィルタリングする。 まず, クリーンなデータサンプルが(1) クリーンなデータに類似した勾配を示し, (2) 局所固有次元(LID)が低いことを議論する。 これらの基準に基づき、DNNのトレーニングに使用されるサンプルを見つけるための新しいコアセット選択目標を定義する。 各種有毒データセットに対するDNNのロバストトレーニングにおける提案手法の有効性を示し,バックドアの成功率を大幅に低減した。

関連論文リスト

• Backdoor Defense through Self-Supervised and Generative Learning [0.0]
  このようなデータのトレーニングは、選択されたテストサンプルに悪意のある推論を引き起こすバックドアを注入する。 本稿では,自己教師付き表現空間におけるクラスごとの分布生成モデルに基づくアプローチを提案する。 どちらの場合も、クラスごとの生成モデルにより、有毒なデータを検出し、データセットをクリーン化することができます。
  論文  参考訳（メタデータ） (2024-09-02T11:40:01Z)
• Have You Poisoned My Data? Defending Neural Networks against Data Poisoning [0.393259574660092]
  本稿では,トランスファー学習環境における有毒なデータポイントの検出とフィルタリングを行う新しい手法を提案する。 有効毒は, 特徴ベクトル空間の清浄点とよく区別できることを示す。 提案手法は, 防衛率と最終訓練モデルの性能において, 既存の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-03-20T11:50:16Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Backdoor Defense via Adaptively Splitting Poisoned Dataset [57.70673801469096]
  バックドアの防御は、ディープニューラルネットワーク(DNN)がバックドアを攻撃され、悪意ある変更を受けていることの脅威を軽減するために研究されている。 トレーニング時間防衛の核心は, 有毒な試料を選別し, 適切な処理を行うことである。 本フレームワークでは,適応的分割型データセットベースディフェンス(ASD)を提案する。
  論文  参考訳（メタデータ） (2023-03-23T02:16:38Z)
• Defending Against Backdoor Attacks by Layer-wise Feature Analysis [11.465401472704732]
  ディープニューラルネットワーク(DNN)のトレーニングは通常、大量のトレーニングデータと計算リソースを必要とする。 新たな訓練時間攻撃(バックドア攻撃)は、敵の特定トリガーパターンを含む入力サンプルの誤分類を誘導することを目的としている。 臨界層における不審試料と良性試料の特徴差を解析し, 簡易かつ効果的に汚染試料をろ過する方法を提案する。
  論文  参考訳（メタデータ） (2023-02-24T17:16:37Z)
• Invisible Backdoor Attacks Using Data Poisoning in the Frequency Domain [8.64369418938889]
  周波数領域に基づく一般化されたバックドア攻撃手法を提案する。 トレーニングプロセスのミスラベルやアクセスをすることなく、バックドアのインプラントを実装できる。 我々は,3つのデータセットに対して,ラベルなし,クリーンラベルのケースにおけるアプローチを評価した。
  論文  参考訳（メタデータ） (2022-07-09T07:05:53Z)
• Backdoor Defense via Decoupling the Training Process [46.34744086706348]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 本稿では,従来のエンドツーエンドトレーニングプロセスを3段階に分割して,新たなバックドアディフェンスを提案する。
  論文  参考訳（メタデータ） (2022-02-05T03:34:01Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)
• Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
  Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。 我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。 実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
  論文  参考訳（メタデータ） (2021-03-06T05:50:29Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。