論文の概要: ProP: Efficient Backdoor Detection via Propagation Perturbation for Overparametrized Models

• arxiv url: http://arxiv.org/abs/2411.07036v1
• Date: Mon, 11 Nov 2024 14:43:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-12 14:06:49.483841
• Title: ProP: Efficient Backdoor Detection via Propagation Perturbation for Overparametrized Models
• Title（参考訳）: ProP:過度パラメータモデルに対する伝搬摂動による効率的なバックドア検出
• Authors: Tao Ren, Qiongxiu Li,
• Abstract要約: バックドア攻撃は、機械学習モデルのセキュリティに重大な課題をもたらす。 本稿では,新規でスケーラブルなバックドア検出手法であるProPを提案する。 ProPは最小限の仮定で動作し、トリガーや悪意のあるサンプルに関する事前の知識を必要としない。
• 参考スコア（独自算出の注目度）: 2.808880709778591
• License:
• Abstract: Backdoor attacks pose significant challenges to the security of machine learning models, particularly for overparameterized models like deep neural networks. In this paper, we propose ProP (Propagation Perturbation), a novel and scalable backdoor detection method that leverages statistical output distributions to identify backdoored models and their target classes without relying on exhausive optimization strategies. ProP introduces a new metric, the benign score, to quantify output distributions and effectively distinguish between benign and backdoored models. Unlike existing approaches, ProP operates with minimal assumptions, requiring no prior knowledge of triggers or malicious samples, making it highly applicable to real-world scenarios. Extensive experimental validation across multiple popular backdoor attacks demonstrates that ProP achieves high detection accuracy and computational efficiency, outperforming existing methods. These results highlight ProP's potential as a robust and practical solution for backdoor detection.
• Abstract（参考訳）: バックドア攻撃は、特にディープニューラルネットワークのような過度にパラメータ化されたモデルに対して、マシンラーニングモデルのセキュリティに重大な課題をもたらす。 本稿では,提案手法であるProP(Propagation Perturbation)を提案する。この手法は,統計的出力分布を利用して,探索的最適化戦略に頼ることなく,バックドアモデルとその対象クラスを識別する。 ProPは、出力分布を定量化し、良性モデルとバックドアモデルとを効果的に区別する新しい指標である良性スコアを導入している。 既存のアプローチとは異なり、ProPは最小限の仮定で動作し、トリガーや悪意のあるサンプルに関する事前の知識を必要としないため、現実世界のシナリオに非常に適用できる。 複数の人気のあるバックドア攻撃に対する大規模な実験的検証は、ProPが検出精度と計算効率を向上し、既存の手法よりも優れていることを示す。 これらの結果は、バックドア検出のための堅牢で実用的なソリューションとしてのProPの可能性を強調している。

関連論文リスト

• Pseudo-Probability Unlearning: Towards Efficient and Privacy-Preserving Machine Unlearning [59.29849532966454]
  本稿では,PseudoProbability Unlearning (PPU)を提案する。 提案手法は,最先端の手法に比べて20%以上の誤りを忘れる改善を実現している。
  論文  参考訳（メタデータ） (2024-11-04T21:27:06Z)
• PromptFix: Few-shot Backdoor Removal via Adversarial Prompt Tuning [28.845915332201592]
  事前訓練された言語モデル(PLM)は、この数年間、その非並列なパフォーマンスで大きな注目を集めてきた。 PLMを訓練するコストの上昇と、その驚くべき一般化性は、数発の微調整とプロンプトに共同で貢献している。 しかし、既存の研究では、これらのNLPモデルは、トリガートークンが提示されたときにモデル挙動が操作されるように、バックドア化可能であることが示されている。 本稿では,NLPモデルのバックドア緩和戦略であるPromptFixを提案する。
  論文  参考訳（メタデータ） (2024-06-06T20:06:42Z)
• IBD-PSC: Input-level Backdoor Detection via Parameter-oriented Scaling Consistency [20.61046457594186]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 本稿では、悪意のあるテスト画像のフィルタリングを行うための、シンプルで効果的な入力レベルのバックドア検出(IBD-PSCと呼ばれる)を提案する。
  論文  参考訳（メタデータ） (2024-05-16T03:19:52Z)
• Setting the Trap: Capturing and Defeating Backdoors in Pretrained Language Models through Honeypots [68.84056762301329]
  近年の研究では、バックドア攻撃に対するプレトレーニング言語モデル(PLM)の感受性が明らかにされている。 バックドア情報のみを吸収するために,ハニーポットモジュールをオリジナルのPLMに統合する。 我々の設計は、PLMの低層表現が十分なバックドア特徴を持っているという観察に動機づけられている。
  論文  参考訳（メタデータ） (2023-10-28T08:21:16Z)
• LMSanitator: Defending Prompt-Tuning Against Task-Agnostic Backdoors [10.136109501389168]
  LMSanitatorは、Transformerモデル上でタスク非依存のバックドアを検出し、削除するための新しいアプローチである。 LMSanitatorは960モデルで92.8%のバックドア検出精度を達成し、ほとんどのシナリオで攻撃成功率を1%以下に下げる。
  論文  参考訳（メタデータ） (2023-08-26T15:21:47Z)
• Provably Efficient UCB-type Algorithms For Learning Predictive State Representations [55.00359893021461]
  逐次決定問題は、予測状態表現(PSR)によってモデル化された低ランク構造が認められる場合、統計的に学習可能である 本稿では,推定モデルと実モデル間の全変動距離を上限とする新しいボーナス項を特徴とする,PSRに対する最初のUCB型アプローチを提案する。 PSRに対する既存のアプローチとは対照的に、UCB型アルゴリズムは計算的トラクタビリティ、最優先の準最適ポリシー、モデルの精度が保証される。
  論文  参考訳（メタデータ） (2023-07-01T18:35:21Z)
• Adaptive Perturbation Generation for Multiple Backdoors Detection [29.01715186371785]
  本稿では,複数種類のバックドア攻撃を検出するための適応摂動生成(APG)フレームワークを提案する。 まず,複数種類のバックドアトリガに適合するグローバル・ローカル戦略を設計する。 摂動注入の効率をさらに高めるため,勾配誘導マスク生成戦略を導入する。
  論文  参考訳（メタデータ） (2022-09-12T13:37:06Z)
• Backdoor Pre-trained Models Can Transfer to All [33.720258110911274]
  そこで本研究では,トリガを含む入力を事前学習したNLPモデルの出力表現に直接マッピングする手法を提案する。 NLPにおけるトリガのユニークな特性を考慮して,バックドア攻撃の性能を測定するための2つの新しい指標を提案する。
  論文  参考訳（メタデータ） (2021-10-30T07:11:24Z)
• CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks [58.29502185344086]
  安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。 意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。 我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
  論文  参考訳（メタデータ） (2021-09-22T12:46:04Z)
• Covert Model Poisoning Against Federated Learning: Algorithm Design and Optimization [76.51980153902774]
  フェデレーテッド・ラーニング(FL)はパラメータ伝達中にFLモデルに対する外部攻撃に対して脆弱である。 本稿では,最先端の防御アグリゲーション機構に対処する有効なMPアルゴリズムを提案する。 実験の結果,提案したCMPアルゴリズムは,既存の攻撃機構よりも効果的で,かなり優れていることが示された。
  論文  参考訳（メタデータ） (2021-01-28T03:28:18Z)
• Scalable Backdoor Detection in Neural Networks [61.39635364047679]
  ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。 本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。 実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
  論文  参考訳（メタデータ） (2020-06-10T04:12:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。