論文の概要: Poisons that are learned faster are more effective
- arxiv url: http://arxiv.org/abs/2204.08615v1
- Date: Tue, 19 Apr 2022 02:34:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-21 00:02:51.585494
- Title: Poisons that are learned faster are more effective
- Title(参考訳): より速く学習される毒はより効果的です
- Authors: Pedro Sandoval-Segura, Vasu Singla, Liam Fowl, Jonas Geiping, Micah
Goldblum, David Jacobs, Tom Goldstein
- Abstract要約: データセット全体に対する知覚不能な毒殺攻撃は、データプライバシを保護する方法として最近非難されている。
誤差最小化, エラー最大化, 合成毒素を100回以上のピーク検定精度でベンチマークした。
トレーニング損失の少ない毒がピークテストの精度を低下させることがわかった。
- 参考スコア(独自算出の注目度): 51.626260003155295
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Imperceptible poisoning attacks on entire datasets have recently been touted
as methods for protecting data privacy. However, among a number of defenses
preventing the practical use of these techniques, early-stopping stands out as
a simple, yet effective defense. To gauge poisons' vulnerability to
early-stopping, we benchmark error-minimizing, error-maximizing, and synthetic
poisons in terms of peak test accuracy over 100 epochs and make a number of
surprising observations. First, we find that poisons that reach a low training
loss faster have lower peak test accuracy. Second, we find that a current
state-of-the-art error-maximizing poison is 7 times less effective when poison
training is stopped at epoch 8. Third, we find that stronger, more transferable
adversarial attacks do not make stronger poisons. We advocate for evaluating
poisons in terms of peak test accuracy.
- Abstract(参考訳): データセット全体に対する知覚不能な毒殺攻撃は、データプライバシを保護する方法として最近非難されている。
しかし、これらの技術の実用化を妨げる多くの防御策の中で、早期停止は単純で効果的な防御として際立っている。
早期停止に対する毒の脆弱性を評価するため,100回以上のピークテスト精度で誤り最小化,エラー最大化,合成毒をベンチマークし,多くの驚くべき観察を行った。
まず, トレーニング損失の少ない毒素は, ピーク時の試験精度を低下させることがわかった。
第2に,エポック8で中毒訓練が中止された場合,現在の最先端のエラー最大化毒は7倍効果が低下することが判明した。
第三に、より強く、より移動可能な敵の攻撃は、強い毒を生じない。
ピーク試験の正確性の観点から毒物の評価を提唱する。
関連論文リスト
- APBench: A Unified Benchmark for Availability Poisoning Attacks and
Defenses [21.633448874100004]
APBenchは、敵の毒殺攻撃の有効性を評価するためのベンチマークである。
APBenchは9つの最先端のアベイラビリティ・アベイラビリティ・アタック、8つの防御アルゴリズム、および4つの従来のデータ拡張技術で構成されている。
われわれの結果は、個人のプライバシーを守るために、既存の攻撃が不適切であることを明らかにしている。
論文 参考訳(メタデータ) (2023-08-07T02:30:47Z) - On Practical Aspects of Aggregation Defenses against Data Poisoning
Attacks [58.718697580177356]
悪意のあるトレーニングサンプルを持つディープラーニングモデルに対する攻撃は、データ中毒として知られている。
データ中毒に対する防衛戦略の最近の進歩は、認証された毒性の堅牢性を達成するためのアグリゲーション・スキームの有効性を強調している。
ここでは、Deep Partition Aggregation(ディープ・パーティション・アグリゲーション・アグリゲーション)、代表的アグリゲーション・ディフェンス(アグリゲーション・ディフェンス)に焦点を当て、効率、性能、堅牢性など、その実践的側面を評価する。
論文 参考訳(メタデータ) (2023-06-28T17:59:35Z) - Defending against Insertion-based Textual Backdoor Attacks via
Attribution [18.935041122443675]
本稿では,2つの挿入型毒殺攻撃を防ぎ,効果的な帰属型パイプラインであるAttDefを提案する。
具体的には、より大きな帰属語が誤予測結果に寄与するため、より大きな帰属スコアを持つトークンを潜在的トリガーとみなす。
提案手法は2つの共通攻撃シナリオにおいて十分に一般化可能であることを示す。
論文 参考訳(メタデータ) (2023-05-03T19:29:26Z) - Back to the Drawing Board: A Critical Evaluation of Poisoning Attacks on
Federated Learning [32.88150721857589]
近年の研究では、フェデレート・ラーニング(FL)は、侵害されたクライアントによる攻撃に弱いことが示されている。
これらの研究はいくつかの非現実的な仮定を導いており、何らかの誤解を招く結論に達している。
本研究は,実用FL環境下での毒殺攻撃に関する最初の批判的分析を行う。
論文 参考訳(メタデータ) (2021-08-23T15:29:45Z) - Accumulative Poisoning Attacks on Real-time Data [56.96241557830253]
我々は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを示します。
我々の研究は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを検証する。
論文 参考訳(メタデータ) (2021-06-18T08:29:53Z) - What Doesn't Kill You Makes You Robust(er): Adversarial Training against
Poisons and Backdoors [57.040948169155925]
敵対的なトレーニングフレームワークを拡張し、(訓練時間)中毒やバックドア攻撃から防御します。
本手法は, トレーニング中に毒を発生させ, トレーニングバッチに注入することにより, ネットワークを中毒の影響に敏感化する。
この防御は、適応攻撃に耐え、多様な脅威モデルに一般化し、以前の防御よりも優れた性能のトレードオフをもたらすことを示す。
論文 参考訳(メタデータ) (2021-02-26T17:54:36Z) - Provable Defense Against Delusive Poisoning [64.69220849669948]
本研究は, 対人訓練が妄想性中毒に対する防御法であることを示す。
これは、敵の訓練が妄想的中毒に対する原則的な防御方法であることを意味している。
論文 参考訳(メタデータ) (2021-02-09T09:19:47Z) - Just How Toxic is Data Poisoning? A Unified Benchmark for Backdoor and
Data Poisoning Attacks [74.88735178536159]
データ中毒は、モデル盗難から敵の攻撃まで、脅威の中で一番の懸念事項だ。
データ中毒やバックドア攻撃は、テスト設定のバリエーションに非常に敏感である。
厳格なテストを適用して、それらを恐れるべき程度を判断します。
論文 参考訳(メタデータ) (2020-06-22T18:34:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。