論文の概要: A Framework of Randomized Selection Based Certified Defenses Against Data Poisoning Attacks

• arxiv url: http://arxiv.org/abs/2009.08739v2
• Date: Tue, 13 Oct 2020 09:33:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-17 02:40:55.838576
• Title: A Framework of Randomized Selection Based Certified Defenses Against Data Poisoning Attacks
• Title（参考訳）: データ中毒攻撃に対するランダム選択型認証防御の枠組み
• Authors: Ruoxin Chen, Jie Li, Chentao Wu, Bin Sheng, Ping Li
• Abstract要約: 本稿では,ランダム選択に基づくデータ中毒攻撃に対する認証防御の枠組みを提案する。 特定の条件を満たすランダム選択方式は、データ中毒攻撃に対して堅牢であることを示す。 当社のフレームワークは,トレーニングセットと中毒モデルに関する事前知識を活用することで,堅牢性の向上を可能にする。
• 参考スコア（独自算出の注目度）: 28.593598534525267
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural network classifiers are vulnerable to data poisoning attacks, as attackers can degrade or even manipulate their predictions thorough poisoning only a few training samples. However, the robustness of heuristic defenses is hard to measure. Random selection based defenses can achieve certified robustness by averaging the classifiers' predictions on the sub-datasets sampled from the training set. This paper proposes a framework of random selection based certified defenses against data poisoning attacks. Specifically, we prove that the random selection schemes that satisfy certain conditions are robust against data poisoning attacks. We also derive the analytical form of the certified radius for the qualified random selection schemes. The certified radius of bagging derived by our framework is tighter than the previous work. Our framework allows users to improve robustness by leveraging prior knowledge about the training set and the poisoning model. Given higher level of prior knowledge, we can achieve higher certified accuracy both theoretically and practically. According to the experiments on three benchmark datasets: MNIST 1/7, MNIST, and CIFAR-10, our method outperforms the state-of-the-art.
• Abstract（参考訳）: ニューラルネットワーク分類器は、攻撃者がいくつかのトレーニングサンプルだけを徹底的に毒殺することで、データ中毒攻撃に対して脆弱である。 しかし、ヒューリスティック防御の堅牢性を測定するのは難しい。 ランダム選択に基づく防御は、トレーニングセットからサンプリングされたサブデータセット上の分類器の予測平均化によって、認証された堅牢性を達成することができる。 本稿では,データ中毒攻撃に対するランダム選択に基づく認証防御の枠組みを提案する。 具体的には、特定の条件を満たすランダム選択スキームがデータ中毒攻撃に対して堅牢であることを証明する。 また、資格付きランダム選択スキームの認定半径の分析形式も導出する。 我々の枠組みによって導かれるバッグの認定半径は、以前の作業よりもきつい。 当社のフレームワークは,トレーニングセットと中毒モデルに関する事前知識を活用することで,堅牢性の向上を可能にする。 事前知識のレベルが高ければ、理論上も実用上も高い認証精度を達成できる。 MNIST 1/7, MNIST, CIFAR-10という3つのベンチマークデータセットの実験結果によると, この手法は最先端の手法よりも優れている。

関連論文リスト

• FCert: Certifiably Robust Few-Shot Classification in the Era of Foundation Models [38.019489232264796]
  FCertは、データ中毒攻撃に対する最初の認証された防御法であり、数発の分類である。 1)攻撃なしでの分類精度を維持すること,2)データ中毒攻撃に対する既存の認証された防御能力を上回ること,3)効率的で汎用的なこと,である。
  論文  参考訳（メタデータ） (2024-04-12T17:50:40Z)
• Towards Fair Classification against Poisoning Attacks [52.57443558122475]
  攻撃者が少数のサンプルを訓練データに挿入できる毒殺シナリオについて検討する。 本稿では,従来の防犯手法に適合する汎用的かつ理論的に保証された枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-18T00:49:58Z)
• How to Sift Out a Clean Data Subset in the Presence of Data Poisoning? [22.014227948221727]
  データ中毒攻撃の有無でクリーンなデータを特定するために,自動化ツールと人間の検査がいかに正確かを検討する。 本手法は, 既存の攻撃による汚染サンプルが, クリーンなデータ分布から変化していくという知見に基づいている。 評価の結果,Meta-Siftは広範囲の毒素攻撃下で100%の精度でクリーンなベースセットをシフできることがわかった。
  論文  参考訳（メタデータ） (2022-10-12T18:18:21Z)
• Lethal Dose Conjecture on Data Poisoning [122.83280749890078]
  データ中毒は、悪意のある目的のために機械学習アルゴリズムのトレーニングセットを歪ませる敵を考える。 本研究は, 致死線量導出法(Lethal Dose Conjecture)とよばれるデータ中毒の基礎について, 1つの予想を立証するものである。
  論文  参考訳（メタデータ） (2022-08-05T17:53:59Z)
• Improved Certified Defenses against Data Poisoning with (Deterministic) Finite Aggregation [122.83280749890078]
  本報告では, 一般中毒に対する予防的対策として, フィニット・アグリゲーション(Finite Aggregation)を提案する。 トレーニングセットを直接非結合部分集合に分割するDPAとは対照的に、我々の方法はまず、トレーニングセットをより小さな非結合部分集合に分割する。 我々は、決定論的および集約的認証された防御設計をブリッジして、我々の方法の代替的な見解を提供する。
  論文  参考訳（メタデータ） (2022-02-05T20:08:58Z)
• Learning and Certification under Instance-targeted Poisoning [49.55596073963654]
  インスタンスターゲット中毒攻撃におけるPAC学習性と認証について検討する。 敵の予算がサンプルの複雑さに比例してスケールすると、PACの学習性と認定が達成可能であることを示す。 実データセット上でのK近傍, ロジスティック回帰, 多層パーセプトロン, 畳み込みニューラルネットワークの堅牢性を実証的に検討する。
  論文  参考訳（メタデータ） (2021-05-18T17:48:15Z)
• Certified Robustness of Nearest Neighbors against Data Poisoning Attacks [31.85264586217373]
  knn と rnn における本質的な多数決機構は,一般的なデータ中毒攻撃に対する堅牢性保証をすでに提供している。 我々の結果は、将来認証されたデータ中毒攻撃に対する防御の基準となる。
  論文  参考訳（メタデータ） (2020-12-07T15:04:48Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)
• Certified Robustness to Label-Flipping Attacks via Randomized Smoothing [105.91827623768724]
  機械学習アルゴリズムは、データ中毒攻撃の影響を受けやすい。 任意の関数に対するランダム化スムージングの統一的なビューを示す。 本稿では,一般的なデータ中毒攻撃に対して,ポイントワイズで確実に堅牢な分類器を構築するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2020-02-07T21:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。