論文の概要: Improved Certified Defenses against Data Poisoning with (Deterministic) Finite Aggregation

• arxiv url: http://arxiv.org/abs/2202.02628v1
• Date: Sat, 5 Feb 2022 20:08:58 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-08 15:40:05.636643
• Title: Improved Certified Defenses against Data Poisoning with (Deterministic) Finite Aggregation
• Title（参考訳）: データ中毒に対する(決定論的)ファイナントアグリゲーションによる認証防御の改善
• Authors: Wenxiao Wang, Alexander Levine, Soheil Feizi
• Abstract要約: 本報告では, 一般中毒に対する予防的対策として, フィニット・アグリゲーション(Finite Aggregation)を提案する。 トレーニングセットを直接非結合部分集合に分割するDPAとは対照的に、我々の方法はまず、トレーニングセットをより小さな非結合部分集合に分割する。 我々は、決定論的および集約的認証された防御設計をブリッジして、我々の方法の代替的な見解を提供する。
• 参考スコア（独自算出の注目度）: 122.83280749890078
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Data poisoning attacks aim at manipulating model behaviors through distorting training data. Previously, an aggregation-based certified defense, Deep Partition Aggregation (DPA), was proposed to mitigate this threat. DPA predicts through an aggregation of base classifiers trained on disjoint subsets of data, thus restricting its sensitivity to dataset distortions. In this work, we propose an improved certified defense against general poisoning attacks, namely Finite Aggregation. In contrast to DPA, which directly splits the training set into disjoint subsets, our method first splits the training set into smaller disjoint subsets and then combines duplicates of them to build larger (but not disjoint) subsets for training base classifiers. This reduces the worst-case impacts of poison samples and thus improves certified robustness bounds. In addition, we offer an alternative view of our method, bridging the designs of deterministic and stochastic aggregation-based certified defenses. Empirically, our proposed Finite Aggregation consistently improves certificates on MNIST, CIFAR-10, and GTSRB, boosting certified fractions by up to 3.05%, 3.87% and 4.77%, respectively, while keeping the same clean accuracies as DPA's, effectively establishing a new state of the art in (pointwise) certified robustness against data poisoning.
• Abstract（参考訳）: データ中毒攻撃は、トレーニングデータを歪ませることでモデル行動を操作することを目的としている。 以前は、この脅威を軽減するために、アグリゲーションベースの認証防御であるディープパーティショニングアグリゲーション(dpa)が提案されていた。 dpaはデータの非結合サブセットでトレーニングされたベース分類器の集約を通じて予測するので、データセットの歪みに対する感度が制限される。 本研究は,一般的な中毒攻撃,すなわち有限凝集に対する認証防御の改善を提案する。 トレーニングセットを直接非結合部分集合に分割するDPAとは対照的に、我々の手法はまず、トレーニングセットを小さな非結合部分集合に分割し、その重複を組み合わせて、トレーニングベース分類器のためのより大きな(しかし非結合でない)サブセットを構築する。 これにより、毒物サンプルの最悪の影響が減少し、認定された堅牢性の境界が改善される。 さらに, 決定論的および確率的アグリゲーションに基づく認証防御の設計を橋渡しし, 提案手法の代替案を提案する。 MNIST, CIFAR-10, GTSRBの認証を一貫して改善し, それぞれ3.05%, 3.87%, 4.77%まで向上し, DPAと同じ清潔な精度を維持しながら, データ中毒に対する(点検的に)確固たる正当性の確立を実現した。

関連論文リスト

• Unlocking The Potential of Adaptive Attacks on Diffusion-Based Purification [20.15955997832192]
  Diffusion-based purification (DBP)は、敵対的事例(AE)に対する防御である 我々は、この主張を再考し、防衛を通じて損失勾配を後退させる勾配に基づく戦略に焦点をあてる。 このような最適化手法はDBPのコア基盤を無効にし、その代わりに悪意のあるサンプル上の分布に精製された出力を制限する。
  論文  参考訳（メタデータ） (2024-11-25T17:30:32Z)
• On Practical Aspects of Aggregation Defenses against Data Poisoning Attacks [58.718697580177356]
  悪意のあるトレーニングサンプルを持つディープラーニングモデルに対する攻撃は、データ中毒として知られている。 データ中毒に対する防衛戦略の最近の進歩は、認証された毒性の堅牢性を達成するためのアグリゲーション・スキームの有効性を強調している。 ここでは、Deep Partition Aggregation(ディープ・パーティション・アグリゲーション・アグリゲーション)、代表的アグリゲーション・ディフェンス(アグリゲーション・ディフェンス)に焦点を当て、効率、性能、堅牢性など、その実践的側面を評価する。
  論文  参考訳（メタデータ） (2023-06-28T17:59:35Z)
• Lethal Dose Conjecture on Data Poisoning [122.83280749890078]
  データ中毒は、悪意のある目的のために機械学習アルゴリズムのトレーニングセットを歪ませる敵を考える。 本研究は, 致死線量導出法(Lethal Dose Conjecture)とよばれるデータ中毒の基礎について, 1つの予想を立証するものである。
  論文  参考訳（メタデータ） (2022-08-05T17:53:59Z)
• COPA: Certifying Robust Policies for Offline Reinforcement Learning against Poisoning Attacks [49.15885037760725]
  本研究は, 中毒発生時におけるオフライン強化学習(RL)の堅牢性を検証することに注力する。 本報告では, 許容可能な毒素トラジェクトリの数を認証する最初の認証フレームワークであるCOPAを提案する。 提案手法のいくつかは理論的に厳密であり,一部はNP-Complete問題であることを示す。
  論文  参考訳（メタデータ） (2022-03-16T05:02:47Z)
• A BIC based Mixture Model Defense against Data Poisoning Attacks on Classifiers [24.53226962899903]
  Data Poisoning (DP) は、訓練された分類器が入力を誤って分類する効果的な攻撃である。 本稿では,DP攻撃に対する新しい混合モデル防御法を提案する。
  論文  参考訳（メタデータ） (2021-05-28T01:06:09Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)
• Deep Partition Aggregation: Provable Defense against General Poisoning Attacks [136.79415677706612]
  アドリアリン中毒は、分類器の試験時間挙動を損なうために訓練データを歪ませる。 毒殺攻撃に対する2つの新たな防御策を提案する。 DPAは一般的な中毒脅威モデルに対する認証された防御である。 SS-DPAはラベルフリップ攻撃に対する認証された防御である。
  論文  参考訳（メタデータ） (2020-06-26T03:16:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。