Fugu-MT 論文翻訳(概要): Provably effective detection of effective data poisoning attacks

論文の概要: Provably effective detection of effective data poisoning attacks

arxiv url: http://arxiv.org/abs/2501.11795v1
Date: Tue, 21 Jan 2025 00:07:55 GMT
ステータス: 翻訳完了
システム内更新日: 2025-01-22 14:26:51.259018
Title: Provably effective detection of effective data poisoning attacks
Title（参考訳）: 効果的なデータ中毒攻撃の検出の可能性
Authors: Jonathan Gallagher, Yasaman Esfandiari, Callen MacPhee, Michael Warren,
Abstract要約: 本稿では,データセット中毒攻撃の数学的に正確な定義を確立し,データセットを効果的に害する行為が,攻撃を効果的に検出できることを証明した。コンフォーマルセパビリティテスト(Conformal Separability Test)と呼ばれる新しい統計テストによって、データセットの毒性が特定可能であるという数学的保証に加えて、実世界での毒性の試行を適切に検出できるという実験的な証拠を提供する。
参考スコア（独自算出の注目度）: 11.883366739932546
License:
Abstract: This paper establishes a mathematically precise definition of dataset poisoning attack and proves that the very act of effectively poisoning a dataset ensures that the attack can be effectively detected. On top of a mathematical guarantee that dataset poisoning is identifiable by a new statistical test that we call the Conformal Separability Test, we provide experimental evidence that we can adequately detect poisoning attempts in the real world.
Abstract（参考訳）: 本稿では,データセット中毒攻撃の数学的に正確な定義を確立し,データセットを効果的に害する行為が,攻撃を効果的に検出できることを証明した。コンフォーマルセパビリティテスト(Conformal Separability Test)と呼ばれる新しい統計テストによって、データセットの毒性が特定可能であるという数学的保証に加えて、実世界での毒性の試行を適切に検出できるという実験的な証拠を提供する。

関連論文リスト

On the Adversarial Risk of Test Time Adaptation: An Investigation into Realistic Test-Time Data Poisoning [49.17494657762375]
テスト時間適応(TTA)は、テストデータを使用して推論段階でモデルの重みを更新し、一般化を強化する。既存の研究では、TTAが逆方向検体で更新されると、良性検体の性能が低下することが示されている。そこで本研究では, 良性試料にアクセスすることなく, 有毒試料を効果的かつ現実的に生成する手法を提案する。
論文参考訳（メタデータ） (2024-10-07T01:29:19Z)
Unlearnable Examples Detection via Iterative Filtering [84.59070204221366]
ディープニューラルネットワークは、データ中毒攻撃に弱いことが証明されている。混合データセットから有毒なサンプルを検出することは極めて有益であり、困難である。 UE識別のための反復フィルタリング手法を提案する。
論文参考訳（メタデータ） (2024-08-15T13:26:13Z)
Have You Poisoned My Data? Defending Neural Networks against Data Poisoning [0.393259574660092]
本稿では,トランスファー学習環境における有毒なデータポイントの検出とフィルタリングを行う新しい手法を提案する。有効毒は, 特徴ベクトル空間の清浄点とよく区別できることを示す。提案手法は, 防衛率と最終訓練モデルの性能において, 既存の手法よりも優れていることを示す。
論文参考訳（メタデータ） (2024-03-20T11:50:16Z)
Poison is Not Traceless: Fully-Agnostic Detection of Poisoning Attacks [4.064462548421468]
本稿では,潜在的に有毒なデータセットの分析にのみ依存する攻撃を検知する新しいフレームワークであるDIVAを提案する。評価のために,本稿ではラベルフリップ攻撃に対するDIVAを検証した。
論文参考訳（メタデータ） (2023-10-24T22:27:44Z)
On Practical Aspects of Aggregation Defenses against Data Poisoning Attacks [58.718697580177356]
悪意のあるトレーニングサンプルを持つディープラーニングモデルに対する攻撃は、データ中毒として知られている。データ中毒に対する防衛戦略の最近の進歩は、認証された毒性の堅牢性を達成するためのアグリゲーション・スキームの有効性を強調している。ここでは、Deep Partition Aggregation(ディープ・パーティション・アグリゲーション・アグリゲーション)、代表的アグリゲーション・ディフェンス(アグリゲーション・ディフェンス)に焦点を当て、効率、性能、堅牢性など、その実践的側面を評価する。
論文参考訳（メタデータ） (2023-06-28T17:59:35Z)
Exploring the Limits of Model-Targeted Indiscriminate Data Poisoning Attacks [31.339252233416477]
対象パラメータに対するデータ中毒攻撃の本質的な限界を探索するための技術ツールとして,モデル中毒の到達可能性の概念を紹介した。我々は、一般的なMLモデルの中で驚くべき位相遷移現象を確立し、定量化するために、容易に計算可能なしきい値を得る。我々の研究は, 有毒比がもたらす重要な役割を強調し, データ中毒における既存の経験的結果, 攻撃, 緩和戦略に関する新たな知見を隠蔽する。
論文参考訳（メタデータ） (2023-03-07T01:55:26Z)
Temporal Robustness against Data Poisoning [69.01705108817785]
データ中毒は、悪意のあるトレーニングデータを通じて、敵対者が機械学習アルゴリズムの振る舞いを操作する場合を考慮している。本研究では,攻撃開始時間と攻撃持続時間を測定する2つの新しい指標である耳線と持続時間を用いたデータ中毒の時間的脅威モデルを提案する。
論文参考訳（メタデータ） (2023-02-07T18:59:19Z)
Analysis and Detectability of Offline Data Poisoning Attacks on Linear Dynamical Systems [0.30458514384586405]
統計検査のレンズを用いて最小二乗推定値に有毒が及ぼす影響について検討した。古典的な統計的テストから逃れることのできる最小二乗推定器に対するステルスデータ中毒攻撃を提案する。
論文参考訳（メタデータ） (2022-11-16T10:01:03Z)
Poison Attacks against Text Datasets with Conditional Adversarially Regularized Autoencoder [78.01180944665089]
本稿では,自然言語推論(NLI)とテキスト分類システムにおいて致命的な脆弱性を示す。我々はNLPモデルに対する「バックドア中毒」攻撃を提示する。
論文参考訳（メタデータ） (2020-10-06T13:03:49Z)
Just How Toxic is Data Poisoning? A Unified Benchmark for Backdoor and Data Poisoning Attacks [74.88735178536159]
データ中毒は、モデル盗難から敵の攻撃まで、脅威の中で一番の懸念事項だ。データ中毒やバックドア攻撃は、テスト設定のバリエーションに非常に敏感である。厳格なテストを適用して、それらを恐れるべき程度を判断します。
論文参考訳（メタデータ） (2020-06-22T18:34:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。