論文の概要: SAGE: Similarity-Based Cleaning of Poisoned Training Data from Verified Examples

• arxiv url: http://arxiv.org/abs/2610.01788v1
• Date: Thu, 01 Oct 2026 14:34:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.195498
• Title: SAGE: Similarity-Based Cleaning of Poisoned Training Data from Verified Examples
• Title（参考訳）: SAGE: 検証例による毒殺訓練データの類似性に基づくクリーニング
• Abstract要約: データ中毒攻撃は、機械学習に対する脅威が増えている。 既存の防衛は、どのサンプルが毒殺されているかというゼロの地味な情報を前提とするか、あるいは、クリーンであることが証明された多数のサンプルへのアクセスを前提とするかのいずれかである。 本報告では, 清潔な事例と毒物の両方を含む, 検証済み事例の小さなセットを参考にすることを提案する。
• 参考スコア（独自算出の注目度）: 25.97212911398222
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As machine learning increasingly relies on public, untrusted data sources, data poisoning attacks, which inject malicious examples into training data to induce misclassification of a chosen target, pose a growing threat. Existing defenses either assume zero ground-truth information about which examples are poisoned, or they assume access to a large set of examples verified to be clean. Satisfying the latter assumption incurs significant cost since reliable verification can be very resource- or labor-intensive. This cost is particularly high for clean-label attacks, where poisoned examples are visually indistinguishable from clean data. Since requiring a large set of verified examples is impractical, we propose relying on a small set of verified examples including both clean and poisoned ones, i.e., each example verified either to be clean or poisoned through inspection by a forensic expert. The challenge is then to detect poisons based on a set of verified examples that is so small that most classification models would overfit. To address this challenge, we propose Similarity-based Approach for Ground-truth-driven Exclusion (SAGE), which trains a generic feature extractor on a separate dataset and then flags poisoned training examples using a non-parametric, similarity-weighted prediction based on the verified set. On standard benchmarks against seven clean-label attack methods, we demonstrate that having access to even a handful of verified poisoned examples provides a substantial advantage. We also find that the distribution of verified clean examples across classes matters more than the number of verified examples.
• Abstract（参考訳）: 機械学習が公的な、信頼できないデータソースにますます依存しているため、悪意のある例をトレーニングデータに注入して、選択されたターゲットの誤分類を誘発するデータ中毒攻撃は、脅威が増大する。 既存の防衛は、どのサンプルが毒殺されているかというゼロの地味な情報を前提とするか、あるいは、クリーンであることが証明された多数のサンプルへのアクセスを前提とするかのいずれかである。 信頼性の高い検証は非常にリソースや労働集約的になり得るので、後者の仮定を満足することはかなりのコストがかかる。 このコストは、汚染された例がクリーンデータと視覚的に区別できないクリーンラベル攻撃にとって特に高い。 多数の検定例を必要とすることは現実的ではないため, 検定された検定例, 検定された検定例, 検定によって検定された検定例, 検定された検定例を参考に, 検定された検定例, 検定された検診例, 検定された検定例, 検定された検診例, 検定された検診例, 検診例, 検診結果, 検定された検診例, 検診例, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検診結果, 検 問題は、検証された一連の例に基づいて毒を検知することであり、ほとんどの分類モデルが過度に適合するほど小さい。 この課題に対処するために、SAGE(Simisity-based Approach for Ground-Truth-driven Exclusion)を提案する。これは、個別データセット上で一般的な特徴抽出器を訓練し、検証された集合に基づいて非パラメトリック類似性重み付き予測を用いて有毒な訓練例をフラグ付けする。 7つのクリーンラベル攻撃方法に対する標準的なベンチマークでは、いくつかの有毒な例でさえもアクセス可能であることが大きな利点であることを示す。 また、検証済みのクリーンな例のクラス間での分布が、検証済みの例の数よりも重要であることも判明した。

関連論文リスト

• Unlearnable Examples Detection via Iterative Filtering [84.59070204221366]
  ディープニューラルネットワークは、データ中毒攻撃に弱いことが証明されている。 混合データセットから有毒なサンプルを検出することは極めて有益であり、困難である。 UE識別のための反復フィルタリング手法を提案する。
  論文  参考訳（メタデータ） (2024-08-15T13:26:13Z)
• Detection and Defense of Unlearnable Examples [13.381207783432428]
  本研究では,特定の有毒データセットの線形分離性に関する理論的結果と簡易なネットワークベース検出手法を提案する。 本稿では, 単純なネットワークが生成する逆方向の雑音に結合したデータ拡張を用いて検出性を劣化させる手法を提案する。
  論文  参考訳（メタデータ） (2023-12-14T12:59:20Z)
• Exploring Model Dynamics for Accumulative Poisoning Discovery [62.08553134316483]
  そこで我々は,モデルレベルの情報を通して,防衛を探索するための新しい情報尺度,すなわち,記憶の離散性(Memorization Discrepancy)を提案する。 暗黙的にデータ操作の変更をモデル出力に転送することで、メモリ識別は許容できない毒のサンプルを発見することができる。 我々は、その性質を徹底的に探求し、累積中毒に対する防御のために、離散型サンプル補正(DSC)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T14:45:24Z)
• AdvCheck: Characterizing Adversarial Examples via Local Gradient Checking [3.425727850372357]
  局所勾配の概念を導入し、逆例が良性勾配よりも大きい局所勾配を持つことを示した。 具体的には、いくつかの良性例とノイズ付加型誤分類例から局所勾配を計算して検出器を訓練することにより、逆例や誤分類された自然入力さえも、良性のあるものと正確に区別することができる。 我々は、AdvCheckの最先端(SOTA)ベースラインに対する優れた性能を検証し、一般的な敵攻撃に対する検出率(sim times 1.2$)、誤分類された自然入力に対する検出率(sim times 1.4$)で検証した。
  論文  参考訳（メタデータ） (2023-03-25T17:46:09Z)
• ADC: Adversarial attacks against object Detection that evade Context consistency checks [55.8459119462263]
  文脈整合性チェックさえも、適切に構築された敵の例に対して脆弱であることを示す。 このような防御を覆す実例を生成するための適応型フレームワークを提案する。 我々の結果は、コンテキストを堅牢にモデル化し、一貫性をチェックする方法はまだ未解決の問題であることを示している。
  論文  参考訳（メタデータ） (2021-10-24T00:25:09Z)
• Adversarial Examples Make Strong Poisons [55.63469396785909]
  従来は訓練済みのモデルに対する攻撃を意図していた敵の例は,近年の毒殺に特化して設計された手法よりも,データ中毒に有効であることを示す。 また,本手法は,データセットのセキュアなリリースにおいて,既存の中毒法よりも極めて効果的である。
  論文  参考訳（メタデータ） (2021-06-21T01:57:14Z)
• Defening against Adversarial Denial-of-Service Attacks [0.0]
  データ中毒は、機械学習とデータ駆動技術に対する最も関連するセキュリティ脅威の1つです。 我々は,dos有毒なインスタンスを検出する新しい手法を提案する。 2つのdos毒殺攻撃と7つのデータセットに対する我々の防御を評価し、毒殺事例を確実に特定できることを確認します。
  論文  参考訳（メタデータ） (2021-04-14T09:52:36Z)
• Intrinsic Certified Robustness of Bagging against Data Poisoning Attacks [75.46678178805382]
  emphdata中毒攻撃では、攻撃者は学習した機械学習モデルを破損させるためにいくつかのトレーニング例を変更し、削除し、または挿入する。 データ中毒攻撃に対するバッグングの本質的確固たる堅牢性を証明する。 本手法は, 任意の修正, 削除, 挿入を行う場合, MNIST 上で 911.1% の精度を達成している。
  論文  参考訳（メタデータ） (2020-08-11T03:12:42Z)
• Robust and On-the-fly Dataset Denoising for Image Classification [72.10311040730815]
  On-the-fly Data Denoising (ODD)は、間違ったラベルの例に対して堅牢だが、通常のトレーニングと比べて計算オーバーヘッドはほぼゼロである。 ODDはWebVisionやClothing1Mといった現実世界のデータセットを含む、幅広いデータセットで最先端の結果を達成することができる。
  論文  参考訳（メタデータ） (2020-03-24T03:59:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。