論文の概要: Empirical Evaluation of Data Poisoning Attacks in Supervised Learning

• arxiv url: http://arxiv.org/abs/2609.10952v1
• Date: Thu, 10 Sep 2026 01:21:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.174501
• Title: Empirical Evaluation of Data Poisoning Attacks in Supervised Learning
• Title（参考訳）: 教師付き学習におけるデータ中毒攻撃の実証評価
• Abstract要約: 本研究は,MNISTデータセットとFashion-MNISTデータセットを用いて,ラベルフリップとバックドア中毒の2つの代表的なトレーニング時間攻撃を評価する。 ラベルフリップはロジスティック回帰と線形SVMで最大であり、ランダムフォレストは比較的安定していた。 バックドア中毒は、ベースライン近くでクリーンテストのパフォーマンスを維持しながら、データセットと3つのモデルで0.9667から1.0000の攻撃成功率に達した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Data poisoning corrupts training data to degrade a model or to plant attacker-controlled behavior. This study evaluates two representative training-time attacks, label flipping and backdoor poisoning, on MNIST and Fashion-MNIST with three baseline classifiers: Logistic Regression, Linear SVM, and Random Forest. Clean training is compared with poisoning rates of 5%, 10%, and 20% using clean-test accuracy, macro-precision, macro-recall, macro-F1, and, for backdoors, attack success rate. Label flipping caused clear degradation, largest for Logistic Regression and Linear SVM, while Random Forest stayed comparatively stable. Backdoor poisoning reached attack success rates from 0.9667 to 1.0000 on both datasets and all three models while often keeping clean-test performance near baseline. The results separate indiscriminate poisoning, which shows up in standard metrics, from targeted backdoor poisoning, which stays comparatively stealthy while embedding highly effective malicious behavior, and they support security-oriented evaluation beyond conventional clean-test metrics.
• Abstract（参考訳）: データ中毒はトレーニングデータを破損させ、モデルを劣化させたり、攻撃者が制御する振る舞いを植え付ける。 本研究は,ロジスティック回帰,リニアSVM,ランダムフォレストという3つのベースライン分類器を用いたMNISTおよびFashion-MNISTに対するラベルフリップとバックドア中毒の2つの代表的な訓練時間攻撃を評価する。 クリーントレーニングは、クリーンテストの精度、マクロ精度、マクロリコール、マクロF1、バックドアの攻撃成功率を用いて、5%、10%、20%の毒殺率と比較される。 ラベルフリップはロジスティック回帰と線形SVMで最大であり、ランダムフォレストは比較的安定していた。 バックドア中毒は、ベースライン近くでクリーンテストのパフォーマンスを維持しながら、データセットと3つのモデルで0.9667から1.0000の攻撃成功率に達した。 その結果、標準的な測定基準に現れる無差別な中毒は、非常に効果的な悪意のある振る舞いを埋め込んだまま比較的ステルス性を維持し、従来のクリーンテストの指標を超えてセキュリティ指向の評価をサポートする、標的のバックドア中毒から分離した。

関連論文リスト

• Robustness of Anomaly Detection Models for Industrial Control Systems under Training-Time Data Contamination [3.7391021139771325]
  本稿では, トレーニング時汚染下でのセキュア水処理ベンチマークにおいて, オフラインICS異常検出パイプラインのロバスト性を評価する。 ランダムインジェクション,類似性目標インジェクション,特徴ノイズインジェクションの3つの汚染手法により,11個の異種異常検出装置を評価した。 その結果、ロバスト性はモデルに依存しており、クリーンデータのパフォーマンスだけでは予測できないことがわかった。
  論文  参考訳（メタデータ） (2026-08-24T17:49:36Z)
• CSC: Turning the Adversary's Poison against Itself [23.878184947897765]
  中毒ベースのバックドア攻撃は、ディープニューラルネットワークに重大な脅威をもたらす。 本稿では,モデルトレーニング中のバックドア攻撃ダイナミクスの包括的解析を行う。 新規な防毒対策としてクラスター分離封止法(CSC)を提案する。
  論文  参考訳（メタデータ） (2026-04-23T08:30:53Z)
• FL-PBM: Pre-Training Backdoor Mitigation for Federated Learning [15.911410230033816]
  バックドア攻撃は、人工知能(AI)モデルの完全性と信頼性に重大な脅威をもたらす。 本稿では,フェデレートラーニングのための事前学習バックドア緩和を提案する。 フェデレートされた学習環境において、モデルトレーニングの前に、クライアント側の有毒データを積極的にフィルタリングする。
  論文  参考訳（メタデータ） (2026-03-30T16:56:38Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• The Eminence in Shadow: Exploiting Feature Boundary Ambiguity for Robust Backdoor Attacks [51.468144272905135]
  深層ニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱なままでも重要なアプリケーションを支える。 バックドア攻撃を標的とした理論的解析を行い,不均質なモデル操作を実現するための疎い決定境界に着目した。 エミネンス(Eminence)は、理論的な保証と固有なステルス特性を持つ、説明可能で堅牢なブラックボックスバックドアフレームワークである。
  論文  参考訳（メタデータ） (2025-12-11T08:09:07Z)
• SecureLearn - An Attack-agnostic Defense for Multiclass Machine Learning Against Data Poisoning Attacks [0.0]
  既存の防御は、主に特定の中毒攻撃を軽減するために設計されているか、あるいは特定のMLアルゴリズムに適合している。 本稿では,毒殺からマルチクラスモデルを守るための2層アタック・アグノースティック・ディフェンスであるSecureLearnを提案する。 ニューラルネットワークでは、SecureLearnが97%のリコールとF1スコアを達成した。
  論文  参考訳（メタデータ） (2025-10-25T12:35:45Z)
• Efficient Backdoor Defense in Multimodal Contrastive Learning: A Token-Level Unlearning Method for Mitigating Threats [52.94388672185062]
  本稿では,機械学習という概念を用いて,バックドアの脅威に対する効果的な防御機構を提案する。 これは、モデルがバックドアの脆弱性を迅速に学習するのを助けるために、小さな毒のサンプルを戦略的に作成することを必要とする。 バックドア・アンラーニング・プロセスでは,新しいトークン・ベースの非ラーニング・トレーニング・システムを提案する。
  論文  参考訳（メタデータ） (2024-09-29T02:55:38Z)
• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• Protecting Model Adaptation from Trojans in the Unlabeled Data [120.42853706967188]
  本稿では,よく設計された毒物標的データによるモデル適応に対するトロイの木馬攻撃の可能性について検討する。 本稿では,既存の適応アルゴリズムとシームレスに統合可能なDiffAdaptというプラグイン・アンド・プレイ手法を提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:42:10Z)
• Accumulative Poisoning Attacks on Real-time Data [56.96241557830253]
  我々は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを示します。 我々の研究は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを検証する。
  論文  参考訳（メタデータ） (2021-06-18T08:29:53Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。