論文の概要: On Robustness of Linear Classifiers to Targeted Data Poisoning

• arxiv url: http://arxiv.org/abs/2511.12722v1
• Date: Sun, 16 Nov 2025 18:20:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-18 14:36:24.501921
• Title: On Robustness of Linear Classifiers to Targeted Data Poisoning
• Title（参考訳）: 目的データに対する線形分類器のロバスト性について
• Authors: Nakshatra Gupta, Sumanth Prabhu, Supratik Chakraborty, R Venkatesh,
• Abstract要約: データ中毒は、学習モデルの信頼性を損なう訓練時間の攻撃である。 強靭性の上下境界を求める手法を提案する。 提案手法の有効性を実験的に実証した。
• 参考スコア（独自算出の注目度）: 3.322793617584532
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Data poisoning is a training-time attack that undermines the trustworthiness of learned models. In a targeted data poisoning attack, an adversary manipulates the training dataset to alter the classification of a targeted test point. Given the typically large size of training dataset, manual detection of poisoning is difficult. An alternative is to automatically measure a dataset's robustness against such an attack, which is the focus of this paper. We consider a threat model wherein an adversary can only perturb the labels of the training dataset, with knowledge limited to the hypothesis space of the victim's model. In this setting, we prove that finding the robustness is an NP-Complete problem, even when hypotheses are linear classifiers. To overcome this, we present a technique that finds lower and upper bounds of robustness. Our implementation of the technique computes these bounds efficiently in practice for many publicly available datasets. We experimentally demonstrate the effectiveness of our approach. Specifically, a poisoning exceeding the identified robustness bounds significantly impacts test point classification. We are also able to compute these bounds in many more cases where state-of-the-art techniques fail.
• Abstract（参考訳）: データ中毒は、学習モデルの信頼性を損なう訓練時間の攻撃である。 ターゲットデータ中毒攻撃では、相手がトレーニングデータセットを操作して、ターゲットテストポイントの分類を変更する。 トレーニングデータセットの通常の大きさを考えると、手動による中毒の検出は難しい。 もう一つの方法は、そのような攻撃に対してデータセットの堅牢性を自動的に測定することであり、これはこの論文の焦点である。 敵がトレーニングデータセットのラベルを乱すだけで、その知識は被害者のモデルの仮説空間に限られる、脅威モデルを考える。 この設定では、仮説が線形分類器である場合でも、ロバスト性を見つけることがNP-Complete問題であることが証明される。 これを解決するために,ロバストネスの上下境界を求める手法を提案する。 本手法の実装は,多くの公開データセットに対して,これらのバウンダリを効率的に計算する。 提案手法の有効性を実験的に実証した。 具体的には, 同定されたロバスト性境界を超える毒は, 試験点分類に大きな影響を及ぼす。 私たちはまた、最先端技術が失敗する多くのケースで、これらの境界を計算することができます。

関連論文リスト

• Variance-Based Defense Against Blended Backdoor Attacks [0.0]
  バックドア攻撃は、AIモデルをターゲットにした微妙ながら効果的なサイバー攻撃のクラスである。 本稿では,与えられたデータセット上でモデルをトレーニングし,有毒なクラスを検出し,攻撃トリガの重要部分を抽出する新しい防御手法を提案する。
  論文  参考訳（メタデータ） (2025-06-02T09:01:35Z)
• Unlearnable Examples Detection via Iterative Filtering [84.59070204221366]
  ディープニューラルネットワークは、データ中毒攻撃に弱いことが証明されている。 混合データセットから有毒なサンプルを検出することは極めて有益であり、困難である。 UE識別のための反復フィルタリング手法を提案する。
  論文  参考訳（メタデータ） (2024-08-15T13:26:13Z)
• On Practical Aspects of Aggregation Defenses against Data Poisoning Attacks [58.718697580177356]
  悪意のあるトレーニングサンプルを持つディープラーニングモデルに対する攻撃は、データ中毒として知られている。 データ中毒に対する防衛戦略の最近の進歩は、認証された毒性の堅牢性を達成するためのアグリゲーション・スキームの有効性を強調している。 ここでは、Deep Partition Aggregation(ディープ・パーティション・アグリゲーション・アグリゲーション)、代表的アグリゲーション・ディフェンス(アグリゲーション・ディフェンス)に焦点を当て、効率、性能、堅牢性など、その実践的側面を評価する。
  論文  参考訳（メタデータ） (2023-06-28T17:59:35Z)
• Indiscriminate Poisoning Attacks Are Shortcuts [77.38947817228656]
  その結果, 標的ラベルを付与した場合, 進行性毒素攻撃の摂動は, ほぼ分離可能であることがわかった。 このような合成摂動は、故意に作られた攻撃と同じくらい強力であることを示す。 我々の発見は、アンフショートカット学習の問題が以前考えられていたよりも深刻であることを示唆している。
  論文  参考訳（メタデータ） (2021-11-01T12:44:26Z)
• Accumulative Poisoning Attacks on Real-time Data [56.96241557830253]
  我々は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを示します。 我々の研究は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを検証する。
  論文  参考訳（メタデータ） (2021-06-18T08:29:53Z)
• Gradient-based Data Subversion Attack Against Binary Classifiers [9.414651358362391]
  本研究では,攻撃者がラベルのラベルに毒を盛り,システムの機能を損なうようなラベル汚染攻撃に焦点を当てる。 我々は、予測ラベルに対する微分可能凸損失関数の勾配をウォームスタートとして利用し、汚染するデータインスタンスの集合を見つけるための異なる戦略を定式化する。 本実験は,提案手法がベースラインより優れ,計算効率が高いことを示す。
  論文  参考訳（メタデータ） (2021-05-31T09:04:32Z)
• Active Learning Under Malicious Mislabeling and Poisoning Attacks [2.4660652494309936]
  ディープニューラルネットワークは通常、トレーニングのために大きなラベル付きデータセットを必要とする。 これらのデータのほとんどはラベルなしであり、データ中毒攻撃に弱い。 本稿では,ラベル付きインスタンスの少ない効率的な能動的学習手法を提案する。
  論文  参考訳（メタデータ） (2021-01-01T03:43:36Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)
• Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching [56.280018325419896]
  Data Poisoning攻撃は、トレーニングデータを変更して、そのようなデータでトレーニングされたモデルを悪意を持って制御する。 我々は「スクラッチから」と「クリーンラベルから」の両方である特に悪意のある毒物攻撃を分析します。 フルサイズで有毒なImageNetデータセットをスクラッチからトレーニングした現代のディープネットワークにおいて、ターゲットの誤分類を引き起こすのは、これが初めてであることを示す。
  論文  参考訳（メタデータ） (2020-09-04T16:17:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。