論文の概要: Inverting Gradient Attacks Naturally Makes Data Poisons: An Availability Attack on Neural Networks

• arxiv url: http://arxiv.org/abs/2410.21453v1
• Date: Mon, 28 Oct 2024 18:57:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-30 13:40:52.050563
• Title: Inverting Gradient Attacks Naturally Makes Data Poisons: An Availability Attack on Neural Networks
• Title（参考訳）: データポゾンを自然に生成するグラディエントアタックの反転 - ニューラルネットワークのアベイラビリティアタック
• Authors: Wassim Bouaziz, El-Mahdi El-Mhamdi, Nicolas Usunier,
• Abstract要約: グラディエントアタックと、それらを変更する機械学習アルゴリズムによるデータ中毒は、設定で同等であることが証明されている。 データ中毒は、ニューラルネットワークを攻撃するために勾配攻撃を模倣することを示す。
• 参考スコア（独自算出の注目度）: 12.80649024603656
• License:
• Abstract: Gradient attacks and data poisoning tamper with the training of machine learning algorithms to maliciously alter them and have been proven to be equivalent in convex settings. The extent of harm these attacks can produce in non-convex settings is still to be determined. Gradient attacks can affect far less systems than data poisoning but have been argued to be more harmful since they can be arbitrary, whereas data poisoning reduces the attacker's power to only being able to inject data points to training sets, via e.g. legitimate participation in a collaborative dataset. This raises the question of whether the harm made by gradient attacks can be matched by data poisoning in non-convex settings. In this work, we provide a positive answer in a worst-case scenario and show how data poisoning can mimic a gradient attack to perform an availability attack on (non-convex) neural networks. Through gradient inversion, commonly used to reconstruct data points from actual gradients, we show how reconstructing data points out of malicious gradients can be sufficient to perform a range of attacks. This allows us to show, for the first time, an availability attack on neural networks through data poisoning, that degrades the model's performances to random-level through a minority (as low as 1%) of poisoned points.
• Abstract（参考訳）: グラディエントアタックとデータ中毒は、悪意のある変更を行う機械学習アルゴリズムのトレーニングを伴い、凸設定で同等であることが証明されている。 これらの攻撃が非凸設定で生み出す損害の程度は、いまだに決定されていない。 グラディエント攻撃は、データ中毒よりもはるかに少ないシステムに影響を及ぼす可能性があるが、任意の攻撃が可能であるため有害であると主張しており、一方、データ中毒は、例えばコラボレーティブデータセットへの正当な参加を通じて、トレーニングセットにデータポイントを注入するだけに攻撃者の権限を低下させる。 これは、非凸環境でのデータ中毒によって、勾配攻撃による害が一致できるかどうかという問題を提起する。 本研究では,最悪のシナリオにおける肯定的な回答を提供し,データ中毒が勾配攻撃を模倣して(非凸)ニューラルネットワークのアベイラビリティ攻撃を行う方法を示す。 実際の勾配からデータポイントを再構築するために一般的に使用される勾配インバージョンを通じて、悪意のある勾配からのデータポイントを再構成することで、攻撃範囲を拡大できることを示す。 これにより、初めて、データ中毒によるニューラルネットワークのアベイラビリティーアタックが、有害なポイントの少数派(1%以下)を通じて、モデルのパフォーマンスをランダムレベルに低下させることを示すことができます。

関連論文リスト

• On the Exploitability of Instruction Tuning [103.8077787502381]
  そこで本研究では,モデルの動作を変えるための命令チューニングを,相手がどのように活用できるかを検討する。 自動データ中毒パイプラインである textitAutoPoison を提案する。 結果から、AutoPoisonは、少数のデータだけを中毒することで、敵がモデルの振る舞いを変えることを可能にする。
  論文  参考訳（メタデータ） (2023-06-28T17:54:04Z)
• Autoregressive Perturbations for Data Poisoning [54.205200221427994]
  ソーシャルメディアからのデータスクレイピングは、不正なデータの使用に関する懸念が高まっている。 データ中毒攻撃は、スクラップ対策として提案されている。 より広範なデータセットにアクセスせずに有毒なデータを生成できる自動回帰(AR)中毒を導入する。
  論文  参考訳（メタデータ） (2022-06-08T06:24:51Z)
• Indiscriminate Data Poisoning Attacks on Neural Networks [28.09519873656809]
  データ中毒攻撃は、トレーニングプロセスに "poisoned" データを注入することで、モデルに影響を与えることを目的としている。 既存の毒殺攻撃を詳しく調べて、Stackelbergのシーケンシャルゲームを解くための、古いアルゴリズムと新しいアルゴリズムを結びつける。 本稿では,近代的な自動微分パッケージを有効利用し,同時に有毒点を生成するための効率的な実装を提案する。
  論文  参考訳（メタデータ） (2022-04-19T18:57:26Z)
• Indiscriminate Poisoning Attacks Are Shortcuts [77.38947817228656]
  その結果, 標的ラベルを付与した場合, 進行性毒素攻撃の摂動は, ほぼ分離可能であることがわかった。 このような合成摂動は、故意に作られた攻撃と同じくらい強力であることを示す。 我々の発見は、アンフショートカット学習の問題が以前考えられていたよりも深刻であることを示唆している。
  論文  参考訳（メタデータ） (2021-11-01T12:44:26Z)
• Accumulative Poisoning Attacks on Real-time Data [56.96241557830253]
  我々は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを示します。 我々の研究は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを検証する。
  論文  参考訳（メタデータ） (2021-06-18T08:29:53Z)
• Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching [56.280018325419896]
  Data Poisoning攻撃は、トレーニングデータを変更して、そのようなデータでトレーニングされたモデルを悪意を持って制御する。 我々は「スクラッチから」と「クリーンラベルから」の両方である特に悪意のある毒物攻撃を分析します。 フルサイズで有毒なImageNetデータセットをスクラッチからトレーニングした現代のディープネットワークにおいて、ターゲットの誤分類を引き起こすのは、これが初めてであることを示す。
  論文  参考訳（メタデータ） (2020-09-04T16:17:54Z)
• Towards Class-Oriented Poisoning Attacks Against Neural Networks [1.14219428942199]
  機械学習システムに対する攻撃は、トレーニングデータセットに悪意のあるサンプルを意図的に注入することで、モデルのパフォーマンスを損なう。 そこで本研究では, 破損したモデルに対して, 2つの特定の予測を強制的に行うクラス指向中毒攻撃を提案する。 逆効果の最大化と、有毒なデータ生成の計算複雑性の低減を図るため、勾配に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-31T19:27:37Z)
• Just How Toxic is Data Poisoning? A Unified Benchmark for Backdoor and Data Poisoning Attacks [74.88735178536159]
  データ中毒は、モデル盗難から敵の攻撃まで、脅威の中で一番の懸念事項だ。 データ中毒やバックドア攻撃は、テスト設定のバリエーションに非常に敏感である。 厳格なテストを適用して、それらを恐れるべき程度を判断します。
  論文  参考訳（メタデータ） (2020-06-22T18:34:08Z)
• On the Effectiveness of Mitigating Data Poisoning Attacks with Gradient Shaping [36.41173109033075]
  機械学習アルゴリズムは、データ中毒攻撃に弱い。 本研究は,全ての中毒攻撃に共通するアーティファクトに依存する攻撃非依存防衛の実現可能性について検討する。
  論文  参考訳（メタデータ） (2020-02-26T14:04:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。