論文の概要: An Incremental Gray-box Physical Adversarial Attack on Neural Network Training

• arxiv url: http://arxiv.org/abs/2303.01245v1
• Date: Mon, 20 Feb 2023 09:48:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-05 05:35:07.382747
• Title: An Incremental Gray-box Physical Adversarial Attack on Neural Network Training
• Title（参考訳）: ニューラルネットワークトレーニングにおけるインクリメンタルグレーボックス物理逆攻撃
• Authors: Rabiah Al-qudah, Moayad Aloqaily, Bassem Ouni, Mohsen Guizani, Thierry Lestable
• Abstract要約: 本稿では、ニューラルネットワークのトレーニングプロセスをターゲットにした、勾配のないグレーボックスインクリメンタルアタックを提案する。 提案した攻撃は、一般的に専門家によって守られていないデータ構造を攻撃することによって、そのリスクの高い特性を取得する。
• 参考スコア（独自算出の注目度）: 36.244907785240876
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural networks have demonstrated remarkable success in learning and solving complex tasks in a variety of fields. Nevertheless, the rise of those networks in modern computing has been accompanied by concerns regarding their vulnerability to adversarial attacks. In this work, we propose a novel gradient-free, gray box, incremental attack that targets the training process of neural networks. The proposed attack, which implicitly poisons the intermediate data structures that retain the training instances between training epochs acquires its high-risk property from attacking data structures that are typically unobserved by professionals. Hence, the attack goes unnoticed despite the damage it can cause. Moreover, the attack can be executed without the attackers' knowledge of the neural network structure or training data making it more dangerous. The attack was tested under a sensitive application of secure cognitive cities, namely, biometric authentication. The conducted experiments showed that the proposed attack is effective and stealthy. Finally, the attack effectiveness property was concluded from the fact that it was able to flip the sign of the loss gradient in the conducted experiments to become positive, which indicated noisy and unstable training. Moreover, the attack was able to decrease the inference probability in the poisoned networks compared to their unpoisoned counterparts by 15.37%, 14.68%, and 24.88% for the Densenet, VGG, and Xception, respectively. Finally, the attack retained its stealthiness despite its high effectiveness. This was demonstrated by the fact that the attack did not cause a notable increase in the training time, in addition, the Fscore values only dropped by an average of 1.2%, 1.9%, and 1.5% for the poisoned Densenet, VGG, and Xception, respectively.
• Abstract（参考訳）: ニューラルネットワークは、様々な分野における複雑なタスクの学習と解決に顕著な成功を収めている。 それでも、現代のコンピューティングにおけるこれらのネットワークの台頭には、敵の攻撃に対する脆弱性に関する懸念が伴っている。 本研究では,ニューラルネットワークのトレーニングプロセスをターゲットにした,グラデーションフリーでグレーボックスのインクリメンタルアタックを提案する。 トレーニング期間の間のトレーニングインスタンスを保持する中間データ構造を暗黙的に毒殺するこの攻撃は、一般的に専門家によって監視されないデータ構造を攻撃することによって、その高いリスク特性を取得する。 そのため、被害を受けたとしても攻撃は気づかない。 さらに、攻撃者はニューラルネットワーク構造やトレーニングデータに関する知識を必要とせずに攻撃を実行でき、より危険になる。 この攻撃は、安全な認知都市、すなわち生体認証の敏感な適用の下でテストされた。 実験の結果,提案した攻撃は有効でステルス性が高いことがわかった。 最後に, 実験結果の損失勾配の符号を正に反転させることで, 騒音, 不安定な訓練が可能であることから, 攻撃の有効性が結論された。 さらに、この攻撃は毒ネットワークの推測確率を、15.37%、14.68%、24.88%、密度ネット、vgg、xceptionでそれぞれ低下させた。 最後に、攻撃は高い有効性にもかかわらずステルス性を維持した。 これは、この攻撃がトレーニング時間において顕著な増加を起こさなかったことに加えて、毒Densenet、VGG、XceptionのFscore値は、それぞれ1.2%、1.9%、および1.5%しか低下しなかったことによる。

関連論文リスト

• Efficient Backdoor Defense in Multimodal Contrastive Learning: A Token-Level Unlearning Method for Mitigating Threats [52.94388672185062]
  本稿では,機械学習という概念を用いて,バックドアの脅威に対する効果的な防御機構を提案する。 これは、モデルがバックドアの脆弱性を迅速に学習するのを助けるために、小さな毒のサンプルを戦略的に作成することを必要とする。 バックドア・アンラーニング・プロセスでは,新しいトークン・ベースの非ラーニング・トレーニング・システムを提案する。
  論文  参考訳（メタデータ） (2024-09-29T02:55:38Z)
• Wicked Oddities: Selectively Poisoning for Effective Clean-Label Backdoor Attacks [11.390175856652856]
  クリーンラベル攻撃は、毒性のあるデータのラベルを変更することなく攻撃を行うことができる、よりステルスなバックドア攻撃である。 本研究は,攻撃成功率を高めるために,標的クラス内の少数の訓練サンプルを選択的に毒殺する方法について検討した。 私たちの脅威モデルは、サードパーティのデータセットで機械学習モデルをトレーニングする上で深刻な脅威となる。
  論文  参考訳（メタデータ） (2024-07-15T15:38:21Z)
• Few-shot Backdoor Attacks via Neural Tangent Kernels [31.85706783674533]
  バックドア攻撃では、攻撃者が破損した例をトレーニングセットに注入する。 これらの攻撃の中心は、攻撃の成功率と、注入された破損したトレーニング例の数との間のトレードオフである。 ニューラルネットワークカーネルを用いて、攻撃されたモデルのトレーニングダイナミクスを近似し、強力な毒のサンプルを自動的に学習する。
  論文  参考訳（メタデータ） (2022-10-12T05:30:00Z)
• An Overview of Backdoor Attacks Against Deep Neural Networks and Possible Defences [33.415612094924654]
  本研究の目的は,これまでに提案された攻撃・防衛の多種多様さを概観することである。 バックドア攻撃では、攻撃者はトレーニングデータを破損し、テスト時に誤動作を誘発する。 テストタイムエラーは、適切に作成された入力サンプルに対応するトリガーイベントの存在下でのみ起動される。
  論文  参考訳（メタデータ） (2021-11-16T13:06:31Z)
• Traceback of Data Poisoning Attacks in Neural Networks [24.571668412312196]
  深層ニューラルネットワークに対する毒物攻撃のための法医学的トレースバックツールの開発における当社の取り組みについて述べる。 学習サンプルをトリムする新たな反復的クラスタリングおよびプルーニングソリューションを提案する。 筆者らは,3種類の汚泥(バックドア)中毒と3種類のクリーンラベル中毒に対して,本システムの有効性を実証的に実証した。
  論文  参考訳（メタデータ） (2021-10-13T17:39:18Z)
• FooBaR: Fault Fooling Backdoor Attack on Neural Network Training [5.639451539396458]
  ニューラルネットワークのトレーニングフェーズ中に障害を注入することで,新たな攻撃パラダイムを探索する。 このような攻撃は、トレーニングフェーズの障害攻撃がネットワークにバックドアを注入し、攻撃者が不正な入力を生成できるようにするような、不正なバックドアと呼ばれる。
  論文  参考訳（メタデータ） (2021-09-23T09:43:19Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Learning and Certification under Instance-targeted Poisoning [49.55596073963654]
  インスタンスターゲット中毒攻撃におけるPAC学習性と認証について検討する。 敵の予算がサンプルの複雑さに比例してスケールすると、PACの学習性と認定が達成可能であることを示す。 実データセット上でのK近傍, ロジスティック回帰, 多層パーセプトロン, 畳み込みニューラルネットワークの堅牢性を実証的に検討する。
  論文  参考訳（メタデータ） (2021-05-18T17:48:15Z)
• Curse or Redemption? How Data Heterogeneity Affects the Robustness of Federated Learning [51.15273664903583]
  データの不均一性は、フェデレートラーニングにおける重要な特徴の1つとして認識されているが、しばしば敵対的攻撃に対する堅牢性のレンズで見過ごされる。 本稿では, 複合学習におけるバックドア攻撃の影響を, 総合的な実験を通じて評価し, 理解することを目的とした。
  論文  参考訳（メタデータ） (2021-02-01T06:06:21Z)
• Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching [56.280018325419896]
  Data Poisoning攻撃は、トレーニングデータを変更して、そのようなデータでトレーニングされたモデルを悪意を持って制御する。 我々は「スクラッチから」と「クリーンラベルから」の両方である特に悪意のある毒物攻撃を分析します。 フルサイズで有毒なImageNetデータセットをスクラッチからトレーニングした現代のディープネットワークにおいて、ターゲットの誤分類を引き起こすのは、これが初めてであることを示す。
  論文  参考訳（メタデータ） (2020-09-04T16:17:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。