論文の概要: Hard Work Does Not Always Pay Off: Poisoning Attacks on Neural Architecture Search

• arxiv url: http://arxiv.org/abs/2405.06073v1
• Date: Thu, 9 May 2024 19:55:07 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-13 17:26:24.673457
• Title: Hard Work Does Not Always Pay Off: Poisoning Attacks on Neural Architecture Search
• Title（参考訳）: ハードワークは必ずしも役に立たない:ニューラル・アーキテクチャー・サーチの攻撃を狙う
• Authors: Zachary Coalson, Huazheng Wang, Qingyun Wu, Sanghyun Hong,
• Abstract要約: アーキテクチャ検索に使用するトレーニングデータに,データ中毒攻撃を注入する。 まず, 被害を誘発し, 準最適建築を創出する有害なサンプルを作成するための攻撃目標を定義した。 攻撃者が使用可能な手法として, 被毒試料の製作コストを大幅に削減する手法を提案する。
• 参考スコア（独自算出の注目度）: 20.258148613490132
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we study the robustness of "data-centric" approaches to finding neural network architectures (known as neural architecture search) to data distribution shifts. To audit this robustness, we present a data poisoning attack, when injected to the training data used for architecture search that can prevent the victim algorithm from finding an architecture with optimal accuracy. We first define the attack objective for crafting poisoning samples that can induce the victim to generate sub-optimal architectures. To this end, we weaponize existing search algorithms to generate adversarial architectures that serve as our objectives. We also present techniques that the attacker can use to significantly reduce the computational costs of crafting poisoning samples. In an extensive evaluation of our poisoning attack on a representative architecture search algorithm, we show its surprising robustness. Because our attack employs clean-label poisoning, we also evaluate its robustness against label noise. We find that random label-flipping is more effective in generating sub-optimal architectures than our clean-label attack. Our results suggests that care must be taken for the data this emerging approach uses, and future work is needed to develop robust algorithms.
• Abstract（参考訳）: 本稿では、ニューラルネットワークアーキテクチャ(ニューラルアーキテクチャサーチとして知られる)のデータの分散シフトに対する「データ中心」アプローチのロバスト性について検討する。 このロバスト性を評価するために,アーキテクチャ探索に使用されるトレーニングデータにデータ中毒攻撃を注入することにより,被害者のアルゴリズムが最適な精度でアーキテクチャを見つけるのを防ぐことができる。 まず, 被害を誘発し, 準最適建築を創出する有害なサンプルを作成するための攻撃目標を定義した。 この目的のために,既存の検索アルゴリズムを武器にして,我々の目的となる敵アーキテクチャを生成する。 また,攻撃者が有毒な試料を製作する際の計算コストを大幅に削減する手法を提案する。 代表的なアーキテクチャ探索アルゴリズムに対する中毒攻撃の広範囲な評価において,その驚くべき堅牢性を示す。 この攻撃はクリーンラベル中毒が原因で,ラベルノイズに対する堅牢性も評価した。 ランダムなラベルフリップは、クリーンラベル攻撃よりも、準最適アーキテクチャを生成するのに効果的であることがわかった。 我々の結果は、この新興アプローチが使用するデータには注意が必要であることを示唆しており、堅牢なアルゴリズムを開発するには今後の作業が必要であることを示唆している。

関連論文リスト

• Have You Poisoned My Data? Defending Neural Networks against Data Poisoning [0.393259574660092]
  本稿では,トランスファー学習環境における有毒なデータポイントの検出とフィルタリングを行う新しい手法を提案する。 有効毒は, 特徴ベクトル空間の清浄点とよく区別できることを示す。 提案手法は, 防衛率と最終訓練モデルの性能において, 既存の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-03-20T11:50:16Z)
• A Discrepancy Aware Framework for Robust Anomaly Detection [51.710249807397695]
  本稿では,DAF(Disdisrepancy Aware Framework)を提案する。 本手法は,デコーダの欠陥同定に外見に依存しないキューを利用して,その合成外観への依存を緩和する。 単純な合成戦略の下では,既存の手法を大きなマージンで上回り,また,最先端のローカライゼーション性能も達成している。
  論文  参考訳（メタデータ） (2023-10-11T15:21:40Z)
• Neural Architecture Design and Robustness: A Dataset [11.83842808044211]
  ニューラルアーキテクチャ設計とロバストネス評価に関するデータベースを導入する。 我々は、これらのネットワークを、様々な共通の敵攻撃や汚職タイプで評価する。 ネットワークのトポロジを慎重に構築することは、その堅牢性に大きな影響を与える可能性がある。
  論文  参考訳（メタデータ） (2023-06-11T16:02:14Z)
• Differentiable Search of Accurate and Robust Architectures [22.435774101990752]
  敵の訓練は 単純さと有効性から 注目を集めています ディープニューラルネットワーク(DNN)は敵の攻撃に対して脆弱である。 本稿では,敵の訓練後に正確で堅牢なニューラルネットワークを自動検索するDSARAを提案する。
  論文  参考訳（メタデータ） (2022-12-28T08:36:36Z)
• Autoregressive Perturbations for Data Poisoning [54.205200221427994]
  ソーシャルメディアからのデータスクレイピングは、不正なデータの使用に関する懸念が高まっている。 データ中毒攻撃は、スクラップ対策として提案されている。 より広範なデータセットにアクセスせずに有毒なデータを生成できる自動回帰(AR)中毒を導入する。
  論文  参考訳（メタデータ） (2022-06-08T06:24:51Z)
• Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
  本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。 シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-25T19:57:19Z)
• Searching for Robust Neural Architectures via Comprehensive and Reliable Evaluation [6.612134996737988]
  本稿では,ニューラルアーキテクチャの探索手法を応用した,AAD(Auto Adversarial Attack and Defense)と呼ばれる新しいフレームワークを提案する。 本研究では, 対向雑音, 自然騒音, システム騒音, 定量化指標の4種類のロバスト性評価について検討する。 CIFAR10データセットの実証結果は、探索された効率的な攻撃がより堅牢なアーキテクチャを見つけるのに役立つことを示している。
  論文  参考訳（メタデータ） (2022-03-07T04:45:05Z)
• Meta Adversarial Perturbations [66.43754467275967]
  メタ逆境摂動(MAP)の存在を示す。 MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。 これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
  論文  参考訳（メタデータ） (2021-11-19T16:01:45Z)
• Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
  畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。 本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。 最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
  論文  参考訳（メタデータ） (2021-08-16T03:58:00Z)
• DSRNA: Differentiable Search of Robust Neural Architectures [11.232234265070753]
  ディープラーニングアプリケーションでは、ディープニューラルネットワークのアーキテクチャは高い精度を達成するために不可欠である。 堅牢なニューラルアーキテクチャの微分可能な探索方法を提案する。 我々の手法は、複数のNASベースラインよりも、様々なノルムバウンド攻撃に対して堅牢である。
  論文  参考訳（メタデータ） (2020-12-11T04:52:54Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。