論文の概要: Hardly Perceptible Trojan Attack against Neural Networks with Bit Flips

• arxiv url: http://arxiv.org/abs/2207.13417v1
• Date: Wed, 27 Jul 2022 09:56:17 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-28 13:35:10.772098
• Title: Hardly Perceptible Trojan Attack against Neural Networks with Bit Flips
• Title（参考訳）: ビットフリップによるニューラルネットワークに対するトロイの木馬攻撃
• Authors: Jiawang Bai, Kuofeng Gao, Dihong Gong, Shu-Tao Xia, Zhifeng Li, and Wei Liu
• Abstract要約: ほとんど知覚できないトロイア攻撃(HPT)を呈する。 HPTは、加算ノイズと画素あたりのフロー場を利用して、知覚しにくいトロイの木像を作成する。 より優れた攻撃性能を達成するために,ビットフリップ,付加雑音,流れ場を協調的に最適化することを提案する。
• 参考スコア（独自算出の注目度）: 51.17948837118876
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The security of deep neural networks (DNNs) has attracted increasing attention due to their widespread use in various applications. Recently, the deployed DNNs have been demonstrated to be vulnerable to Trojan attacks, which manipulate model parameters with bit flips to inject a hidden behavior and activate it by a specific trigger pattern. However, all existing Trojan attacks adopt noticeable patch-based triggers (e.g., a square pattern), making them perceptible to humans and easy to be spotted by machines. In this paper, we present a novel attack, namely hardly perceptible Trojan attack (HPT). HPT crafts hardly perceptible Trojan images by utilizing the additive noise and per pixel flow field to tweak the pixel values and positions of the original images, respectively. To achieve superior attack performance, we propose to jointly optimize bit flips, additive noise, and flow field. Since the weight bits of the DNNs are binary, this problem is very hard to be solved. We handle the binary constraint with equivalent replacement and provide an effective optimization algorithm. Extensive experiments on CIFAR-10, SVHN, and ImageNet datasets show that the proposed HPT can generate hardly perceptible Trojan images, while achieving comparable or better attack performance compared to the state-of-the-art methods. The code is available at: https://github.com/jiawangbai/HPT.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)のセキュリティは、さまざまなアプリケーションで広く使用されているため、注目を集めている。 最近、デプロイされたDNNはトロイの木馬攻撃に弱いことが実証された。これはモデルパラメータをビットフリップで操作し、隠れた振る舞いを注入し、特定のトリガーパターンでそれを活性化する。 しかし、既存のトロイの木馬攻撃はすべて、パッチベースのトリガー(四角いパターンなど)を採用しており、人間に知覚しやすく、機械によって容易に検出できる。 本稿では,新しい攻撃,すなわち知覚不可能なトロイア攻撃(HPT)を提案する。 HPTは、原画像の画素値と位置をそれぞれ微調整するために、加算ノイズと画素あたりの流れ場を利用して、知覚しにくいトロイの木像を作成する。 攻撃性能を向上させるために,ビットフリップ,付加雑音,流れ場を共同で最適化する手法を提案する。 DNNの重みビットはバイナリであるため、この問題の解決は非常に困難である。 等価な置換でバイナリ制約を処理し、効率的な最適化アルゴリズムを提供する。 CIFAR-10、SVHN、ImageNetデータセットの大規模な実験により、提案したHPTは、最先端の手法と比較して、同等または優れた攻撃性能を達成しつつ、知覚し難いトロイの木像を生成できることが示されている。 コードは、https://github.com/jiawangbai/HPT.comで入手できる。

関連論文リスト

• BppAttack: Stealthy and Efficient Trojan Attacks against Deep Neural Networks via Image Quantization and Contrastive Adversarial Learning [13.959966918979395]
  ディープニューラルネットワークはトロイの木馬攻撃に弱い。 既存の攻撃では目に見えるパターンをトリガーとして使用しており、人間の検査に弱い。 我々はステルス的で効率的なトロイア攻撃BppAttackを提案する。
  論文  参考訳（メタデータ） (2022-05-26T14:15:19Z)
• Quarantine: Sparsity Can Uncover the Trojan Attack Trigger for Free [126.15842954405929]
  トロイの木馬攻撃はディープニューラルネットワーク(DNN)を脅かし、ほとんどのサンプルで正常に動作させるが、トリガーを付けた入力に対して操作された結果を生成する。 そこで我々は,まず,クリーンな入力において,ほぼ完全なトロイの木馬の情報のみを保存し,かつ,すでに孤立しているサブネットワークに埋め込まれたトリガを復元する,新しいトロイの木馬ネットワーク検出方式を提案する。
  論文  参考訳（メタデータ） (2022-05-24T06:33:31Z)
• CatchBackdoor: Backdoor Detection via Critical Trojan Neural Path Fuzzing [16.44147178061005]
  様々なトロイの木馬攻撃によって引き起こされる トロイの木馬の行動は トロイの木馬の道のせいだ トロイの木馬攻撃に対する検出手法であるCatchBackdoorを提案する。
  論文  参考訳（メタデータ） (2021-12-24T13:57:03Z)
• Semantic Host-free Trojan Attack [54.25471812198403]
  本稿では,意味空間に固定されているが,必ずしも画素空間に固定されていないトリガーを用いた新規なホストフリートロイア攻撃を提案する。 クリーンな入力イメージをホストとして使用して小さな無意味なトリガーパターンを担っている既存のトロイの木馬攻撃とは対照的に、我々の攻撃はトリガーを意味論的に意味のあるオブジェクトクラスに属するフルサイズのイメージとみなす。
  論文  参考訳（メタデータ） (2021-10-26T05:01:22Z)
• Deep Feature Space Trojan Attack of Neural Networks by Controlled Detoxification [21.631699720855995]
  トロイの木馬攻撃(Trojan attack)は、ディープニューラルネットワークに対する敵攻撃の一種である。 5つの特徴を持つ新しい深部特徴空間トロイの木馬攻撃を提案する。
  論文  参考訳（メタデータ） (2020-12-21T09:46:12Z)
• Practical Detection of Trojan Neural Networks: Data-Limited and Data-Free Cases [87.69818690239627]
  本稿では,データスカース方式におけるトロイの木馬ネットワーク(トロイの木馬網)検出の問題点について検討する。 本稿では,データ限定型TrojanNet検出器(TND)を提案する。 さらに,データサンプルにアクセスせずにTrojanNetを検出できるデータフリーTNDを提案する。
  論文  参考訳（メタデータ） (2020-07-31T02:00:38Z)
• Patch-wise Attack for Fooling Deep Neural Network [153.59832333877543]
  我々は,一般的な訓練と防御モデルに対するブラックボックス攻撃であるパッチワイド反復アルゴリズムを提案する。 我々は、防衛モデルで9.2%、通常訓練されたモデルで3.7%、成功率で著しく改善した。
  論文  参考訳（メタデータ） (2020-07-14T01:50:22Z)
• ConFoc: Content-Focus Protection Against Trojan Attacks on Neural Networks [0.0]
  トロイの木馬攻撃は、推測やテストの時間に悪用されるマークまたはトリガーのサンプルを使用して、トレーニング時にいくつかの誤った振る舞いを挿入する。 本稿では、DNNが入力のスタイルを無視してコンテンツに集中するように教えられるトロイの木馬攻撃に対する防御手法を提案する。 その結果,本手法は全攻撃における攻撃成功率を1%に低下させることがわかった。
  論文  参考訳（メタデータ） (2020-07-01T19:25:34Z)
• An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks [59.42357806777537]
  トロイの木馬攻撃は、ハッカーが挿入した隠れトリガーパターンに依存する、デプロイされたディープニューラルネットワーク(DNN)を攻撃することを目的としている。 そこで本研究では,有毒データセットの再学習モデルによりトロイの木馬の挙動を注入する,従来と異なる学習自由攻撃手法を提案する。 提案したTrojanNetには,(1)小さなトリガパターンによって起動し,他の信号に対してサイレントを維持する,(2)モデルに依存しない,ほとんどのDNNに注入可能な,(3)攻撃シナリオを劇的に拡張する,(3)訓練不要のメカニズムは従来のトロイの木馬攻撃方法と比較して大規模なトレーニング作業の削減など,いくつかの優れた特性がある。
  論文  参考訳（メタデータ） (2020-06-15T04:58:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。