論文の概要: Amplification trojan network: Attack deep neural networks by amplifying their inherent weakness

• arxiv url: http://arxiv.org/abs/2305.17688v1
• Date: Sun, 28 May 2023 10:53:22 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-30 17:15:17.325256
• Title: Amplification trojan network: Attack deep neural networks by amplifying their inherent weakness
• Title（参考訳）: amplification trojan network: 固有の弱さを増幅してディープニューラルネットワークを攻撃する
• Authors: Zhanhao Hu, Jun Zhu, Bo Zhang, Xiaolin Hu
• Abstract要約: 近年の研究では、ディープニューラルネットワーク(DNN)が敵の例によって騙される可能性があることが判明している。 本研究では,特定の状況下ではノイズが非常に小さい場合には,DNNを騙すことができることを示す。
• 参考スコア（独自算出の注目度）: 39.45205542036548
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent works found that deep neural networks (DNNs) can be fooled by adversarial examples, which are crafted by adding adversarial noise on clean inputs. The accuracy of DNNs on adversarial examples will decrease as the magnitude of the adversarial noise increase. In this study, we show that DNNs can be also fooled when the noise is very small under certain circumstances. This new type of attack is called Amplification Trojan Attack (ATAttack). Specifically, we use a trojan network to transform the inputs before sending them to the target DNN. This trojan network serves as an amplifier to amplify the inherent weakness of the target DNN. The target DNN, which is infected by the trojan network, performs normally on clean data while being more vulnerable to adversarial examples. Since it only transforms the inputs, the trojan network can hide in DNN-based pipelines, e.g. by infecting the pre-processing procedure of the inputs before sending them to the DNNs. This new type of threat should be considered in developing safe DNNs.
• Abstract（参考訳）: 最近の研究で、ディープニューラルネットワーク(DNN)は、クリーンな入力に敵のノイズを加えることで、敵の例によって騙される可能性があることが判明した。 実例におけるdnnの精度は, 逆雑音の大きさが大きくなるにつれて低下する。 本研究では,特定の状況下でノイズが小さい場合には,DNNも騙すことができることを示す。 この新しい攻撃はアンプリフィケーション・トロイジャン・アタック(Amplification Trojan Attack,ATAttack)と呼ばれる。 具体的には、ターゲットDNNに送信する前に、トロイの木馬ネットワークを用いて入力を変換する。 このトロイの木馬ネットワークは、ターゲットDNN固有の弱点を増幅する増幅器として機能する。 トロイの木馬ネットワークに感染した標的DNNは、通常、クリーンデータ上で動作し、敵の例に対して脆弱である。 入力だけを変換するので、トロイの木馬ネットワークはDNNベースのパイプラインに隠れることができる。 この新しいタイプの脅威は、安全なDNNを開発する際に考慮すべきである。

関連論文リスト

• A Survey of Trojan Attacks and Defenses to Deep Neural Networks [3.9444202574850755]
  ディープニューラルネットワーク(DNN)は、安全クリティカルな人工知能システムに広範囲に応用されている。 最近の研究では、敵から悪意ある注射を受けたニューラルネットワークトロイの木馬(NNトロイの木馬)への感受性が明らかにされている。
  論文  参考訳（メタデータ） (2024-08-15T04:20:32Z)
• Quarantine: Sparsity Can Uncover the Trojan Attack Trigger for Free [126.15842954405929]
  トロイの木馬攻撃はディープニューラルネットワーク(DNN)を脅かし、ほとんどのサンプルで正常に動作させるが、トリガーを付けた入力に対して操作された結果を生成する。 そこで我々は,まず,クリーンな入力において,ほぼ完全なトロイの木馬の情報のみを保存し,かつ,すでに孤立しているサブネットワークに埋め込まれたトリガを復元する,新しいトロイの木馬ネットワーク検出方式を提案する。
  論文  参考訳（メタデータ） (2022-05-24T06:33:31Z)
• Noise-Response Analysis of Deep Neural Networks Quantifies Robustness and Fingerprints Structural Malware [48.7072217216104]
  ディープ・ニューラル・ネットワーク(DNN)は構造的マルウェア(すなわち、重みと活性化経路)を持つ バックドアの検出は一般的に困難であり、既存の検出手法は計算に高価であり、膨大なリソースを必要とする(トレーニングデータへのアクセスなど)。 そこで本研究では,DNNの堅牢性,指紋の非線形性を定量化し,バックドアの検出を可能にする,高速な特徴生成手法を提案する。 実験の結果,既存の手法(秒対秒)よりも高い信頼度でバックドアを正確に検出できることが判明した。
  論文  参考訳（メタデータ） (2020-07-31T23:52:58Z)
• Practical Detection of Trojan Neural Networks: Data-Limited and Data-Free Cases [87.69818690239627]
  本稿では,データスカース方式におけるトロイの木馬ネットワーク(トロイの木馬網)検出の問題点について検討する。 本稿では,データ限定型TrojanNet検出器(TND)を提案する。 さらに,データサンプルにアクセスせずにTrojanNetを検出できるデータフリーTNDを提案する。
  論文  参考訳（メタデータ） (2020-07-31T02:00:38Z)
• An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks [59.42357806777537]
  トロイの木馬攻撃は、ハッカーが挿入した隠れトリガーパターンに依存する、デプロイされたディープニューラルネットワーク(DNN)を攻撃することを目的としている。 そこで本研究では,有毒データセットの再学習モデルによりトロイの木馬の挙動を注入する,従来と異なる学習自由攻撃手法を提案する。 提案したTrojanNetには,(1)小さなトリガパターンによって起動し,他の信号に対してサイレントを維持する,(2)モデルに依存しない,ほとんどのDNNに注入可能な,(3)攻撃シナリオを劇的に拡張する,(3)訓練不要のメカニズムは従来のトロイの木馬攻撃方法と比較して大規模なトレーニング作業の削減など,いくつかの優れた特性がある。
  論文  参考訳（メタデータ） (2020-06-15T04:58:28Z)
• Defending against Backdoor Attack on Deep Neural Networks [98.45955746226106]
  トレーニングデータの一部にバックドアトリガーを注入する、いわゆるテキストバックドア攻撃について検討する。 実験の結果,本手法は攻撃成功率を効果的に低減し,クリーン画像の分類精度も高いことがわかった。
  論文  参考訳（メタデータ） (2020-02-26T02:03:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。