Fugu-MT 論文翻訳(概要): Dormant Neural Trojans

論文の概要: Dormant Neural Trojans

arxiv url: http://arxiv.org/abs/2211.01808v1
Date: Wed, 2 Nov 2022 16:06:46 GMT
ステータス: 処理完了
システム内更新日: 2022-11-04 14:30:56.199331
Title: Dormant Neural Trojans
Title（参考訳）: 休眠型ニューラルトロイの木馬
Authors: Feisi Fu, Panagiota Kiourti, Wenchao Li
Abstract要約: 本稿では,ニューラルネットワークのバックドア攻撃に対する新しい手法を提案する。トロイの木馬ネットワークが訓練後にトロイの木馬のトリガーに応答する既存の訓練時間攻撃とは異なり、我々のアプローチではトロイの木馬が活性化するまで休眠状態のままである。
参考スコア（独自算出の注目度）: 6.8722427980580445
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We present a novel methodology for neural network backdoor attacks. Unlike existing training-time attacks where the Trojaned network would respond to the Trojan trigger after training, our approach inserts a Trojan that will remain dormant until it is activated. The activation is realized through a specific perturbation to the network's weight parameters only known to the attacker. Our analysis and the experimental results demonstrate that dormant Trojaned networks can effectively evade detection by state-of-the-art backdoor detection methods.
Abstract（参考訳）: 本稿では,ニューラルネットワークバックドア攻撃の新しい手法を提案する。トロイの木馬ネットワークが訓練後にトロイの木馬のトリガーに応答する既存の訓練時間攻撃とは異なり、我々のアプローチではトロイの木馬が活性化するまで休眠状態のままである。アクティベーションは、攻撃者にのみ知られるネットワークの重みパラメータに対する特定の摂動によって実現される。本解析と実験の結果から,休眠トロイの木馬ネットワークは最先端のバックドア検出手法により効果的に検出を回避できることがわかった。

関連論文リスト

Trojan Cleansing with Neural Collapse [18.160116254921608]
トロイの木馬攻撃は、バックドアトリガーを埋め込んだニューラルネットワークに対する高度な訓練時間攻撃である。トロイの木馬攻撃が様々なデータセットやアーキテクチャのこの収束を阻害する実験的な証拠を提供する。次に、この破壊を利用して、トロイの木馬攻撃を浄化するための軽量で広く一般化可能なメカニズムを設計する。
論文参考訳（メタデータ） (2024-11-19T22:57:40Z)
FreeEagle: Detecting Complex Neural Trojans in Data-Free Cases [50.065022493142116]
バックドア攻撃とも呼ばれるディープニューラルネットワークに対するトロイの木馬攻撃は、人工知能に対する典型的な脅威である。 FreeEagleは、複雑なバックドア攻撃を効果的に検出できる最初のデータフリーバックドア検出方法である。
論文参考訳（メタデータ） (2023-02-28T11:31:29Z)
Quarantine: Sparsity Can Uncover the Trojan Attack Trigger for Free [126.15842954405929]
トロイの木馬攻撃はディープニューラルネットワーク(DNN)を脅かし、ほとんどのサンプルで正常に動作させるが、トリガーを付けた入力に対して操作された結果を生成する。そこで我々は,まず,クリーンな入力において,ほぼ完全なトロイの木馬の情報のみを保存し,かつ,すでに孤立しているサブネットワークに埋め込まれたトリガを復元する,新しいトロイの木馬ネットワーク検出方式を提案する。
論文参考訳（メタデータ） (2022-05-24T06:33:31Z)
CatchBackdoor: Backdoor Detection via Critical Trojan Neural Path Fuzzing [16.44147178061005]
様々なトロイの木馬攻撃によって引き起こされるトロイの木馬の行動はトロイの木馬の道のせいだトロイの木馬攻撃に対する検出手法であるCatchBackdoorを提案する。
論文参考訳（メタデータ） (2021-12-24T13:57:03Z)
A Synergetic Attack against Neural Network Classifiers combining Backdoor and Adversarial Examples [11.534521802321976]
AdvTrojanと呼ばれる新たなステルス攻撃を実際に開始するために、敵の摂動と毒殺の脆弱性を共同で活用する方法を示します。 AdvTrojan は、(1) 慎重に製作された逆方向の摂動を推論中に入力例に注入し、2) モデルの訓練過程中にトロイの木戸を埋め込んだ場合にのみ起動できるため、ステルス性が高い。
論文参考訳（メタデータ） (2021-09-03T02:18:57Z)
CLEANN: Accelerated Trojan Shield for Embedded Neural Networks [32.99727805086791]
組込みディープニューラルネットワーク(DNN)アプリケーションに対するトロイの木馬のオンライン緩和を可能にする,最初のエンドツーエンドフレームワークであるCLEANNを提案する。トロイの木馬攻撃は、訓練中にDNNにバックドアを注入することで動作し、推論中は特定のバックドアトリガーによってトロイの木馬が活性化される。辞書学習とスパース近似を利用して、良性データの統計的挙動を特徴づけ、トロイの木馬のトリガーを同定する。
論文参考訳（メタデータ） (2020-09-04T05:29:38Z)
Practical Detection of Trojan Neural Networks: Data-Limited and Data-Free Cases [87.69818690239627]
本稿では,データスカース方式におけるトロイの木馬ネットワーク(トロイの木馬網)検出の問題点について検討する。本稿では,データ限定型TrojanNet検出器(TND)を提案する。さらに,データサンプルにアクセスせずにTrojanNetを検出できるデータフリーTNDを提案する。
論文参考訳（メタデータ） (2020-07-31T02:00:38Z)
Cassandra: Detecting Trojaned Networks from Adversarial Perturbations [92.43879594465422]
多くの場合、事前トレーニングされたモデルは、トロイの木馬の振る舞いをモデルに挿入するためにトレーニングパイプラインを中断したかもしれないベンダーから派生している。本稿では,事前学習したモデルがトロイの木馬か良馬かを検証する手法を提案する。本手法は,ニューラルネットワークの指紋を,ネットワーク勾配から学習した逆方向の摂動の形でキャプチャする。
論文参考訳（メタデータ） (2020-07-28T19:00:40Z)
An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks [59.42357806777537]
トロイの木馬攻撃は、ハッカーが挿入した隠れトリガーパターンに依存する、デプロイされたディープニューラルネットワーク(DNN)を攻撃することを目的としている。そこで本研究では,有毒データセットの再学習モデルによりトロイの木馬の挙動を注入する,従来と異なる学習自由攻撃手法を提案する。提案したTrojanNetには,(1)小さなトリガパターンによって起動し,他の信号に対してサイレントを維持する,(2)モデルに依存しない,ほとんどのDNNに注入可能な,(3)攻撃シナリオを劇的に拡張する,(3)訓練不要のメカニズムは従来のトロイの木馬攻撃方法と比較して大規模なトレーニング作業の削減など,いくつかの優れた特性がある。
論文参考訳（メタデータ） (2020-06-15T04:58:28Z)
Scalable Backdoor Detection in Neural Networks [61.39635364047679]
ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
論文参考訳（メタデータ） (2020-06-10T04:12:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。