Fugu-MT 論文翻訳(概要): Progressive Defense Against Adversarial Attacks for Deep Learning as a Service in Internet of Things

論文の概要: Progressive Defense Against Adversarial Attacks for Deep Learning as a Service in Internet of Things

arxiv url: http://arxiv.org/abs/2010.11143v1
Date: Thu, 15 Oct 2020 06:40:53 GMT
ステータス: 処理完了
システム内更新日: 2022-10-07 05:04:00.242263
Title: Progressive Defense Against Adversarial Attacks for Deep Learning as a Service in Internet of Things
Title（参考訳）: モノのインターネットとしての深層学習に対する敵対的攻撃に対する進歩的防御
Authors: Ling Wang, Cheng Zhang, Zejian Luo, Chenguang Liu, Jie Liu, Xi Zheng, and Athanasios Vasilakos
Abstract要約: 一部のディープニューラルネットワーク(DNN)は、比較的小さいが逆方向の摂動を入力に追加することで容易に誤認することができる。本稿では, 対人攻撃に対するプログレッシブ・ディフェンス(PDAAA)と呼ばれる防衛戦略を提案し, 対人画素変異を効果的かつ効果的に除去する。その結果、モデルトレーニングのコストを平均50%削減しながら、最先端技術よりも優れています。
参考スコア（独自算出の注目度）: 9.753864027359521
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Nowadays, Deep Learning as a service can be deployed in Internet of Things (IoT) to provide smart services and sensor data processing. However, recent research has revealed that some Deep Neural Networks (DNN) can be easily misled by adding relatively small but adversarial perturbations to the input (e.g., pixel mutation in input images). One challenge in defending DNN against these attacks is to efficiently identifying and filtering out the adversarial pixels. The state-of-the-art defense strategies with good robustness often require additional model training for specific attacks. To reduce the computational cost without loss of generality, we present a defense strategy called a progressive defense against adversarial attacks (PDAAA) for efficiently and effectively filtering out the adversarial pixel mutations, which could mislead the neural network towards erroneous outputs, without a-priori knowledge about the attack type. We evaluated our progressive defense strategy against various attack methods on two well-known datasets. The result shows it outperforms the state-of-the-art while reducing the cost of model training by 50% on average.
Abstract（参考訳）: 現在、Deep Learning as a ServiceはIoT(Internet of Things)にデプロイして、スマートサービスとセンサデータ処理を提供することができる。しかし、最近の研究では、入力に比較的小さいが逆の摂動を加えることで、いくつかのディープニューラルネットワーク(DNN)が容易に誤認できることが明らかになった(例えば、入力画像のピクセル突然変異)。 DNNをこれらの攻撃から守る上での課題のひとつは、敵のピクセルを効率的に識別し、フィルタリングすることである。高い堅牢性を持つ最先端の防衛戦略は、しばしば特定の攻撃に対する追加のモデル訓練を必要とする。汎用性を損なうことなく計算コストを削減し、攻撃タイプに関する予備知識を必要とせず、ニューラルネットワークを誤った出力へと導く敵のピクセル変異を効果的かつ効果的にフィルタリングするpdaaa(progressive defense against adversarial attack)と呼ばれる防御戦略を提案する。我々は、2つの既知のデータセットに対する様々な攻撃方法に対するプログレッシブ・ディフェンス戦略を評価した。その結果、モデルトレーニングのコストを平均50%削減しながら、最先端技術よりも優れています。

関連論文リスト

GenFighter: A Generative and Evolutive Textual Attack Removal [6.044610337297754]
自然言語処理(NLP)におけるTransformerモデルのような、ディープニューラルネットワーク(DNN)に対するアドリラルアタックは大きな課題となる。本稿では,訓練分類分布の学習と推論によって敵の堅牢性を高める新しい防衛戦略であるGenFighterを紹介する。我々は、GenFighterが攻撃および攻撃成功率の指標の下で、最先端の防御能力より優れていることを示す。
論文参考訳（メタデータ） (2024-04-17T16:32:13Z)
Efficient Defense Against Model Stealing Attacks on Convolutional Neural Networks [0.548924822963045]
モデル盗難攻撃は知的財産の盗難や他のセキュリティやプライバシーのリスクにつながる可能性がある。モデル盗難攻撃に対する現在の最先端の防御は、予測確率に摂動を加えることを示唆している。我々は、シンプルで効果的で効率的な防衛代替案を提案する。
論文参考訳（メタデータ） (2023-09-04T22:25:49Z)
Everything Perturbed All at Once: Enabling Differentiable Graph Attacks [61.61327182050706]
グラフニューラルネットワーク(GNN)は敵の攻撃に弱いことが示されている。本稿では,DGA(Dariable Graph Attack)と呼ばれる新しい攻撃手法を提案し,効果的な攻撃を効率的に生成する。最先端と比較して、DGAは6倍のトレーニング時間と11倍のGPUメモリフットプリントでほぼ同等の攻撃性能を達成する。
論文参考訳（メタデータ） (2023-08-29T20:14:42Z)
Learning the Unlearnable: Adversarial Augmentations Suppress Unlearnable Example Attacks [21.633448874100004]
学習不能な例攻撃は、ディープラーニングモデルをトレーニングするための許可されていない使用に対して、公開データを保護するために使用することができる。 UEraser法は、未学習の事例攻撃に対する現在の防御よりも優れる。私たちのコードはオープンソースで、ディープラーニングコミュニティで利用できます。
論文参考訳（メタデータ） (2023-03-27T12:00:54Z)
SPIN: Simulated Poisoning and Inversion Network for Federated Learning-Based 6G Vehicular Networks [9.494669823390648]
車両ネットワークは常にデータプライバシー保護の懸念に直面してきた。この手法は、モデル逆転とモデル中毒攻撃に対して非常に脆弱である。本研究では,データ再構成に最適化手法を応用したシミュレート中毒・逆変換ネットワーク(SPIN)を提案する。
論文参考訳（メタデータ） (2022-11-21T10:07:13Z)
Projective Ranking-based GNN Evasion Attacks [52.85890533994233]
グラフニューラルネットワーク(GNN)は、グラフ関連のタスクに対して、有望な学習方法を提供する。 GNNは敵の攻撃の危険にさらされている。
論文参考訳（メタデータ） (2022-02-25T21:52:09Z)
The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文参考訳（メタデータ） (2021-06-26T10:50:07Z)
BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by Adversarial Attacks [65.2021953284622]
CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
論文参考訳（メタデータ） (2021-03-14T20:43:19Z)
Online Alternate Generator against Adversarial Attacks [144.45529828523408]
ディープラーニングモデルは、実際の画像に準知覚可能なノイズを加えることによって合成される敵の例に非常に敏感である。対象ネットワークのパラメータをアクセスしたり変更したりする必要のない,ポータブルな防御手法であるオンライン代替ジェネレータを提案する。提案手法は,入力画像のスクラッチから別の画像をオンライン合成することで,対向雑音を除去・破壊する代わりに機能する。
論文参考訳（メタデータ） (2020-09-17T07:11:16Z)
Evaluating a Simple Retraining Strategy as a Defense Against Adversarial Attacks [17.709146615433458]
我々は、KNNのような単純なアルゴリズムが、再トレーニングに必要な逆画像のラベルを決定するためにどのように使用できるかを示す。 CIFAR-10とTinyImageNetという2つの標準データセットで結果を示す。
論文参考訳（メタデータ） (2020-07-20T07:49:33Z)
A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。本稿では,入力空間における自己教師型対向学習機構を提案する。これは、反逆攻撃に対する強力な堅牢性を提供する。
論文参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。