論文の概要: FDA3 : Federated Defense Against Adversarial Attacks for Cloud-Based
IIoT Applications
- arxiv url: http://arxiv.org/abs/2006.15632v1
- Date: Sun, 28 Jun 2020 15:17:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-16 02:25:07.600367
- Title: FDA3 : Federated Defense Against Adversarial Attacks for Cloud-Based
IIoT Applications
- Title(参考訳): FDA3 : クラウドベースのIoTアプリケーションに対する敵攻撃に対する連邦防衛
- Authors: Yunfei Song, Tian Liu, Tongquan Wei, Xiangfeng Wang, Zhe Tao, Mingsong
Chen
- Abstract要約: 産業用IoT(IIoT)アプリケーションで使用されるDNN(Deep Neural Networks)を騙すための敵攻撃が増えている。
FDA3は, 異なる情報源からの敵例に対する防衛知識を集約し, 効果的に連携した防衛手法を提案する。
提案したクラウドベースのアーキテクチャにより,IIoTデバイス間の異なる攻撃に対する防御能力の共有が可能になる。
- 参考スコア(独自算出の注目度): 11.178342219720298
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Along with the proliferation of Artificial Intelligence (AI) and Internet of
Things (IoT) techniques, various kinds of adversarial attacks are increasingly
emerging to fool Deep Neural Networks (DNNs) used by Industrial IoT (IIoT)
applications. Due to biased training data or vulnerable underlying models,
imperceptible modifications on inputs made by adversarial attacks may result in
devastating consequences. Although existing methods are promising in defending
such malicious attacks, most of them can only deal with limited existing attack
types, which makes the deployment of large-scale IIoT devices a great
challenge. To address this problem, we present an effective federated defense
approach named FDA3 that can aggregate defense knowledge against adversarial
examples from different sources. Inspired by federated learning, our proposed
cloud-based architecture enables the sharing of defense capabilities against
different attacks among IIoT devices. Comprehensive experimental results show
that the generated DNNs by our approach can not only resist more malicious
attacks than existing attack-specific adversarial training methods, but also
can prevent IIoT applications from new attacks.
- Abstract(参考訳): 人工知能(AI)とIoT(Internet of Things)技術の普及とともに、産業用IoT(IIoT)アプリケーションで使用されるディープニューラルネットワーク(DNN)を騙すために、さまざまな種類の敵攻撃が増えている。
バイアスのあるトレーニングデータや脆弱な基盤モデルにより、敵の攻撃による入力に対する知覚できない変更は破壊的な結果をもたらす可能性がある。
既存のメソッドはこのような悪意のある攻撃を防御する上で有望だが、その多くは既存の攻撃タイプに限られており、大規模なIIoTデバイスのデプロイが大きな課題となっている。
この問題に対処するため, FDA3 という効果的な防衛手法を提案し, 異なる情報源からの敵例に対する防衛知識を集約する。
フェデレーション学習に触発されて,提案するクラウドベースのアーキテクチャは,iotデバイス間のさまざまな攻撃に対する防御機能を共有可能にする。
総合的な実験結果から,本手法により生成されたDNNは,既存の攻撃固有の攻撃訓練方法よりも悪意のある攻撃に抵抗できるだけでなく,IIoTアプリケーションによる新たな攻撃を防ぐことができることがわかった。
関連論文リスト
- BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive
Learning [85.2564206440109]
本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。
バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
論文 参考訳(メタデータ) (2023-11-20T02:21:49Z) - Untargeted White-box Adversarial Attack with Heuristic Defence Methods
in Real-time Deep Learning based Network Intrusion Detection System [0.0]
Adversarial Machine Learning (AML)では、悪意のあるアクターが機械学習(ML)とディープラーニング(DL)モデルを騙して、誤った予測を生成する。
AMLは新たな研究領域であり、敵の攻撃の詳細な研究に欠かせないものとなっている。
我々は,FGSM(Fast Gradient Sign Method),JSMA(Jacobian Saliency Map Attack),PGD(Projected Gradient Descent),Cerini & Wagner(C&W)の4つの強力な攻撃手法を実装した。
論文 参考訳(メタデータ) (2023-10-05T06:32:56Z) - Adversarial Evasion Attacks Practicality in Networks: Testing the Impact
of Dynamic Learning [4.822598110892847]
敵攻撃は、MLモデルを騙して欠陥予測を生成することを目的としている。
連続的な再訓練は、敵の訓練なしでも、敵の攻撃の効果を減らすことができる。
我々の目標は、この領域における研究と現実の実践の間に大きなギャップがあることを強調することです。
論文 参考訳(メタデータ) (2023-06-08T18:32:08Z) - Avoid Adversarial Adaption in Federated Learning by Multi-Metric
Investigations [55.2480439325792]
Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。
FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。
我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。
MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
論文 参考訳(メタデータ) (2023-06-06T11:44:42Z) - Physical Adversarial Attacks on Deep Neural Networks for Traffic Sign
Recognition: A Feasibility Study [0.0]
物理的環境に適用され,異なる環境条件下でのシステムを騙すことができる摂動を生成するために,異なるブラックボックス攻撃法を適用した。
本研究は, 異なる手法を用いて, 信頼性の高い物理的敵対攻撃を行うことができ, 結果として生じる摂動の認知度を低減できることを示す。
論文 参考訳(メタデータ) (2023-02-27T08:10:58Z) - Downlink Power Allocation in Massive MIMO via Deep Learning: Adversarial
Attacks and Training [62.77129284830945]
本稿では,無線環境における回帰問題を考察し,敵攻撃がDLベースのアプローチを損なう可能性があることを示す。
また,攻撃に対するDLベースの無線システムの堅牢性が著しく向上することを示す。
論文 参考訳(メタデータ) (2022-06-14T04:55:11Z) - The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。
敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文 参考訳(メタデータ) (2021-06-26T10:50:07Z) - Progressive Defense Against Adversarial Attacks for Deep Learning as a
Service in Internet of Things [9.753864027359521]
一部のディープニューラルネットワーク(DNN)は、比較的小さいが逆方向の摂動を入力に追加することで容易に誤認することができる。
本稿では, 対人攻撃に対するプログレッシブ・ディフェンス(PDAAA)と呼ばれる防衛戦略を提案し, 対人画素変異を効果的かつ効果的に除去する。
その結果、モデルトレーニングのコストを平均50%削減しながら、最先端技術よりも優れています。
論文 参考訳(メタデータ) (2020-10-15T06:40:53Z) - A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。
本稿では,入力空間における自己教師型対向学習機構を提案する。
これは、反逆攻撃に対する強力な堅牢性を提供する。
論文 参考訳(メタデータ) (2020-06-08T20:42:39Z) - Mitigating Advanced Adversarial Attacks with More Advanced Gradient
Obfuscation Techniques [13.972753012322126]
Deep Neural Networks (DNN) は、Adversarial Examples (AEs) に弱いことがよく知られている。
近年,高度勾配に基づく攻撃手法が提案されている。
本稿では、これらの高度な勾配に基づく攻撃を緩和するための着実に一歩を踏み出す。
論文 参考訳(メタデータ) (2020-05-27T23:42:25Z) - Challenges and Countermeasures for Adversarial Attacks on Deep
Reinforcement Learning [48.49658986576776]
深層強化学習(Dep Reinforcement Learning, DRL)は、周囲の環境に適応する優れた能力のおかげで、現実世界に多くの応用がある。
その大きな利点にもかかわらず、DRLは現実のクリティカルシステムやアプリケーションでの使用を妨げている敵攻撃の影響を受けやすい。
本稿では,DRLベースのシステムにおける新たな攻撃と,これらの攻撃を防御するための潜在的対策について述べる。
論文 参考訳(メタデータ) (2020-01-27T10:53:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。