論文の概要: Advancing Security in AI Systems: A Novel Approach to Detecting Backdoors in Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2403.08208v1
• Date: Wed, 13 Mar 2024 03:10:11 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-14 15:49:58.046974
• Title: Advancing Security in AI Systems: A Novel Approach to Detecting Backdoors in Deep Neural Networks
• Title（参考訳）: AIシステムにおけるセキュリティ向上 - 検出の新しいアプローチ ディープニューラルネットワークのバックドア
• Authors: Khondoker Murad Hossain, Tim Oates
• Abstract要約: バックドアは、ディープニューラルネットワーク(DNN)上の悪意あるアクターと、データ処理のためのクラウドサービスによって悪用される。 提案手法は高度テンソル分解アルゴリズムを利用して,事前学習したDNNの重みを慎重に解析し,バックドアモデルとクリーンモデルとの区別を行う。 この進歩は、ネットワークシステムにおけるディープラーニングとAIのセキュリティを強化し、新興技術の脅威の進化に対して不可欠なサイバーセキュリティを提供する。
• 参考スコア（独自算出の注目度）: 3.489779105594534
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In the rapidly evolving landscape of communication and network security, the increasing reliance on deep neural networks (DNNs) and cloud services for data processing presents a significant vulnerability: the potential for backdoors that can be exploited by malicious actors. Our approach leverages advanced tensor decomposition algorithms Independent Vector Analysis (IVA), Multiset Canonical Correlation Analysis (MCCA), and Parallel Factor Analysis (PARAFAC2) to meticulously analyze the weights of pre-trained DNNs and distinguish between backdoored and clean models effectively. The key strengths of our method lie in its domain independence, adaptability to various network architectures, and ability to operate without access to the training data of the scrutinized models. This not only ensures versatility across different application scenarios but also addresses the challenge of identifying backdoors without prior knowledge of the specific triggers employed to alter network behavior. We have applied our detection pipeline to three distinct computer vision datasets, encompassing both image classification and object detection tasks. The results demonstrate a marked improvement in both accuracy and efficiency over existing backdoor detection methods. This advancement enhances the security of deep learning and AI in networked systems, providing essential cybersecurity against evolving threats in emerging technologies.
• Abstract（参考訳）: 通信とネットワークセキュリティの急速な発展の中で、ディープニューラルネットワーク(DNN)とクラウドサービスへのデータ処理への依存度が高まっていることは、重大な脆弱性である。 提案手法では,高度なテンソル分解アルゴリズムであるIndependent Vector Analysis (IVA), Multiset Canonical correlation Analysis (MCCA), Parallel Factor Analysis (PARAFAC2) を用いて,事前学習したDNNの重みを慎重に解析し,バックドアモデルとクリーンモデルとを効果的に区別する。 提案手法の主な強みは,ドメイン独立性,各種ネットワークアーキテクチャへの適応性,および精査されたモデルのトレーニングデータにアクセスせずに動作可能であることにある。 これは、異なるアプリケーションシナリオ間での汎用性を保証するだけでなく、ネットワークの振る舞いを変えるために使用される特定のトリガについて事前に知ることなく、バックドアを特定するという課題にも対処する。 検出パイプラインを3つの異なるコンピュータビジョンデータセットに適用し、画像分類とオブジェクト検出タスクを包含した。 その結果,既存のバックドア検出法に比べて精度と効率が著しく向上した。 この進歩は、ネットワークシステムにおけるディープラーニングとAIのセキュリティを強化し、新興技術の脅威の進化に対して不可欠なサイバーセキュリティを提供する。

関連論文リスト

• Enhanced Convolution Neural Network with Optimized Pooling and Hyperparameter Tuning for Network Intrusion Detection [0.0]
  ネットワーク侵入検知システム(NIDS)のための拡張畳み込みニューラルネットワーク(EnCNN)を提案する。 我々はEnCNNと、ロジスティック回帰、決定木、サポートベクトルマシン(SVM)、ランダムフォレスト、AdaBoost、Votting Ensembleといったアンサンブル手法など、さまざまな機械学習アルゴリズムを比較した。 その結果,EnCNNは検出精度を大幅に向上し,最先端アプローチよりも10%向上した。
  論文  参考訳（メタデータ） (2024-09-27T11:20:20Z)
• Deep Learning Algorithms Used in Intrusion Detection Systems -- A Review [0.0]
  本稿では,CNN,Recurrent Neural Networks(RNN),Deep Belief Networks(DBN),Deep Neural Networks(DNN),Long Short-Term Memory(LSTM),Autoencoders(AE),Multi-Layer Perceptrons(MLP),Self-Normalizing Networks(SNN),Hybrid Model(ネットワーク侵入検知システム)など,近年のディープラーニング技術の進歩について述べる。
  論文  参考訳（メタデータ） (2024-02-26T20:57:35Z)
• Generative AI for Secure Physical Layer Communications: A Survey [80.0638227807621]
  Generative Artificial Intelligence(GAI)は、AIイノベーションの最前線に立ち、多様なコンテンツを生成するための急速な進歩と非並行的な能力を示す。 本稿では,通信ネットワークの物理層におけるセキュリティ向上におけるGAIの様々な応用について,広範な調査を行う。 私たちは、物理的レイヤセキュリティの課題に対処する上で、GAIの役割を掘り下げ、通信の機密性、認証、可用性、レジリエンス、整合性に重点を置いています。
  論文  参考訳（メタデータ） (2024-02-21T06:22:41Z)
• X-CBA: Explainability Aided CatBoosted Anomal-E for Intrusion Detection System [2.556190321164248]
  Intrusion Detection Systemsにおける機械学習(ML)モデルとディープラーニング(DL)モデルの使用は、不透明な意思決定による信頼の欠如につながっている。 本稿では、グラフニューラルネットワーク(GNN)の構造的利点を活用して、ネットワークトラフィックデータを効率的に処理する新しい説明可能なIDS手法であるX-CBAを提案する。 本手法は、脅威検出の99.47%で高精度に達成し、その分析結果の明確で実用的な説明を提供する。
  論文  参考訳（メタデータ） (2024-02-01T18:29:16Z)
• Backdoor Attack Detection in Computer Vision by Applying Matrix Factorization on the Weights of Deep Networks [6.44397009982949]
  本稿では,事前訓練したDNNの重みから特徴を抽出するバックドア検出手法を提案する。 他の検出技術と比較して、これはトレーニングデータを必要としないなど、多くのメリットがある。 提案手法は, 競合するアルゴリズムよりも効率性が高く, より正確であり, 深層学習とAIの安全な適用を確実にするのに役立つ。
  論文  参考訳（メタデータ） (2022-12-15T20:20:18Z)
• Quantization-aware Interval Bound Propagation for Training Certifiably Robust Quantized Neural Networks [58.195261590442406]
  我々は、逆向きに頑健な量子化ニューラルネットワーク(QNN)の訓練と証明の課題について検討する。 近年の研究では、浮動小数点ニューラルネットワークが量子化後の敵攻撃に対して脆弱であることが示されている。 本稿では、堅牢なQNNをトレーニングするための新しい方法であるQA-IBP(quantization-aware interval bound propagation)を提案する。
  論文  参考訳（メタデータ） (2022-11-29T13:32:38Z)
• An anomaly detection approach for backdoored neural networks: face recognition as a case study [77.92020418343022]
  本稿では,異常検出の原理に基づく新しいバックドアネットワーク検出手法を提案する。 バックドアネットワークの新たなデータセット上で本手法を検証し,完全スコアで検出可能性について報告する。
  論文  参考訳（メタデータ） (2022-08-22T12:14:13Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Noise-Response Analysis of Deep Neural Networks Quantifies Robustness and Fingerprints Structural Malware [48.7072217216104]
  ディープ・ニューラル・ネットワーク(DNN)は構造的マルウェア(すなわち、重みと活性化経路)を持つ バックドアの検出は一般的に困難であり、既存の検出手法は計算に高価であり、膨大なリソースを必要とする(トレーニングデータへのアクセスなど)。 そこで本研究では,DNNの堅牢性,指紋の非線形性を定量化し,バックドアの検出を可能にする,高速な特徴生成手法を提案する。 実験の結果,既存の手法(秒対秒)よりも高い信頼度でバックドアを正確に検出できることが判明した。
  論文  参考訳（メタデータ） (2020-07-31T23:52:58Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)
• A cognitive based Intrusion detection system [0.0]
  侵入検知は、コンピュータネットワークのセキュリティを提供する重要なメカニズムの1つである。 本稿では,Deep Neural Network Ans Supportctor Machine Classifierに基づく新しい手法を提案する。 提案手法は, 侵入検知に類似した手法により, より精度良く攻撃を予測できる。
  論文  参考訳（メタデータ） (2020-05-19T13:30:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。