論文の概要: Impact of Architectural Modifications on Deep Learning Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2405.01934v1
• Date: Fri, 3 May 2024 08:58:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-06 13:25:40.811252
• Title: Impact of Architectural Modifications on Deep Learning Adversarial Robustness
• Title（参考訳）: Deep Learning Adversarial Robustnessに対するアーキテクチャ変更の影響
• Authors: Firuz Juraev, Mohammed Abuhamad, Simon S. Woo, George K Thiruvathukal, Tamer Abuhmed,
• Abstract要約: 本稿では, モデル修正がディープラーニングモデルの堅牢性に及ぼす影響を, 敵攻撃を用いて実験的に評価する。 以上の結果から,モデル変更がモデルの頑健性に及ぼす影響を詳細に評価する上でのプレッシャーが示唆された。
• 参考スコア（独自算出の注目度）: 16.991522358940774
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Rapid advancements of deep learning are accelerating adoption in a wide variety of applications, including safety-critical applications such as self-driving vehicles, drones, robots, and surveillance systems. These advancements include applying variations of sophisticated techniques that improve the performance of models. However, such models are not immune to adversarial manipulations, which can cause the system to misbehave and remain unnoticed by experts. The frequency of modifications to existing deep learning models necessitates thorough analysis to determine the impact on models' robustness. In this work, we present an experimental evaluation of the effects of model modifications on deep learning model robustness using adversarial attacks. Our methodology involves examining the robustness of variations of models against various adversarial attacks. By conducting our experiments, we aim to shed light on the critical issue of maintaining the reliability and safety of deep learning models in safety- and security-critical applications. Our results indicate the pressing demand for an in-depth assessment of the effects of model changes on the robustness of models.
• Abstract（参考訳）: ディープラーニングの急速な進歩は、自動運転車、ドローン、ロボット、監視システムなど、さまざまなアプリケーションで採用が加速している。 これらの進歩には、モデルの性能を改善する洗練されたテクニックのバリエーションの適用が含まれる。 しかし、このようなモデルは敵の操作に免疫がないため、システムが誤った振る舞いをし、専門家が気づかないままになる可能性がある。 既存のディープラーニングモデルへの修正の頻度は、モデルの堅牢性に与える影響を決定するために、徹底的な分析を必要とする。 本研究では, モデル修正が学習モデルの強靭性に及ぼす影響を, 対角攻撃を用いて実験的に評価する。 本手法は, 種々の敵攻撃に対するモデル変動の頑健性について検討する。 実験を行うことで、安全およびセキュリティクリティカルなアプリケーションにおいて、ディープラーニングモデルの信頼性と安全性を維持することの重大な問題に光を当てることを目指している。 以上の結果から,モデル変更がモデルの頑健性に及ぼす影響を詳細に評価する上でのプレッシャーが示唆された。

関連論文リスト

• ExAL: An Exploration Enhanced Adversarial Learning Algorithm [0.0]
  探索強化適応学習アルゴリズム(ExAL)を提案する。 ExALは探索駆動機構を統合し、モデル決定境界への影響を最大化する摂動を発見する。 MNISTの手書きディジットとBlended Malwareデータセット上でのExALの性能を評価する。
  論文  参考訳（メタデータ） (2024-11-24T15:37:29Z)
• Assessing Robustness of Machine Learning Models using Covariate Perturbations [0.6749750044497732]
  本稿では,機械学習モデルの堅牢性を評価するための包括的フレームワークを提案する。 本研究では、ロバスト性の評価とモデル予測への影響を検討するために、様々な摂動戦略を検討する。 モデル間のロバスト性の比較、モデルの不安定性同定、モデルのロバスト性向上におけるアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2024-08-02T14:41:36Z)
• Enhancing Dynamical System Modeling through Interpretable Machine Learning Augmentations: A Case Study in Cathodic Electrophoretic Deposition [0.8796261172196743]
  本稿では,物理システムのモデリング向上を目的とした包括的データ駆動フレームワークを提案する。 実証的応用として,電顕的電気泳動沈着(EPD)のモデル化を追求する。
  論文  参考訳（メタデータ） (2024-01-16T14:58:21Z)
• Robustness and Generalization Performance of Deep Learning Models on Cyber-Physical Systems: A Comparative Study [71.84852429039881]
  調査は、センサーの故障やノイズなど、様々な摂動を扱うモデルの能力に焦点を当てている。 我々は,これらのモデルの一般化と伝達学習能力を,アウト・オブ・ディストリビューション(OOD)サンプルに公開することによって検証する。
  論文  参考訳（メタデータ） (2023-06-13T12:43:59Z)
• Interpretations Cannot Be Trusted: Stealthy and Effective Adversarial Perturbations against Interpretable Deep Learning [16.13790238416691]
  この研究はAdvEdgeとAdvEdge$+$という2つの攻撃を導入し、ターゲットのディープラーニングモデルと組み合わせた解釈モデルの両方を欺いた。 我々の分析は、ディープラーニングモデルとそのインタプリタを騙すという観点から、我々の攻撃の有効性を示している。
  論文  参考訳（メタデータ） (2022-11-29T04:45:10Z)
• DST: Dynamic Substitute Training for Data-free Black-box Attack [79.61601742693713]
  そこで本研究では,対象モデルからより高速に学習するための代用モデルの促進を目的とした,新しい動的代用トレーニング攻撃手法を提案する。 タスク駆動型グラフに基づく構造情報学習の制約を導入し、生成したトレーニングデータの質を向上させる。
  論文  参考訳（メタデータ） (2022-04-03T02:29:11Z)
• Holistic Adversarial Robustness of Deep Learning Models [91.34155889052786]
  敵対的堅牢性は、安全性と信頼性を確保するために、機械学習モデルの最悪のケースパフォーマンスを研究する。 本稿では,深層学習モデルの対角的ロバスト性に関する研究課題の概要と研究手法の基礎原則について概説する。
  論文  参考訳（メタデータ） (2022-02-15T05:30:27Z)
• SafeAMC: Adversarial training for robust modulation recognition models [53.391095789289736]
  通信システムには、Deep Neural Networks(DNN)モデルに依存する変調認識など、多くのタスクがある。 これらのモデルは、逆方向の摂動、すなわち、誤分類を引き起こすために作られた知覚不能な付加音に影響を受けやすいことが示されている。 本稿では,自動変調認識モデルのロバスト性を高めるために,逆方向の摂動を伴うモデルを微調整する逆方向トレーニングを提案する。
  論文  参考訳（メタデータ） (2021-05-28T11:29:04Z)
• ML-Doctor: Holistic Risk Assessment of Inference Attacks Against Machine Learning Models [64.03398193325572]
  機械学習(ML)モデルに対する推論攻撃により、敵はトレーニングデータやモデルパラメータなどを学ぶことができる。 私たちは、メンバシップ推論、モデル反転、属性推論、モデル盗難の4つの攻撃に集中しています。 私たちの分析では、MLモデルオーナがモデルをデプロイするリスクを評価することができる、モジュール化された再使用可能なソフトウェアであるML-Doctorに依存しています。
  論文  参考訳（メタデータ） (2021-02-04T11:35:13Z)
• Orthogonal Deep Models As Defense Against Black-Box Attacks [71.23669614195195]
  攻撃者が標的モデルに類似したモデルを用いて攻撃を発生させるブラックボックス設定における深層モデル固有の弱点について検討する。 本稿では,深部モデルの内部表現を他のモデルに直交させる新しい勾配正規化手法を提案する。 様々な大規模モデルにおいて,本手法の有効性を検証する。
  論文  参考訳（メタデータ） (2020-06-26T08:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。