論文の概要: Understanding Fault Tolerance of Adversarially Robust Pruned Models
- arxiv url: http://arxiv.org/abs/2608.04173v1
- Date: Tue, 04 Aug 2026 19:31:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.602787
- Title: Understanding Fault Tolerance of Adversarially Robust Pruned Models
- Title（参考訳）: 逆ロバスト・プルーニングモデルにおけるフォールトトレランスの理解
- Abstract要約: 本稿では, 畳み込み, 逆行訓練, ハードウェア故障注入が, 畳み込みニューラルネットワークの堅牢性に与える影響について, 実験的検討を行った。
以上の結果より, 逆行訓練は入力摂動に対する頑健性を向上させるが, 立ち止まる重み断層に対する感受性を高めることが示唆された。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks (DNNs) deployed on resource-constrained neuromorphic hardware face three concurrent challenges: the need for model compression through pruning, vulnerability to adversarial input perturbations, and susceptibility to hardware-induced weight faults such as stuck-at-zero errors. While each of these factors has been studied in isolation, their combined effects on model reliability have received little attention. This paper presents an empirical investigation of how pruning, adversarial training, and hardware fault injection interact to affect the robustness of convolutional neural networks. Using a compact three-layer CNN trained on MNIST, we conduct three experiments: (1) comparing the fault tolerance of naturally and adversarially trained models under simultaneous hardware faults and adversarial attacks, (2) evaluating how pruning affects adversarial robustness, and (3) characterizing the joint accuracy surface across fault rates, adversarial perturbation magnitudes, and pruning levels. Our results show that adversarial training improves robustness against input perturbations but increases sensitivity to stuck-at-zero weight faults. Contrary to intuition, pruning did not significantly increase fault sensitivity, and varying the pruning level had little effect across fault rates and attack strengths. These results highlight the need to jointly consider adversarial robustness and hardware reliability.
- Abstract（参考訳）: リソース制約のあるニューロモルフィックハードウェアにデプロイされるディープニューラルネットワーク(DNN)は、プルーニングによるモデル圧縮の必要性、逆入力の摂動に対する脆弱性、スタント・アット・ゼロエラーのようなハードウェアによって引き起こされる重み付き障害に対する感受性の3つの同時的課題に直面している。
これらの因子はそれぞれ独立して研究されているが、モデル信頼性に対するそれらの複合的な影響はほとんど注目されていない。
本稿では, 畳み込み, 逆行訓練, ハードウェア故障注入が, 畳み込みニューラルネットワークの堅牢性に与える影響について, 実験的検討を行った。
MNISTで訓練されたコンパクトな3層CNNを用いて,(1)ハードウェアの障害と敵の攻撃による自然および敵対的に訓練されたモデルの耐障害性の比較,(2)プルーニングが逆の堅牢性にどう影響するかの評価,(3)障害率,逆の摂動の大きさ,およびプルーニングレベルを横断して関節の精度表面を特徴づける3つの実験を行った。
以上の結果より, 逆行訓練は入力摂動に対する頑健性を向上させるが, 立ち止まる重み断層に対する感受性を高めることが示唆された。
直観とは対照的に、プルーニングは断層感度を著しく向上させず、プルーニングレベルの変化は断層速度や攻撃強度にはほとんど影響を与えなかった。
これらの結果は、敵対的堅牢性とハードウェアの信頼性を共同で検討する必要性を浮き彫りにする。
関連論文リスト
- On the Interaction of Compressibility and Adversarial Robustness [25.58735050707295]
我々は、ニューロンレベルの空間性やスペクトル圧縮性など、様々な形態の圧縮性が、敵の強靭性にどのように影響するかを分析する。
これらの圧縮形式は、敵が活用できる表現空間において、少数の高感度な方向を誘導できることを示す。
本研究は, 構造圧縮性とロバスト性の間に根本的緊張関係があることを示し, 効率的かつセキュアなモデル設計のための新しい経路を提案する。
論文 参考訳（メタデータ） (2025-07-23T17:35:48Z) - Adaptive Pruning with Module Robustness Sensitivity: Balancing Compression and Robustness [7.742297876120561]
本稿では, 対向摂動に対する層次感度を定量化する新しい計量法であるModule Robustness Sensitivity (MRS)を紹介する。
本稿では,任意の対向学習法に適合する適応型プルーニングアルゴリズムであるModule Robust Pruning and Fine-Tuning (MRPF)を提案する。
論文 参考訳（メタデータ） (2024-10-19T18:35:52Z) - Extreme Miscalibration and the Illusion of Adversarial Robustness [66.29268991629085]
敵の訓練は、しばしばモデルの堅牢性を高めるために使用される。
我々は、この観測されたロバストネスの利得はロバストネスの錯覚(IOR)であることを示した。
我々は,NLPコミュニティに対して,試験時間温度のスケーリングを堅牢性評価に組み込むよう促す。
論文 参考訳（メタデータ） (2024-02-27T13:49:12Z) - Understanding Robust Overfitting from the Feature Generalization Perspective [61.770805867606796]
逆行訓練(AT)は、逆行摂動を自然データに組み込むことで、堅牢なニューラルネットワークを構築する。
これはロバストオーバーフィッティング(RO)の問題に悩まされ、モデルのロバスト性を著しく損なう。
本稿では,新しい特徴一般化の観点からROを考察する。
論文 参考訳（メタデータ） (2023-10-01T07:57:03Z) - Fixed Inter-Neuron Covariability Induces Adversarial Robustness [26.878913741674058]
敵対的摂動の脆弱性はディープニューラルネットワーク(DNN)の重大な欠陥である
我々は,各ニューロンが固定された,しかし学習された共変性パターンに従うように,活性化が互いに一致したニューロンからなる自己持続活性化層を開発した。
SCA層を持つモデルは高い精度を達成し、対向的な摂動データでトレーニングされることなく、最先端のAuto-PGD攻撃に対して多層パーセプトロンモデルよりもはるかに堅牢性を示した。
論文 参考訳（メタデータ） (2023-08-07T23:46:14Z) - Addressing Mistake Severity in Neural Networks with Semantic Knowledge [0.0]
ほとんどの堅牢なトレーニング技術は、摂動入力のモデル精度を改善することを目的としている。
強靭性の代替形態として、ニューラルネットワークが挑戦的な状況で犯した誤りの深刻度を低減することを目的としている。
我々は、現在の対人訓練手法を活用して、トレーニングプロセス中に標的の対人攻撃を発生させる。
その結果,本手法は,標準モデルや逆トレーニングモデルと比較して,誤り重大性に対して優れた性能を示した。
論文 参考訳（メタデータ） (2022-11-21T22:01:36Z) - Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。
本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。
最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
論文 参考訳（メタデータ） (2021-08-16T03:58:00Z) - Residual Error: a New Performance Measure for Adversarial Robustness [85.0371352689919]
ディープラーニングの広く普及を制限する大きな課題は、敵の攻撃に対する脆弱さである。
本研究は,ディープニューラルネットワークの対角強靭性を評価するための新しい性能尺度である残留誤差の概念を提示する。
画像分類を用いた実験結果から,提案手法の有効性と有効性を示した。
論文 参考訳（メタデータ） (2021-06-18T16:34:23Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳（メタデータ） (2021-02-23T20:59:30Z) - Towards Understanding the Dynamics of the First-Order Adversaries [40.54670072901657]
ニューラルネットワークの弱点として認識されているのは、入力に対する敵の摂動に対する脆弱性である。
最も一般的な防御機構の1つは、投射された上昇を使って入力の制約された摂動による損失を最大化し、重量を最小化することである。
二次的損失を有する2層ニューラルネットワークの逆方向の非凹面環境について検討する。
論文 参考訳（メタデータ） (2020-10-20T22:20:53Z) - Vulnerability Under Adversarial Machine Learning: Bias or Variance? [77.30759061082085]
本研究では,機械学習が訓練された深層ニューラルネットワークのバイアスと分散に与える影響について検討する。
我々の分析は、ディープニューラルネットワークが対向的摂動下で性能が劣っている理由に光を当てている。
本稿では,計算処理の複雑さをよく知られた機械学習手法よりも低く抑えた,新しい逆機械学習アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-08-01T00:58:54Z) - Bridging Mode Connectivity in Loss Landscapes and Adversarial Robustness [97.67477497115163]
我々は、モード接続を用いて、ディープニューラルネットワークの対角的堅牢性を研究する。
実験では、異なるネットワークアーキテクチャやデータセットに適用される様々な種類の敵攻撃について取り上げる。
以上の結果から,モード接続は,敵の強靭性を評価・改善するための総合的なツールであり,実用的な手段であることが示唆された。
論文 参考訳（メタデータ） (2020-04-30T19:12:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。