論文の概要: HarDNN: Feature Map Vulnerability Evaluation in CNNs
- arxiv url: http://arxiv.org/abs/2002.09786v2
- Date: Tue, 25 Feb 2020 11:07:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-29 18:45:06.540736
- Title: HarDNN: Feature Map Vulnerability Evaluation in CNNs
- Title(参考訳): HarDNN: CNNの機能マップ脆弱性評価
- Authors: Abdulrahman Mahmoud, Siva Kumar Sastry Hari, Christopher W. Fletcher,
Sarita V. Adve, Charbel Sakr, Naresh Shanbhag, Pavlo Molchanov, Michael B.
Sullivan, Timothy Tsai, Stephen W. Keckler
- Abstract要約: 本稿では、CNN推論中に脆弱な計算を識別するためのソフトウェア指向アプローチであるHarDNNを提案する。
我々は,統計的誤差注入キャンペーンを用いて,CNNにおける特徴写像(fmap)の相対的脆弱性を正確に推定できることを示す。
その結果,HarDNNでは,余剰計算のレジリエンスの向上が超直線的であることがわかった。
- 参考スコア(独自算出の注目度): 23.24111155295923
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As Convolutional Neural Networks (CNNs) are increasingly being employed in
safety-critical applications, it is important that they behave reliably in the
face of hardware errors. Transient hardware errors may percolate undesirable
state during execution, resulting in software-manifested errors which can
adversely affect high-level decision making. This paper presents HarDNN, a
software-directed approach to identify vulnerable computations during a CNN
inference and selectively protect them based on their propensity towards
corrupting the inference output in the presence of a hardware error. We show
that HarDNN can accurately estimate relative vulnerability of a feature map
(fmap) in CNNs using a statistical error injection campaign, and explore
heuristics for fast vulnerability assessment. Based on these results, we
analyze the tradeoff between error coverage and computational overhead that the
system designers can use to employ selective protection. Results show that the
improvement in resilience for the added computation is superlinear with HarDNN.
For example, HarDNN improves SqueezeNet's resilience by 10x with just 30%
additional computations.
- Abstract(参考訳): 畳み込みニューラルネットワーク(cnns)が安全性クリティカルなアプリケーションでますます採用されているため、ハードウェアエラーに対して確実に振る舞うことが重要である。
過渡的なハードウェアエラーは、実行中に望ましくない状態をパーコレーションし、ソフトウェアが管理するエラーは、ハイレベルな意思決定に悪影響を及ぼす可能性がある。
本稿では,CNN推論における脆弱性計算をソフトウェア指向で識別し,ハードウェアエラー発生時の推論出力の破損に対する妥当性に基づいて保護する手法であるHarDNNを提案する。
本稿では,統計誤差注入キャンペーンを用いて,CNNにおける特徴写像(fmap)の相対的脆弱性を正確に推定し,高速な脆弱性評価のためのヒューリスティックスを探索できることを示す。
これらの結果に基づいて,システム設計者が選択的保護を行うために使用できるエラーカバレッジと計算オーバーヘッドのトレードオフを分析する。
その結果,追加計算のレジリエンス向上はhardnnと超線形であることが判明した。
例えば、HarDNNでは、SqueezeNetのレジリエンスを10倍改善し、30%の追加計算が可能である。
関連論文リスト
- Special Session: Approximation and Fault Resiliency of DNN Accelerators [0.9126382223122612]
本稿では,Deep Neural Networkアクセラレータの近似とフォールトレジリエンスについて検討する。
本稿では,DNNに障害注入を行わずにハードウェアのエラーをエミュレートするために近似(AxC)演算回路を提案する。
また,ネットワーク上での断層伝播とマスキングによる耐故障性の微粒化解析も提案する。
論文 参考訳(メタデータ) (2023-05-31T19:27:45Z) - DeepVigor: Vulnerability Value Ranges and Factors for DNNs' Reliability
Assessment [1.189955933770711]
Deep Neural Networks(DNN)とそのアクセラレータは、安全クリティカルなアプリケーションに頻繁にデプロイされている。
本稿では,DeepVigorと呼ばれる,高精度,微粒化,メトリック指向,アクセラレーションに依存しない新しい手法を提案する。
論文 参考訳(メタデータ) (2023-03-13T08:55:10Z) - CRAFT: Criticality-Aware Fault-Tolerance Enhancement Techniques for
Emerging Memories-Based Deep Neural Networks [7.566423455230909]
ディープニューラルネットワーク(DNN)は、コンピュータビジョンと自然言語処理アプリケーションにとって最も効果的なプログラミングパラダイムとして登場した。
本稿では,NVMベースのDNNの信頼性を高めるために,CRAFT(Criticality-Aware Fault-Tolerance Enhancement Techniques)を提案する。
論文 参考訳(メタデータ) (2023-02-08T03:39:11Z) - The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural
Networks [94.63547069706459]
#DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。
違反の正確な数を返す新しい手法を提案する。
安全クリティカルなベンチマークのセットに関する実験結果を示す。
論文 参考訳(メタデータ) (2023-01-17T18:32:01Z) - Thales: Formulating and Estimating Architectural Vulnerability Factors
for DNN Accelerators [6.8082132475259405]
本稿では,過渡的エラーが発生した場合のネットワークの挙動を推定し,過渡的エラーが発生した場合の精度を定量化することに焦点を当てる。
既存のレジリエンス精度 (RA) の定式化は, ソフトウェア変数がハードウェアの過渡的欠陥の下で等価な故障確率を持つことを誤って仮定するため, 基本的に不正確であることを示す。
本稿では, 過渡的故障下でのDNN変数の故障確率を推定し, ハードウェアによる正しいRA推定を行うアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-12-05T23:16:20Z) - Attention-based Feature Compression for CNN Inference Offloading in Edge
Computing [93.67044879636093]
本稿では,デバイスエッジ共振器におけるCNN推論の計算負荷について検討する。
エンドデバイスにおける効率的な特徴抽出のための新しいオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
実験の結果、AECNNは中間データを約4%の精度で256倍圧縮できることがわかった。
論文 参考訳(メタデータ) (2022-11-24T18:10:01Z) - Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。
本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。
最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
論文 参考訳(メタデータ) (2021-08-16T03:58:00Z) - Frequentist Uncertainty in Recurrent Neural Networks via Blockwise
Influence Functions [121.10450359856242]
リカレントニューラルネットワーク(RNN)は、シーケンシャルおよび時系列データのモデリングに有効である。
RNNにおける既存の不確実性定量化のアプローチは、主にベイズ法に基づいている。
a)モデルトレーニングに干渉せず、その精度を損なうことなく、(b)任意のRNNアーキテクチャに適用し、(c)推定不確かさ間隔に関する理論的カバレッジ保証を提供する。
論文 参考訳(メタデータ) (2020-06-20T22:45:32Z) - Bayesian x-vector: Bayesian Neural Network based x-vector System for
Speaker Verification [71.45033077934723]
我々はディープニューラルネットワーク(DNN)xベクトル話者検証システムにベイズニューラルネットワーク(BNN)を組み込む。
BNNによって提供される重みの不確実性モデリングにより、システムは評価データにより良い一般化を期待できる。
その結果、BNNの相対的なEERの2.66%と2.32%の減少により、短文と短文のドメイン評価が可能であることが判明した。
論文 参考訳(メタデータ) (2020-04-08T14:35:12Z) - FT-CNN: Algorithm-Based Fault Tolerance for Convolutional Neural
Networks [13.100954947774163]
畳み込みニューラルネットワーク(CNN)は、多くの分野において困難で重要な問題を解決するためにますます重要になっている。
CNN推論アプリケーションは、高エネルギー粒子や高温、異常電圧によるソフトエラーに悩まされる安全クリティカルなシステムにデプロイされている。
従来のフォールトトレランス法は、エラー訂正符号が計算コンポーネントを保護することができないため、CNNの推論には適さない。
論文 参考訳(メタデータ) (2020-03-27T02:01:54Z) - Approximation and Non-parametric Estimation of ResNet-type Convolutional
Neural Networks [52.972605601174955]
本稿では,ResNet型CNNが重要な関数クラスにおいて最小誤差率を達成可能であることを示す。
Barron と H'older のクラスに対する前述のタイプの CNN の近似と推定誤差率を導出する。
論文 参考訳(メタデータ) (2019-03-24T19:42:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。