論文の概要: MRFI: An Open Source Multi-Resolution Fault Injection Framework for
Neural Network Processing
- arxiv url: http://arxiv.org/abs/2306.11758v2
- Date: Thu, 21 Dec 2023 08:31:45 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-25 18:32:33.369469
- Title: MRFI: An Open Source Multi-Resolution Fault Injection Framework for
Neural Network Processing
- Title(参考訳): MRFI:ニューラルネットワーク処理のためのオープンソースのマルチリゾリューションフォールトインジェクションフレームワーク
- Authors: Haitong Huang, Cheng Liu, Bo Liu, Xinghua Xue, Huawei Li, Xiaowei Li
- Abstract要約: MRFIはディープニューラルネットワークのための高解像度フォールトインジェクションツールである。
異なる視点から広範な障害解析機能を統合する。
PyTorchの主要なニューラルネットワークコンピューティングフレームワークを変更していない。
- 参考スコア(独自算出の注目度): 8.871260896931211
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: To ensure resilient neural network processing on even unreliable hardware,
comprehensive reliability analysis against various hardware faults is generally
required before the deep neural network models are deployed, and efficient
error injection tools are highly demanded. However, most existing fault
injection tools remain rather limited to basic fault injection to neurons and
fail to provide fine-grained vulnerability analysis capability. In addition,
many of the fault injection tools still need to change the neural network
models and make the fault injection closely coupled with normal neural network
processing, which further complicates the use of the fault injection tools and
slows down the fault simulation. In this work, we propose MRFI, a highly
configurable multi-resolution fault injection tool for deep neural networks. It
enables users to modify an independent fault configuration file rather than
neural network models for the fault injection and vulnerability analysis.
Particularly, it integrates extensive fault analysis functionalities from
different perspectives and enables multi-resolution investigation of the
vulnerability of neural networks. In addition, it does not modify the major
neural network computing framework of PyTorch. Hence, it allows parallel
processing on GPUs naturally and exhibits fast fault simulation according to
our experiments.
- Abstract(参考訳): 信頼性の低いハードウェア上でもレジリエントなニューラルネットワーク処理を保証するためには、ディープニューラルネットワークモデルがデプロイされる前に、さまざまなハードウェア障害に対する包括的な信頼性分析が必要である。
しかし、既存のフォールトインジェクションツールは、ニューロンへの基本的なフォールトインジェクションに限定されており、きめ細かい脆弱性解析機能を提供していない。
さらに、多くのフォールトインジェクションツールは、依然としてニューラルネットワークモデルを変更し、障害インジェクションを通常のニューラルネットワーク処理と密結合させる必要があり、フォールトインジェクションツールの使用をさらに複雑化し、障害シミュレーションを遅くする。
本研究では,深層ニューラルネットワークのための高構成多分解能故障注入ツールMRFIを提案する。
これにより、障害注入と脆弱性解析のためのニューラルネットワークモデルではなく、独立した障害設定ファイルの変更が可能になる。
特に、異なる視点から広範な障害解析機能を統合し、ニューラルネットワークの脆弱性のマルチレゾリューション調査を可能にする。
さらに、pytorchの主要なニューラルネットワークコンピューティングフレームワークは変更されていない。
したがって,gpu上での並列処理を自然に可能とし,実験により高速故障シミュレーションを行うことができる。
関連論文リスト
- Verified Neural Compressed Sensing [58.98637799432153]
精度の高い計算タスクのために、初めて(私たちの知識を最大限に活用するために)証明可能なニューラルネットワークを開発します。
極小問題次元(最大50)では、線形および双項線形測定からスパースベクトルを確実に回復するニューラルネットワークを訓練できることを示す。
ネットワークの複雑さは問題の難易度に適応できることを示し、従来の圧縮センシング手法が証明不可能な問題を解く。
論文 参考訳(メタデータ) (2024-05-07T12:20:12Z) - Message Passing Variational Autoregressive Network for Solving Intractable Ising Models [6.261096199903392]
自己回帰型ニューラルネットワーク、畳み込み型ニューラルネットワーク、リカレントニューラルネットワーク、グラフニューラルネットワークなど、多くのディープニューラルネットワークがIsingモデルの解決に使用されている。
本稿では、スピン変数間の相互作用を効果的に活用できるメッセージパッシング機構を備えた変分自己回帰アーキテクチャを提案する。
新しいネットワークは、アニーリングフレームワークの下で訓練され、いくつかの原型スピンハミルトニアンの解法、特に低温での大きなスピン系において、既存の方法よりも優れている。
論文 参考訳(メタデータ) (2024-04-09T11:27:07Z) - SpikingJET: Enhancing Fault Injection for Fully and Convolutional Spiking Neural Networks [37.89720165358964]
SpikingJETは、完全に接続された畳み込み型スパイキングニューラルネットワーク(SNN)用に特別に設計された新しいフォールトインジェクタである。
我々の研究は、SNNのハードウェア障害に対するレジリエンスを評価するための重要な必要性を、現実世界のアプリケーションにおけるその優位性を考える上で、浮き彫りにしている。
論文 参考訳(メタデータ) (2024-03-30T14:51:01Z) - NCTV: Neural Clamping Toolkit and Visualization for Neural Network
Calibration [66.22668336495175]
ニューラルネットワークのキャリブレーションに対する考慮の欠如は、人間から信頼を得ることはないだろう。
我々はNeural Clamping Toolkitを紹介した。これは開発者が最先端のモデルに依存しないキャリブレーションモデルを採用するのを支援するために設計された最初のオープンソースフレームワークである。
論文 参考訳(メタデータ) (2022-11-29T15:03:05Z) - DLDNN: Deterministic Lateral Displacement Design Automation by Neural
Networks [1.8365768330479992]
本稿では、決定論的側方変位(DLD)問題に対処する高速多目的設計自動化プラットフォームについて検討する。
畳み込みニューラルネットワークと人工ニューラルネットワークを用いて、様々なDLD構成の速度場と臨界径を学習した。
開発ツールは12の臨界条件でテストされ、4%未満の誤差で確実に実行された。
論文 参考訳(メタデータ) (2022-08-30T14:38:17Z) - Self-Healing Robust Neural Networks via Closed-Loop Control [23.360913637445964]
典型的な自己修復機構は人体の免疫系である。
本稿では,ニューラルネットワークの学習後の自己修復について考察する。
本研究では,様々な攻撃や摂動によるエラーを自動的に検出し,修正するクローズドループ制御式を提案する。
論文 参考訳(メタデータ) (2022-06-26T20:25:35Z) - Characterizing possible failure modes in physics-informed neural
networks [55.83255669840384]
科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。
既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。
これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
論文 参考訳(メタデータ) (2021-09-02T16:06:45Z) - Building Compact and Robust Deep Neural Networks with Toeplitz Matrices [93.05076144491146]
この論文は、コンパクトで、訓練が容易で、信頼性があり、敵の例に対して堅牢なニューラルネットワークを訓練する問題に焦点を当てている。
Toeplitzファミリーの構造化行列の特性を利用して、コンパクトでセキュアなニューラルネットワークを構築する。
論文 参考訳(メタデータ) (2021-09-02T13:58:12Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳(メタデータ) (2021-02-23T20:59:30Z) - FAT: Training Neural Networks for Reliable Inference Under Hardware
Faults [3.191587417198382]
本稿では、ニューラルネットワーク(NN)トレーニング中のエラーモデリングを含む、フォールト・アウェア・トレーニング(FAT)と呼ばれる新しい手法を提案し、デバイス上の特定のフォールトモデルに耐性を持たせる。
FATはCIFAR10、GTSRB、SVHN、ImageNetなど多くの分類タスクに対して検証されている。
論文 参考訳(メタデータ) (2020-11-11T16:09:39Z) - Beyond Dropout: Feature Map Distortion to Regularize Deep Neural
Networks [107.77595511218429]
本稿では,ディープニューラルネットワークの中間層に関連する実験的なRademacher複雑性について検討する。
上記の問題に対処するための特徴歪み法(Disout)を提案する。
より高い試験性能を有するディープニューラルネットワークを作製するための特徴写像歪みの優位性を解析し、実証した。
論文 参考訳(メタデータ) (2020-02-23T13:59:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。