論文の概要: MILR: Mathematically Induced Layer Recovery for Plaintext Space Error
Correction of CNNs
- arxiv url: http://arxiv.org/abs/2010.14687v1
- Date: Wed, 28 Oct 2020 00:47:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-02 05:37:25.037858
- Title: MILR: Mathematically Induced Layer Recovery for Plaintext Space Error
Correction of CNNs
- Title(参考訳): MILR:CNNの平文空間誤差補正のための数学的誘導層復元
- Authors: Jonathan Ponader, Sandip Kundu, Yan Solihin
- Abstract要約: 本稿では,ソフトウェアによるCNN誤り検出と誤り訂正システムMILRを提案する。
自己修復能力は、レイヤーの入力、出力、パラメータ(重み)の間の数学的関係に基づいている。
- 参考スコア(独自算出の注目度): 4.23546023847456
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The increased use of Convolutional Neural Networks (CNN) in mission critical
systems has increased the need for robust and resilient networks in the face of
both naturally occurring faults as well as security attacks. The lack of
robustness and resiliency can lead to unreliable inference results. Current
methods that address CNN robustness require hardware modification, network
modification, or network duplication. This paper proposes MILR a software based
CNN error detection and error correction system that enables self-healing of
the network from single and multi bit errors. The self-healing capabilities are
based on mathematical relationships between the inputs,outputs, and
parameters(weights) of a layers, exploiting these relationships allow the
recovery of erroneous parameters (weights) throughout a layer and the network.
MILR is suitable for plaintext-space error correction (PSEC) given its ability
to correct whole-weight and even whole-layer errors in CNNs.
- Abstract(参考訳): ミッションクリティカルシステムにおける畳み込みニューラルネットワーク(CNN)の利用の増加により、自然発生の障害とセキュリティ攻撃の両方に直面した堅牢でレジリエントなネットワークの必要性が高まっている。
堅牢性とレジリエンスの欠如は、信頼できない推論結果をもたらす可能性がある。
CNNの堅牢性に対処する現在の方法は、ハードウェアの変更、ネットワーク修正、ネットワーク重複を必要とする。
本稿では,単一および複数ビットの誤りからネットワークの自己修復を可能にするソフトウェアベースのcnnエラー検出および誤り訂正システムであるmilを提案する。
自己修復能力は、レイヤの入力、出力、パラメータ(重み)の間の数学的関係に基づいており、これらの関係を利用して、レイヤとネットワークを通して誤ったパラメータ(重み)を回復することができる。
MILRは、CNNにおける全重および全層エラーを補正する能力から、平文空間誤り訂正(PSEC)に適している。
関連論文リスト
- Physical Rule-Guided Convolutional Neural Network [0.0]
物理誘導ニューラルネットワーク(PGNN)は、科学原理と現実世界の知識を統合することで限界に対処する。
本稿では,動的,トレーニング可能,自動化されたLCM生成ルールをカスタムレイヤとして組み込んだ物理誘導型CNN(PGCNN)アーキテクチャを提案する。
PGCNNは複数のデータセットで評価され、ベースラインCNNモデルよりも優れた性能を示す。
論文 参考訳(メタデータ) (2024-09-03T17:32:35Z) - Cost-Effective Fault Tolerance for CNNs Using Parameter Vulnerability Based Hardening and Pruning [0.4660328753262075]
本稿では,ニューラルネットワークに誤り訂正を直接組み込むことにより,CNNのモデルレベル硬化手法を提案する。
提案手法は,TMRに基づく補正とほぼ同等の耐故障性を示すが,オーバーヘッドは大幅に減少する。
注目すべきは、硬化したpruned CNNは、硬化したun-prunedよりも最大24%高速であることだ。
論文 参考訳(メタデータ) (2024-05-17T09:42:44Z) - Dynamic Semantic Compression for CNN Inference in Multi-access Edge
Computing: A Graph Reinforcement Learning-based Autoencoder [82.8833476520429]
部分オフロードにおける効果的な意味抽出と圧縮のための新しい意味圧縮手法であるオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
セマンティックエンコーダでは、CNNのチャネルアテンション機構に基づく特徴圧縮モジュールを導入し、最も情報性の高い特徴を選択して中間データを圧縮する。
セマンティックデコーダでは、受信した圧縮データから学習して中間データを再構築し、精度を向上させる軽量デコーダを設計する。
論文 参考訳(メタデータ) (2024-01-19T15:19:47Z) - Certified Invertibility in Neural Networks via Mixed-Integer Programming [16.64960701212292]
ニューラルネットワークは敵の攻撃に弱いことが知られている。
ネットワークの決定に影響を与えない大きな、意味のある摂動が存在するかもしれない。
ニューラルネットワーク間の変換における可逆性検証に,我々の知見がどのように役立つかについて議論する。
論文 参考訳(メタデータ) (2023-01-27T15:40:38Z) - Fast and Accurate Error Simulation for CNNs against Soft Errors [64.54260986994163]
本稿では,誤りシミュレーションエンジンを用いて,コナールニューラルネットワーク(CNN)の信頼性解析のためのフレームワークを提案する。
これらの誤差モデルは、故障によって誘導されるCNN演算子の出力の破損パターンに基づいて定義される。
提案手法は,SASSIFIの欠陥効果の約99%の精度と,限定的なエラーモデルのみを実装した44倍から63倍までのスピードアップを実現する。
論文 参考訳(メタデータ) (2022-06-04T19:45:02Z) - Performance and accuracy assessments of an incompressible fluid solver
coupled with a deep Convolutional Neural Network [0.0]
ポアソン方程式の解法は、通常、非圧縮性流体解法における最も計算集約的なステップの1つである。
CNNはこの方程式を解くために導入され、推論時間を大幅に短縮した。
CNNと従来の反復解法を結合してユーザ定義の精度を保証するハイブリッド戦略が開発されている。
論文 参考訳(メタデータ) (2021-09-20T08:30:29Z) - Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。
本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。
最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
論文 参考訳(メタデータ) (2021-08-16T03:58:00Z) - Manipulating Identical Filter Redundancy for Efficient Pruning on Deep
and Complicated CNN [126.88224745942456]
そこで我々は,Centripetal SGD (C-SGD) を提案する。
C-SGDは、既存のメソッドと比較して冗長性がより組織化されているため、パフォーマンスが向上する。
論文 参考訳(メタデータ) (2021-07-30T06:18:19Z) - BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by
Adversarial Attacks [65.2021953284622]
CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。
結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
論文 参考訳(メタデータ) (2021-03-14T20:43:19Z) - FT-CNN: Algorithm-Based Fault Tolerance for Convolutional Neural
Networks [13.100954947774163]
畳み込みニューラルネットワーク(CNN)は、多くの分野において困難で重要な問題を解決するためにますます重要になっている。
CNN推論アプリケーションは、高エネルギー粒子や高温、異常電圧によるソフトエラーに悩まされる安全クリティカルなシステムにデプロイされている。
従来のフォールトトレランス法は、エラー訂正符号が計算コンポーネントを保護することができないため、CNNの推論には適さない。
論文 参考訳(メタデータ) (2020-03-27T02:01:54Z) - Approximation and Non-parametric Estimation of ResNet-type Convolutional
Neural Networks [52.972605601174955]
本稿では,ResNet型CNNが重要な関数クラスにおいて最小誤差率を達成可能であることを示す。
Barron と H'older のクラスに対する前述のタイプの CNN の近似と推定誤差率を導出する。
論文 参考訳(メタデータ) (2019-03-24T19:42:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。