論文の概要: REQAP: Resilient Weight Packing and Quantization for Edge DNN Acceleration
- arxiv url: http://arxiv.org/abs/2609.17555v1
- Date: Mon, 20 Jul 2026 04:10:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.554156
- Title: REQAP: Resilient Weight Packing and Quantization for Edge DNN Acceleration
- Title(参考訳): REQAP: エッジDNNアクセラレーションのためのレジリエントウェイトパッキングと量子化
- Abstract要約: エッジアクセラレータへのディープニューラルネットワーク(DNN)の効率的なデプロイには、積極的なモデル圧縮が必要である。
本稿では,シストリックアレイ型加速器の信頼性を考慮した量子化重み付け手法を提案する。
- 参考スコア(独自算出の注目度): 3.0990497136336774
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Efficient deployment of Deep Neural Networks (DNNs) on edge accelerators requires aggressive model compression while maintaining reliability in fault-prone hardware environments. This paper presents a reliability-aware quantized weight packing methodology for systolic-array-based DNN accelerators. A sensitivity-driven mixed-precision quantization framework assigns layer-wise bit-widths according to accuracy impact while enforcing symmetric precision between weights and activations. A deterministic register-level packing strategy consolidates multiple heterogeneous operand pairs into fixed-width register words, enabling SIMD-within-a-register (SWAR) style parallel execution that reduces both memory footprint and execution cycles. To improve resilience against hardware faults, selective bit-level protection replicates the most significant bits (MSBs) of critical layers into unused register space, achieving TMR-style protection with minimal overhead. A systolic-array simulation framework is developed to evaluate the proposed packing and fault-tolerance mechanisms under realistic execution conditions. Simulations in AlexNet, VGG-11, and ResNet-18 demonstrate up to 62% memory reduction and up to 56% reduction in Multiply-Accumulate (MAC) operations, while significantly improving accuracy resilience under fault injection compared to baseline and fully protected models.
- Abstract(参考訳): エッジアクセラレータへのディープニューラルネットワーク(DNN)の効率的なデプロイには、フォールトトレインなハードウェア環境における信頼性を維持しながら、積極的なモデル圧縮が必要である。
本稿では,シストリックアレイを用いたDNN加速器の信頼性を考慮した量子化重み付け手法を提案する。
感度駆動混合精度量子化フレームワークは、重みとアクティベーションの対称精度を図りながら、精度への影響に応じて層幅のビット幅を割り当てる。
決定論的レジスタレベルのパッキング戦略は、複数の異種オペランドペアを固定幅レジスタワードに集約し、SIMD-within-a-Register(SWAR)スタイルの並列実行を可能にし、メモリフットプリントと実行サイクルの両方を削減する。
ハードウェア障害に対するレジリエンスを改善するため、選択ビットレベルの保護は重要なレイヤの最も重要なビット(MSB)を未使用のレジスタ空間に複製し、最小限のオーバーヘッドでTMRスタイルの保護を実現する。
現実的な実行条件下でのパッキングとフォールトトレランスのメカニズムを評価するために,シストリックアレイシミュレーションフレームワークを開発した。
AlexNet、VGG-11、ResNet-18のシミュレーションでは、メモリを最大62%削減し、MAC(Multiply-Accumulate)操作を最大56%削減した。
関連論文リスト
- A KL Lens on Quantization: Fast, Forward-Only Sensitivity for Mixed-Precision SSM-Transformer Models [9.31160191200499]
エッジデバイス上の大規模言語モデル(LLM)は、計算とメモリの厳しい制約に直面している。
量子化誘起劣化に最も敏感なハイブリッドSSM-トランスフォーマーコンポーネントを同定するための,軽量でバックプロパゲーションフリーなサロゲート型感度分析フレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-15T03:40:30Z) - HQP: Sensitivity-Aware Hybrid Quantization and Pruning for Ultra-Low-Latency Edge AI Inference [0.0]
相乗的モデル加速を実現するために設計されたHybrid Quantization and Pruning (HQP)フレームワーク。
HQPフレームワークは3.12倍の推論速度向上と55%のモデルサイズ縮小を実現している。
論文 参考訳(メタデータ) (2026-02-02T18:17:45Z) - EAGER: Edge-Aligned LLM Defense for Robust, Efficient, and Accurate Cybersecurity Question Answering [10.78145758065258]
EAGERは、パラメータ効率の量子化とドメイン固有の優先順位アライメントを統合し、効率、堅牢性、精度を共同で最適化する。
実験により、EAGERは敵の攻撃成功率を最大7.3倍に下げ、最先端の防御よりもQAの精度を最大55%向上させることが示された。
論文 参考訳(メタデータ) (2025-11-24T06:49:48Z) - The Curious Case of In-Training Compression of State Space Models [49.819321766705514]
ステートスペースモデル(SSM)は、並列化可能なトレーニングと高速推論の両方を提供する。
鍵となる設計上の課題は、表現力の最大化と計算負荷の制限の間の適切なバランスを打つことだ。
我々のアプローチである textscCompreSSM はリニアリカレントユニットのような線形時間不変SSMに適用されるが、選択モデルにも拡張可能である。
論文 参考訳(メタデータ) (2025-10-03T09:02:33Z) - Progressive Element-wise Gradient Estimation for Neural Network Quantization [2.1413624861650358]
量子化アウェアトレーニング(QAT)法は、離散化関数の非微分可能性に対処するためにSTE(Straight-Through Estimator)に依存する。
本稿では,連続値と量子化値の離散化誤差に対処するため,PEGE(Progressive Element-wise Gradient Estimation)を提案する。
PEGEは、既存のバックプロパゲーション手法を一貫して上回り、低精度のモデルが彼らの完全精度の精度にマッチしたり、さらに上回ったりすることを可能にしている。
論文 参考訳(メタデータ) (2025-08-27T15:59:36Z) - Breaking the Limits of Quantization-Aware Defenses: QADT-R for Robustness Against Patch-Based Adversarial Attacks in QNNs [3.962831477787584]
量子ニューラルネットワーク(QNN)は、モデルサイズと計算コストを削減するための有望なソリューションとして登場した。
本研究は, 量子化モデルにおいて, 逆パッチは高い転送性を有することを示す。
本稿では,QADT-R(Quantization-Aware Defense Training with Randomization)を提案する。
論文 参考訳(メタデータ) (2025-03-10T08:43:36Z) - An Adaptive Device-Edge Co-Inference Framework Based on Soft
Actor-Critic [72.35307086274912]
高次元パラメータモデルと大規模数学的計算は、特にIoT(Internet of Things)デバイスにおける実行効率を制限する。
本稿では,ソフトポリシーの繰り返しによるエフェキシット点,エフェキシット点,エンフェキシット点を生成する離散的(SAC-d)のための新しい深層強化学習(DRL)-ソフトアクタ批判法を提案する。
レイテンシと精度を意識した報酬設計に基づいて、そのような計算は動的無線チャンネルや任意の処理のような複雑な環境によく適応でき、5G URLをサポートすることができる。
論文 参考訳(メタデータ) (2022-01-09T09:31:50Z) - Sharpness-aware Quantization for Deep Neural Networks [45.150346855368]
シャープネス・アウェア量子化(SAQ)は,シャープネス・アウェア最小化(SAM)がモデル圧縮に与える影響を探索する新しい手法である。
本研究では,SAQにより量子化モデルの一般化性能が向上し,SOTAの結果が均一に量子化されることを示す。
論文 参考訳(メタデータ) (2021-11-24T05:16:41Z) - Efficient Micro-Structured Weight Unification and Pruning for Neural
Network Compression [56.83861738731913]
ディープニューラルネットワーク(DNN)モデルは、特にリソース制限されたデバイスにおいて、実用的なアプリケーションに不可欠である。
既往の非構造的あるいは構造化された重量刈り法は、推論を真に加速することはほとんど不可能である。
ハードウェア互換のマイクロ構造レベルでの一般化された重み統一フレームワークを提案し,高い圧縮と加速度を実現する。
論文 参考訳(メタデータ) (2021-06-15T17:22:59Z) - AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。
我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
論文 参考訳(メタデータ) (2020-07-14T09:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。