論文の概要: Carry-Through Checksum: A Lightweight Fault-Detection for CNN Inference at the Edge

• arxiv url: http://arxiv.org/abs/2609.16742v1
• Date: Tue, 15 Sep 2026 07:15:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.384141
• Title: Carry-Through Checksum: A Lightweight Fault-Detection for CNN Inference at the Edge
• Title（参考訳）: Carry-Through Checksum: エッジでのCNN推論のための軽量故障検出
• Abstract要約: 組込みGPU上でのCNN推論におけるソフトエラー検出の基本的な新しい手法であるキャリースルーを提案する。 提案手法はFP32とFP16の臨界断層の95.86%と86.56%を画像当たりのオーバーヘッドで検出する。
• 参考スコア（独自算出の注目度）: 0.21748200848556343
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Convolutional Neural Networks (CNNs) are increasingly deployed in safety-critical edge applications, where soft errors can silently corrupt inference outputs and lead to unsafe decisions. Such applications typically rely on resource-constrained embedded GPUs, requiring fault detection and mitigation techniques that add minimal compute, memory, and latency overhead while integrating seamlessly with the standard GPU inference pipeline. Existing algorithm-based fault tolerance techniques rely on matrix augmentation and per-operation checksum verification, imposing substantial overhead that is prohibitive for CNN inference on embedded GPUs. In this work, we propose carry-through checksum, a fundamentally new scheme for soft-error detection in CNN inference on embedded GPUs. The method embeds dedicated carry-through filters into the convolutional layers, which compute a checksum from the CNN's own operations and propagate it through inference, enabling end-to-end error detection with a single output verification. Experimental results on multiple CNN architectures show that the proposed method detects 95.86% and 86.56% of critical faults for FP32 and FP16, respectively, at almost no additional per-image overhead. Detected faults are mitigated through re-execution, incurring only 2.27% run-time overhead across the entire test set on an NVIDIA Jetson Orin NX GPU.
• Abstract（参考訳）: 畳み込みニューラルネットワーク(CNN)は、ソフトエラーが静かに推論出力を破損させ、安全でない決定につながるような、安全クリティカルなエッジアプリケーションにますますデプロイされている。 このようなアプリケーションは一般的に、リソースに制約のある組み込みGPUに依存しており、標準的なGPU推論パイプラインとシームレスに統合しながら、最小限の計算、メモリ、遅延オーバーヘッドを追加するフォールト検出と緩和技術を必要とする。 既存のアルゴリズムベースのフォールトトレランス技術は、マトリックスの強化と運用毎のチェックサム検証に依存しており、組み込みGPUでのCNN推論を禁止しているかなりのオーバーヘッドを示唆している。 本研究では,組込みGPU上でのCNN推論におけるソフトエラー検出の基本的な新手法であるキャリースルーチェックサムを提案する。 この方法は、CNN自身の操作からチェックサムを計算し、推論を通じて伝播し、単一の出力検証でエンドツーエンドのエラー検出を可能にする、専用のキャンピングスルーフィルタを畳み込み層に埋め込む。 複数のCNNアーキテクチャの実験結果から、FP32とFP16の臨界故障の95.86%と86.56%を、画像当たりのオーバーヘッドがほとんどなかった。 検出された障害は再実行によって緩和され、NVIDIA Jetson Orin NX GPUで設定されたテスト全体の実行時のオーバーヘッドは2.27%に過ぎなかった。

関連論文リスト

• PEAT: Pseudo-Error Assessment for GPU Kernel Validation in DNN Training [1.0132958091492892]
  我々は、DNNアンダーラインTrainingにおけるGPUカーネル検証に関連するアンダーラインPseudo-underlineErrorアンダーライン評価のための軽量検査フレームワークPEATを提案する。 従来のフォールトインジェクション(FI)にインスパイアされたPEATのプロファイラは、トレーニングフロー内のオペレーションワイドカーネルを起動し、モデルの状態を収集する。 PEATのAnalyzerはプロファイルエラーを特徴付け、ゴールデンエラーと比較してカーネルのエラー分布からのいくつかのシグネチャを明らかにしている。
  論文  参考訳（メタデータ） (2026-09-11T21:16:15Z)
• Achieving Near-Zero-Overhead Multi-Model Hierarchical Classification in Real-Time Detection Pipelines [0.0]
  ターゲット認識、監視、自動運転車、ドローンドメインにおけるエッジデプロイされた視覚システムは、階層的な推論パイプラインを必要とする。 GPU上ですべてのモデルを実行すると、パイプラインが成長するにつれてリアルタイムスループットを制限するシリアルボトルネックが発生する。 ゼロフォールバックDLAバックボーンに対する5段階の手法を提案する。
  論文  参考訳（メタデータ） (2026-08-12T08:14:22Z)
• Global Context Aggregation Network for Lightweight Saliency Detection of Surface Defects [70.48554424894728]
  我々は,エンコーダ・デコーダ構造上の表面欠陥を簡易に検出するためのGCANet(Global Context Aggregation Network)を開発した。 まず、軽量バックボーンの上部層に新しいトランスフォーマーエンコーダを導入し、DSA(Depth-wise Self-Attention)モジュールを通じてグローバルなコンテキスト情報をキャプチャする。 3つの公開欠陥データセットの実験結果から,提案したネットワークは,他の17の最先端手法と比較して,精度と実行効率のトレードオフを良好に達成できることが示された。
  論文  参考訳（メタデータ） (2023-09-22T06:19:11Z)
• Attention-based Feature Compression for CNN Inference Offloading in Edge Computing [93.67044879636093]
  本稿では,デバイスエッジ共振器におけるCNN推論の計算負荷について検討する。 エンドデバイスにおける効率的な特徴抽出のための新しいオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。 実験の結果、AECNNは中間データを約4%の精度で256倍圧縮できることがわかった。
  論文  参考訳（メタデータ） (2022-11-24T18:10:01Z)
• Receptive Field-based Segmentation for Distributed CNN Inference Acceleration in Collaborative Edge Computing [93.67044879636093]
  協調エッジコンピューティングネットワークにおける分散畳み込みニューラルネットワーク(CNN)を用いた推論高速化について検討する。 我々は,CNNモデルを複数の畳み込み層に分割するために,融合層並列化を用いた新しい協調エッジコンピューティングを提案する。
  論文  参考訳（メタデータ） (2022-07-22T18:38:11Z)
• AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
  本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。 我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
  論文  参考訳（メタデータ） (2020-07-14T09:07:29Z)
• Efficient Integer-Arithmetic-Only Convolutional Neural Networks [87.01739569518513]
  我々は従来のReLUを境界ReLUに置き換え、その減少は活性化量子化によるものであることを示す。 我々の整数ネットワークは、対応するFPNネットワークと同等の性能を発揮するが、メモリコストは1/4に過ぎず、最新のGPUでは2倍高速である。
  論文  参考訳（メタデータ） (2020-06-21T08:23:03Z)
• FCOS: A simple and strong anchor-free object detector [111.87691210818194]
  物体検出を画素ごとの予測方式で解くために, 完全畳み込み型一段物検出器 (FCOS) を提案する。 RetinaNet、SSD、YOLOv3、Faster R-CNNといった最先端のオブジェクト検出器のほとんどは、事前に定義されたアンカーボックスに依存している。 対照的に、提案した検出器FCOSはアンカーボックスフリーであり、提案はフリーである。
  論文  参考訳（メタデータ） (2020-06-14T01:03:39Z)
• Making Convolutions Resilient via Algorithm-Based Error Detection Techniques [2.696566807900575]
  畳み込みニューラルネットワーク(CNN)はリアルタイムテレメトリを正確に処理する。 CNNはハードウェア障害がある場合、正しく実行しなければならない。 完全な重複は必要な保証を提供するが、100%オーバーヘッドを引き起こす。
  論文  参考訳（メタデータ） (2020-06-08T23:17:57Z)
• FT-CNN: Algorithm-Based Fault Tolerance for Convolutional Neural Networks [13.100954947774163]
  畳み込みニューラルネットワーク(CNN)は、多くの分野において困難で重要な問題を解決するためにますます重要になっている。 CNN推論アプリケーションは、高エネルギー粒子や高温、異常電圧によるソフトエラーに悩まされる安全クリティカルなシステムにデプロイされている。 従来のフォールトトレランス法は、エラー訂正符号が計算コンポーネントを保護することができないため、CNNの推論には適さない。
  論文  参考訳（メタデータ） (2020-03-27T02:01:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。