論文の概要: UniCASE: A Unified 16-bit Floating-Point Format with Criticality-Aware Selective ECC for Efficient DNN Protection
- arxiv url: http://arxiv.org/abs/2609.22590v1
- Date: Fri, 18 Sep 2026 21:14:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:44:16.507813
- Title: UniCASE: A Unified 16-bit Floating-Point Format with Criticality-Aware Selective ECC for Efficient DNN Protection
- Title（参考訳）: UniCASE: 効率的なDNN保護のための臨界対応選択ECCを備えた16ビット浮動小数点集合
- Abstract要約: 本稿では,データ表現とエラー保護を協調的に最適化し,信頼性の高い実行を実現する16ビット浮動小数点(FP)フォーマットを提案する。
我々は,UniCASEがエンコーダ/デコーダのコストを最大30%削減し,FP32ベースラインの1%以内のモデル精度を保ち,既存の組込みパリティ法よりもソフトエラーのレジリエンスを著しく向上することを示した。
- 参考スコア（独自算出の注目度）: 0.42970700836450487
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Soft errors are an increasing reliability concern for Deep Neural Network execution because they can corrupt parameters, leading to accuracy degradation. While conventional ECC offers strong fault protection, it incurs additional parity storage and computational overhead. Embedded-parity formats reduce storage cost by reusing the least-significant bits, but they do not optimize protection while reducing computational overhead. We propose UniCASE, a unified 16-bit floating-point (FP) format that jointly optimizes data representation and error protection for reliable DNN execution. It identifies stable blocks across FP64, FP32, FP16, and BFloat16 that can be mapped into a unified representation. Based on bit-level criticality analysis, UniCASE uses selective ECC that assigns distinct levels of protection to different data bits according to their resilience against soft errors. Experimental results show that UniCASE reduces encoder/decoder cost by up to 30%, preserves model accuracy within 1% of the FP32 baseline, and provides significantly stronger soft error resilience than existing embedded-parity methods.
- Abstract（参考訳）: ソフトエラーは、パラメータを破損させ、精度の低下につながるため、ディープニューラルネットワークの実行に対する信頼性の懸念が高まる。
従来のECCは強いフォールトプロテクションを提供するが、追加のパリティストレージと計算オーバーヘッドを発生させる。
組込みパリティフォーマットは、最小のビットを再利用することでストレージコストを削減するが、計算オーバーヘッドを減らしながら保護を最適化しない。
信頼性の高いDNN実行のためのデータ表現とエラー保護を協調的に最適化する16ビット浮動小数点(FP)フォーマットであるUniCASEを提案する。
FP64、FP32、FP16、BFloat16にまたがる安定したブロックを特定し、統一表現にマッピングできる。
ビットレベルの臨界分析に基づいて、UniCASEは選択ECCを使用して、異なるデータビットに対して異なるレベルの保護を、ソフトエラーに対するレジリエンスに応じて割り当てる。
実験結果から、UniCASEはエンコーダ/デコーダのコストを最大30%削減し、FP32ベースラインの1%以内のモデル精度を維持し、既存の組込みパリティ法よりもはるかに強力なソフトエラーレジリエンスを提供することがわかった。
関連論文リスト
- Preference Data Selection for Mitigating the Alignment Tax in Large Language Models [52.18310687523229]
BALIGNは、アライメント効率を最適化しながら破滅的な忘れを緩和するバランスのとれたデータ選択戦略である。
3つの重要なデータ中心の機能を統一された複合リスクスコアに集約することにより、BALIGNは、ハイリスクな選好サンプルを体系的にフィルタリングする。
標準的な人間の嗜好データセットの実験では、BALIGNはアライメントゲインを損なうことなく基礎的能力を強く保持している。
論文 参考訳（メタデータ） (2026-08-25T07:58:42Z) - From Bit-Position Sensitivity to Unequal Error Protection for DNN Inference Memory [0.4610618579893946]
16のワークロードにわたるML推論において,ビット位置当たりの故障感度を特徴付ける。
我々の中心的な経験的発見は、シャープなビット感度遷移である: 決定論的単一ビットストレステストの下で、データタイプ固有のしきい値であるXsafeに、最も重要でない分数ビットのいずれかをめくって、タスクメトリクスを1%以下に低下させる。
論文 参考訳（メタデータ） (2026-07-21T23:07:56Z) - PRISM: Sensitivity-Aware PolynoMial PRuning for EffIcient Neural Network Encryption [0.0]
本稿では,Pruned CKKS-en critical Neural Networkの信頼性評価を行う。
PAP(Polynomial-Sensitivity-Aware Pruning)は、本質的に信頼性に配慮した構造化プルーニング法である。
論文 参考訳（メタデータ） (2026-07-20T05:47:06Z) - Demystifying Numerical Instability in LLM Inference: Achieving Reproducible Inference for Mission-Critical Tasks with HEAL [18.134050827462005]
大規模言語モデル(LLM)は、ミッションクリティカルドメイン(金融、医療、法律など)に展開する。
16ビットの精度の実験では、異種GPU間で破滅的な出力のばらつきが見られる。
ハードウェア制約を解きながらFP32アクセラレータを近似するターゲット介入であるHybrid Error ALleviation (HEAL)を提案する。
論文 参考訳（メタデータ） (2026-06-19T01:21:10Z) - Runtime-Certified Bounded-Error Quantized Attention [0.0]
本稿では,実行時対応型KVキャッシュアーキテクチャを提案する。
二項誤差分解は、キー量子化および(ii)値再構成誤差から、(i)注目分布歪みに対するヘッド当たり、ステップ当たりのバウンダリが得られる。
PG-19、NIAH、RULERのベンチマークにおいて、このシステムは言語モデリングと検索タスクのためのノイズ内の密度の高いFP16 KV品質と一致している。
論文 参考訳（メタデータ） (2026-05-20T08:04:40Z) - Effective and Memory-Efficient Alternatives to ECC for Reliable Large-Scale DNNs [0.20524609401792393]
より信頼性の高い誤り訂正符号(ECC)の2つの軽量な代替案を提案する。
最初のアプローチであるMSETは、CNNとViTパラメータの最も脆弱なビットを選択的に強化する。
第2のアプローチであるCEPは、すべてのパラメータビットに対してきめ細かい保護を提供する。
論文 参考訳（メタデータ） (2026-05-08T08:11:15Z) - WISV: Wireless-Informed Semantic Verification for Distributed Speculative Decoding in Device-Edge LLM Inference [56.297697169678095]
WISV(Wireless-Informed Semantic Verification)は、分散投機的復号化フレームワークである。
WISVは最大60.8%の許容長の増加、37.3%の対話ラウンドの削減、31.4%のエンドツーエンドレイテンシの改善を実現している。
NVIDIA Jetson AGX OrinとA40搭載サーバからなるハードウェアテストベッド上でWISVを検証する。
論文 参考訳（メタデータ） (2026-04-20T01:29:56Z) - BWTA: Accurate and Efficient Binarized Transformer by Algorithm-Hardware Co-design [71.97035034203275]
バイナライゼーションにおけるゼロ点歪みを解析し,BWTA量子化方式を提案する。
本稿では,Smooth Multi-Stage Quantizationを提案し,レベルワイド・デグラデーション・ストラテジーとMagnitude Alignment Projection Factorを組み合わせた。
実験の結果、BWTAはTransformerベースのモデルに対して、GLUEでは平均3.5%、タスクでは2%未満の精度でフル精度のパフォーマンスにアプローチしていることがわかった。
論文 参考訳（メタデータ） (2026-04-05T04:25:07Z) - LATA: Laplacian-Assisted Transductive Adaptation for Conformal Uncertainty in Medical VLMs [61.06744611795341]
医用視覚言語モデル(VLM)は医用画像の強力なゼロショット認識器である。
本研究では,ラプラシアン支援トランスダクティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ(texttttextbfLATA,ラプラシアン支援トランスダクティブ・アダプティブ・アダプティブ・アダプティブ)を提案する。
texttttextbfLATAは交換性を損なうことなくゼロショット予測をシャープにする。
論文 参考訳（メタデータ） (2026-02-19T16:45:38Z) - INT v.s. FP: A Comprehensive Study of Fine-Grained Low-bit Quantization Formats [51.72056104795248]
NvidiaのBlackwellアーキテクチャのような現代のAIハードウェアは、低精度浮動小数点(FP)フォーマットをますます受け入れている。
本稿では,FPフォーマットと整数(INT)フォーマットのトレードオフを系統的に検討する。
FPは粗粒度量子化に優れるが、きめ細かい(ブロックワイド)レベルでの比較はよりニュアンスが高い。
論文 参考訳（メタデータ） (2025-10-29T15:11:53Z) - Speeding Up MACE: Low-Precision Tricks for Equivarient Force Fields [51.95157731126864]
機械学習力場は高い計算コストで正確な分子動力学(MD)を提供することができる。
この論文は、計算ボトルネックを特定し、低精度の実行ポリシーを評価することで、MACEを安価かつ高速にすることを目的としている。
論文 参考訳（メタデータ） (2025-10-23T14:02:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。