論文の概要: ShiftQAT: Quantization-Aware Training for the Numerical Contract of a Fixed-Function Edge CNN Accelerator

• arxiv url: http://arxiv.org/abs/2610.21695v1
• Date: Thu, 15 Oct 2026 11:17:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.049158
• Title: ShiftQAT: Quantization-Aware Training for the Numerical Contract of a Fixed-Function Edge CNN Accelerator
• Title（参考訳）: ShiftQAT:固定ファンクションエッジCNN加速器の数値契約のための量子化対応トレーニング
• Abstract要約: ShiftQATは、建設によって契約を満たすネットワークを生成する。 MAX78002 では、ShiftQAT で訓練された MobileNetV2 と ResNet-18 がイメージネット画像を 14.6 と 8.4 ms で分類している。
• 参考スコア（独自算出の注目度）: 0.06256402324137826
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fixed-function CNN accelerators make edge inference fast and energy-efficient, but they execute only networks that obey a precise numerical contract. On the MAX7800x family, this contract requires power-of-two, per-tensor, symmetric scales, 8-bit activations and biases, integer-only arithmetic, and one statically configured shift per layer. We present ShiftQAT, the quantization-aware training (QAT) flow we developed for this family, which produces networks satisfying the contract by construction. It is the default training path of ai8x-training, the family's open-source training toolchain. ShiftQAT resolves residual, concatenation, and weight-sharing dependencies so that activation scales propagate statically and each layer's requantization reduces to one offline-configured shift. It also trains weights and biases on a joint power-of-two grid that fits the 8-bit bias budget. Among the compared methods, only ShiftQAT satisfies all of the contract's scaling constraints, including signed 8-bit activation storage. Even so, on ImageNet it matches the W8A8 accuracy drop of less constrained QAT methods and stays within 2.9 percentage points of FP32 at W4A8. On MAX78002 silicon, ShiftQAT-trained MobileNetV2 and ResNet-18 classify ImageNet images in 14.6 and 8.4 ms at 5.1 and 2.8 mJ per inference.
• Abstract（参考訳）: 固定機能CNNアクセラレータはエッジ推論を高速かつエネルギー効率で行うが、正確な数値契約に従うネットワークのみを実行する。 MAX7800xファミリーでは、この契約にはパワーオブツー、テンソル毎の対称スケール、8ビットのアクティベーションとバイアス、整数のみの算術、1層ごとに静的に設定されたシフトが必要である。 本稿では,この家族のために開発したQAT(quantization-aware training)フローであるShiftQATについて述べる。 これは、オープンソースのトレーニングツールチェーンであるai8x-trainingのデフォルトのトレーニングパスである。 ShiftQATは、残余、結合、および共有の依存関係を解決し、アクティベーションスケールが静的に伝播し、各レイヤの繰り返しがオフラインで設定されたシフトに減少する。 また、8ビットのバイアス予算に適合する2つのグリッドの重みとバイアスを訓練する。 比較した方法の中で、ShiftQATだけが、署名付き8ビットアクティベーションストレージを含む、契約のスケーリング制約をすべて満たしている。 それでもImageNetでは、制約の少ないQATメソッドのW8A8の精度低下と一致し、W4A8ではFP32の2.9%以内に留まる。 MAX78002 では、ShiftQAT で訓練された MobileNetV2 と ResNet-18 がイメージネット画像を 14.6 と 8.4 ms で分類している。

関連論文リスト

• DQT: Dynamic Quantization Training via Dequantization-Free Nested Integer Arithmetic [4.184808780116726]
  本稿では,このボトルネックを取り除く新しいフレームワークである動的量子化トレーニング(DQT)を紹介する。 DQTの中核はネストされた整数表現であり、低い精度の値は高い精度のものにビット単位で埋め込まれている。 これによりDQTは、バックボーンネットワークの量子化のない静的混合精度の両方を可能にする最初の量子化フレームワークとなる。
  論文  参考訳（メタデータ） (2025-08-07T07:31:48Z)
• PROM: Prioritize Reduction of Multiplications Over Lower Bit-Widths for Efficient CNNs [46.498278084317704]
  ProMは,2つの異なるビット幅を選択的に使用することにより,奥行き分離可能な畳み込みネットワークを定量化するための簡単な手法である。 具体的には、ポイントワイズ畳み込みは3次重みに量子化され、残りの加群は8ビット重みを使用する。 PROMは、深度的に分離可能な畳み込みネットワークを3次と8ビットの重みに量子化する課題に対処する。
  論文  参考訳（メタデータ） (2025-05-06T07:32:24Z)
• Towards Accurate and Efficient Sub-8-Bit Integer Training [24.853958178296587]
  量子化は、ニューラルネットワークトレーニングにおける低ビット幅フォーマットを可能にする。 最近の手法では、量子化器上での新しいデータフォーマットと追加の事前処理操作が開発されている。 高い精度と効率を同時に達成することは、依然として非常に難しい。
  論文  参考訳（メタデータ） (2024-11-17T03:32:36Z)
• Sub-8-Bit Quantization Aware Training for 8-Bit Neural Network Accelerator with On-Device Speech Recognition [19.949933989959682]
  本稿では,8ビットニューラルネットワークアクセラレータのための新しい8ビット量子化対応トレーニング手法を提案する。 モデルパラメータのサイズを拡大し、単語エラー率を相対的に4-16%削減すると同時に、レイテンシを5%改善しています。
  論文  参考訳（メタデータ） (2022-06-30T16:52:07Z)
• ActNN: Reducing Training Memory Footprint via 2-Bit Activation Compressed Training [68.63354877166756]
  ActNNは、バック伝搬のためのランダムに量子化されたアクティベーションを格納するメモリ効率のトレーニングフレームワークである。 ActNNはアクティベーションのメモリフットプリントを12倍に削減し、6.6倍から14倍のバッチサイズでトレーニングを可能にする。
  論文  参考訳（メタデータ） (2021-04-29T05:50:54Z)
• HAWQV3: Dyadic Neural Network Quantization [73.11579145354801]
  現在の低精度量子化アルゴリズムは、浮動小数点から量子化された整数値への変換の隠れコストを持つことが多い。 HAWQV3は、新しい混合精度整数のみの量子化フレームワークである。
  論文  参考訳（メタデータ） (2020-11-20T23:51:43Z)
• Efficient Integer-Arithmetic-Only Convolutional Neural Networks [87.01739569518513]
  我々は従来のReLUを境界ReLUに置き換え、その減少は活性化量子化によるものであることを示す。 我々の整数ネットワークは、対応するFPNネットワークと同等の性能を発揮するが、メモリコストは1/4に過ぎず、最新のGPUでは2倍高速である。
  論文  参考訳（メタデータ） (2020-06-21T08:23:03Z)
• Towards Unified INT8 Training for Convolutional Neural Network [83.15673050981624]
  共用畳み込みニューラルネットワークのための統合8ビット(INT8)トレーニングフレームワークを構築した。 まず、勾配の4つの特徴を経験的に発見し、勾配量子化の洞察力のある手がかりを与える。 勾配の方向ずれを低減させる方向感度勾配クリッピングを含む2つの普遍的手法を提案する。
  論文  参考訳（メタデータ） (2019-12-29T08:37:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。