論文の概要: ReQAT: Achieving Full-Precision Reasoning Accuracy with 4-bit Floating-Point Quantization-Aware Training
- arxiv url: http://arxiv.org/abs/2606.15682v1
- Date: Sun, 14 Jun 2026 09:00:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:33.79286
- Title: ReQAT: Achieving Full-Precision Reasoning Accuracy with 4-bit Floating-Point Quantization-Aware Training
- Title（参考訳）: ReQAT: 4ビット浮動小数点量子化学習による高精度推論精度の実現
- Abstract要約: 大規模推論モデル(LRM)は、長いチェーン・オブ・シークレットを通じて強力な問題解決を実現する。
LRMは、完全精度推論とKVキャッシュフットプリントの増大によるコストの高い制約を受ける。
3つのコンポーネントを持つ推論中心のFP4トレーニングフレームワークであるReQATを提案する。
- 参考スコア（独自算出の注目度）: 12.549469252572079
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Reasoning Models (LRMs) achieve strong problem-solving through long chain-of-thought, but their deployment is constrained by the high cost of full-precision inference and growing KV cache footprints. Microscaled FP4 formats enable efficient FP4 deployment; however, fully quantizing weights, activations, and KV caches (W4A4KV4) causes severe reasoning degradation that existing PTQ and QAT fail to recover. We identify that FP4 failures concentrate on low-entropy tokens--precise symbolic commitments such as digits and operators--where quantization noise inflates sampling errors that cascade through reasoning traces. Based on this insight, we propose ReQAT, a reasoning-centric FP4 training framework with three components: (i) Trace-Aligned QAT (TAQ), which revisits identical reasoning traces to focus updates on critical low-entropy decisions; (ii) Selective Entropy Minimization (SEM), which reinforces confidence at low-entropy positions; and (iii) Q-FIT, a quantization-friendly initialization that jointly calibrates RoPE-consistent KV cache transformations to stabilize QAT. Under the same training budget, ReQAT not only recovers but surpasses BF16 fine-tuning accuracy, while delivering up to 3.9x throughput speedup on NVIDIA DGX Spark and 3.1x on B200.
- Abstract（参考訳）: 大きな推論モデル(LRM)は、長いチェーン・オブ・シークレットを通じて強力な問題解決を実現するが、その展開は、高精度な推論とKVキャッシュフットプリントの増加によって制約される。
マイクロスケールのFP4フォーマットは効率的なFP4デプロイメントを実現するが、重量、アクティベーション、KVキャッシュ(W4A4KV4)の完全な定量化は、既存のPTQとQATが回復できない重大な推論劣化を引き起こす。
我々はFP4の故障が低エントロピートークン(桁や演算子などの記号的なコミットメント)に集中していることを確認し、そこで量子化ノイズは、推論トレースを通じてカスケードされるサンプリングエラーを膨らませる。
この知見に基づいて、3つのコンポーネントを持つ推論中心のFP4トレーニングフレームワークであるReQATを提案する。
一 重要低エントロピー決定の更新に焦点を合わせるため、同一の推論トレースを再考するTrace-Aligned QAT(TAQ)
(二)低エントロピー位置における信頼を補強する選択エントロピー最小化(SEM)
3)Q-FITは、量子化に親しみやすい初期化で、RoPEに一貫性のあるKVキャッシュ変換を共同で校正し、QATを安定化させる。
同じトレーニング予算の下では、ReQATは回復するだけでなく、BF16の微調整精度を上回り、NVIDIA DGX Sparkでは3.9倍、B200では3.1倍のスループットを提供する。
関連論文リスト
- QUASAR: Lowering the Loss Floor of Quantization-Aware Training with Loss-Aware Reconstruction [29.200349824129102]
QUISARはトレーニングループにおいて損失認識の再構築を継続的に行い、損失フロアを低くし、結果として生じる低ビットモデルを改善する。
競合QAT法では,2,3,4ビットで最低値のKL分散を実現する。
8つのタスクの平均精度を、強いQATとPTQベースラインよりも3.5-4.3ポイント向上させる。
論文 参考訳（メタデータ） (2026-08-14T05:29:58Z) - HiFloat4 Format for End-To-End Reinforcement Learning Post-Training of Large Language Models [9.149747042283197]
本報告では,FP4RLのロールアウトとトレーニングポリシの両方を4ビット精度で動作させる,最初のエンドツーエンドのポストトレーニングについて述べる。
軽量な修正であるRollout-ResQは、ロールアウトの計算フットプリントを膨らませることなく、アウトリア駆動のアンダーフローに損失した精度の大部分を回復する。
論文 参考訳（メタデータ） (2026-07-29T06:28:26Z) - Full-Stack FP4: Stable LLM Pretraining with Quantized Projections, Optimizers, and Attention [34.07319488267708]
最近のNVFP4事前学習法は主に変圧器線形層を対象としており、4ビットパイプラインで探索された計算状態、算術的および注意点を残している。
この臨界ギャップは、3つのコアモジュールがユニークな数値的な故障パターンを示すため、安定なフルスタック4ビットプリトレーニングをブロックする。
3つの安定性ボトルネックをすべて解決した最初の完全NVFP4事前学習フレームワークであるFull-Stack FP4を提案する。
論文 参考訳（メタデータ） (2026-07-05T17:31:36Z) - Attn-QAT: 4-Bit Attention With Quantization-Aware Training [10.003298547571447]
本稿では,4ビット量子化対応トレーニング(QAT)を注目する最初の体系的研究について述べる。
FP4フォワードパスと高精度Flashアテンション(FA)スタイルのバックワードパスを鼻で組み合わせた"ドロップイン"QATが,トレーニングの不安定性につながることがわかった。
我々は、FP4推論カーネルと同様に、Attn-QATを提案し、融合したTritonカーネルを実装した。
論文 参考訳（メタデータ） (2026-02-09T04:46:21Z) - A Case Study of Selected PTQ Baselines for Reasoning LLMs on Ascend NPU [7.030422837091069]
トレーニング後の量子化(PTQ)は、Ascend NPU上での効率的なモデル展開に不可欠である。
本稿では,DeepSeek-R1-Distill-Qwenシリーズ(1.5B/7B/14B)やQwQ-32Bといった推論指向モデルに適用したPTQベースラインのケーススタディを示す。
AWQ、GPTQ、SmoothQuant、FlatQuantの4つの異なるアルゴリズムを評価し、重量のみの圧縮から高度な回転法までの範囲をカバーする。
論文 参考訳（メタデータ） (2026-02-06T09:22:09Z) - What Makes Low-Bit Quantization-Aware Training Work for Reasoning LLMs? A Systematic Study [59.44848132298657]
ポストトレーニング量子化(PTQ)は通常、特に低ビット設定でのタスクの推論において、大きな精度低下のコストが伴う。
本研究では,推論モデルに対する量子化認識学習(QAT)の体系的研究について述べる。
論文 参考訳（メタデータ） (2026-01-21T11:22:29Z) - CAGE: Curvature-Aware Gradient Estimation For Accurate Quantization-Aware Training [73.46600457802693]
本稿では,量子化による損失に対応する新しい手法を提案する。
CAGEは、同様の計算コストで、精度の観点から最先端の手法を大幅に改善する。
LlamaモデルのQAT事前トレーニングでは、CAGEは4ビット(W4A4)で達成された精度と事前のベストメソッドとを一致させる。
論文 参考訳（メタデータ） (2025-10-21T16:33:57Z) - Bridging the Gap Between Promise and Performance for Microscaling FP4 Quantization [77.67818998672516]
本研究は,MXFP4とNVFP4の学習後量子化に関する総合的研究である。
本稿では,従来のGPTQ量子化アルゴリズムの変種であるMicro-Rotated-GPTQ(MR-GPTQ)を紹介する。
MR-GPTQは最先端の精度で一致または性能が向上することを示す。
論文 参考訳（メタデータ） (2025-09-27T09:22:21Z) - End-to-End On-Device Quantization-Aware Training for LLMs at Inference Cost [53.25965863436039]
量子化対応トレーニング(QAT)は、より原則化されたソリューションを提供するが、バックプロパゲーションに依存しているため、メモリコストは禁じられている。
重み付けとアクティベーション量子化の両方をサポートするゼロオーダー最適化ベースのQATフレームワークであるZeroQATを提案する。
実験の結果、ZeroQATはPTQとQATのベースラインを一貫して上回り、メモリは大幅に削減された。
論文 参考訳（メタデータ） (2025-08-21T01:18:27Z) - Pioneering 4-Bit FP Quantization for Diffusion Models: Mixup-Sign Quantization and Timestep-Aware Fine-Tuning [14.145862114439831]
モデル量子化はウェイトとアクティベーションのビット幅を減らし、メモリ効率と推論速度を改善する。
既存の方法は、主に整数量子化と後学習量子化の微調整に基づいており、矛盾しない性能に悩まされている。
本稿では、まずモデル量子化に符号なしFP量子化を導入し、時間ステップ対応のLoRAとデノナイジング・ファクター損失アライメントを併用する混合符号浮動小数点量子化フレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-27T13:40:47Z) - Optimizing Large Language Model Training Using FP4 Quantization [73.55459961002371]
量子化トレーニングは、低ビット演算によるコスト削減を可能にすることで、有望なソリューションを提供する。
この研究は、大規模言語モデル(LLM)のための最初のFP4トレーニングフレームワークを紹介します。
論文 参考訳（メタデータ） (2025-01-28T18:04:50Z) - GAQAT: gradient-adaptive quantization-aware training for domain generalization [54.31450550793485]
そこで本研究では,DGのためのGAQAT(Gradient-Adaptive Quantization-Aware Training)フレームワークを提案する。
我々のアプローチは、低精度量子化におけるスケール・グラディエント・コンフリクト問題を特定することから始まる。
GAQATフレームワークの有効性を実験により検証した。
論文 参考訳（メタデータ） (2024-12-07T06:07:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。