論文の概要: LatentQuant: Preserving the Policy-Facing Latent Contract under NVFP4 VAE Quantization
- arxiv url: http://arxiv.org/abs/2610.03959v1
- Date: Fri, 02 Oct 2026 19:13:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-12 21:22:48.01212
- Title: LatentQuant: Preserving the Policy-Facing Latent Contract under NVFP4 VAE Quantization
- Title（参考訳）: LatentQuant: NVFP4 VAE量子化による政策決定型遅延契約の保存
- Abstract要約: 量子化は、再建の忠実さと政策に直面する遅れた契約を守らなければならない。
2段階のNVFP4 QATフレームワークであるLatentQuantを導入し、まず量子化エンコーダを高精度に調整し、デコーダを適応させながら凍結する。
Wan2.1とWan2.2にまたがって、LatentQuantはベースラインに近い制御と高い復元品質を維持し、LIBEROでは95.75%、RoboTwinでは68.8%を達成している。
- 参考スコア（独自算出の注目度）: 9.924818637728235
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent world action models (WAMs) reuse pretrained video VAEs whose encoder latents directly condition downstream action policies. Quantization must therefore preserve not only reconstruction fidelity but also the policy-facing latent contract expected by the frozen policy. Direct NVFP4 leaves W4A4 quantization error uncompensated, whereas joint quantization-aware training (QAT) can recover reconstruction by moving this representation. On Wan2.1, joint QAT nearly matches FP32 VBench-7 (0.7403 versus 0.7409), yet LIBERO success collapses from 95.5% to 10.5%. Controlled decoder-only experiments show that activation quantize-dequantize operations alter the reconstruction signal and decoder Jacobian, redirecting the gradient returned to the encoder and inducing persistent latent drift. Based on this mechanism, we introduce LatentQuant, a two-stage NVFP4 QAT framework that first aligns the quantized encoder with its high-precision counterpart, then freezes it while adapting the decoder. Across Wan2.1 and Wan2.2, LatentQuant preserves near-baseline control and high reconstruction quality, achieving 95.75% success on LIBERO and 68.8% on RoboTwin. On NVIDIA B300 GPUs, NVFP4 execution achieves 1.17x-1.26x end-to-end VAE speedups over BF16 cuDNN.
- Abstract（参考訳）: 近年のワールドアクションモデル(WAM)では、エンコーダが直接下流のアクションポリシーを条件にしているビデオVAEを再利用している。
したがって、量子化は、再構築の信条だけでなく、凍結政策によって期待される政策に照らされた潜在契約も守らなければならない。
直接NVFP4はW4A4量子化誤差を補正せずに残し、一方ジョイント量子化対応トレーニング(QAT)は、この表現を移動して再構成を復元することができる。
Wan2.1では、共同QATはFP32 VBench-7(0.7403対0.7409)とほぼ一致しているが、LIBEROの成功率は95.5%から10.5%に低下した。
制御されたデコーダのみの実験により、アクティベーション量子化演算が再構成信号とデコーダジャコビアンを変化させ、勾配をエンコーダにリダイレクトし、持続的な潜伏ドリフトを引き起こすことを示した。
このメカニズムに基づき、まず量子化エンコーダを高精度に調整し、デコーダを適応させながら凍結する2段階のNVFP4 QATフレームワークであるLatentQuantを導入する。
Wan2.1とWan2.2にまたがって、LatentQuantはベースラインに近い制御と高い復元品質を維持し、LIBEROでは95.75%、RoboTwinでは68.8%を達成している。
NVIDIA B300 GPUでは、NVFP4の実行はBF16 cuDNN上で1.17x-1.26xのエンドツーエンドのVAEスピードアップを達成する。
関連論文リスト
- Rethinking Generative Image Compression at Extremely Low Bitrates [56.035931340138006]
本稿では、圧縮された表現とソース表現を直接アライメントする表現オートエンコーダ(RAE)空間上に構築された圧縮指向拡散(CoD)であるRAE-CoDを紹介する。
5つの視覚基盤モデル(VFM)と視覚言語モデルプロトコルを用いて,この枠組みを評価する。
論文 参考訳（メタデータ） (2026-09-30T08:53:11Z) - LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization [60.59339465850602]
本論文では、8ビットのリカレント状態量子化の下で、ほぼ無作為な性能を実現する学習不要なLeapQuantを提案する。
LeapQuantは、推論中にメモリと計算コストを大幅に削減することを示す。
FP32ベースラインに匹敵する精度で、カーネルレベルでは2.05--3.70$times$、エンドツーエンドの推論では1.47$times$となる。
論文 参考訳（メタデータ） (2026-09-29T17:59:34Z) - Efficient JPEG Restoration in the Wavelet Domain via Mean Flows [0.0]
我々は,LIVE-1,Urban100,DIV2K-valにおいて,QF10,20で最低のLPIPSが得られる65Mパラメータ生成復号器を提案する。
スクラッチからトレーニングされたこのモデルは、学習したVAEエンコーダデコーダを、完全に可逆な2レベルHaar変換に置き換える。
論文 参考訳（メタデータ） (2026-08-28T17:34:27Z) - Ghost Attractor Networks: Basin-Structured Dynamical Decoders for Closed-Loop Sequential Generation [15.734979840846568]
本稿では,理論的に導出された動的デコーダであるGhost Attractor Networksを提案する。
ドリフトによって学習されたポテンシャルの下で進化し、建設によって盆地・トラクター構造を生成する。
論文 参考訳（メタデータ） (2026-06-16T11:23:30Z) - Ω-QVLA: Robust Quantization for Vision-Language-Action Models via Composite Rotation and Per-step Scaling [17.355916557144994]
Omega-QVLAは、Vision-Language-Action(VLA)モデルのためのトレーニング不要のポストトレーニング量子化フレームワークである。
言語バックボーンと拡散アクションヘッド全体を均一なW4A4精度に圧縮し、混合精度の割り当てを必要としない。
LIBEROでは、Omega-QVLA が Pi 0.5 と GR00T N1.5 を 98.0% と 87.8% のタスク成功率で W4A4 に圧縮し、FP16 参照の 97.1% と 87.0% をマッチングまたは超過し、静的メモリのフットプリントを 71.3% 削減した。
論文 参考訳（メタデータ） (2026-05-27T17:55:01Z) - DecQ: Detail-Condensing Queries for Enhanced Reconstruction and Generation in Representation Autoencoders [50.02172864947277]
表現オートエンコーダ(RAE)は、凍結した視覚基盤モデル(VFM)をトークン化器エンコーダとして利用する。
対照的に、微調整による再構成指向信号の統合は、事前訓練された意味空間を妨害し、生成的忠実度を低下させる。
本稿では,RAEの簡易かつ効果的なフレームワークであるDecQを提案する。具体的には,中間的VFM特徴から微細な情報を抽出する軽量な詳細化クエリを提案する。
論文 参考訳（メタデータ） (2026-05-21T17:34:04Z) - ActQuant: Sub-4-bit Action-Guided Quantization for Vision-Language-Action Models [45.62029693245481]
本稿では,アクション誘導型混合精度PTQフレームワークであるActQuantを紹介する。
ActQuant は、(1) エージェントの動作の予測にどの程度貢献するかに基づいて、各重み行列に1ビット幅を割り当てるテンソル間ビットアロケータである。
我々はまた、効率的な低ビットカーネルを持つネイティブC/C++にポートするエージェント変換パイプラインであるOmniModelも導入した。
論文 参考訳（メタデータ） (2026-05-19T19:57:26Z) - QYOLO: Lightweight Object Detection via Quantum Inspired Shared Channel Mixing [2.571702746660217]
この研究は、真のアーキテクチャ圧縮を実現する量子インスパイアされたチャネルミキシングフレームワークであるQYOLOを紹介する。
提案ブロックは,共有学習可能なパラメータを持つ正弦波混合機構を用いて,グローバルチャネルの校正を行う。
QYOLOv8sは0.1ppの劣化で21.8%の低減を実現し、完全精度のパリティは圧縮コストなしで回収される。
論文 参考訳（メタデータ） (2026-04-29T08:47:27Z) - BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。
両課題に対処する統合フレームワークであるBadCLIP++を提案する。
ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。
持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
論文 参考訳（メタデータ） (2026-02-19T08:31:16Z) - SVDQuant: Absorbing Outliers by Low-Rank Components for 4-Bit Diffusion Models [61.474101404805545]
拡散モデルは高品質なイメージを生成することができるが、スケールするにつれて、メモリ要求が増加し、より高いレイテンシがデプロイメント上の課題を引き起こす。
この制限を克服する新しい4ビット量子化パラダイムであるSVDQuantを提案する。
We reduce the memory usage for the 12B FLUX.1 models by 3.5$times$, achieved 3.0$times$ speedup over the 4-bit weight-only Quantization (W4A16) baseline。
論文 参考訳（メタデータ） (2024-11-07T18:59:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。