論文の概要: PulseQuant: Propagation-Guided Subspace Correction for 4-Bit Video Diffusion Transformers

• arxiv url: http://arxiv.org/abs/2609.33384v2
• Date: Tue, 29 Sep 2026 01:40:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.66273
• Title: PulseQuant: Propagation-Guided Subspace Correction for 4-Bit Video Diffusion Transformers
• Title（参考訳）: PulseQuant: 4ビットビデオ拡散変換器の伝搬誘導部分空間補正
• Abstract要約: PulseQuantは、軌道感度とアクティベーション幾何を組み合わせてオフラインキャリブレーションを誘導する4ビット後量子化法である。 制御された介入は、短水平伝播誤差が即時ブロック出力誤差よりも確実に最終潜時誤差を予測することを示している。
• 参考スコア（独自算出の注目度）: 46.65151972014436
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Quantization errors in video diffusion transformers can be amplified or attenuated by subsequent denoising updates, making local reconstruction error an incomplete predictor of final impact. We introduce PulseQuant, a 4-bit post-training quantization method that combines trajectory sensitivity with activation geometry to guide offline calibration. Isolated block--step interventions estimate propagation risk, which prioritizes sensitive trajectory states during row-radius selection. With these radii fixed, response-subspace correction uses neighboring-code edits to reduce residual components along dominant activation directions. Both stages preserve the original 4-bit weight representation. Controlled interventions show that short-horizon propagated error predicts final latent error more reliably than immediate block-output error, supporting calibration beyond local reconstruction objectives. Evaluations on Wan models, Self Forcing, and MiniMax-H3 demonstrate improvements in key consistency and dense-reference metrics while remaining competitive on other attributes across model scales and generation paradigms.
• Abstract（参考訳）: ビデオ拡散変換器における量子化誤差は、その後の復調更新によって増幅または減衰し、局所再構成誤差を最終的な影響の未完成な予測子にする。 PulseQuantは、軌道感度とアクティベーション幾何を組み合わせ、オフラインキャリブレーションを誘導する4ビット後量子化法である。 分離されたブロック-ステップの介入は伝搬リスクを推定し、行の半径選択時に敏感な軌道状態が優先される。 これらのラジイ固定では、応答サブスペース補正は隣り合うコード編集を使用して、主要な活性化方向に沿って残留成分を減少させる。 どちらの段階も元の4ビットの重み表現を保持する。 制御された介入は、短水平伝播誤差が即時ブロックアウトプット誤差よりも確実に最終潜時誤差を予測し、局所的な再構築目的を超えて校正をサポートすることを示す。 Wanモデル、Self Forcing、MiniMax-H3の評価は、重要な一貫性と高密度参照メトリクスの改善を示しながら、モデルスケールと生成パラダイムをまたいだ他の属性に競争力を維持している。

関連論文リスト

• Understanding LLM Quantization through Activation-Guided Compensation and Orthogonal Residuals [31.935824861650005]
  アクティベーションアウトレーヤが有効量子化分解能を低下させるため、トレーニング後の重量活性化量子化は困難である。 我々は、局所的な重量-活性化量子化誤差を活性化誘導量補償項に正確に分解する。 ランダム化アダマール回転, 符号選択, チャネルスケーリングの実践的ガイドラインを導出する。
  論文  参考訳（メタデータ） (2026-09-18T08:00:27Z)
• Right Direction, Wrong Step: Geometric Analysis of Finite-Step Failure in Looped Transformers [40.43356191604634]
  Looped Transformerは、反復的な遅延推論のために共有レイヤを再利用することで、テスト時間のスケーリングにパラメータ効率のよいルートを提供する。 追加のイテレーションは、参照応答のサポートを減らし、更新の方向が局所的に非ヘルペスであるか、その完全な変位が過度に動きすぎるかがはっきりしないままにすることができる。 我々は、モデル自身の更新方向に沿って、このサポートを測定する参照ユーティリティを分析して、この区別について検討する。
  論文  参考訳（メタデータ） (2026-09-15T05:42:02Z)
• SHIFT-LLM: Distribution Shift Correction in Depth-Pruned LLMs [18.494055578192015]
  本稿では,各プルーニングサイトに線形残差アダプタを挿入するトレーニング不要なポストプルーニング修正フレームワークShift-LLMを紹介する。 各LRAは元の残基の同一性経路を保持し、軽量なアフィン残基補正を追加する。 5つのモデルファミリ,6つの層選択基準,および7つのゼロショットベンチマーク実験により,ShiFT-LLMは深絞りによって失われる精度を常に回復することを示した。
  論文  参考訳（メタデータ） (2026-08-25T19:01:58Z)
• PRQuant: Permutation Residual Quantization for Low-Overhead Inference [24.634574269826164]
  重み量子化のためのトレーニング不要かつ低オーバーヘッドなフレームワークであるPRQuant(Permutation Residual Quantization)を提案する。 PRQuantは、ウェイト量子化エラーに最も寄与する入力チャネルを特定し、それらを連続したテールブロックに置換し、残りのウェイトサブテンソルをオフラインに構築する。 PRQuantは、ダウンプロジェクションの復元エラーを効果的に低減することを示す実験である。
  論文  参考訳（メタデータ） (2026-08-16T12:04:26Z)
• PTQ4SNN: Membrane-Aware Post-Training Quantization for Spiking Neural Networks [51.21235018272886]
  スパイキングニューラルネットワーク(SNN)はスパースとイベント駆動の計算を可能にするが、その低ビット展開は不完全である。 本稿では,小さなキャリブレーションセットのみを用いて,重みと繰り返し膜状態の同時定量化を行う膜認識後量子化フレームワークPTQ4SNNを提案する。 静的および事象に基づく分類とセマンティックセグメンテーションの実験により、PTQ4SNNはW4量子化と約4ビットの膜精度の下でモデル精度を効果的に保存することを示した。
  論文  参考訳（メタデータ） (2026-08-07T10:16:25Z)
• POLARIS: Projection-Orthogonal Least Squares for Robust and Adaptive Inversion in Diffusion Models [9.779983925649857]
  Inversion-Denoising Paradigmは拡散モデルに基づく多彩な画像編集と復元作業に優れる。 我々は、その機構を再検討し、復元劣化の重大な要因である、近似ノイズ誤差を明らかにする。 本稿では, 誤差補償問題から誤り補償問題への逆変換を再構成する, ロバスト・アダプティブ・インバージョンのための射影直交最小広場(POLARIS)について紹介する。
  論文  参考訳（メタデータ） (2025-11-29T07:35:20Z)
• APHQ-ViT: Post-Training Quantization with Average Perturbation Hessian Based Reconstruction for Vision Transformers [71.2294205496784]
  平均摂動ヘシアン (APH) を用いた重要度推定に基づく新しいPTQ手法である textbfAPHQ-ViT を提案する。 本稿では,線形量子化器を用いたAPHQ-ViTが既存のPTQ法よりも3ビット,4ビットの差が大きいことを示す。
  論文  参考訳（メタデータ） (2025-04-03T11:48:56Z)
• Rotated Runtime Smooth: Training-Free Activation Smoother for accurate INT4 inference [54.2589824716527]
  大規模言語モデルは、その大規模なため、相当な計算とメモリ移動コストを発生させる。 既存のアプローチでは、外れ値と通常の値を2つの行列に分けたり、アクティベーションからウェイトに移行したりしています。 Smooth と Rotation 操作からなる量子化のためのプラグ・アンド・プレイ・アクティベーション・スムーザである Rotated Smooth (RRS) を提案する。 提案手法は,LLaMAおよびQwenファミリーにおける最先端の手法より優れており,IF4推論におけるWikiText-2の難易度は57.33から6.66に向上している。
  論文  参考訳（メタデータ） (2024-09-30T14:59:22Z)
• Towards Accurate Post-Training Quantization for Vision Transformer [48.779346466374406]
  既存のトレーニング後の量子化手法は依然として深刻な性能低下を引き起こしている。 APQ-ViTは、既存のトレーニング後の量子化手法を証明マージンによって超越している。
  論文  参考訳（メタデータ） (2023-03-25T03:05:26Z)
• Fault-tolerant parity readout on a shuttling-based trapped-ion quantum computer [64.47265213752996]
  耐故障性ウェイト4パリティチェック測定方式を実験的に実証した。 フラグ条件パリティ測定の単発忠実度は93.2(2)%である。 このスキームは、安定化器量子誤り訂正プロトコルの幅広いクラスにおいて必須な構成要素である。
  論文  参考訳（メタデータ） (2021-07-13T20:08:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。