論文の概要: Post-training Quantization for Hybrid Iterative Generative Models

• arxiv url: http://arxiv.org/abs/2608.13932v1
• Date: Fri, 14 Aug 2026 04:07:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-17 20:14:29.263711
• Title: Post-training Quantization for Hybrid Iterative Generative Models
• Title（参考訳）: ハイブリッド反復生成モデルのための後学習量子化
• Abstract要約: 反復生成モデル(IGMs)は自己回帰と拡散のパラダイムにまたがり、それらが結合するハイブリッドな変異は、素晴らしい画像生成の忠実さを達成できる。 ポストトレーニング量子化(PTQ)は加速に訴える一方で、バニラPTQを直接ハイブリッドIGGに適用することでモデル崩壊を引き起こす。 ハイブリッドIGGのためのPTQフレームワークHyGenQを紹介する。 代表的ハイブリッドIGGを8ビット精度(W8A8)に定量化し、既存のベースラインを著しく上回り、異なるモデルファミリ間の堅牢性を検証した。
• 参考スコア（独自算出の注目度）: 52.791973512723324
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Iterative Generative Models (IGMs) span autoregressive and diffusion paradigms, and hybrid variants that couple them can achieve remarkable image-generation fidelity. However, their iterative inference incurs substantial computational overhead, making Post-training Quantization (PTQ) appealing for acceleration, while directly applying vanilla PTQ to hybrid IGMs can trigger model collapse. By analyzing these failures, we identify two critical challenges: Excessive Outliers (EOs) in the activations create an irreconcilable trade-off between preserving normal precision and covering EOs, resulting in severe degradation in generation quality; Amplified Anomalies (AAs) arising unpredictably from minor quantization errors, create a mismatch between calibration and inference, thus iteratively triggering model collapse. To address these challenges, we introduce HyGenQ, a PTQ framework for hybrid IGMs. HyGenQ comprises Hierarchical Cluster Decoupling (HCD) and Scaling Recalibration (SR). HCD identifies and decouples outlier channels via a multi-stage clustering process, effectively isolating EOs while maintaining normal value precision, thereby alleviating performance degradation. SR scales AAs beyond Gaussian Bound, thereby avoiding model collapse caused by aggressive truncation. Extensive experiments demonstrate that HyGenQ successfully quantizes representative hybrid IGMs to 8-bit precision (W8A8), significantly outperforming existing baselines and validating its robustness across different model families.
• Abstract（参考訳）: 反復生成モデル(IGMs)は自己回帰と拡散のパラダイムにまたがり、それらが結合するハイブリッドな変異は、素晴らしい画像生成の忠実性を達成することができる。 しかし、反復推論は計算上のオーバーヘッドをかなり引き起こし、ポストトレーニング量子化(PTQ)は加速に訴える一方で、バニラPTQをハイブリッドIGGに直接適用することでモデル崩壊を引き起こす可能性がある。 アクティベーションにおける過剰なアウトレイア(EOs)は、正常な精度の保存とEOのカバーとの間に不整合のトレードオフを生じさせ、生成品質が著しく低下する。 これらの課題に対処するために,ハイブリッドIMGのためのPTQフレームワークHyGenQを紹介する。 HyGenQは階層クラスタデカップリング(HCD)とスケーリングリカバリ(SR)で構成される。 HCDは、マルチステージクラスタリングプロセスを通じて外部チャネルを特定し、分離し、通常の値精度を維持しながらEOを効果的に分離し、性能劣化を軽減する。 SRはガウシアン境界を越えてAAをスケールし、アグレッシブ・トランケーションによるモデル崩壊を避ける。 HyGenQは、代表ハイブリッドIGGを8ビット精度(W8A8)に定量化することに成功し、既存のベースラインを著しく上回り、異なるモデルファミリ間の堅牢性を検証した。

関連論文リスト

• Q-ARVD: Quantizing Autoregressive Video Diffusion Models [98.30793646153926]
  自動回帰ビデオ拡散モデル(ARVD)は、ストリーミングビデオ生成のための有望なアーキテクチャとして登場した。 しかし、AVVDのかなりの推論コストは、実際的な展開の大きな障害であり続けている。 正確なAVVD量子化のための新しいフレームワークであるQ-ARVDを提案する。
  論文  参考訳（メタデータ） (2026-05-20T11:58:30Z)
• Expressivity-Efficiency Tradeoffs for Hybrid Sequence Models [50.45915413315706]
  非ハイブリッドモデルに対する基本的な制限の存在を証明する。 我々は,これらの課題を確実に解決する,小さなサイズと作業メモリのハイブリッドモデルを構築した。 さらに,ハイブリッドモデルが非ハイブリッドモデルよりも長大化および分布外堅牢性を示すことを示す。
  論文  参考訳（メタデータ） (2026-03-09T19:20:01Z)
• Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
  モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。 累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。 主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
  論文  参考訳（メタデータ） (2026-02-10T21:08:53Z)
• CausalCLIP: Causally-Informed Feature Disentanglement and Filtering for Generalizable Detection of Generated Images [3.281374657433808]
  CausalCLIPは、因果的特徴から因果的特徴を明示的に切り離すフレームワークであり、因果的推論原理によって導かれるターゲットフィルタリングを採用している。 異なる系列の未確認生成モデルでテストすると、CausalCLIPは強い一般化能力を示し、精度は6.83%、最先端法の平均精度は4.06%向上した。
  論文  参考訳（メタデータ） (2025-12-15T12:48:27Z)
• Hybrid second-order gradient histogram based global low-rank sparse regression for robust face recognition [4.582941396468189]
  低ランク回帰モデルは、照明変動に対する堅牢性から、顔認識において広く採用されている。 既存の手法は、しばしば、不十分な特徴表現と、サンプル間で構造化された腐敗の限定的なモデリングに悩まされる。 本稿では,Hybrid 2次勾配ヒストグラムに基づくGlobal Low-Rank Sparse Regressionモデルを提案する。
  論文  参考訳（メタデータ） (2025-11-08T07:31:38Z)
• Bifidelity Karhunen-Loève Expansion Surrogate with Active Learning for Random Fields [0.4899818550820576]
  本稿では、不確実な入力条件下で、フィールド値の利子(QoIs)に対する二元性カルフネン・ローブ拡張(KLE)サロゲートモデルを提案する。 我々は,サロゲートの一般化誤差に基づいて,新しいHF評価を適応的に選択する能動的学習戦略を形成する。 新しいHFサンプルは、高いサロゲート誤差の領域をターゲットとして、期待される改善基準を最大化することによって取得される。
  論文  参考訳（メタデータ） (2025-11-05T04:14:44Z)
• Quantum-Enhanced Generative Models for Rare Event Prediction [0.0]
  本稿では,変分量子回路に潜伏変数モデルを統合するハイブリッド古典量子フレームワークQuantum-Enhanced Generative Model (QEGM)を提案する。 合成ガウス混合物と,財務,気候,タンパク質構造にまたがる実世界のデータセットのQEGMを評価した。 その結果、QEGMは最先端のベースラインに比べて、尾部KLの分岐を最大50%減少させることが示された。
  論文  参考訳（メタデータ） (2025-11-03T20:24:55Z)
• Fast Autoregressive Models for Continuous Latent Generation [49.079819389916764]
  自己回帰モデルは、特にNLPにおいて、シーケンシャルなデータ生成において顕著な成功を収めている。 最近の研究で、マスク付き自己回帰モデル(MAR)は拡散ヘッドを用いて連続空間内のトーケン分布をモデル化することによって量子化をバイパスする。 本稿では,MARの拡散ヘッドを軽量ショートカットヘッドに置き換える新しいフレームワークであるFast AutoRegressive Model (FAR)を提案する。
  論文  参考訳（メタデータ） (2025-04-24T13:57:08Z)
• GenIAS: Generator for Instantiating Anomalies in time Series [54.959865643340535]
  可変オートエンコーダを用いた時系列異常検出(TSAD)のための生成モデルを開発した。 GenIASはTSADタスクのための多種多様な現実的な合成異常を生成するように設計されている。 実験の結果,GenIASは従来型および深部異常検出モデル17より一貫して優れていた。
  論文  参考訳（メタデータ） (2025-02-12T10:10:04Z)
• Dissecting Arbitrary-scale Super-resolution Capability from Pre-trained Diffusion Generative Models [24.82036158180386]
  拡散に基づく生成モデル(DGM)は、高品質な視覚コンテンツを合成する際の非並列的な性能を達成している。 これらの課題に対する最近の解決策は、しばしばアーキテクチャ固有のDGMをゼロから訓練するか、または事前訓練されたDGMに対して反復的な微調整と蒸留を必要とする。 我々はDiff-SRを提案する。Diff-SRは、事前訓練されたDGMのみをベースとした最初のASSRの試みであり、追加の訓練は行わない。
  論文  参考訳（メタデータ） (2023-06-01T14:20:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。