論文の概要: Spherical Leech Quantization for Visual Tokenization and Generation

• arxiv url: http://arxiv.org/abs/2512.14697v1
• Date: Tue, 16 Dec 2025 18:59:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-17 16:49:26.846987
• Title: Spherical Leech Quantization for Visual Tokenization and Generation
• Title（参考訳）: 可視化と生成のための球面リーチ量子化
• Authors: Yue Zhao, Hanwen Jiang, Zhenlin Xu, Chutong Yang, Ehsan Adeli, Philipp Krähenbühl,
• Abstract要約: 格子符号化のレンズを用いて、異なる非パラメトリック量子化法を統一的に定式化する。 画像のトークン化と圧縮タスクでは、この量子化アプローチはBSQよりもすべてのメトリクスの再現品質が向上する。
• 参考スコア（独自算出の注目度）: 37.37290605007169
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Non-parametric quantization has received much attention due to its efficiency on parameters and scalability to a large codebook. In this paper, we present a unified formulation of different non-parametric quantization methods through the lens of lattice coding. The geometry of lattice codes explains the necessity of auxiliary loss terms when training auto-encoders with certain existing lookup-free quantization variants such as BSQ. As a step forward, we explore a few possible candidates, including random lattices, generalized Fibonacci lattices, and densest sphere packing lattices. Among all, we find the Leech lattice-based quantization method, which is dubbed as Spherical Leech Quantization ($Λ_{24}$-SQ), leads to both a simplified training recipe and an improved reconstruction-compression tradeoff thanks to its high symmetry and even distribution on the hypersphere. In image tokenization and compression tasks, this quantization approach achieves better reconstruction quality across all metrics than BSQ, the best prior art, while consuming slightly fewer bits. The improvement also extends to state-of-the-art auto-regressive image generation frameworks.
• Abstract（参考訳）: 非パラメトリック量子化は、大きなコードブックに対するパラメータとスケーラビリティの効率性から、多くの注目を集めている。 本稿では格子符号化のレンズによる異なる非パラメトリック量子化法の統一的な定式化について述べる。 格子符号の幾何学は、BSQのような既存のルックアップフリー量子化変種を持つオートエンコーダを訓練する際、補助損失項の必要性を説明する。 前進として、ランダム格子、一般化されたフィボナッチ格子、最も密度の高い球充填格子を含むいくつかの候補を探索する。 中でも, 球状リーチ量子化(Spherical Leech Quantization, SQ)と呼ばれるリーチ格子を用いた量子化法は, 高対称性と超球面上の分布により, 簡易なトレーニングレシピと改良された再構成圧縮トレードオフをもたらす。 画像のトークン化と圧縮タスクにおいて、この量子化アプローチは、最高の先行技術であるBSQよりも、すべてのメトリクスの再構築品質が向上すると同時に、わずかに少ないビットを消費する。 この改善は、最先端の自動回帰画像生成フレームワークにも拡張されている。

関連論文リスト

• MPQ-DMv2: Flexible Residual Mixed Precision Quantization for Low-Bit Diffusion Models with Temporal Distillation [74.34220141721231]
  我々は,textbfMixed textbfPrecision textbfQuantizationフレームワークを改良したMPQ-DMv2を提案する。
  論文  参考訳（メタデータ） (2025-07-06T08:16:50Z)
• FIMA-Q: Post-Training Quantization for Vision Transformers by Fisher Information Matrix Approximation [55.12070409045766]
  ポストトレーニング量子化(PTQ)は近年,費用対効果と有望なモデル圧縮パラダイムとして注目されている。 ビジョン変換器(ViT)の現在のPTQ法は、特に低ビット量子化において、精度が著しく低下している。
  論文  参考訳（メタデータ） (2025-06-13T07:57:38Z)
• Pack-PTQ: Advancing Post-training Quantization of Neural Networks by Pack-wise Reconstruction [31.14466497202028]
  ポストトレーニング量子化(PTQ)は、複雑なモデルを圧縮するための顕著なソリューションとして進化してきた。 本稿では,Pack-PTQと呼ばれる新しいPTQ手法を提案する。 そこで本研究では,様々なビット幅を異なる感度でパックに割り当てる混合精度量子化手法を提案する。
  論文  参考訳（メタデータ） (2025-05-01T02:53:46Z)
• XQ-GAN: An Open-source Image Tokenization Framework for Autoregressive Generation [54.2574228021317]
  XQ-GANは画像再構成と生成の両方のために設計された画像トークン化フレームワークである。 我々のフレームワークは、ベクトル量子化(VQ)、残留量子化(RQ)、マルチスケール残留量子化(MSVQ)、製品量子化(PQ)、バイナリ球面量子化(BSQ)など、最先端の量子化技術を統合する。 標準の ImageNet 256x256 ベンチマークでは,本モデルが MAGVIT-v2 (0.9 rFID) と VAR (0.9 rFID) を大幅に上回り,0.64 の rFID を達成した。
  論文  参考訳（メタデータ） (2024-12-02T17:58:06Z)
• Learning Optimal Lattice Vector Quantizers for End-to-end Neural Image Compression [16.892815659154053]
  格子ベクトル量子化(LVQ)は、機能間の依存関係をより効果的に活用できる魅力的な代替手段である。 従来のLVQ構造は、均一なソース分布のために設計・最適化されている。 本稿では,この弱点を克服するための新しい学習手法を提案する。
  論文  参考訳（メタデータ） (2024-11-25T06:05:08Z)
• Learning Representations for CSI Adaptive Quantization and Feedback [51.14360605938647]
  本稿では,周波数分割二重化システムにおける適応量子化とフィードバックの効率的な手法を提案する。 既存の研究は主に、CSI圧縮のためのオートエンコーダ(AE)ニューラルネットワークの実装に焦点を当てている。 1つはポストトレーニング量子化に基づくもので、もう1つはAEのトレーニング中にコードブックが見つかる方法である。
  論文  参考訳（メタデータ） (2022-07-13T08:52:13Z)
• Cluster-Promoting Quantization with Bit-Drop for Minimizing Network Quantization Loss [61.26793005355441]
  クラスタ・プロモーティング・量子化(CPQ)は、ニューラルネットワークに最適な量子化グリッドを見つける。 DropBitsは、ニューロンの代わりにランダムにビットをドロップする標準のドロップアウト正規化を改訂する新しいビットドロップ技術である。 本手法を様々なベンチマークデータセットとネットワークアーキテクチャ上で実験的に検証する。
  論文  参考訳（メタデータ） (2021-09-05T15:15:07Z)
• Quantized Proximal Averaging Network for Analysis Sparse Coding [23.080395291046408]
  反復アルゴリズムをトレーニング可能なネットワークに展開し,量子化前にスパーシティの学習を容易にする。 圧縮画像回復と磁気共鳴画像再構成への応用を実証する。
  論文  参考訳（メタデータ） (2021-05-13T12:05:35Z)
• Training Multi-bit Quantized and Binarized Networks with A Learnable Symmetric Quantizer [1.9659095632676098]
  リソース制約のあるデバイスやクラウドプラットフォームにそれらをデプロイするには、ディープニューラルネットワークの重み付けとアクティベーションの定量化が不可欠だ。 双対化は量子化の特別な場合であるが、この極端な場合はしばしばいくつかの訓練の困難をもたらす。 双対化の困難を克服するため,uniq と呼ばれる統一量子化フレームワークを開発した。
  論文  参考訳（メタデータ） (2021-04-01T02:33:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。