論文の概要: LSRS: Latent Scale Rejection Sampling for Visual Autoregressive Modeling

• arxiv url: http://arxiv.org/abs/2512.03796v1
• Date: Wed, 03 Dec 2025 13:44:30 GMT
• ステータス: 情報取得中
• システム内更新日: 2025-12-04 11:58:28.168478
• Title: LSRS: Latent Scale Rejection Sampling for Visual Autoregressive Modeling
• Title（参考訳）: LSRS:視覚的自己回帰モデリングのための遅延スケールリジェクションサンプリング
• Authors: Hong-Kai Zheng, Piji Li,
• Abstract要約: 本稿では,自己回帰誤差の蓄積を軽減するため,LSRS(Latent Scale Rejection Smpling)を提案する。 提案手法は軽量なスコアリングモデルを用いて,各スケールでサンプリングされた複数の候補トークンマップを評価し,高品質なマップを選択してその後のスケール生成を誘導する。 実験により、LSRSは最小の計算オーバーヘッドでVARの生成品質を著しく改善することが示された。
• 参考スコア（独自算出の注目度）: 22.7968403903992
• License:
• Abstract: Visual Autoregressive (VAR) modeling approach for image generation proposes autoregressive processing across hierarchical scales, decoding multiple tokens per scale in parallel. This method achieves high-quality generation while accelerating synthesis. However, parallel token sampling within a scale may lead to structural errors, resulting in suboptimal generated images. To mitigate this, we propose Latent Scale Rejection Sampling (LSRS), a method that progressively refines token maps in the latent scale during inference to enhance VAR models. Our method uses a lightweight scoring model to evaluate multiple candidate token maps sampled at each scale, selecting the high-quality map to guide subsequent scale generation. By prioritizing early scales critical for structural coherence, LSRS effectively mitigates autoregressive error accumulation while maintaining computational efficiency. Experiments demonstrate that LSRS significantly improves VAR's generation quality with minimal additional computational overhead. For the VAR-d30 model, LSRS increases the inference time by merely 1% while reducing its FID score from 1.95 to 1.78. When the inference time is increased by 15%, the FID score can be further reduced to 1.66. LSRS offers an efficient test-time scaling solution for enhancing VAR-based generation.
• Abstract（参考訳）: 画像生成のためのVisual Autoregressive (VAR) モデリングアプローチは、階層スケールをまたいだ自動回帰処理を提案し、複数のトークンを並列にデコードする。 合成を加速しながら高品質な生成を実現する。 しかし、スケール内での並列トークンサンプリングは構造的誤りを引き起こす可能性があり、結果として準最適画像が生成される。 これを軽減するために,VARモデルを強化するために,遅延スケールにおけるトークンマップを段階的に洗練するLSRS(Latent Scale Rejection Smpling)を提案する。 提案手法は軽量なスコアリングモデルを用いて,各スケールでサンプリングされた複数の候補トークンマップを評価し,高品質なマップを選択してその後のスケール生成を誘導する。 構造的コヒーレンスにとって重要な早期スケールの優先順位付けにより、LSRSは計算効率を維持しながら自己回帰誤差の蓄積を効果的に軽減する。 実験により、LSRSは最小の計算オーバーヘッドでVARの生成品質を著しく改善することが示された。 VAR-d30モデルでは、LSRSはFIDスコアを1.95から1.78に下げつつ、推論時間を1%だけ増加させる。 推測時間が15%増加すると、FIDスコアはさらに1.66に下げられる。 LSRSは、VARベースの生成を改善するための効率的なテスト時間スケーリングソリューションを提供する。

関連論文リスト

• Rethinking Autoregressive Models for Lossless Image Compression via Hierarchical Parallelism and Progressive Adaptation [75.58269386927076]
  自己回帰(AR)モデルは、しばしば計算コストの禁止のために非現実的に除外される。 この研究は、階層的並列性とプログレッシブ適応に基づくフレームワークを導入して、このパラダイムを再考する。 各種データセット(自然,衛星,医療)の実験により,本手法が新たな最先端圧縮を実現することを確認した。
  論文  参考訳（メタデータ） (2025-11-14T06:27:58Z)
• Accelerating Diffusion LLMs via Adaptive Parallel Decoding [60.407727995313074]
  並列にサンプリングされたトークンの数を動的に調整する新しい手法であるアダプティブ並列復号法(APD)を導入する。 APDは、ダウンストリームベンチマークで最小限の品質劣化を伴って、非常に高いスループットを提供する。
  論文  参考訳（メタデータ） (2025-05-31T06:10:10Z)
• Satori-SWE: Evolutionary Test-Time Scaling for Sample-Efficient Software Engineering [51.7496756448709]
  言語モデル(LM)は、コーディングベンチマークではうまく機能するが、現実のソフトウェア工学のタスクでは苦労する。 既存のアプローチは、高品質なデータによる教師付き微調整に依存している。 本研究では, 生成を進化過程として扱うサンプル効率の高い手法であるテスト時間スケーリング(EvoScale)を提案する。
  論文  参考訳（メタデータ） (2025-05-29T16:15:36Z)
• DetailFlow: 1D Coarse-to-Fine Autoregressive Image Generation via Next-Detail Prediction [47.483590046908844]
  本稿では,粗い1次元自己回帰(AR)画像生成法であるDetailFlowを提案する。 DetailFlowは、段階的に劣化したイメージで管理される解像度対応トークンシーケンスを学習することにより、グローバルな構造から生成プロセスを開始することができる。 提案手法は,従来の手法よりもはるかに少ないトークンで高品質な画像合成を実現する。
  論文  参考訳（メタデータ） (2025-05-27T17:45:21Z)
• Efficient NeRF Optimization -- Not All Samples Remain Equally Hard [9.404889815088161]
  ニューラルレイディアンスフィールド(NeRF)の効率的なトレーニングのためのオンラインハードサンプルマイニングの応用を提案する。 NeRFモデルは、多くの3D再構成およびレンダリングタスクに対して最先端の品質を生み出すが、かなりの計算資源を必要とする。
  論文  参考訳（メタデータ） (2024-08-06T13:49:01Z)
• MSRS: Training Multimodal Speech Recognition Models from Scratch with Sparse Mask Optimization [49.00754561435518]
  MSRSは、RS3ベンチマークで21.1%と0.9%のWERでVSRとAVSRの競争結果を達成し、トレーニング時間を少なくとも2倍に短縮した。 我々は、他のスパースアプローチを探索し、MSRSだけが、消失する勾配によって影響を受ける重量を暗黙的に隠蔽することで、スクラッチからトレーニングできることを示す。
  論文  参考訳（メタデータ） (2024-06-25T15:00:43Z)
• Fine-tuning Strategies for Faster Inference using Speech Self-Supervised Models: A Comparative Study [25.58608455210458]
  自己教師付き学習(SSL)は、低リソース環境での音声認識(ASR)の性能を大幅に向上させた。 この記事では、SSLエンコーダに必要な計算量を削減するために、微調整中にデプロイされる可能性のあるさまざまなアプローチについて検討する。
  論文  参考訳（メタデータ） (2023-03-12T19:52:34Z)
• Effective Invertible Arbitrary Image Rescaling [77.46732646918936]
  Invertible Neural Networks (INN)は、ダウンスケーリングとアップスケーリングのサイクルを共同で最適化することにより、アップスケーリングの精度を大幅に向上させることができる。 本研究の1つのモデルのみをトレーニングすることにより、任意の画像再スケーリングを実現するために、単純で効果的な非可逆的再スケーリングネットワーク(IARN)を提案する。 LR出力の知覚品質を損なうことなく、双方向任意再スケーリングにおいて最先端(SOTA)性能を実現する。
  論文  参考訳（メタデータ） (2022-09-26T22:22:30Z)
• LAPAR: Linearly-Assembled Pixel-Adaptive Regression Network for Single Image Super-Resolution and Beyond [75.37541439447314]
  単一画像超解像(SISR)は、低解像度(LR)画像を高解像度(HR)バージョンにアップサンプリングする根本的な問題を扱う。 本稿では,線形組立画素適応回帰ネットワーク (LAPAR) を提案する。
  論文  参考訳（メタデータ） (2021-05-21T15:47:18Z)
• Anytime Sampling for Autoregressive Models via Ordered Autoencoding [88.01906682843618]
  自動回帰モデルは画像生成や音声生成などのタスクに広く使われている。 これらのモデルのサンプリングプロセスは割り込みを許さず、リアルタイムの計算資源に適応できない。 いつでもサンプリングできる新しい自動回帰モデルファミリーを提案します。
  論文  参考訳（メタデータ） (2021-02-23T05:13:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。