論文の概要: Inference-Time Scaling of Diffusion Models via Progressive Seed Pruning
- arxiv url: http://arxiv.org/abs/2607.21591v1
- Date: Thu, 23 Jul 2026 17:59:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 18:26:25.52986
- Title: Inference-Time Scaling of Diffusion Models via Progressive Seed Pruning
- Title(参考訳): プログレッシブシードプルーニングによる拡散モデルの予測時間スケーリング
- Abstract要約: emphProgressive Seed Pruning (PSP) は中間分解された推定値をスコアし、将来性のある軌道のみが完全に分解されるようにセットを徐々に絞り込む。
PSPは、報酬誘導の選択を一貫して改善し、より高いGenEvalスコア(自動)と、プロンプトアライメントに対する人間の評価を向上する。
- 参考スコア(独自算出の注目度): 13.544618187879296
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion and flow-matching models dominate conditional image generation, yet inference-time scaling for these models is far less developed than for autoregressive language models. Because final quality is highly sensitive to the initial noise seed, many approaches spend extra compute on seed search or resampling under a black-box reward, but typically maintaining a constant memory footprint throughout inference. We show that relaxing this constraint enables an underexplored inference-time scaling axis: by front-loading exploration, evaluating many seeds early, and pruning aggressively, we can use a fixed compute budget more effectively. \emph{Progressive Seed Pruning} (\PSP) scores intermediate denoised estimates and progressively narrows the candidate set so that only promising trajectories are fully denoised, while keeping the total number of model evaluations fixed. Across diffusion and flow-matching backbones, \PSP \ consistently improves reward-guided selection and achieves higher GenEval scores (automated) and better human evaluation on prompt-alignment than best-of-$N$, importance-sampling, and tree-search baselines at matched compute. Project page: https://www.vision.caltech.edu/psp. Code: https://github.com/rogerioagjr/psp.
- Abstract(参考訳): 拡散およびフローマッチングモデルが条件付き画像生成を支配しているが、これらのモデルに対する推論時間スケーリングは自己回帰言語モデルよりもはるかに少ない。
最終的な品質は初期ノイズシードに非常に敏感であるため、多くのアプローチではブラックボックスの報酬の下でシード検索や再サンプリングに余分な計算を費やすが、通常は推論を通してメモリフットプリントを維持している。
この制約を緩和することで、事前負荷探索、多くの種子の早期評価、積極的に刈り取ることにより、固定された計算予算をより効果的に利用することができる。
\emph{Progressive Seed Pruning} (\PSP) は中間偏差推定をスコアし、予測された軌道のみを完全に偏差化し、モデル評価の総数を維持しながら、段階的に候補集合を絞り込む。
拡散とフローマッチングのバックボーン全体にわたって、 \PSP \は報酬誘導の選択を一貫して改善し、一致した計算におけるベスト・オブ・N$、重要サンプリング、木探索ベースラインよりも高いGenEvalスコア(自動化)とプロンプトアライメントに関する人間評価を達成する。
プロジェクトページ: https://www.vision.caltech.edu/psp.com
コード:https://github.com/rogerioagjr/psp。
関連論文リスト
- WARP-RM: A Warp-Augmented Relative Progress Reward Model for Data Curation [16.464426150252255]
本稿では,密集度,符号付き相対進行度を学習するための完全自己教師付きアルゴリズムであるWARP(Warp-Augmented Relative Progress)を提案する。
WARPは、実演の時間ワープ拡張によりフレームごとの進捗目標を生成し、WARP-RMをトレーニングし、入力フレーム間の正規化経過時間を予測する。
次に,これらのスカラー報酬推定値を利用したWARP-BCを導入する。
論文 参考訳(メタデータ) (2026-06-26T17:58:06Z) - Inference-Time Scaling in Diffusion Models through Iterative Partial Refinement [22.349959761835468]
推論時間のスケーリングは、推論能力を改善するための主要なアプローチとして現れています。
逐次拡散のための推論時間スケーリング手法である反復部分分極(IPR)を提案する。
IPRは外部認証なしでよりグローバルに一貫したサンプルを生成する。
論文 参考訳(メタデータ) (2026-05-19T03:53:50Z) - Continuous Autoregressive Language Models [56.49239051750678]
我々はCALM(Continuous Autoregressive Language Models)を紹介する。
CALMは高忠実度オートエンコーダを使用して、Kトークンの塊を1つの連続ベクトルに圧縮する。
我々は、堅牢なトレーニング、評価、および制御可能なサンプリングを可能にする包括的可能性のないフレームワークを開発する。
論文 参考訳(メタデータ) (2025-10-31T17:58:11Z) - Noise Hypernetworks: Amortizing Test-Time Compute in Diffusion Models [57.49136894315871]
テストタイムスケーリングの新しいパラダイムは、推論モデルと生成視覚モデルにおいて驚くべきブレークスルーをもたらした。
本稿では,テスト時間スケーリングの知識をモデルに組み込むことの課題に対する1つの解決策を提案する。
拡散モデルにおいて、初期入力ノイズを変調するノイズハイパーネットワークにより、報酬誘導試験時間雑音の最適化を行う。
論文 参考訳(メタデータ) (2025-08-13T17:33:37Z) - Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳(メタデータ) (2025-07-11T08:00:47Z) - Diffusion Tree Sampling: Scalable inference-time alignment of diffusion models [13.312007032203857]
事前訓練された拡散モデルを推論時に新しい目的に適応させることは、生成的モデリングにおいて未解決の問題である。
そこで本研究では,終末報酬を拡散連鎖を通じて伝播させることにより,報奨目標密度から抽出するツリーベースアプローチを提案する。
以前の世代からの情報を再利用することで、任意のアルゴリズムが追加の計算を着実により良いサンプルに変換する。
論文 参考訳(メタデータ) (2025-06-25T17:59:10Z) - Continuous Visual Autoregressive Generation via Score Maximization [69.67438563485887]
本稿では,ベクトル量子化なしで直接視覚的自己回帰生成を可能にする連続VARフレームワークを提案する。
このフレームワークの中で必要なのは、厳密な適切なスコアを選択し、最適化のトレーニング目標として設定することだけです。
論文 参考訳(メタデータ) (2025-05-12T17:58:14Z) - Sampling-Efficient Test-Time Scaling: Self-Estimating the Best-of-N Sampling in Early Decoding [48.55176091771745]
テストタイムスケーリングは、推論中に追加の計算リソースを割り当てることで、大きな言語モデルのパフォーマンスを向上させる。
Best-of-N (BoN) サンプリングはサンプリングベースの一般的なスケーリング手法である。
我々は,全Nサンプルの完全生成を回避する復号法であるセルフトランケーションBest-of-N(ST-BoN)を提案する。
コスト面では、ST-BoNはFull-BoNと同じ性能を達成し、計算コストを70%-80%削減し、同じコストで3~4ポイント精度を向上させることができる。
論文 参考訳(メタデータ) (2025-03-03T11:21:01Z) - Towards Model-Agnostic Posterior Approximation for Fast and Accurate Variational Autoencoders [22.77397537980102]
我々は,真のモデルの後部の決定論的,モデルに依存しない後部近似(MAPA)を計算可能であることを示す。
我々は,(1)MAPAが真の後部傾向を捉えた低次元合成データに対する予備的な結果を示し,(2)MAPAに基づく推論は,ベースラインよりも少ない計算でより優れた密度推定を行う。
論文 参考訳(メタデータ) (2024-03-13T20:16:21Z) - Post-Processing Temporal Action Detection [134.26292288193298]
時間的行動検出(TAD)法は、通常、入力された可変長のビデオを固定長のスニペット表現シーケンスに変換する際に、前処理のステップを踏む。
この前処理ステップは、ビデオを時間的にダウンサンプリングし、推論の解像度を低減し、元の時間分解における検出性能を阻害する。
モデルの再設計や再学習を伴わない新しいモデル非依存のポストプロセッシング手法を提案する。
論文 参考訳(メタデータ) (2022-11-27T19:50:37Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-12-07T11:26:41Z) - Reducing the Amortization Gap in Variational Autoencoders: A Bayesian
Random Function Approach [38.45568741734893]
GPモデルの推論は、セミアモタイズ法よりもはるかに高速な1つのフィードフォワードパスによって行われる。
提案手法は,複数のベンチマークデータセットの最先端データよりも高い確率でテストデータが得られることを示す。
論文 参考訳(メタデータ) (2021-02-05T13:01:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。