論文の概要: Imperfect Verifiers, Exact Targets: Inference-Time Scaling for Continuous Generation
- arxiv url: http://arxiv.org/abs/2610.15281v1
- Date: Sun, 11 Oct 2026 02:24:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 01:49:29.026476
- Title: Imperfect Verifiers, Exact Targets: Inference-Time Scaling for Continuous Generation
- Title(参考訳): 不完全検証, 厳密な目標: 連続生成のための推論時間スケーリング
- Abstract要約: CS-VGB(Continuous-State Verifier-Guided Backtracking)は、報奨型分布からサンプリングする推論時間スケーリング手法である。
検証誤差にもかかわらずCS-VGBは指数関数的に目標に収束し,クリーンサンプルに到達するために必要な更新回数はチェックポイント数に比例して増加する。
- 参考スコア(独自算出の注目度): 18.964402635820147
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Verifier-guided inference-time scaling uses additional computation to score intermediate states and steer generation toward better outputs. However, imperfect intermediate verifiers can distort sampling, and repeated refinement alone does not ensure recovery of the desired reward-tilted distribution. We introduce Continuous-State Verifier-Guided Backtracking (CS-VGB), an inference-time scaling method for sampling from reward-tilted distributions with continuous generative models through repeated denoising and renoising. With correctly paired denoising and renoising transitions, the stationary distribution of CS-VGB at the clean checkpoint equals the desired reward-tilted target, even when intermediate verifiers are inaccurate. Under stated regularity conditions, CS-VGB converges exponentially to the target despite verifier error, and the expected number of updates needed to reach a clean sample grows only linearly with the number of checkpoints. In analytically tractable settings, we empirically demonstrate that CS-VGB recovers the desired reward-tilted distribution despite verifier error, whereas the compared verifier-based sampling methods fail to recover the target under the same verifier errors. We also instantiate the framework with diffusion models and one-step stochastic posterior maps. Across prompt-guided ImageNet generation, facial-attribute generation on CelebA, and multi-robot planning, recurrent CS-VGB search improves reward and task success as inference budgets grow, with image-generation rewards continuing beyond the observed plateaus of denoising-only baselines.
- Abstract(参考訳): 検証誘導推論時間スケーリングは、中間状態とステア生成をより良い出力にするために追加計算を使用する。
しかし、不完全な中間検証器はサンプリングを歪ませることができ、繰り返し精製だけでは所望の報奨型分布の回復を保証できない。
本研究では,連続型生成モデルを用いた報奨型分布から繰り返し denoising と renoising を通じて抽出する推論時間スケーリング手法である Continuous-State Verifier-Guided Backtracking (CS-VGB) を紹介する。
正確なペア化と再起動の遷移により、CS-VGBのクリーンチェックポイントでの定常分布は、中間検証が不正確である場合でも、所望の報奨型目標と等しい。
供述された正則性条件の下では、CS-VGBは検証誤差にもかかわらず指数関数的に目標に収束し、クリーンサンプルに到達するのに必要な更新数はチェックポイントの数に比例して直線的に増加する。
解析的に抽出可能な設定では,CS-VGBは検証誤差にもかかわらず所望の報奨型分布を復元するのに対し,比較した検証者に基づくサンプリング手法は同じ検証誤差の下でターゲットを回収することができないことを実証的に示す。
また、拡散モデルと1ステップの確率的後続写像を用いてフレームワークをインスタンス化する。
プロンプト誘導画像ネット生成、CelebAにおける顔属性生成、マルチロボット計画、反復CS-VGB探索は、推論予算が増加するにつれて報酬とタスク成功を改善し、デノナイジングのみのベースラインの観測された台地を越えて画像生成報酬が継続する。
関連論文リスト
- Correction Training for Diffusion Models [38.67214934380264]
このトレーニングと推論のギャップを減らそうとする拡散モデルの補正ステップを導入する。
補正者は、ベースモデルの予測を入力として、同じ接地目標に対してトレーニングする。
サンプリング中、各デノイングステップにおいて、デノワザーのクリーンサンプル予測を反復的に洗練する。
補正器は、ベースデノイザからの予測のみに基づいて訓練されるが、推論時に自分自身の出力に繰り返し適用することで、より良い結果が得られる。
論文 参考訳(メタデータ) (2026-10-09T13:31:52Z) - Quantization-Aware Kalman Estimation for Diffusion Sampling [17.016094185289372]
攻撃的圧縮は、量子化された出力を、その完全精度の出力から大きく逸脱させる可能性がある。
本稿では,量子化を意識したカルマンエスタであるQuakeと条件付きガウス観測モデルを提案する。
W4A4量子化テキスト-画像拡散モデルによる実験により、QuAKEは完全精度サンプリングから分布差を減らすために既存の手法より一貫して優れていることが示された。
論文 参考訳(メタデータ) (2026-09-18T07:18:50Z) - Flow-Corrected Thompson Sampling for Non-Stationary Contextual Bandits [3.2848713528308817]
報酬モデルが時間とともにドリフトする非定常線形文脈帯域について検討する。
本研究では,過去の報酬を現在まで輸送することで,経験を再利用するベイズ的手法であるフロー補正トンプソンサンプリング(fcTS)を提案する。
論文 参考訳(メタデータ) (2026-06-22T20:52:19Z) - Learnable Chernoff Baselines for Inference-Time Alignment [64.81256817158851]
本稿では,指数関数的に傾いたカーネルから効率よく,およそサンプリングする方法として,Learnerable Chernoff Baselinesを紹介した。
理想的なモデルに対する全変量保証を確立し、LCBサンプリングが理想的拒絶サンプリングと密接に一致するような連続的および離散的な拡散設定を実証する。
論文 参考訳(メタデータ) (2026-02-08T00:09:40Z) - BayesTTA: Continual-Temporal Test-Time Adaptation for Vision-Language Models via Gaussian Discriminant Analysis [41.09181390655176]
CLIPのような視覚言語モデル(VLM)は、強いゼロショット認識を実現するが、実世界のシナリオに共通する時空間的な分散シフトの下で大幅に劣化する。
テスト分布が時間とともに徐々に変化するCT-TTA(textitContinal-Temporal Test-Time Adaptation)として、この実践的問題を定式化する。
我々は、時間的に一貫した予測を実行し、視覚表現を動的に調整する、ベイズ適応フレームワークであるtextitBayesTTAを提案する。
論文 参考訳(メタデータ) (2025-07-11T14:02:54Z) - Distributional Diffusion Models with Scoring Rules [83.38210785728994]
拡散モデルは高品質な合成データを生成する。
高品質な出力を生成するには、多くの離散化ステップが必要です。
クリーンデータサンプルの後部エム分布を学習し,サンプル生成を実現することを提案する。
論文 参考訳(メタデータ) (2025-02-04T16:59:03Z) - Error-quantified Conformal Inference for Time Series [55.11926160774831]
時系列予測の不確かさの定量化は、時系列データの時間的依存と分布シフトのために困難である。
量子化損失関数をスムースにすることで,iError-quantified Conformal Inference (ECI)を提案する。
ECIは有効な誤発見制御と、他のベースラインよりも厳密な予測セットを出力することができる。
論文 参考訳(メタデータ) (2025-02-02T15:02:36Z) - Continuous Speculative Decoding for Autoregressive Image Generation [27.308442169466975]
連続的視覚自己回帰(AR)モデルは、画像生成において有望な性能を示す。
投機的復号化は 事実上 自己回帰推論を加速させた
この研究は、低受理率、不整合出力分布、解析式のない修正分布からの課題に対処する。
論文 参考訳(メタデータ) (2024-11-18T09:19:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。