論文の概要: TraceSampler: Making Sampling Errors Predictable and Correctable for Accelerated Generative Sampling

• arxiv url: http://arxiv.org/abs/2610.14332v1
• Date: Fri, 09 Oct 2026 21:18:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.03356
• Title: TraceSampler: Making Sampling Errors Predictable and Correctable for Accelerated Generative Sampling
• Title（参考訳）: TraceSampler: 高速化されたジェネレーションサンプリングのために、サンプリングエラーを予測可能で修正可能にする
• Abstract要約: 低ステップサンプリングはコストを削減するが、粗い更新では、生成品質の蓄積と劣化が可能なエンドポイントエラーが導入される。 我々は、事前訓練されたモデルを変更することなく、これらのエラーを修正するポストトレーニング手法であるTraceSamplerを紹介する。 TraceSamplerは、CIFAR-10上のRectified Flow、ImageNet-256上のSiT-XL/2、テキスト・画像生成のためのSD3.5 Mediumで評価されている。
• 参考スコア（独自算出の注目度）: 10.431528830940264
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Accurate sampling from continuous-time generative models can require many model evaluations. Low-step sampling reduces cost, but coarse updates introduce endpoint errors that can accumulate and degrade generation quality. We introduce TraceSampler, a post-training method that corrects these errors without modifying the pretrained model. Rather than optimising low-step updates directly, TraceSampler models endpoint error as a sample-specific prediction problem. A higher-step reference integration over the same interval provides the supervised target, while a compact representation makes high-dimensional error predictable from the sampling trace. This representation combines shared residual structure, trace-derived directions, and a low-rank remainder, so shallow per-step MLP heads predict sample-dependent coefficients. These coefficients drive a two-stage learned residual correction: the first stage predicts the full endpoint residual, while an intermediate backbone evaluation provides new trace information to predict the remaining residual; this evaluation is reused by the following step. TraceSampler is evaluated with Rectified Flow on CIFAR-10, SiT-XL/2 on ImageNet-256, and SD3.5 Medium for text-to-image generation. At 10 steps, it reduces trajectory MSE relative to matched-step Euler by 90.5% on CIFAR-10 and 85.6% on ImageNet-256, while achieving FID scores of 2.692 and 2.189, close to 120-step Heun references of 2.601 and 2.056 with 24$\times$ fewer backbone evaluations. On SD3.5 Medium, TraceSampler improves image quality and prompt following; at 10 steps, ImageReward rises from 0.752 to 0.906 while trajectory MSE falls by 70.7%. These gains preserve Euler's backbone-evaluation budget, add less than 0.4% inference FLOPs, and incur negligible wall-clock overhead, showing that coarse-step sampling error can be made predictable from the sampling trace and efficiently corrected.
• Abstract（参考訳）: 連続時間生成モデルからの正確なサンプリングには、多くのモデル評価が必要である。 低ステップサンプリングはコストを削減するが、粗い更新では、生成品質の蓄積と劣化が可能なエンドポイントエラーが導入される。 我々は、事前訓練されたモデルを変更することなく、これらのエラーを修正するポストトレーニング手法であるTraceSamplerを紹介する。 低ステップの更新を直接最適化するのではなく、TraceSamplerはエンドポイントエラーをサンプル固有の予測問題としてモデル化する。 同じ間隔での高ステップの参照積分は教師対象を与え、コンパクトな表現はサンプリングトレースから高次元誤差を予測する。 この表現は、共有残差構造、トレース由来の方向、低ランク残差を組み合わせ、浅いステップ毎のMLPヘッドはサンプル依存係数を予測する。 これらの係数は2段階の学習残差補正を駆動し、第1段階は全終端残差を予測し、中間バックボーン評価は残りの残差を予測する新しいトレース情報を提供する。 TraceSamplerは、CIFAR-10上のRectified Flow、ImageNet-256上のSiT-XL/2、テキスト・画像生成のためのSD3.5 Mediumで評価されている。 10ステップで、マッチングステップのEulerに対して90.5%、ImageNet-256では85.6%、FIDスコアは2.692と2.189、120ステップのHeun参照は2.601と2.056、バックボーン評価は24$\times$少なくなる。 10ステップで ImageReward は 0.752 から 0.906 に上昇し、軌道 MSE は 70.7% に低下する。 これらの利得は、ユーラーのバックボーン評価予算を保存し、0.4%の推測FLOPを加算し、壁面を無視できるオーバーヘッドを発生させ、粗いサンプリング誤差をサンプリングトレースから予測可能とし、効率よく修正できることを示す。

関連論文リスト

• Rethinking Pixel Mean Flows via Interval Denoiser [95.11499828543344]
  潜在自由生成のためのフレームワークであるInterval Denoiserを提案する。 その結果,FIDは1ステップ (1-NFE) で4.55, 2ステップ (2-NFE) で3.98であった。
  論文  参考訳（メタデータ） (2026-08-05T13:22:43Z)
• FSampler: Training Free Acceleration of Diffusion Sampling via Epsilon Extrapolation [0.0]
  FSamplerは、NFE(Function Evaluations)の数を削減して拡散サンプリングを加速するトレーニングフリーのサンプル実行層である。 FSamplerは、最近の実モデル呼び出しからの信号の分解の歴史を短く保ち、有限差分予測器を用いて次のエプシロンを外挿する。 サンプルレベルで動作するFSamplerは、Euler/DDIM、DPM++ 2M/2S、LMS/AB2、RESファミリー指数的マルチステップメソッドと統合されている。
  論文  参考訳（メタデータ） (2025-11-12T10:21:25Z)
• Distributional Diffusion Models with Scoring Rules [83.38210785728994]
  拡散モデルは高品質な合成データを生成する。 高品質な出力を生成するには、多くの離散化ステップが必要です。 クリーンデータサンプルの後部エム分布を学習し,サンプル生成を実現することを提案する。
  論文  参考訳（メタデータ） (2025-02-04T16:59:03Z)
• Adaptive Inference-Time Compute: LLMs Can Predict if They Can Do Better, Even Mid-Generation [51.127054971591924]
  本稿では,生成サンプル数を適応的に削減する新たな自己評価手法を提案する。 平均1.2サンプルだけで16サンプルの使用による改善の74%が達成できることを実証した。
  論文  参考訳（メタデータ） (2024-10-03T17:47:29Z)
• Directly Denoising Diffusion Models [6.109141407163027]
  数ステップのサンプリングで現実的な画像を生成するための単純で汎用的なアプローチであるDDDM(Directly Denoising Diffusion Model)を提案する。 本モデルでは, CIFAR-10のFIDスコアを1段階, 2段階のサンプリングで2.57と2.33とし, GANと蒸留モデルから得られたFIDスコアをそれぞれ上回った。 ImageNet 64x64の場合、当社のアプローチは主要なモデルに対する競争相手として機能します。
  論文  参考訳（メタデータ） (2024-05-22T11:20:32Z)
• Score Normalization for a Faster Diffusion Exponential Integrator Sampler [8.914068241467234]
  Zhangらは拡散モデルからサンプルを高速に生成するための拡散指数積分器サンプリング(DEIS)を提案している。 このアプローチの鍵となるのはスコア関数の再パラメータ化であり、これは固定スコア関数の推定値から得られる積分誤差を低減する。 スコア正規化(DEIS-SN)はバニラDISと比較して常にFIDを改善している。
  論文  参考訳（メタデータ） (2023-10-31T21:18:44Z)
• Score-Based Generative Modeling through Stochastic Differential Equations [114.39209003111723]
  複素データ分布を雑音を注入することによって既知の事前分布に変換する微分方程式を提案する。 対応する逆時間SDEは、ノイズを緩やかに除去し、先行分布をデータ分布に戻す。 スコアベース生成モデリングの進歩を活用することで、これらのスコアをニューラルネットワークで正確に推定することができる。 スコアベース生成モデルから1024×1024画像の高忠実度生成を初めて示す。
  論文  参考訳（メタデータ） (2020-11-26T19:39:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。