論文の概要: Leveraging Inference-Time Compute for Diffusion Models via Global Scheduling of Denoising Trajectories
- arxiv url: http://arxiv.org/abs/2609.22867v1
- Date: Sat, 19 Sep 2026 08:10:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:00.576874
- Title: Leveraging Inference-Time Compute for Diffusion Models via Global Scheduling of Denoising Trajectories
- Title（参考訳）: 微分軌道の大域的スケジューリングによる拡散モデルの推論時間計算の活用
- Abstract要約: 拡散モデルは、純雑音をターゲット分布からのドローに変換する一連のノイズ低減ステップであるデノイング軌跡をトラバースしてサンプルを生成する。
これによってリソース割り当ての疑問が持ち上がります – 探索の作業は、denoising trajectoryのステップにまたがってどのように分散されるべきなのでしょうか?
ステップサイズで先行する順に、ステップにおいて$K$の候補を評価することで期待される利益が、内因性、ステップ固有の感度パラメータに、普遍的なサンプルサイズファクターの倍に分解されることを示す。
実験により,提案したアロケーションは,機能評価を20～50%減らして,一様ベンチマークの品質を達成できることが示された。
- 参考スコア（独自算出の注目度）: 16.711750527598827
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models generate a sample by traversing a denoising trajectory, a sequence of stochastic noise-reduction steps that transforms pure noise into a draw from a target distribution. At deployment time, additional computation can improve sample quality without retraining: at each step, the sampler draws several candidate noise samples, scores the resulting predictions with a quality criterion called the verifier, and retains the best candidate at the cost of one network evaluation per candidate. This raises a resource allocation question: given a fixed budget of function evaluations, how should search effort be distributed across the steps of the denoising trajectory? We formulate this as a computational budget allocation problem. First, we show that, to leading order in the step size, the expected gain from evaluating $K$ candidates at a step factorizes into an endogenous, step-specific sensitivity parameter times a universal sample-size factor equal to the expected best of $K$ standard-normal draws. Second, for a fixed sensitivity profile, the optimal allocation solves a separable concave integer program with water-filling structure; at fixed total sensitivity, its advantage over uniform allocation increases with sensitivity dispersion in the majorization order. Third, we prove that when sensitivities vary across instances, no adaptive policy can avoid worst-case regret that grows linearly in the trajectory length, which motivates a design that anchors the allocation offline and adapts online only to recover instance-specific slack. We extend the analysis from independent random search to a broader family of local search operators, and instantiate it as an implementable algorithm. Experiments on three families of diffusion samplers show that the proposed allocation attains the quality of the uniform benchmark with 20 to 50 percent fewer function evaluations.
- Abstract（参考訳）: 拡散モデルは、純雑音をターゲット分布からドローに変換する確率的ノイズ低減ステップの列であるデノベーション軌跡をトラバースすることでサンプルを生成する。
各ステップにおいて、サンプルは複数の候補ノイズサンプルを描画し、検証者と呼ばれる品質基準で結果の予測をスコアし、候補毎に1つのネットワーク評価のコストで最良の候補を保持する。
これはリソース割り当ての問題を引き起こす: 関数評価の予算が一定であるなら、どのように探索の努力をデノベーション軌道のステップに分散すべきか?
これを計算予算配分問題として定式化する。
まず,ステップサイズで先行する順に,ステップにおける$K$候補の評価から期待される利益が,内因性,ステップ特異的な感度パラメータに分解されることを示す。
第二に、固定された感度プロファイルに対して、最適な割り当ては、分別可能な凹面整数プログラムを水充填構造で解く。
第三に、インスタンス毎に感度が変化すると、軌道長で直線的に増大する最悪の後悔を避けることができず、インスタンス固有のスラックを回復するためにのみオンラインにアロケーションをアンロックする設計を動機付ける。
独立なランダム検索から、より広い範囲の局所探索演算子群まで解析を拡張し、実装可能なアルゴリズムとしてインスタンス化する。
拡散サンプリング器の3種類の実験により, 提案手法は, 20～50%の関数評価で均一な評価値が得られることを示した。
関連論文リスト
- Online Supervised Dimension Reduction with Random Features: Diagnostics and Computational Trade-offs [3.7044133020722954]
Online Kernel Supervised principal Component Analysis (OKSPCA)は、有限乱数係数座標における中心となるクロスモーメントと、確立された目的に対するAdamスタイルの正則基底更新を組み合わせたものである。
有限乱数係数座標における中心的クロスモーメントと、確立された目的に対するAdamスタイルの正規直交基底更新を組み合わせたOKSPCAについて、これらの区別について検討する。
論文 参考訳（メタデータ） (2026-09-17T14:19:29Z) - Amortized Bandwidth Learning for Kernel Density Estimation under Logarithmic Score [0.0]
対数スコアを最適化することにより,密度推定タスクの分布のマッピングを学習するアモータイズフレームワークを提案する。
ガウス的サンプリング、多系列ベンチマーク、ランダム化ガウス混合訓練による実験は、補正されたセレクタがシルバーマンの規則を一貫して、実質的に上回っていることを示している。
論文 参考訳（メタデータ） (2026-08-20T15:56:59Z) - Precise: SDE-Consistent Stochastic Sampling for RL Post-Training of Flow-Matching Models [56.67321805551389]
Reinforcement Learning (RL) は, 拡散・流れマッチングジェネレータにおいて, 迅速なアライメントと知覚品質の向上に有効な方法となっている。
探索行動の制御と力学のデノベーションを行うサンプルは、この方針の一部である。
有効探査と安定性のバランスをとる新しいサンプリング器を提案する。
論文 参考訳（メタデータ） (2026-05-22T11:37:22Z) - ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。
我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
論文 参考訳（メタデータ） (2026-02-27T05:22:01Z) - Scaling Adversarial Training via Data Selection [0.0]
本稿では,各ミニバッチにおける臨界サンプルのサブセットのみを摂動するemphSelective Adversa Trainingを提案する。
MNIST と CIFAR-10 の実験により,提案手法は PGD の完全対向訓練に匹敵する,あるいはそれ以上の堅牢性を達成できることが示された。
論文 参考訳（メタデータ） (2025-12-26T15:50:33Z) - Truncating Trajectories in Monte Carlo Policy Evaluation: an Adaptive Approach [51.76826149868971]
モンテカルロシミュレーションによる政策評価は多くのMC強化学習(RL)アルゴリズムの中核にある。
本研究では,異なる長さの軌跡を用いた回帰推定器の平均二乗誤差のサロゲートとして品質指標を提案する。
本稿では,Robust and Iterative Data Collection Strategy Optimization (RIDO) という適応アルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-10-17T11:47:56Z) - Robust Outlier Rejection for 3D Registration with Variational Bayes [70.98659381852787]
我々は、ロバストアライメントのための新しい変分非局所ネットワークベース外乱除去フレームワークを開発した。
そこで本稿では, 投票に基づく不整合探索手法を提案し, 変換推定のための高品質な仮説的不整合をクラスタリングする。
論文 参考訳（メタデータ） (2023-04-04T03:48:56Z) - Non-Stochastic CDF Estimation Using Threshold Queries [3.6576781735746513]
実験的な分布を2つの課題で推定する問題に取り組む。
まず、アルゴリズムはデータを直接観察するのではなく、サンプルについて限られた数のしきい値クエリしか要求しない。
第二に、データは独立で同一の分散であると仮定されず、代わりにサンプルを生成する任意のプロセスが可能である。
論文 参考訳（メタデータ） (2023-01-13T18:00:57Z) - Stochastic Direct Search Method for Blind Resource Allocation [6.574808513848414]
線形制約付きおよび微分自由最適化のための直接探索法(パターン探索とも呼ばれる)について検討する。
直接探索法は決定論的かつ制約のない場合において有限の後悔を達成できることを示す。
そこで本研究では,T2/3$のオーダを後悔させるようなダイレクトサーチの簡単な拡張を提案する。
論文 参考訳（メタデータ） (2022-10-11T07:40:45Z) - Adaptive Sketches for Robust Regression with Importance Sampling [64.75899469557272]
我々は、勾配降下(SGD)による頑健な回帰を解くためのデータ構造を導入する。
我々のアルゴリズムは、サブ線形空間を使用し、データに1回パスするだけで、SGDの$T$ステップを重要サンプリングで効果的に実行します。
論文 参考訳（メタデータ） (2022-07-16T03:09:30Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳（メタデータ） (2021-06-22T16:07:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。