論文の概要: Optimize Your Sampling: Tuned Diffusion Sampling with Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2608.18040v1
- Date: Tue, 18 Aug 2026 17:33:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.429356
- Title: Optimize Your Sampling: Tuned Diffusion Sampling with Bayesian Optimization
- Title（参考訳）: サンプリングを最適化する - ベイジアン最適化による可変拡散サンプリング
- Abstract要約: 時間ステップ選択をブラックボックス最適化問題として扱い、ベイズ最適化を用いて目標距離を直接最適化する。
OYSは、デフォルトのスケジュールと、テキスト・ツー・イメージ生成におけるAlign Your Stepsのスケジュールよりも優れており、インペイントや他のイメージタスクのデフォルトのスケジュールよりも改善されている。
5ステップのOYSスケジュールは、50ステップのスケジュールの品質の89%-94%を維持し、推論コストを10倍に削減する。
- 参考スコア（独自算出の注目度）: 38.696490789425006
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sampling from a diffusion model typically requires many forward passes through a large neural network, making generation computationally expensive. While much work has focused on efficient solvers and samplers, comparatively little attention has been paid to selecting the sampling timesteps themselves. A recent line of work optimizes theoretically derived surrogates for sample quality rather than the quality metric itself. We propose Optimizing Your Sampling (OYS), which instead treats timestep selection as a black-box optimization problem, optimizing the target metric directly with Bayesian optimization. OYS outperforms both the default schedules and those of Align Your Steps on text-to-image generation, and improves over the default schedules on inpainting and other image tasks, in both quantitative and human evaluations. OYS requires no additional training, is applicable even to distilled models, and improves both simple and sophisticated samplers such as Euler and DPM-Solver++. A 5-step OYS schedule retains 89%-94% of the quality of a 50-step schedule while reducing inference cost by 10x.
- Abstract（参考訳）: 拡散モデルからのサンプリングは通常、大きなニューラルネットワークを通過する多くのフォワードパスを必要とし、生成を計算的に高価にする。
多くの研究は効率的な解法とサンプリングに焦点を合わせてきたが、サンプリングタイムステップ自体を選択することには比較的注意が払われていない。
最近の研究の行は、理論的に導出されたサロゲートを、品質メートル法そのものではなく、サンプル品質のために最適化している。
そこで我々は,タイムステップ選択をブラックボックス最適化問題として扱うOYS(Optimizing Your Smpling)を提案する。
OYSはテキスト・ツー・イメージ生成におけるデフォルトのスケジュールと Align Your Steps のスケジュールよりも優れており、定量的評価と人的評価の両方において、インペイントや他のイメージタスクのデフォルトのスケジュールよりも改善されている。
OYSは追加のトレーニングを必要とせず、蒸留モデルにも適用でき、EulerやDPM-Solver++のような単純で洗練されたサンプル言語も改善されている。
5ステップのOYSスケジュールは、50ステップのスケジュールの品質の89%-94%を維持し、推論コストを10倍に削減する。
関連論文リスト
- Autocorrelated Optimize-via-Estimate: Predict-then-Optimize versus Finite-sample Optimal [2.0228793142608588]
有限サンプル体制におけるアウト・オブ・サンプル性能を直接最適化するモデルは、従来の見積もりを最適化するアプローチに代わる有望な選択肢として現れてきた。
自動相関不確実性(特にベクトル自己回帰移動平均VARMA(p,q)プロセス)の文脈での性能を比較する。
論文 参考訳（メタデータ） (2026-02-02T09:49:51Z) - Hyperparameter Transfer Enables Consistent Gains of Matrix-Preconditioned Optimizers Across Scales [55.91454326946738]
学習速度と減量率の最適化は,幅広い言語に対して,モデルの幅と深さでどのようにスケールするかを検討する。
我々は、$Pによる学習率のスケーリングは転送を改善するが、それでもかなりの有限幅偏差に悩まされる可能性があることを見出した。
計算-最適スケーリングでは、独立したウェイト崩壊が1/mathrmwidth$で言語間でほぼ最適であることが分かる。
論文 参考訳（メタデータ） (2025-12-05T11:03:41Z) - Beyond Outliers: A Study of Optimizers Under Quantization [82.75879062804955]
量子化下でのモデルロバスト性に対する選択の影響について検討する。
モデルの性能が、異なるベースラインでトレーニングした場合にどのように低下するかを評価する。
異なるパラメータによる量子化対応トレーニングのスケーリング法則を導出する。
論文 参考訳（メタデータ） (2025-09-27T21:15:22Z) - Adaptive Batch-Wise Sample Scheduling for Direct Preference Optimization [37.54165341391688]
DPOのためのサンプルスケジューリングという,新しい問題を紹介します。
トレーニングバッチ毎にサンプルを適応的に選択する,効率的かつ効率的なアルゴリズムであるSamSを提案する。
この研究は、バッチワイドサンプル選択によるLCMアライメントを改善するための、有望な新しい方向性を示している。
論文 参考訳（メタデータ） (2025-06-08T10:26:09Z) - Simplifying Bayesian Optimization Via In-Context Direct Optimum Sampling [18.852567298468742]
代理フィッティングや獲得関数の最適化を必要としないBOに対して,完全にコンテキスト内ゼロショットのソリューションを提案する。
これは、事前訓練されたコンテキストモデルを使用して、最適点上の後方から直接サンプリングする。
プロセスベースBOと比較して,壁面時間で35倍以上の効率向上を実現した。
論文 参考訳（メタデータ） (2025-05-29T18:07:36Z) - Satori-SWE: Evolutionary Test-Time Scaling for Sample-Efficient Software Engineering [51.7496756448709]
言語モデル(LM)は、コーディングベンチマークではうまく機能するが、現実のソフトウェア工学のタスクでは苦労する。
既存のアプローチは、高品質なデータによる教師付き微調整に依存している。
本研究では, 生成を進化過程として扱うサンプル効率の高い手法であるテスト時間スケーリング(EvoScale)を提案する。
論文 参考訳（メタデータ） (2025-05-29T16:15:36Z) - Efficient NeRF Optimization -- Not All Samples Remain Equally Hard [9.404889815088161]
ニューラルレイディアンスフィールド(NeRF)の効率的なトレーニングのためのオンラインハードサンプルマイニングの応用を提案する。
NeRFモデルは、多くの3D再構成およびレンダリングタスクに対して最先端の品質を生み出すが、かなりの計算資源を必要とする。
論文 参考訳（メタデータ） (2024-08-06T13:49:01Z) - Align Your Steps: Optimizing Sampling Schedules in Diffusion Models [63.927438959502226]
拡散モデル(DM)は、視覚領域以降における最先端の生成モデリングアプローチとして確立されている。
DMの重大な欠点は、サンプリング速度の遅いことであり、大規模なニューラルネットワークによる多くのシーケンシャルな関数評価に依存している。
本稿では,DMのサンプリングスケジュールを高品質な出力に最適化する汎用的,原理的な手法を提案する。
論文 参考訳（メタデータ） (2024-04-22T18:18:41Z) - Accelerating Diffusion Sampling with Optimized Time Steps [69.21208434350567]
拡散確率モデル(DPM)は高分解能画像合成において顕著な性能を示した。
彼らのサンプリング効率は、通常多くのサンプリングステップのため、依然として望まれている。
DPM用高次数値ODEソルバの最近の進歩により、サンプリングステップがはるかに少ない高品質な画像の生成が可能になった。
論文 参考訳（メタデータ） (2024-02-27T10:13:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。