論文の概要: Manifold-Constrained Initial Noise Optimization for Efficient Generative Model Alignment
- arxiv url: http://arxiv.org/abs/2610.00365v1
- Date: Wed, 30 Sep 2026 06:37:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.620856
- Title: Manifold-Constrained Initial Noise Optimization for Efficient Generative Model Alignment
- Title(参考訳): 効率的な生成モデルアライメントのためのマニフォールド制約初期雑音最適化
- Abstract要約: 安定かつ効率的な初期ノイズアライメント手法であるZenoVAを勾配のない方法で導入する。
画像およびビデオ生成モデルによる実験により、ZeNOVAは評価されたゼロ階のベースラインよりも優れていた。
- 参考スコア(独自算出の注目度): 53.850882288239745
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent advances in distillation and flow-map models have enabled deterministic one- or few-step generation for high-quality data, facilitating a new branch of reward alignment approaches that directly optimize the initial noise from a Gaussian distribution. However, most existing initial-noise optimization methods rely on first-order gradient information, which is either inapplicable or suffers from instability and inefficiency in black-box reward scenarios. Here, we introduce ZeNOVA, a stable and efficient initial noise alignment method in a gradient-free manner. Specifically, we address existing algorithms' major challenge in black-box scenarios through annealed soft-value guidance, manifold-constrained hyperspherical Langevin dynamics, and Metropolis-Hastings jumping. Extensive experiments on image and video generative models show that ZeNOVA outperforms all evaluated zeroth-order baselines by optimizing the initial noise toward higher rewards substantially more stably while exploiting the geometry of the Gaussian prior, demonstrating its practical applicability to various black-box reward alignment.
- Abstract(参考訳): 近年の蒸留およびフローマップモデルの進歩により、高品質なデータに対する決定論的一段階または二段階の生成が可能となり、ガウス分布から初期雑音を直接最適化する報酬調整アプローチの新たな分岐が促進された。
しかし、既存の初期雑音最適化手法の多くは一階勾配情報に依存しており、ブラックボックスの報酬シナリオでは適用不可能か、不安定と非効率に悩まされている。
本稿では,安定かつ効率的な初期ノイズアライメント手法であるZenoVAについて,勾配のない方法で紹介する。
具体的には、アニール型ソフトバリューガイダンス、多様体制約超球面ランゲヴィンダイナミクス、メトロポリス・ハスティングジャンプによるブラックボックスシナリオにおける既存のアルゴリズムの大きな課題に対処する。
画像およびビデオ生成モデルに関する大規模な実験により、ZeNOVAは、ガウス以前の幾何学を活用しながら、初期ノイズを高い報酬に最適化することで、評価されたゼロ階ベースラインをすべて上回り、様々なブラックボックス報酬アライメントに適用可能であることを示した。
関連論文リスト
- Gradient-Free Noise Optimization for Reward Alignment in Generative Models [52.42087778653147]
ZeNOは、経路積分制御問題としてノイズ最適化を定式化する、勾配のないフレームワークである。
効果的な推論時間スケーリングを可能にし、多様なジェネレータと報酬関数間で強力なパフォーマンスを示す。
論文 参考訳(メタデータ) (2026-05-12T00:05:36Z) - Integrating Reweighted Least Squares with Plug-and-Play Diffusion Priors for Noisy Image Restoration [6.402777145722335]
インパルスノイズを含む一般的なノイズの頑健な除去のための生成拡散先に基づくプラグアンドプレイ画像復元フレームワークを提案する。
評価実験の結果,提案手法は非ガウス的インパルスノイズを効果的に除去し,復元性能が向上することが示された。
論文 参考訳(メタデータ) (2025-11-10T08:11:20Z) - Noise-Level Diffusion Guidance: Well Begun is Half Done [9.745109820010601]
ノイズレベルガイダンス(NLG)は、単純で効率的で一般的なノイズレベル最適化手法である。
一般的な誘導との整合性を高めることにより、初期雑音を改善させる。
本手法は,拡散モデルに対する実用的でスケーラブルな拡張としてNLGを確立する。
論文 参考訳(メタデータ) (2025-09-17T13:05:59Z) - Covariance-Adaptive Sequential Black-box Optimization for Diffusion Targeted Generation [60.41803046775034]
ユーザのブラックボックス目標スコアのみを用いた拡散モデルを用いて,ユーザ優先のターゲット生成を行う方法を示す。
数値実験問題と目標誘導型3次元分子生成タスクの両方の実験により,より優れた目標値を得る上で,本手法の優れた性能が示された。
論文 参考訳(メタデータ) (2024-06-02T17:26:27Z) - Enhancing Gaussian Process Surrogates for Optimization and Posterior Approximation via Random Exploration [2.984929040246293]
ガウス過程シュロゲートモデルの精度を高めるために、ランダムな探索ステップに依存する新しいノイズフリーベイズ最適化戦略。
新しいアルゴリズムは、古典的なGP-UCBの実装の容易さを維持しているが、さらなる探索がそれらの収束を促進する。
論文 参考訳(メタデータ) (2024-01-30T14:16:06Z) - Stochastic Optimization with Heavy-Tailed Noise via Accelerated Gradient
Clipping [69.9674326582747]
そこで本研究では,重み付き分散雑音を用いたスムーズな凸最適化のための,クリップ付きSSTMと呼ばれる新しい1次高速化手法を提案する。
この場合、最先端の結果を上回る新たな複雑さが証明される。
本研究は,SGDにおいて,ノイズに対する光細かな仮定を伴わずにクリッピングを施した最初の非自明な高確率複雑性境界を導出した。
論文 参考訳(メタデータ) (2020-05-21T17:05:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。