論文の概要: NoiseTilt: Noise-Tilted Reverse Kernels for Diffusion Reward Alignment
- arxiv url: http://arxiv.org/abs/2606.18066v1
- Date: Tue, 16 Jun 2026 15:38:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-17 17:15:32.519059
- Title: NoiseTilt: Noise-Tilted Reverse Kernels for Diffusion Reward Alignment
- Title(参考訳): ノイズティルト:拡散逆アライメント用逆カーネル
- Authors: Jisung Hwang, Yunhong Min, Jaihoon Kim, I-Chao Shen, Minhyuk Sung,
- Abstract要約: ノイズTilted Reverse Kernel (NTRK) は、報酬誘導拡散サンプリング装置である。
ノイズ項を通じて報酬勾配を注入し、事前訓練された逆核をそのまま残す。
美的生成では、NTRKは25 NFEのみを使用して500 NFEで最高のベースラインの報酬を上回る。
- 参考スコア(独自算出の注目度): 25.010237972325772
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce the Noise-Tilted Reverse Kernel (NTRK), a reward-guided diffusion sampler that injects reward gradients through the noise term, leaving the pretrained reverse kernel unchanged and requiring only a single sample per step. Reward-guided sampling at inference time has greatly expanded the versatility of pretrained diffusion models. Yet existing methods face a trade-off. Gradient-based guidance shifts the reverse mean, steering generation but pushing intermediate states outside the region that the model was trained on and degrading quality. Search-based methods preserve quality but gain no gradient signal. No prior method achieves both. NTRK resolves this by keeping the reverse mean fixed and biasing the noise term toward high reward. We introduce a whitening operator, the central mechanism behind NTRK, that makes the reward gradient safe to inject as noise without losing its guiding signal. Across various reward alignment tasks, NTRK outperforms recent state-of-the-art baselines without losing sample quality. Remarkably, on aesthetic generation, NTRK surpasses the reward of the best baseline at 500 NFEs using only 25 NFEs, a 20$\times$ reduction in compute.
- Abstract(参考訳): 我々はノイズ項を通して報酬勾配を注入し、事前訓練された逆カーネルをそのまま残し、ステップ毎に1つのサンプルしか必要としない報酬誘導拡散サンプリング装置であるNTRK(Noss-Tilted Reverse Kernel)を紹介する。
推論時の逆誘導サンプリングにより,事前学習拡散モデルの汎用性が大きく向上した。
しかし、既存の方法はトレードオフに直面している。
グラディエントに基づくガイダンスは、逆平均、ステアリング生成をシフトするが、モデルがトレーニングした領域外の中間状態を押し下げ、品質を低下させる。
検索に基づく手法は品質を保っているが、勾配信号は得られない。
どちらの方法もその両方を達成できない。
NTRKは、逆平均を固定し、ノイズ項を高い報酬に向けてバイアスすることでこれを解決している。
我々は、NTRKの背後にある中心的なメカニズムであるホワイトニング演算子を導入し、誘導信号を失うことなく、報酬勾配をノイズとして安全に注入できるようにする。
様々な報酬アライメントタスクにおいて、NTRKはサンプル品質を損なうことなく、最近の最先端のベースラインを上回っている。
注目すべきは、美的生成において、NTRKは25 NFEのみを使用して500 NFEで最高のベースラインの報酬を上回り、20$\times$計算の削減である。
関連論文リスト
- Blind Ultrasound Image Enhancement via Self-Supervised Physics-Guided Degradation Modeling [4.619828919345113]
監視強化手法は、クリーンターゲットや既知の劣化へのアクセスを前提としている。
本稿では,Bモード画像の変換・復調を行うブラインド型自己教師型拡張フレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-29T15:28:25Z) - How Does Label Noise Gradient Descent Improve Generalization in the Low SNR Regime? [78.0226274470175]
我々は、勾配更新にラベルノイズを導入することで、ニューラルネットワーク(NN)のテスト性能が向上するかどうか検討する。
学習中のラベルノイズの付加は,学習過程を支配することを防止し,雑音の記憶を抑制することを実証する。
対照的に、標準GDで訓練されたNNは、同じ低SNR環境でのノイズに過度に適応する傾向にある。
論文 参考訳(メタデータ) (2025-10-20T13:28:13Z) - Robustifying Diffusion-Denoised Smoothing Against Covariate Shift [3.2010481260411834]
本稿では,デノナイズ拡散モデルの付加雑音に着目した新しい対向目的関数を提案する。
本手法は,3つの標準分類ベンチマークにおいて,認証精度を大幅に向上させる。
論文 参考訳(メタデータ) (2025-09-13T17:27:37Z) - ReDDiT: Rehashing Noise for Discrete Visual Generation [53.813067778912]
離散拡散変圧器(終端型ReDDiT)のためのリハッシングノイズアプローチを提案する。
我々は、吸収状態を拡張し、離散拡散モデルの表現能力を向上させることを目的としている。
実験の結果、ReDDiTはベースラインモデルよりも大幅に優れていた。
論文 参考訳(メタデータ) (2025-05-26T08:17:20Z) - A Principled Bayesian Framework for Training Binary and Spiking Neural Networks [1.6658912537684454]
スパイキングベイズニューラルネットワーク(英: Spiking Bayesian Neural Networks、SBNN)は、後部雑音を用いてIW-STでバイナリニューラルネットワークとスパイキングニューラルネットワークを訓練する変分推論フレームワークである。
低バイアス条件、消失勾配、KL項をリンクすることにより、正規化なしで深い残留ネットワークのトレーニングを可能にする。
論文 参考訳(メタデータ) (2025-05-23T14:33:20Z) - Image Restoration by Denoising Diffusion Models with Iteratively Preconditioned Guidance [9.975341265604577]
深層ニューラルネットワークのトレーニングは、画像復元問題に対処するための一般的なアプローチとなっている。
低ノイズ環境では、バックプロジェクション(BP)に基づくガイダンスが有望な戦略であることが示されている。
本稿では,BPベースのガイダンスから少なくとも2乗のガイダンスへのトラバースを可能にする,事前条件に基づく新しいガイダンス手法を提案する。
論文 参考訳(メタデータ) (2023-12-27T10:57:03Z) - DiffusionAD: Norm-guided One-step Denoising Diffusion for Anomaly Detection [80.20339155618612]
DiffusionADは、再構成サブネットワークとセグメンテーションサブネットワークからなる、新しい異常検出パイプラインである。
高速なワンステップデノゲーションパラダイムは、同等の再現品質を維持しながら、数百倍の加速を達成する。
異常の出現の多様性を考慮し、複数のノイズスケールの利点を統合するためのノルム誘導パラダイムを提案する。
論文 参考訳(メタデータ) (2023-03-15T16:14:06Z) - Latent Class-Conditional Noise Model [54.56899309997246]
本稿では,ベイズ的枠組みの下での雑音遷移をパラメータ化するためのLatent Class-Conditional Noise Model (LCCN)を提案する。
次に、Gibs sampler を用いて遅延真のラベルを効率的に推測できる LCCN の動的ラベル回帰法を導出する。
提案手法は,サンプルのミニバッチから事前の任意チューニングを回避するため,ノイズ遷移の安定な更新を保護している。
論文 参考訳(メタデータ) (2023-02-19T15:24:37Z) - Zero-shot Blind Image Denoising via Implicit Neural Representations [77.79032012459243]
暗黙的ニューラル表現(INR)のアーキテクチャ的帰納的バイアスを利用した代替的認知戦略を提案する。
提案手法は,低雑音シナリオや実雑音シナリオの広い範囲において,既存のゼロショット復調手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-04-05T12:46:36Z) - TaylorGAN: Neighbor-Augmented Policy Update for Sample-Efficient Natural
Language Generation [79.4205462326301]
TaylorGANは関数ベースの自然言語生成のための新しいアプローチである。
オフポリシー更新による勾配推定と1階のTaylor拡張が強化される。
これにより、より小さなバッチサイズで、スクラッチからNLGモデルをトレーニングすることができます。
論文 参考訳(メタデータ) (2020-11-27T02:26:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。