論文の概要: Plug-and-Play Guidance for Discrete Diffusion Models via Gradient-Informed Logit Correction
- arxiv url: http://arxiv.org/abs/2606.06303v1
- Date: Thu, 04 Jun 2026 15:41:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.91311
- Title: Plug-and-Play Guidance for Discrete Diffusion Models via Gradient-Informed Logit Correction
- Title(参考訳): 勾配インフォームドロジット補正による離散拡散モデルのプラグ・アンド・プレイ誘導
- Authors: Hongkun Dou, Zike Chen, Fengji Li, Hongjue Li, Yue Deng,
- Abstract要約: 離散拡散モデルによる制御可能な生成は、しばしば高い計算オーバーヘッドや再学習の必要性によって妨げられる。
Informed underlinetextbfCorrection (textbfGILC) は,誘導信号を効率的に推定するプラグイン・アンド・プレイ・フレームワークである。
- 参考スコア(独自算出の注目度): 7.637257579386074
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Controllable generation with discrete diffusion models is often hindered by high computational overhead or the need for retraining. In this paper, we present \underline{\textbf{G}}radient-\underline{\textbf{I}}nformed \underline{\textbf{L}}ogit \underline{\textbf{C}}orrection (\textbf{GILC}), a plug-and-play framework that efficiently estimates guidance signals by repurposing the pretrained denoising network as a variational proxy. To circumvent the gradient instability inherent in high-dimensional discrete spaces, we introduce a Jacobian-free mechanism that directly corrects the clean prediction logits, facilitating stable and effective guidance. Our method accommodates both differentiable and non-differentiable reward functions. Extensive experiments across DNA, protein sequence, and molecular generation tasks demonstrate that GILC achieves state-of-the-art performance without additional training, frequently outperforming fine-tuning approaches.
- Abstract(参考訳): 離散拡散モデルによる制御可能な生成は、しばしば高い計算オーバーヘッドや再学習の必要性によって妨げられる。
本稿では,事前学習した復調ネットワークを変動プロキシとして再利用することにより,誘導信号を効率よく推定するプラグイン・アンド・プレイ・フレームワークである \underline{\textbf{G}}radient-\underline{\textbf{I}}nformed \underline{\textbf{L}}ogit \underline{\textbf{C}}orrection (\textbf{GILC})を提案する。
高次元離散空間に固有の勾配不安定性を回避するために,クリーンな予測ロジットを直接修正し,安定かつ効果的な誘導を容易にするヤコビアンフリー機構を導入する。
本手法は, 微分可能と非微分可能の両方の報酬関数に対応する。
DNA、タンパク質配列、分子生成タスクにわたる大規模な実験は、GILCが追加のトレーニングなしで最先端のパフォーマンスを達成することを示す。
関連論文リスト
- From Scores to Gibbs Correctors: Accelerating Uniform-Rate Discrete Diffusion Models [58.02657021435213]
我々は、Gibs-Accelerated Discrete Diffusion (GADD)と呼ばれる離散拡散モデルのための新しいGibsベースの修正器を提案する。
我々はGADDが$mathcalO(mathrmpolylog (varepsilon-1)$の総合的なサンプリング複雑性を達成し、均一レートの離散拡散モデルに対する拡散に基づくサンプリング者にとって最初のレートとなることを示す。
論文 参考訳(メタデータ) (2026-05-26T17:52:28Z) - Self-Distilled Trajectory-Aware Boltzmann Modeling: Bridging the Training-Inference Discrepancy in Diffusion Language Models [65.89572755202245]
拡散言語モデル(DLM)は、より強力なグローバル認識と高い並列生成を提供する。
標準負のエビデンス下界(NELBO)に基づく教師付き微調整後のDLMは非効率である。
そこで本研究では,学習を推論の容易かつハードな構造に整合させる,自己蒸留軌道に基づくポストトレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-12T09:39:06Z) - Generalized Discrete Diffusion with Self-Correction [20.435906948993022]
自己補正は、最小性能劣化を伴う離散拡散モデルにおける並列サンプリングの維持に有効な手法である。
本研究では,事前学習した自己補正を明示的な状態遷移で再構成し,離散時間で直接学習する自己補正拡散モデルを提案する。
我々のフレームワークは、トレーニングノイズスケジュールを簡素化し、冗長なリメイキングのステップを排除し、自己補正を学習するために一様遷移にのみ依存する。
論文 参考訳(メタデータ) (2026-02-13T04:12:35Z) - AERMANI-Diffusion: Regime-Conditioned Diffusion for Dynamics Learning in Aerial Manipulators [2.376629619475859]
空力マニピュレータは、慣性結合力と空力の迅速かつ構成に依存した変化を行う。
条件付き拡散プロセスと軽量時間エンコーダを用いて残留力の完全な分布をモデル化する状態条件拡散フレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-11T16:10:32Z) - TAG:Tangential Amplifying Guidance for Hallucination-Resistant Diffusion Sampling [53.61290359948953]
タンジェンシャル増幅誘導(TAG)は、下層の拡散モデルを変更することなく、軌道信号のみで動作する。
この誘導過程を1次テイラー展開を利用して定式化する。
TAGは、最小限の計算加算で拡散サンプリング忠実度を改善する、プラグアンドプレイのアーキテクチャに依存しないモジュールである。
論文 参考訳(メタデータ) (2025-10-06T06:53:29Z) - Training-Free Stein Diffusion Guidance: Posterior Correction for Sampling Beyond High-Density Regions [46.59494117137471]
自由拡散誘導の訓練は、追加の訓練なしに既成の分類器を活用する柔軟な方法を提供する。
本稿では,SOC を対象とする新たなトレーニングフリーフレームワークである Stein Diffusion Guidance (SDG) を紹介する。
分子低密度サンプリングタスクの実験は、SDGが標準のトレーニングフリーガイダンス手法を一貫して上回っていることを示唆している。
論文 参考訳(メタデータ) (2025-07-07T21:14:27Z) - Characteristic Guidance: Non-linear Correction for Diffusion Model at Large Guidance Scale [0.0]
そこで本研究では,一元的非線形補正法である特徴ガイダンスを提案する。
実験により,特徴誘導は画像生成におけるプロンプトのセマンティックな特徴と不規則性を高めることが示された。
論文 参考訳(メタデータ) (2023-12-11T02:40:40Z) - Unsupervised Discovery of Interpretable Directions in h-space of
Pre-trained Diffusion Models [63.1637853118899]
本稿では,事前学習した拡散モデルのh空間における解釈可能な方向を特定するための,教師なしおよび学習に基づく最初の手法を提案する。
我々は、事前訓練された拡散モデルのh-スペースで動作するシフト制御モジュールを用いて、サンプルをシフトしたバージョンに操作する。
それらを共同で最適化することで、モデルは自然に絡み合った、解釈可能な方向を発見する。
論文 参考訳(メタデータ) (2023-10-15T18:44:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。