論文の概要: D-DOIT: Training-free Adaptation of Discrete Diffusion via Doob's h-Transform
- arxiv url: http://arxiv.org/abs/2610.04938v1
- Date: Sun, 04 Oct 2026 04:34:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 07:47:45.053524
- Title: D-DOIT: Training-free Adaptation of Discrete Diffusion via Doob's h-Transform
- Title（参考訳）: D-DOIT:Doobのh-transformによる離散拡散の訓練不要適応
- Abstract要約: D-DOITは、一般的な報酬を持つ離散拡散モデルの訓練不要適応法である。
タンパク質逆折り畳みベンチマークでは最も成功率が高い。
- 参考スコア（独自算出の注目度）: 19.3434907880189
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose D-DOIT (Discrete Doob-Oriented Inference-time Transformation), a training-free and efficient adaptation method for discrete diffusion models with generic rewards. D-DOIT formulates adaptation as sampling from a reward-tilted target distribution and realizes this transport through Doob's h-transform of the discrete diffusion reverse kernel, using only reward values rather than reward gradients. Unlike continuous diffusion, masked discrete diffusion samples categorical token-reveal transitions rather than continuous state updates. D-DOIT derives the corresponding discrete Doob's h-transform, which guides sampling by reweighting reverse transition probabilities instead of adding a drift correction. To make this transformation practical, D-DOIT avoids expensive future rollouts. At each guided step, D-DOIT samples candidate next states, uses the model prediction head to complete each candidate into a clean sequence, evaluates each completion with the reward oracle, and resamples the next state with probabilities proportional to the rewards. An optional late-stage best-of-K refinement further improves sample quality by branching trajectories only near the end of denoising, avoiding the $K$-fold cost over the full trajectory. Empirically, across regulatory DNA design and protein inverse folding benchmarks, D-DOIT outperforms training-free guidance baselines. It improves enhancer activity and cell-type specificity while preserving sequence naturalness, and achieves the highest success rate in protein inverse folding.
- Abstract（参考訳）: 本稿では,D-DOIT(Discrete Doob-Oriented Inference-time Transformation)を提案する。
D-DOITは、報酬型ターゲット分布からのサンプリングとして適応を定式化し、報酬勾配ではなく報酬値のみを用いて、離散拡散逆核のDoobのh変換を通してこの輸送を実現する。
連続拡散とは異なり、マスキングされた離散拡散サンプルは、連続状態更新ではなく、カテゴリー的トークン-相対遷移である。
D-DOITは、ドリフト補正を加えるのではなく、逆遷移確率を再重み付けすることでサンプリングをガイドする、対応する離散Doobのh変換を導出する。
この変換を現実的にするために、D-DOITは高価な将来のロールアウトを避ける。
各誘導ステップにおいて、D-DOITは次の状態の候補をサンプリングし、モデル予測ヘッドを使用して各候補をクリーンシーケンスに完了させ、各完了を報奨託書で評価し、報酬に比例する確率で次の状態を再サンプリングする。
オプションのラストステージのベスト・オブ・K改良により、デノジングの終了直前にのみ軌道を分岐することでサンプル品質が向上し、完全な軌道上でのK$フォールドのコストが回避される。
実証的には、規制的なDNA設計とタンパク質逆フォールディングベンチマークを通じて、D-DOITはトレーニング不要のガイダンスベースラインを上回っている。
配列の自然性を保ちながらエンハンサー活性と細胞型特異性を向上し、タンパク質逆フォールディングの最高成功率を達成する。
関連論文リスト
- ResOPD: Tail Residualization for Sparse On-Policy Distillation [25.123322898662565]
オンライン蒸留は学生モデルを自己生成軌道上で訓練する。
教師の密集した分布を 長い推論の痕跡に伝達すると 通信の禁止と 記憶のボトルネックが生じる
本稿では,非バイアス付き完全語彙逆KL勾配推定を行うResOPD(On-Policy Distillation with Tail Residualization)を提案する。
論文 参考訳（メタデータ） (2026-10-04T02:43:39Z) - IDRF: Inverse-Distilled Reward Fine-tuning of Masked Discrete Diffusion Models [65.81561972026121]
マスク付き離散拡散モデルは自己回帰生成に代わる有望な選択肢を提供する。
数ステップのマスク付き離散拡散発生器の微調整を行うためのフレームワークIDRFを紹介する。
DNA、画像、テキスト生成全体にわたって、IDRFは、参照よりも高い報酬を最大32倍のデノイングステップで達成している。
論文 参考訳（メタデータ） (2026-10-02T17:29:22Z) - Simplex Relaxation for Discrete Diffusion [58.33696160279345]
Simplax(Simplax)はディリクレ(Dirichlet)のカテゴリー拡張で、それぞれが崩壊したカテゴリ状態と補助的単純度値変数を結合する。
Simplaxは生成パープレキシティーを改善する。-無条件のOpenWebText生成におけるエントロピートレードオフ。
論文 参考訳（メタデータ） (2026-08-11T07:58:17Z) - LC-GRPO: Bridging Train-Inference Gap for Flow-Based GRPO with Langevin Correction [59.32834240526981]
フローベース生成モデルは典型的には、決定論的常微分方程式(ODE)を解くことによってサンプリングされる
既存の流れモデルのためのGRPO法は、訓練中にオイラー時間ODEを非等方微分方程式(SDE)に置き換える。
本稿では,フローベースGRPOフレームワークであるLC-GRPOを紹介する。
論文 参考訳（メタデータ） (2026-08-06T04:47:57Z) - Tempered Guided Diffusion [1.7778609937758325]
拡散前の条件付きトレーニング不要な条件付きサンプリングのためのシーケンシャルなモンテカルロフレームワークを提案する。
TGDは、ノイズ拡散状態のみを補助変数として、クリーン信号上の誘電後部分布を標的とする。
高価な復元作業のために、TGDは初期の粒子探査を継続するが、サンプリングを通して1つの高軌道の軌道の一部にプルーネを配置する。
論文 参考訳（メタデータ） (2026-05-05T13:00:15Z) - Diffusion Controller: Framework, Algorithms and Parameterization [54.82539154511621]
本稿では,逆拡散サンプリングを(一般化された)線形解法マルコフ決定過程における状態のみの制御として活用する統一的な制御理論的視点を提案する。
このフレームワークでは、制御はトレーニング済みのリバースタイムのトランジションカーネルを再重み付けし、端末の目的と$f$分割コストのバランスをとる。
安定拡散v1.4の実験では、選好調整の勝利率が一貫した上昇を示し、品質効率のトレードオフを改善した。
論文 参考訳（メタデータ） (2026-03-07T01:49:59Z) - Training-Free Adaptation of Diffusion Models via Doob's $h$-Transform [37.05492050174751]
DOIT(Doob-Oriented Inference-time Transformation)は、トレーニング不要で計算効率のよい適応法である。
我々は,この輸送を実現するためにDoobの$h$-transformを利用し,拡散サンプリングプロセスに対する動的補正を誘導する。
本手法はサンプリング効率を保ちながら常に最先端のベースラインを上回っている。
論文 参考訳（メタデータ） (2026-02-18T05:44:19Z) - Effective Test-Time Scaling of Discrete Diffusion through Iterative Refinement [51.54933696252104]
離散拡散に適した新しいテスト時間スケーリング手法であるイテレーティブ・リワードガイドリファインメント(IterRef)を導入する。
我々は、このプロセスをMultiple-Try Metropolisフレームワークで形式化し、報酬整合分布への収束を証明した。
IterRefは計算予算の低さで大幅に上昇し、最先端のベースラインをはるかに超えている。
論文 参考訳（メタデータ） (2025-11-04T02:33:23Z) - ADT: Tuning Diffusion Models with Adversarial Supervision [16.974169058917443]
拡散モデルは、真のデータ分布を近似するために前方ノイズ発生過程を反転させることで、優れた画像生成を実現している。
本稿では、最適化中の推論プロセスを刺激し、最終的な出力をトレーニングデータと整合させるために、Adrial Diffusion Tuning (ADT)を提案する。
ADTは、固定されたトレーニング済みのバックボーンと軽量なトレーニング可能なパラメータを備えたシアム-ネットワーク識別器を備えている。
論文 参考訳（メタデータ） (2025-04-15T17:37:50Z) - Gradient Guidance for Diffusion Models: An Optimization Perspective [45.6080199096424]
本稿では,ユーザ特定目的の最適化に向けて,事前学習した拡散モデルを適用するための勾配ガイダンスの形式について検討する。
我々は,その最適化理論とアルゴリズム設計を体系的に研究するために,誘導拡散の数学的枠組みを確立する。
論文 参考訳（メタデータ） (2024-04-23T04:51:02Z) - Diffusion-GAN: Training GANs with Diffusion [135.24433011977874]
GAN(Generative Adversarial Network)は、安定してトレーニングすることが難しい。
フォワード拡散チェーンを利用してインスタンスノイズを生成する新しいGANフレームワークであるDiffusion-GANを提案する。
我々は,Diffusion-GANにより,最先端のGANよりも高い安定性とデータ効率で,よりリアルな画像を生成することができることを示す。
論文 参考訳（メタデータ） (2022-06-05T20:45:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。