論文の概要: Spectral Feedback for Test-Time Alignment of Protein Diffusion Models

• arxiv url: http://arxiv.org/abs/2609.30456v1
• Date: Thu, 24 Sep 2026 18:49:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.106294
• Title: Spectral Feedback for Test-Time Alignment of Protein Diffusion Models
• Title（参考訳）: タンパク質拡散モデルの試験時間アライメントのためのスペクトルフィードバック
• Abstract要約: 本稿では、フィードバックループ内の編集位置を選択するアルゴリズムであるSpectral Feedbackを紹介し、モデルが自身の世代を反復的に修正できるようにする。 編集セットを、再マスクと再サンプリングのためのトークン位置のセットとして定義する。 これらのモデルすべてに対して、アルゴリズムは、基礎となる生成過程を変更することなくアライメント性能を改善する。
• 参考スコア（独自算出の注目度）: 10.846740732334164
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reward maximization alignment methods for discrete diffusion models have primarily focused on steering the reverse process, either by influencing token logits or by selecting favorable sequences at intermediate steps. These approaches largely treat inference as a unidirectional process, lacking mechanisms for revisiting undesirable token selections. We introduce Spectral Feedback, an algorithm that selects edit-positions in a feedback loop, allowing the model to iteratively correct its own generations. This approach leverages the mask structure of discrete diffusion models by re-masking and re-sampling tokens, analogous to image editing methods that reintroduce noisy latents and re-run the reverse process. While prior alignment methods focus on what token labels to assign to maximize a target reward, we instead treat which tokens to revisit as the central alignment problem. Selecting edit-positions is challenging because edit effects are interdependent: the impact of modifying one token depends on which others are edited simultaneously. We define an edit-set as a set of token positions to re-mask and re-sample. Motivated by prior work on sparse interactions in biological systems, we find empirically that edit-set value functions for protein inverse folding admit sparse Fourier representations. This structure enables Spectral Feedback to efficiently learn and optimize the value functions for edit-position selection. Spectral Feedback is model-agnostic and can be applied to pretrained, test-time aligned, and fine-tuned diffusion models. For all of these models, the algorithm improves alignment performance without modifying the underlying generative process. Applied to inverse folding with a protein stability reward oracle, it achieves a 32.3% increase in stable proteins for a pretrained model, 24.8% for Best-of-10, and 5.8% for a state-of-the-art RL fine-tuned diffusion model.
• Abstract（参考訳）: 離散拡散モデルの逆最大化アライメント法は、主に、トークンロジットに影響を与えるか、中間ステップで好ましいシーケンスを選択することによって、逆過程のステアリングに焦点を当てている。 これらのアプローチは推論を一方向のプロセスとして扱い、望ましくないトークンの選択を再考するメカニズムを欠いている。 本稿では、フィードバックループ内の編集位置を選択するアルゴリズムであるSpectral Feedbackを紹介し、モデルが自身の世代を反復的に修正できるようにする。 このアプローチは、ノイズのある潜伏剤を再導入し、逆過程を再実行する画像編集法に類似したトークンの再マッピングと再サンプリングにより、離散拡散モデルのマスク構造を利用する。 先行アライメント手法は、どのトークンラベルを割り当てて目標報酬を最大化するかに焦点を当てる一方で、どのトークンを中央アライメント問題として扱うかを扱う。 編集効果が相互依存しているため、編集ポジションの選択は困難である。 編集セットを、再マスクと再サンプリングのためのトークン位置のセットとして定義する。 生物学的システムにおけるスパース相互作用の先行研究により、タンパク質逆フォールディングのための編集セット値関数がスパースフーリエ表現を許容していることが実証的に明らかになった。 この構造により、スペクトルフィードバックは、編集位置選択の値関数を効率的に学習し、最適化することができる。 スペクトルフィードバックはモデルに依存しず、事前訓練されたテストタイムアライメント、微調整された拡散モデルに適用することができる。 これらのモデルすべてに対して、アルゴリズムは、基礎となる生成過程を変更することなくアライメント性能を改善する。 タンパク質安定性報酬オラクルの逆フォールディングに応用すると、事前訓練されたモデルでは32.3%の安定なタンパク質が増加し、Best-of-10では24.8%、最先端のRL微調整拡散モデルでは5.8%となる。

関連論文リスト

• Training-free image inversion for one-step diffusion models [31.38241916022748]
  実画像のインバージョンと編集における重要な課題に対処する,ワンステップ拡散モデルのための新しいトレーニングフリー・インバージョンフレームワークを提案する。 まず、実画像の反転と編集を妨げる2つの重要な要因を同定する。 本稿では,正規ガウス分布と一致させるために分配ギャップを最小化する反復雑音アライメント(iterNA)と,テキストと画像のアライメントを強化する接尾辞学習(suffL)の2つの新しい手法を提案する。
  論文  参考訳（メタデータ） (2026-05-31T18:10:23Z)
• Uniform Diffusion Models Revisited: Leave-One-Out Denoiser and Absorbing State Reformulation [72.05592785529404]
  UDMの標準プラグインブリッジパラメタライゼーションは,後側頭蓋に最適化されないことを示す。 また,UDM関節法をマスク拡散様サンプリング操作に分解して保存する均一拡散の吸収状態再構成も導入した。
  論文  参考訳（メタデータ） (2026-05-21T17:27:19Z)
• Towards Generalized Image Manipulation Localization via Score-based Model [38.03898206912958]
  IMLにスコアベース生成モデルを導入する新しいフレームワークであるDiffIMLを提案する。 この定式化の下では、拡散モデルは学習したスコア関数の効果的な数値解法として機能する。 8つの非生成的および3つの生成的ベンチマークの実験は、DiffIMLが一貫して最先端の手法より優れていることを示した。
  論文  参考訳（メタデータ） (2026-05-16T08:39:54Z)
• Search-Augmented Masked Diffusion Models for Constrained Generation [47.47350674873298]
  Search-Augmented Masked Diffusion (SearchDiff)は、インフォメーションサーチを直接リバース・デノイング・プロセスに統合するトレーニング不要なニューロシンボリック推論フレームワークである。 SearchDiffは制約満足度とプロパティの定着性を大幅に改善し、離散拡散と自己回帰ベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-02-02T19:43:25Z)
• Rethinking Refinement: Correcting Generative Bias without Noise Injection [7.28668585578288]
  拡散モデルやフローベースモデルを含む生成モデルは、しばしばサンプルの品質を低下させる体系的なバイアスを示す。 ノイズインジェクションやマルチステップ再サンプリングを使わずに,効果的なバイアス補正がポストホック法として実現できることを示す。
  論文  参考訳（メタデータ） (2026-01-29T02:34:08Z)
• Self-diffusion for Solving Inverse Problems [3.8870795921263728]
  我々は,事前学習された生成モデルに頼ることなく,逆問題を解決するための新しいフレームワークである自己拡散を提案する。 自己拡散はニューラルネットワークのスペクトルバイアスを利用して、スケジュールされたノイズプロセスを通じて変調する。 我々は, 線形逆問題に対するアプローチの有効性を実証し, 他の手法と比較して, 自己拡散が競争力や優れた性能を達成することを示す。
  論文  参考訳（メタデータ） (2025-10-24T12:57:22Z)
• Reward-Guided Iterative Refinement in Diffusion Models at Test-Time with Applications to Protein and DNA Design [87.58981407469977]
  進化的アルゴリズムにインスパイアされた拡散モデルを用いた推論時間報酬最適化のための新しいフレームワークを提案する。 当社のアプローチでは,各イテレーションにおける2つのステップ – ノイズ発生と報酬誘導という,反復的な改善プロセスを採用しています。
  論文  参考訳（メタデータ） (2025-02-20T17:48:45Z)
• Protein Design with Guided Discrete Diffusion [67.06148688398677]
  タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。 離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。 NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
  論文  参考訳（メタデータ） (2023-05-31T16:31:24Z)
• Regularized Vector Quantization for Tokenized Image Synthesis [126.96880843754066]
  画像の離散表現への量子化は、統合生成モデリングにおける根本的な問題である。 決定論的量子化は、厳しいコードブックの崩壊と推論段階の誤調整に悩まされ、一方、量子化は、コードブックの利用率の低下と再構築の目的に悩まされる。 本稿では、2つの視点から正規化を適用することにより、上記の問題を効果的に緩和できる正規化ベクトル量子化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-11T15:20:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。