論文の概要: Weighted Adjoint Matching: Finetuning Flow Matching Models with Time-Dependent Control Cost
- arxiv url: http://arxiv.org/abs/2610.20035v1
- Date: Wed, 14 Oct 2026 11:43:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.126865
- Title: Weighted Adjoint Matching: Finetuning Flow Matching Models with Time-Dependent Control Cost
- Title（参考訳）: 重み付き随伴マッチング:時間依存制御コストを考慮した微調整フローマッチングモデル
- Abstract要約: Weighted Adjoint Matching(重み付き随伴マッチング)を導入する。これは、あらかじめ訓練された拡散またはフローマッチングモデルに異なる報酬を与える方法である。
本手法は,生成経路上でのKulback-Leibler正則化の時間変化による報酬の最大化と等価であることを示す。
- 参考スコア（独自算出の注目度）: 0.46960837342692324
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce Weighted Adjoint Matching, a method to finetune a pretrained diffusion or flow matching model given a differentiable reward. We derive it from Adjoint Matching, which reformulates finetuning as a stochastic optimal control problem with a quadratic control cost. Building on the observation that these models generate coarse features before fine details, we place a time-dependent weight on the control cost. A high cost early in the generative process preserves balance and diversity in the coarse features, which carry most of the semantics, while a low cost at the end lets the model increase the reward by refining details. We prove that our method is equivalent to maximizing the reward under time-varying Kullback--Leibler regularization on the generative paths. Experiments on Gaussian mixtures and on MNIST show a better tradeoff between reward and mode balance than Adjoint Matching.
- Abstract（参考訳）: Weighted Adjoint Matching(重み付き随伴マッチング)を導入する。これは、あらかじめ訓練された拡散またはフローマッチングモデルに異なる報酬を与える方法である。
本稿では,2次制御コストを伴う確率的最適制御問題としてファインタニングを再構成するAdjoint Matchingから導出する。
これらのモデルが細部よりも先に粗い特徴を生成するという観察に基づいて、制御コストに時間依存重みを置く。
生成プロセスの早い段階での高コストは、ほとんどのセマンティクスを含む粗い特徴のバランスと多様性を保ち、最後には低いコストで詳細を精査することで報酬を増やすことができる。
我々は,時間変化Kulback--Leibler正則化の下での報酬の最大化に等価であることを証明した。
ガウス混合とMNISTの実験は、アジョイントマッチングよりも報酬とモードバランスのトレードオフが優れていることを示している。
関連論文リスト
- Precise: SDE-Consistent Stochastic Sampling for RL Post-Training of Flow-Matching Models [56.67321805551389]
Reinforcement Learning (RL) は, 拡散・流れマッチングジェネレータにおいて, 迅速なアライメントと知覚品質の向上に有効な方法となっている。
探索行動の制御と力学のデノベーションを行うサンプルは、この方針の一部である。
有効探査と安定性のバランスをとる新しいサンプリング器を提案する。
論文 参考訳（メタデータ） (2026-05-22T11:37:22Z) - MARBLE: Multi-Aspect Reward Balance for Diffusion RL [71.6241143519038]
強化学習は、拡散モデルと人間の嗜好を整合させる主要なアプローチとなっている。
既存のプラクティスは、報酬ごとに1つのスペシャリストモデルをトレーニングすることで、複数の報酬を処理します。
我々は,各報酬に対する独立な優位推定器を維持する勾配空間最適化フレームワークMARBLEを提案する。
論文 参考訳（メタデータ） (2026-05-07T16:20:42Z) - Reward Score Matching: Unifying Reward-based Fine-tuning for Flow and Diffusion Models [54.597200388738656]
Reward-based fine-tuningは、事前訓練された拡散またはフローベース生成モデルを、より高い逆サンプルに向けて操ることを目的としている。
報酬スコアマッチング (RSM) と呼ばれる共通フレームワークで記述できることが示される。
論文 参考訳（メタデータ） (2026-04-19T12:47:52Z) - Diffusion Controller: Framework, Algorithms and Parameterization [54.82539154511621]
本稿では,逆拡散サンプリングを(一般化された)線形解法マルコフ決定過程における状態のみの制御として活用する統一的な制御理論的視点を提案する。
このフレームワークでは、制御はトレーニング済みのリバースタイムのトランジションカーネルを再重み付けし、端末の目的と$f$分割コストのバランスをとる。
安定拡散v1.4の実験では、選好調整の勝利率が一貫した上昇を示し、品質効率のトレードオフを改善した。
論文 参考訳（メタデータ） (2026-03-07T01:49:59Z) - CMAD: Cooperative Multi-Agent Diffusion via Stochastic Optimal Control [40.52516377402657]
連続時間生成モデルは、画像の復元と合成において顕著な成功を収めた。
複数の事前訓練されたモデルの構成を制御することは、依然としてオープンな課題である。
論文 参考訳（メタデータ） (2026-02-11T15:12:43Z) - Convergence, design and training of continuous-time dropout as a random batch method [0.0]
ランダムバッチ方式のレンズを用いた連続時間モデルにおけるドロップアウト正規化について検討する。
我々は、長さ$h$の時間間隔でニューロンのバッチをサンプリングすることによって、ドロップアウトを模倣する、偏りのない、よく考えられた推定器を構築した。
次に、単層ニューラルネットワークを専門とし、分類とフローマッチングの理論を検証する。
論文 参考訳（メタデータ） (2025-10-15T04:19:01Z) - CREPE: Controlling Diffusion with Replica Exchange [32.38925001748167]
拡散モデルの推論時間制御は、モデル出力を操り、再学習せずに新しい制約を満たすことを目的としている。
レプリカ交換に基づくフレキシブルな代替案を提案する。
CREPE:(1) 粒子を逐次生成し,(2) 燃焼後の試料の多様性を高く維持し,(3) オンライン精製や早期終了を可能にする。
論文 参考訳（メタデータ） (2025-09-27T11:45:37Z) - Adjoint Matching: Fine-tuning Flow and Diffusion Generative Models with Memoryless Stochastic Optimal Control [26.195547996552406]
我々は,反復的プロセスを通じてサンプルを生成する動的生成モデルに対して,報酬微調整を最適制御(SOC)として用いた。
提案手法は,報酬の微調整,一貫性の向上,リアリズム,人間の選好報酬モデルへの一般化など,既存の方法よりも大幅に改善されている。
論文 参考訳（メタデータ） (2024-09-13T14:22:14Z) - An Efficient Rehearsal Scheme for Catastrophic Forgetting Mitigation during Multi-stage Fine-tuning [55.467047686093025]
このような忘れを緩和するための一般的なアプローチは、微調整中に以前のタスクからサンプルをリハーサルすることである。
側方損傷のリハーサルを優先するサンプリング手法である textttbf mix-cd を提案する。
我々の手法は計算効率が高く、実装が容易で、計算制約のある設定においていくつかの主要な連続学習手法より優れています。
論文 参考訳（メタデータ） (2024-02-12T22:32:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。