論文の概要: Newton Matching for Generative Modeling: A Unified Framework for Fine-Tuning and Sampling

• arxiv url: http://arxiv.org/abs/2609.05727v1
• Date: Fri, 04 Sep 2026 21:17:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.11234
• Title: Newton Matching for Generative Modeling: A Unified Framework for Fine-Tuning and Sampling
• Title（参考訳）: 生成モデリングのためのニュートンマッチング:ファインチューニングとサンプリングのための統一フレームワーク
• Abstract要約: 生成モデルにおける微細チューニングとサンプリングのための統合フレームワークであるNewton Matchingを開発した。 分離された損失から、標準モデルよりも反復的な最適化へとパラダイムをシフトする。 我々の研究は、生成モデルのための強化学習の理論とアルゴリズムを前進させる。
• 参考スコア（独自算出の注目度）: 4.589496709268605
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We develop Newton Matching, a unified framework for fine-tuning and sampling in generative modeling. The target is $π\proptoμe^{τr}$, where $r$ is the reward, $τ>0$ the inverse temperature, and $μ$ denotes the pretrained model's terminal density for fine-tuning or the constant $1$ for sampling. We shift the paradigm from isolated losses to iterative optimization over canonical models: population minimizers of standard conditional matching for terminal densities. Under compatible smooth-realization assumptions, canonical velocities form a manifold diffeomorphic to the density manifold. Transporting the Fisher-Rao metric and mixture connection to this manifold, we show that the reverse-KL Hessian equals the metric, so the Newton direction coincides with the negative Fisher-Rao gradient. At terminal density $ρ$, each stage takes a tangential step generated by the regularized reward $r-\frac1τ\log(ρ/μ)$, followed by terminal-density-preserving canonicalization. This canonical retraction yields an exact finite-stepsize density characterization. For the ideal iteration, we prove strict reverse-KL descent away from the target for $0 < η\le τ$, global convergence under mild conditions, and local quadratic convergence for full steps ($η=τ$). Covariance and gradient forms, each with forward or reverse regression-pair constructions, yield sample-wise tangential-update losses with the same population minimizer, without importance sampling or full-trajectory backpropagation. We develop approximate updates and define critical-point consistency as vanishing tangential displacement if and only if $ρ=π$. We recover representative methods as exact realizations, critical-point-consistent approximations, or objective-altering variants, enabling modular algorithm design. Our work advances the theory and algorithms of reinforcement learning for generative models.
• Abstract（参考訳）: 生成モデルにおける微細チューニングとサンプリングのための統合フレームワークであるNewton Matchingを開発した。 ターゲットは$π\proptoμe^{τr}$で、$r$は報酬、$τ>0$は逆温度、$μ$は、訓練済みモデルの微細チューニングまたはサンプリングのための終端密度を表す。 我々は、標準条件マッチングの人口最小化という、孤立損失から標準モデルに対する反復最適化へパラダイムをシフトする。 可換な滑らかな実現仮定の下では、正準速度は密度多様体に微分される多様体を形成する。 フィッシャー・ラオ計量と混合接続をこの多様体に輸送すると、逆KLヘシアンが計量と等しいことが示され、ニュートン方向は負のフィッシャー・ラオ勾配と一致する。 終端密度$ρ$では、各ステージは正規化報酬$r-\frac1τ\log(ρ/μ)$で生成される接ステップをとっており、次いで終端密度保存正準化が続く。 この正準退化は、正確に有限段階密度の特徴づけをもたらす。 理想的な反復に対して、ターゲットから0 < η\le τ$ の厳密な逆KL降下、穏やかな条件下での大域収束、フルステップ(η=τ$)の局所二次収束を証明します。 逆回帰ペア構造と逆回帰ペア構成の共分散および勾配形式は、サンプリングや全軌道バックプロパゲーションの重要さを伴わず、同じ個体群を最小化できるサンプルワイドタンジデンシャル更新損失を生じる。 近似的な更新を開発し、臨界点の整合性は、$ρ=π$の場合にのみ有意な変位がなくなると定義する。 提案手法は, 正確な実現, 臨界点整合近似, あるいはオブジェクト指向の変種として回収され, モジュラーアルゴリズムの設計が可能となる。 我々の研究は、生成モデルのための強化学習の理論とアルゴリズムを前進させる。

関連論文リスト

• Particle Dynamics of Flow Matching and Classifier-Free Guidance from a Stagewise Geometry Perspective [3.9423546337949253]
  フローマッチングと誘導(CFG)は、生成モデリングにおいて広く用いられている。 両動力学の段階的幾何理論のアトラクションを統一的に確立する。 さらに、一般的な時間スケジュール$a(t)$が$O(1-t)$崩壊を$O(1-a(t)$に置き換えることを示す。
  論文  参考訳（メタデータ） (2026-09-07T02:33:36Z)
• Provably adaptive sampling with uniform and remasking discrete diffusion models [9.180350432640912]
  本研究では,一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一 我々の主な成果は、適応的なサンプリング保証を確立することである。 構造化された合成分布に関する数値実験は、予測された次元適応挙動を示す。
  論文  参考訳（メタデータ） (2026-08-24T17:54:51Z)
• Towards Scalable Persistence-Based Topological Optimization [44.16669776030478]
  永続性に基づく位相最適化は、点クラウド $X の部分集合 mathbbRd$ を $L(X) = ell(mathrmDgm(X))$ という形の目的を最小化することによって変形する。 実際、最適化は2つの結合した問題によって制限される: 永続ホモロジーは典型的にはサブサンプル上で計算され、結果として生じる位相勾配は非常にスパースであり、非ゼロ更新を受けるアンカーポイントはわずかである。
  論文  参考訳（メタデータ） (2026-05-09T15:47:20Z)
• Efficient Sampling with Discrete Diffusion Models: Sharp and Adaptive Guarantees [9.180350432640912]
  連続時間マルコフ連鎖(CTMC)の定式化によるスコアベース離散拡散モデルのサンプリング効率について検討した。 一様離散拡散に対して、$$-leapingアルゴリズムは位数$tilde O(d/varepsilon)$の複雑さを達成することを示す。 離散拡散をマスキングするために,本質的な情報理論量によって収束率を制御した$$-leapingサンプルラを導入する。
  論文  参考訳（メタデータ） (2026-02-16T18:48:17Z)
• Stabilizing Fixed-Point Iteration for Markov Chain Poisson Equations [49.702772230127465]
  有限状態マルコフ鎖を$n$状態と遷移行列$P$で研究する。 すべての非退化モードが実周辺不変部分空間 $mathcalK(P)$ によってキャプチャされ、商空間 $mathbbRn/mathcalK(P) 上の誘導作用素が厳密に収縮し、ユニークな商解が得られることを示す。
  論文  参考訳（メタデータ） (2026-01-31T02:57:01Z)
• Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
  我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。 従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。 本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
  論文  参考訳（メタデータ） (2025-07-11T08:00:47Z)
• Variance Reduction for the Independent Metropolis Sampler [11.074080383657453]
  我々は、$pi$がKL分散の下で別の密度$q$に十分近い場合、$pi$からサンプルを得る独立したサンプリング器は、$pi$からサンプリングするi.d.よりも小さな分散を達成することを証明した。 提案手法は,KLの目標との偏差が低減されるように,提案密度に適応する適応型独立メトロポリスアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-06-25T16:38:53Z)
• Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
  本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。 本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative Models [49.81937966106691]
  我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。 従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
  論文  参考訳（メタデータ） (2023-06-15T16:30:08Z)
• KL-Entropy-Regularized RL with a Generative Model is Minimax Optimal [70.15267479220691]
  モデル強化学習のサンプル複雑性を,生成的分散自由モデルを用いて検討・解析する。 我々の分析は、$varepsilon$が十分小さい場合、$varepsilon$-optimal Policyを見つけるのが、ほぼ最小の最適化であることを示している。
  論文  参考訳（メタデータ） (2022-05-27T19:39:24Z)
• Sample Complexity of Asynchronous Q-Learning: Sharper Analysis and Variance Reduction [63.41789556777387]
  非同期Q-ラーニングはマルコフ決定過程(MDP)の最適行動値関数(またはQ-関数)を学習することを目的としている。 Q-関数の入出力$varepsilon$-正確な推定に必要なサンプルの数は、少なくとも$frac1mu_min (1-gamma)5varepsilon2+ fract_mixmu_min (1-gamma)$の順である。
  論文  参考訳（メタデータ） (2020-06-04T17:51:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。