論文の概要: Mode Coverage in Normalizing Flow Boltzmann Generators via Log-Ratio Variation
- arxiv url: http://arxiv.org/abs/2609.09473v1
- Date: Tue, 08 Sep 2026 21:42:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.822777
- Title: Mode Coverage in Normalizing Flow Boltzmann Generators via Log-Ratio Variation
- Title(参考訳): 対数比変動による正規化フローボルツマン発電機のモード被覆
- Authors: Qi Feng, Rongjie Lai, Di Qi, Xuda Ye,
- Abstract要約: 前方KLによるフロートレーニングは、バイアスや省略モードの可能性のあるターゲットサンプルに依存する。
対数比の変動である$X_$を導入する。
我々はKLXXのフィッシャー-ラオ勾配流を導出し、どちらの変分も非正の散逸に寄与する。
- 参考スコア(独自算出の注目度): 7.12821048762454
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Normalizing flow Boltzmann generators retain a tractable pushforward density, but training with forward KL depends on target samples that may be biased or omit modes. As a result, a flow can miss target mass while its observed importance weights give a high effective sample size. We introduce the log-ratio variation $\X_ω$, the mean absolute pairwise difference of the target-to-pushforward log-density ratio under a weighting measure $ω$, and use it to define KLXX, a new loss function. Two log-ratio variations are added to the forward KL (denoted by the two X's): one weighted by the target to improve accuracy, the other by a mixture of quench and temper samples with pushforward samples to search candidate modes. We derive the Fisher--Rao gradient flow of KLXX, where both variations contribute nonpositive dissipation, and a fixed-surrogate error bound for KLXX. We use KLXX in an adaptive-staging Boltzmann generator, with importance reweighting at every stage. We bound the sampling error of its inference scheme when the stage weights are essentially bounded, and prove it asymptotically unbiased in the sample size. In the numerical tests, KLXX improves mode coverage over forward KL. It also improves the generator's per-stage diagnostics against the loss that built the schedule. The observables the generator recovers are close to independent references. The log-ratio variations thus supply information that the forward KL loss usually omits.
- Abstract(参考訳): 正規化フローボルツマン発生器は牽引可能な前進密度を保持するが、前方KLでのトレーニングは偏りや省略モードの可能性のあるターゲットサンプルに依存する。
その結果、フローは目標質量を逸脱し、観測された重要重量は高い有効試料サイズを与える。
ここでは、対数比の変動である$\X_ω$を導入し、加重測度$ω$で対数対の対数差の平均値を求めるとともに、新たな損失関数であるKLXXを定義する。
2つの対数比のバリエーションが前方KLに追加され(2つのXが示す)、1つは目標によって重み付けされ精度が向上し、もう1つはクエンチとテンパーサンプルとプッシュフォワードサンプルを混合して候補モードを探索する。
我々はKLXXのフィッシャー-ラオ勾配流れを導出するが、どちらも非正の散逸に寄与し、KLXXの固定代理誤差を導出する。
我々はKLXXを適応定常ボルツマン発生器として使用し、各段において重み付けを行う。
ステージ重みが本質的に有界である場合に、その推論スキームのサンプリング誤差を拘束し、サンプルサイズにおいて漸近的に偏りがないことを証明した。
数値実験では、KLXXは前方KLよりもモードカバレッジを改善する。
また、スケジュールを構築した損失に対して、ジェネレータのステージごとの診断を改善した。
ジェネレータがリカバリするオブザーバブルは、独立参照に近い。
これにより、対数比の変動は、フォワードKL損失が通常省略される情報を与える。
関連論文リスト
- LC-GRPO: Bridging Train-Inference Gap for Flow-Based GRPO with Langevin Correction [59.32834240526981]
フローベース生成モデルは典型的には、決定論的常微分方程式(ODE)を解くことによってサンプリングされる
既存の流れモデルのためのGRPO法は、訓練中にオイラー時間ODEを非等方微分方程式(SDE)に置き換える。
本稿では,フローベースGRPOフレームワークであるLC-GRPOを紹介する。
論文 参考訳(メタデータ) (2026-08-06T04:47:57Z) - Laplace-Fisher Gate Identities for Optimal Matrix-Gated Blended Score Estimation [0.0]
Laplace-Fisher Gate Identity (LFGI)
ベイズ逆問題に対する正規化密度評価のための有限参照LFGI推定器
LFGIと既知のモデルエビデンスを用いた実験は、ガウスと非ガウスの両方の設定における絶対的なエビデンス校正をチェックする。
論文 参考訳(メタデータ) (2026-06-23T21:00:32Z) - Gaussian Mixture Flow Matching Models [63.092956669059824]
拡散モデルは正規分布をガウス平均として近似し,その平均を推定する一方,フローマッチングモデルはガウス平均をフロー速度としてパラメータ化する。
離散化誤差による数段階のサンプリングでは性能が低下し、分類器フリーガイダンス(CFG)では過飽和色が生じる傾向にある。
本稿では,CFGの過飽和問題を緩和し,画像生成品質を向上する新しい確率的ガイダンス手法を提案する。
論文 参考訳(メタデータ) (2025-04-07T17:59:42Z) - Scalable Equilibrium Sampling with Sequential Boltzmann Generators [60.00515282300297]
Boltzmannジェネレータフレームワークを2つの重要なコントリビューションで拡張する。
1つ目は、全原子カルテシアン座標で直接動作する非常に効率的なトランスフォーマーベースの正規化フローである。
特に,連続モンテカルロの連続時間変種を用いて,流れサンプルの推論時スケーリングを行う。
論文 参考訳(メタデータ) (2025-02-25T18:59:13Z) - KALE Flow: A Relaxed KL Gradient Flow for Probabilities with Disjoint
Support [27.165565512841656]
移動音源と固定目標分布との間のクルバック・リーブラー分岐に対する緩和近似の勾配流について検討した。
この近似は KALE (KL 近似下界推定器) と呼ばれ、関数の制限クラス上で KL を定義するフェンシェル双対問題の正規化版を解く。
論文 参考訳(メタデータ) (2021-06-16T16:37:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。