論文の概要: Variational Inference via Entropic Transport Descent
- arxiv url: http://arxiv.org/abs/2606.25265v1
- Date: Wed, 24 Jun 2026 01:02:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.179908
- Title: Variational Inference via Entropic Transport Descent
- Title(参考訳): エントロピー輸送Descentによる変分推論
- Abstract要約: 本稿では、各粒子の更新をエントロピー規則化された最適輸送問題としてフレーム化するParVIファミリーであるエントロピー輸送降下(ETD)を導入する。
ETDは完全にスコアフリーで動作でき、非正規化対象密度のポイントワイズ評価しか必要としない。
- 参考スコア(独自算出の注目度): 2.893006778402251
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Particle-based variational inference (ParVI) methods approximate an intractable target distribution by evolving an ensemble of interacting samples. Existing approaches rely predominantly on kernel-based repulsion (e.g., SVGD), which suffers from variance collapse in high dimensions and mode collapse on multimodal targets -- pathologies caused by the absence of global transport structure. We introduce entropic transport descent (ETD), a ParVI family that frames each particle update as an entropy-regularized optimal transport problem. Derived from the JKO proximal scheme by lifting to the space of couplings and relaxing via the KL chain rule, each ETD iteration reduces to a Sinkhorn computation. The resulting transport plan provides global coordination, guiding each particle to nearby high-density proposals and naturally preserving multimodal structure. ETD can operate entirely score-free, requiring only pointwise evaluations of the unnormalized target density. Experiments on variance-collapse diagnostics, Bayesian logistic regression, neural networks, and molecular Boltzmann distributions show that ETD matches or outperforms SVGD, AGF-SVGD, and SGLD, with the largest gains in high-dimensional and multimodal settings.
- Abstract(参考訳): ParVI法は、相互作用するサンプルのアンサンブルを進化させることにより、難解なターゲット分布を近似する。
既存のアプローチは、主にカーネルベースの反発(SVGDなど)に依存しており、これは高次元での分散崩壊とマルチモーダルターゲットでのモード崩壊(グローバルトランスポート構造が存在しないことによる病理)に悩まされている。
本稿では、各粒子の更新をエントロピー規則化された最適輸送問題としてフレーム化するParVIファミリーであるエントロピー輸送降下(ETD)を導入する。
カップリングの空間に昇降し、KL連鎖則を介して緩和することによりJKO近似スキームから導かれる各ETDイテレーションはシンクホーン計算に還元される。
結果として得られる輸送計画により、各粒子を近隣の高密度の提案に誘導し、自然に多モード構造を維持できる。
ETDは完全にスコアフリーで動作でき、非正規化対象密度のポイントワイズ評価しか必要としない。
分散崩壊診断、ベイジアンロジスティック回帰、ニューラルネットワーク、分子ボルツマン分布の実験により、ETDはSVGD、AGF-SVGD、SGLDと一致し、高次元およびマルチモーダルな設定で最大のゲインを持つことが示された。
関連論文リスト
- Generative Nested Sampling of Atomistic Thermodynamic Landscapes [37.547720439639015]
フローベースネストサンプリングは重力波(GW)推論のボトルネックを取り除く。
PBC の LJ ディスクは, エネルギー評価を2桁以上, 壁面時を約3分の1以上削減することを示した。
PBCのLJディスクの場合、このアルゴリズムはエネルギー評価を2桁以上、壁時計時間はおよそ3分の1以上削減する。
論文 参考訳(メタデータ) (2026-09-02T22:21:10Z) - A Biconvex Formulation for Stable Transport of Mixture Models with a Unique Solution [2.476989126504885]
最適化トランスポート(OT)は、分散間のマッピングのための計算フレームワークを提供する。
本稿では,画像データや摂動,実世界のデータなどの有効性と実用性を実証する。
論文 参考訳(メタデータ) (2026-06-01T17:26:04Z) - To discretize continually: Mean shift interacting particle systems for Bayesian inference [9.150567695563067]
非正規化密度から確率分布に対する積分を近似する新しい手法を提案する。
これらの手法は、経験的分布の最適量子化のための最近のアルゴリズムと同様に、古典的な平均シフトアルゴリズムを拡張している。
マルチモーダル混合、ベイジアン階層モデル、PDE制約逆問題など、幅広いベンチマークサンプリング問題に対して、それらの性能を実証する。
論文 参考訳(メタデータ) (2026-05-13T21:48:00Z) - OmniLiDAR: A Unified Diffusion Framework for Multi-Domain 3D LiDAR Generation [100.36917520403227]
本稿では,8つの代表領域にまたがる共有範囲画像表現において,LiDARスキャンを生成する統一テキスト条件拡散フレームワークを提案する。
パブリックな統合ベンチマークがなければ、実世界のスキャンと物理ベース気象シミュレーションとシステマティックビームリダクションを組み合わせた8ドメインデータセットを構築する。
論文 参考訳(メタデータ) (2026-05-13T17:42:20Z) - Mean-Field Path-Integral Diffusion: From Samples to Interacting Agents [0.0]
Mean-Field Path-Integral Diffusion (MF-PID) は、個体群密度の変動に自在に依存する相互作用する物質にサンプルを昇格させる枠組みである。
MF-PIDは、所定の端末分布を正確に一致させながら、独立エージェントベースラインに対する累積制御エネルギーを19~24%削減する。
論文 参考訳(メタデータ) (2026-02-23T21:14:06Z) - Structure-Informed Estimation for Pilot-Limited MIMO Channels via Tensor Decomposition [51.56484100374058]
本稿では、スパース観測から低ランクテンソル完備化としてパイロットリミテッドチャネル推定を定式化する。
合成チャネル実験による最小二乗平均二乗誤差(NMSE)の最小二乗平均誤差(LS)に対する改善
DeepMIMO線トレーシングチャネルの評価では、純粋なテンソル法よりも24-44%NMSEが減少している。
論文 参考訳(メタデータ) (2026-02-03T23:38:05Z) - Analyzing the Mechanism of Attention Collapse in VGGT from a Dynamics Perspective [13.434698786044107]
Visual Geometry Grounded Transformer (VGGT)は、最先端のフィードフォワード3D再構成を提供する。
グローバルな自己保持層は、入力シーケンスが数百フレームを超えると、劇的な崩壊現象に悩まされる。
我々は,グローバルアテンションを退化拡散過程と見なして,崩壊の厳密な数学的説明を確立する。
論文 参考訳(メタデータ) (2025-12-25T14:34:27Z) - DiffusionDriveV2: Reinforcement Learning-Constrained Truncated Diffusion Modeling in End-to-End Autonomous Driving [65.7087560656003]
エンドツーエンドの自動運転のための生成拡散モデルは、しばしばモード崩壊に悩まされる。
強化学習を利用して低品質モードを制約し,優れた軌道探索を行うDiffusionDriveV2を提案する。
これにより、そのコアであるガウス混合モデル固有の多重モード性を維持しながら、全体的な出力品質が大幅に向上する。
論文 参考訳(メタデータ) (2025-12-08T17:29:52Z) - Learning Boltzmann Generators via Constrained Mass Transport [26.687838638430595]
本稿では,KLの発散と連続ステップ間のエントロピー減衰の制約下で中間分布を生成する変分フレームワークであるConstrained Mass Transport (CMT)を紹介する。
CMTは、常に最先端の変分法を超越し、モード崩壊を避けつつ、2.5倍以上の有効試料サイズを達成する。
論文 参考訳(メタデータ) (2025-10-21T09:34:01Z) - Towards Unified and Lossless Latent Space for 3D Molecular Latent Diffusion Modeling [90.23688195918432]
3次元分子生成は、薬物発見と物質科学に不可欠である。
既存のアプローチは、典型的には不変かつ同変なモジュラリティに対して別々のラテント空間を保持する。
我々は,3次元分子を潜在空間から潜在配列に圧縮するマルチモーダルVAEである textbfUAE-3D を提案する。
論文 参考訳(メタデータ) (2025-03-19T08:56:13Z) - Multi-Agent Path Finding in Continuous Spaces with Projected Diffusion Models [57.45019514036948]
MAPF(Multi-Agent Path Finding)は、ロボット工学における基本的な問題である。
連続空間におけるMAPFの拡散モデルと制約付き最適化を統合する新しい手法を提案する。
論文 参考訳(メタデータ) (2024-12-23T21:27:19Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳(メタデータ) (2022-06-29T22:19:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。