Fugu-MT 論文翻訳(概要): A note on the relations between mixture models, maximum-likelihood and entropic optimal transport

論文の概要: A note on the relations between mixture models, maximum-likelihood and entropic optimal transport

arxiv url: http://arxiv.org/abs/2501.12005v1
Date: Tue, 21 Jan 2025 09:55:21 GMT
ステータス: 翻訳完了
システム内更新日: 2025-01-22 14:25:21.823994
Title: A note on the relations between mixture models, maximum-likelihood and entropic optimal transport
Title（参考訳）: 混合モデル, 最大様相, エントロピー最適輸送の関係について
Authors: Titouan Vayer, Etienne Lasalle,
Abstract要約: 本研究では, 混合モデルに対する最大線量推定は, エントロピー正則化を伴う最適輸送問題としてパラメータを最小化することと同値であることを示す。
参考スコア（独自算出の注目度）: 6.246185995463311
License:
Abstract: This note aims to demonstrate that performing maximum-likelihood estimation for a mixture model is equivalent to minimizing over the parameters an optimal transport problem with entropic regularization. The objective is pedagogical: we seek to present this already known result in a concise and hopefully simple manner. We give an illustration with Gaussian mixture models by showing that the standard EM algorithm is a specific block-coordinate descent on an optimal transport loss.
Abstract（参考訳）: 本研究の目的は, 混合モデルに対する最大線量推定が, エントロピー正則化を伴う最適輸送問題であるパラメータを最小化することと等価であることを示すことである。目的は教育的であり、我々はこの既知の結果を簡潔で希望的な方法で提示することを目指している。本稿では,ガウス混合モデルを用いて,標準EMアルゴリズムが最適な輸送損失に対する特定のブロック座標降下であることを示す。

関連論文リスト

Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文参考訳（メタデータ） (2024-07-10T17:39:50Z)
Differentiating Metropolis-Hastings to Optimize Intractable Densities [51.16801956665228]
我々はメトロポリス・ハスティングス検層の自動識別アルゴリズムを開発した。難解な対象密度に対する期待値として表現された目的に対して勾配に基づく最適化を適用する。
論文参考訳（メタデータ） (2023-06-13T17:56:02Z)
Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。 MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文参考訳（メタデータ） (2022-10-24T16:54:18Z)
An Homogeneous Unbalanced Regularized Optimal Transport model with applications to Optimal Transport with Boundary [0.0]
不均衡な最適輸送(OT)モデルにおけるエントロピー正規化項の導入は、入力測度に関してそれらの均一性をどう変えるかを示す。本稿では,標準UROTモデルのほとんどの特性を保ちつつ,同質なUROTモデルを取得するために,エントロピー正規化項を変更することを提案する。
論文参考訳（メタデータ） (2022-01-06T14:55:30Z)
Information Theoretic Structured Generative Modeling [13.117829542251188]
構造生成モデル (Structured Generative Model, SGM) と呼ばれる新しい生成モデルフレームワークが提案され, 簡単な最適化が可能となった。この実装では、無限のガウス混合モデルを学習するために適合した単一白色ノイズ源への正則入力によって駆動される1つのニューラルネットワークを採用している。予備的な結果は、SGMがデータ効率と分散、従来のガウス混合モデルと変分混合モデル、および敵ネットワークのトレーニングにおいてMINE推定を著しく改善することを示している。
論文参考訳（メタデータ） (2021-10-12T07:44:18Z)
On the Existence of Optimal Transport Gradient for Learning Generative Models [8.602553195689513]
Wasserstein Generative Adversarial Networks (WGAN) のトレーニングは、最適な輸送コストの勾配の計算に依存する。まず、そのような勾配は定義されない可能性を示し、勾配に基づく最適化の際の数値的不安定性をもたらす。実験データの離散性を利用して、半離散的な設定で勾配を定式化し、生成モデルパラメータの最適化のためのアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-02-10T16:28:20Z)
Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。 ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文参考訳（メタデータ） (2020-12-28T05:14:22Z)
A Rigorous Link Between Self-Organizing Maps and Gaussian Mixture Models [78.6363825307044]
本研究は、自己組織化マップ(SOM)とガウス混合モデル(GMM)の関係を数学的に扱うものである。我々は,エネルギーベースSOMモデルを勾配勾配下降と解釈できることを示した。このリンクはSOMsを生成確率モデルとして扱うことができ、SOMsを使用して外れ値を検出したりサンプリングしたりするための正式な正当性を与える。
論文参考訳（メタデータ） (2020-09-24T14:09:04Z)
Sinkhorn EM: An Expectation-Maximization algorithm based on entropic optimal transport [11.374487003189467]
シンクホーンEM(Sinkhorn EM)は、エントロピー最適輸送に基づく混合物の予測(EM)アルゴリズムの変種である。理論上, 実験上, sEMはEMより優れた挙動を示す。
論文参考訳（メタデータ） (2020-06-30T06:03:37Z)
A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文参考訳（メタデータ） (2019-10-31T02:26:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。