論文の概要: Gaussian mixtures and non-parametric likelihoods through the lens of statistical mechanics

• arxiv url: http://arxiv.org/abs/2603.23196v1
• Date: Tue, 24 Mar 2026 13:42:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.500978
• Title: Gaussian mixtures and non-parametric likelihoods through the lens of statistical mechanics
• Title（参考訳）: 統計力学のレンズによるガウス混合と非パラメトリック可能性
• Authors: Subhroshekhar Ghosh, Adityanand Guntuboyina, Satyaki Mukherjee, Hoang-Son Tran,
• Abstract要約: 統計力学の観点から,非パラメトリック最大推定法(abrv NPMLE)の問題点を考察する。 我々はNPMLEプロシージャの安定性を保証する。 我々は、NPMLE と $minbigfrac(log n)d+2n, fraclog nsqrt nbig$ の順序である真の密度の間の KL の分岐に関する高い確率上界を提供する。
• 参考スコア（独自算出の注目度）: 6.219242821194725
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this work, we investigate Gaussian Mixture Models ({\it abbrv} GMM) and the related problem of non parametric maximum likelihood estimation ({\it abbrv} NPMLE) from the perspective of statistical mechanics. In particular, we establish stability guarantees for the NPMLE procedure that extend well beyond the state of the art. Crucially, we obtain guarantees on the Kullback-Leibler divergence between NPMLE estimators and the ground truth, a type of result which has been known to be challenging in the literature on this problem. In particular, we provide high probability upper bounds on the KL divergence between the NPMLE and the true density that are of the order of $\min\big\{\frac{(\log n)^{d+2}}{n} , \frac{\log n}{\sqrt n}\big\}$, which cover a wide range of scenarios for the comparative sizes of $n$ and $d$. We obtain similar guarantees for approximate solutions to the NPMLE problem, addressing realistic situations wherein optimization algorithms need to be stopped in finite time, allowing access only to approximations to the true NPMLE. A technical cornerstone of our approach is an analysis of the function class complexity of logarithms of gaussian mixture densities, which is able to handle their unboundedness, and could be of wider interest. We also establish correspondences between stability phenomena in the NPMLE problem and concepts from chaos and multiple valleys in random energy landscapes of statistical mechanics models. We believe that these correspondences may be useful for a wide variety of random optimization problems in statistics and machine learning, especially the connections to the the technical ingredients of concentration phenomena and Langevin dynamics for these models.
• Abstract（参考訳）: 本研究では,統計力学の観点から,ガウス混合モデル({\it abbrv} GMM)と非パラメトリック最大推定({\it abbrv} NPMLE)の関連問題を考察する。 特に,NPMLE手順の安定性の保証を確立し,その保証は最先端をはるかに超えている。 重要なことに、我々はNPMLE推定器と地上事実とのクルバック・リーブラー分岐の保証を得る。 特に、NPMLE と $\min\big\{\frac{(\log n)^{d+2}}{n} , \frac{\log n}{\sqrt n}\big\}$ の順序である真の密度の間の KL の分岐に関する高い確率上界を与える。 我々はNPMLE問題に対する近似解に関する同様の保証を得、最適化アルゴリズムを有限時間で停止させる現実的な状況に対処し、真のNPMLEへの近似にのみアクセスできるようにする。 我々のアプローチの技術的基盤は、ガウス混合密度の対数の関数クラス複雑性の解析であり、それはそれらの非有界性を扱うことができ、より広い関心を持つことができる。 また、NPMLE問題における安定性現象と、統計力学モデルのランダムエネルギー景観におけるカオスと多重谷の概念との対応性を確立する。 これらの対応は統計学や機械学習における多種多様なランダムな最適化問題、特に集中現象の技術的要素とランゲヴィン力学の関連性に有用であると考えられる。

関連論文リスト

• Steering Large Agent Populations using Mean-Field Schrodinger Bridges with Gaussian Mixture Models [13.03355083378673]
  Mean-Field Schrodinger Bridge (MFSB) 問題は、最小の作業制御ポリシーを見つけることを目的とした最適化問題である。 マルチエージェント制御の文脈において、目的は同一の相互作用する協調エージェントの群の構成を制御することである。
  論文  参考訳（メタデータ） (2025-03-31T04:01:04Z)
• Dimension-free Relaxation Times of Informed MCMC Samplers on Discrete Spaces [5.075066314996696]
  離散空間上でのメトロポリス・ハスティングスアルゴリズムに対する一般混合時間境界を開発する。 我々は,情報化メトロポリス・ハスティングスアルゴリズムのクラスに対して,問題次元に依存しない緩和時間を達成するための十分な条件を確立する。
  論文  参考訳（メタデータ） (2024-04-05T02:40:45Z)
• Weighted Riesz Particles [0.0]
  対象分布を、パラメータの無限次元空間が多くの決定論的部分多様体からなる写像と考える。 我々は、Rieszと呼ばれる点の性質を研究し、それをシーケンシャルMCMCに埋め込む。 低い評価で高い受け入れ率が得られることが分かりました。
  論文  参考訳（メタデータ） (2023-12-01T14:36:46Z)
• PAPAL: A Provable PArticle-based Primal-Dual ALgorithm for Mixed Nash Equilibrium [58.26573117273626]
  2プレイヤゼロサム連続ゲームにおける非AL平衡非漸近目的関数について考察する。 連続分布戦略のための粒子ベースアルゴリズムに関する新しい知見を述べる。
  論文  参考訳（メタデータ） (2023-03-02T05:08:15Z)
• Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
  教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。 我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。 対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
  論文  参考訳（メタデータ） (2023-02-10T08:05:19Z)
• Self-regularizing Property of Nonparametric Maximum Likelihood Estimator in Mixture Models [39.27013036481509]
  一般ガウス混合に対する非パラメトリック最大度(NPMLE)モデルを導入する。 サンプルサイズに基づくNPMLEは高い確率で$O(log n)$原子(質量点)を持つことを示す。 特に、任意の混合は、$Olog選択を持つ有限の混合から統計的に入っている。
  論文  参考訳（メタデータ） (2020-08-19T03:39:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。