論文の概要: Model Selection and Parameter Estimation of Multi-dimensional Gaussian Mixture Model

• arxiv url: http://arxiv.org/abs/2603.19657v1
• Date: Fri, 20 Mar 2026 05:45:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 19:48:39.008431
• Title: Model Selection and Parameter Estimation of Multi-dimensional Gaussian Mixture Model
• Title（参考訳）: 多次元ガウス混合モデルのモデル選択とパラメータ推定
• Authors: Xinyu Liu, Hai Zhang,
• Abstract要約: 多次元ガウス混合モデル(GMM)の学習問題について検討する。 まず、信頼性の高い選択に必要な情報理論の低いサンプルを確立する。 そこで我々は,経験的共分散行列のスペクトルギャップを評価するしきい値に基づく推定法を提案する。
• 参考スコア（独自算出の注目度）: 5.917400794867873
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper, we study the problem of learning multi-dimensional Gaussian Mixture Models (GMMs), with a specific focus on model order selection and efficient mixing distribution estimation. We first establish an information-theoretic lower bound on the critical sample complexity required for reliable model selection. More specifically, we show that distinguishing a $k$-component mixture from a simpler model necessitates a sample size scaling of $Ω(Δ^{-(4k-4)})$. We then propose a thresholding-based estimation algorithm that evaluates the spectral gap of an empirical covariance matrix constructed from random Fourier measurement vectors. This parameter-free estimator operates with an efficient time complexity of $\mathcal{O}(k^2 n)$, scaling linearly with the sample size. We demonstrate that the sample complexity of our method matches the established lower bound, confirming its minimax optimality with respect to the component separation distance $Δ$. Conditioned on the estimated model order, we subsequently introduce a gradient-based minimization method for parameter estimation. To effectively navigate the non-convex objective landscape, we employ a data-driven, score-based initialization strategy that guarantees rapid convergence. We prove that this method achieves the optimal parametric convergence rate of $\mathcal{O}_p(n^{-1/2})$ for estimating the component means. To enhance the algorithm's efficiency in high-dimensional regimes where the ambient dimension exceeds the number of mixture components (i.e., \(d > k\)), we integrate principal component analysis (PCA) for dimension reduction. Numerical experiments demonstrate that our Fourier-based algorithmic framework outperforms conventional Expectation-Maximization (EM) methods in both estimation accuracy and computational time.
• Abstract（参考訳）: 本稿では,多次元ガウス混合モデル(GMM)の学習問題について,モデル順序選択と効率的な混合分布推定に着目して検討する。 まず、信頼度の高いモデル選択に必要な臨界サンプルの複雑さに基づいて、情報理論の低い境界を確立する。 より具体的には、より単純なモデルから$k$成分混合物を区別するには、サンプルサイズが$Ω(Δ^{-(4k-4)})$である必要がある。 次に、ランダムなフーリエ測定ベクトルから構築した経験的共分散行列のスペクトルギャップを評価するしきい値に基づく推定アルゴリズムを提案する。 このパラメータフリー推定器は$\mathcal{O}(k^2 n)$の効率的な時間複雑性で動作し、サンプルサイズと線形にスケーリングする。 提案手法のサンプル複雑性は確立された下界と一致し, 成分分離距離$Δ$に対して最小値の最適性を確認する。 推定モデル順序を条件に、パラメータ推定のための勾配に基づく最小化法を導入する。 非凸な客観的景観を効果的にナビゲートするために、高速収束を保証するデータ駆動のスコアベースの初期化戦略を用いる。 本手法は,成分平均を推定するために,$\mathcal{O}_p(n^{-1/2})$の最適パラメトリック収束率を実現する。 周囲次元が混合成分の数(例えば \(d > k\) を超える高次元状態におけるアルゴリズムの効率を高めるため、次元減少のために主成分分析(PCA)を統合する。 数値実験により,Fourier-based algorithmic frameworkは推定精度と計算時間の両方で従来の期待最大化(EM)法より優れていることが示された。

関連論文リスト

• Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
  共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。 共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
  論文  参考訳（メタデータ） (2025-11-23T00:50:33Z)
• Mixtures Closest to a Given Measure: A Semidefinite Programming Approach [1.7969777786551424]
  対象測度を有限個のモーメントでしか利用できない問題について検討する。 既存の多くのアプローチとは異なり、パラメータ集合は有限ではないと仮定される。 クラスタリングには,スタンドアローンのメソッドとして,あるいは前処理のステップとして,フレームワークが機能するアプリケーションを提案する。
  論文  参考訳（メタデータ） (2025-09-26T19:51:21Z)
• Parallel Simulation for Log-concave Sampling and Score-based Diffusion Models [55.07411490538404]
  本稿では,次元$d$の適応的複雑性依存性を改善する並列サンプリング手法を提案する。 我々の手法は科学計算による並列シミュレーション技術に基づいている。
  論文  参考訳（メタデータ） (2024-12-10T11:50:46Z)
• A Fourier Approach to the Parameter Estimation Problem for One-dimensional Gaussian Mixture Models [21.436254507839738]
  一次元ガウス混合モデルにおけるパラメータ推定のための新しいアルゴリズムを提案する。 本アルゴリズムは,EMアルゴリズムと比較して,確率,AIC,BICのスコアがよいことを示す。
  論文  参考訳（メタデータ） (2024-04-19T03:53:50Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• Beyond EM Algorithm on Over-specified Two-Component Location-Scale Gaussian Mixtures [29.26015093627193]
  負の対数様関数の曲率を効率的に探索するために,指数位置更新法(ELU)アルゴリズムを開発した。 ELUアルゴリズムは、対数的な反復数の後、モデルの最終的な統計的半径に収束することを示した。
  論文  参考訳（メタデータ） (2022-05-23T06:49:55Z)
• Faster One-Sample Stochastic Conditional Gradient Method for Composite Convex Minimization [61.26619639722804]
  滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。 提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
  論文  参考訳（メタデータ） (2022-02-26T19:10:48Z)
• Unified Convergence Analysis for Adaptive Optimization with Moving Average Estimator [75.05106948314956]
  1次モーメントに対する大きな運動量パラメータの増大は適応的スケーリングに十分であることを示す。 また,段階的に減少するステップサイズに応じて,段階的に運動量を増加させるための洞察を与える。
  論文  参考訳（メタデータ） (2021-04-30T08:50:24Z)
• An Adaptive EM Accelerator for Unsupervised Learning of Gaussian Mixture Models [0.7340845393655052]
  教師なし学習のための適応予測最大化(EM)アルゴリズムのためのAnderson Accelerationスキームを提案する。 提案アルゴリズムは、最適混合成分数を自律的に決定することができ、非加速バージョンよりもはるかに高速に最適解に収束する。
  論文  参考訳（メタデータ） (2020-09-26T22:55:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。