論文の概要: Self-regularization and structural adaptation of NPMLE for Gaussian mixture models in all dimensions
- arxiv url: http://arxiv.org/abs/2610.40566v1
- Date: Thu, 29 Oct 2026 17:43:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 06:42:08.838848
- Title: Self-regularization and structural adaptation of NPMLE for Gaussian mixture models in all dimensions
- Title(参考訳): 全次元ガウス混合モデルに対するNPMLEの自己正則化と構造適応
- Abstract要約: 高い確率で、NPMLE は$O(fraclog nloglog n)d)$ 成分の混合モデルを適用することで自己正規化することを示す。
有限混合から引き出されたデータに対して、適合成分の数は$ntoinfty$として有界である。
- 参考スコア(独自算出の注目度): 14.312708358254781
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We establish structural properties of the nonparametric maximum likelihood estimator (NPMLE) for $d$-dimensional Gaussian mixtures whose means lie in a hypercube. We show that, with high probability, the NPMLE based on $n$ independent observations self-regularizes by fitting a mixture model with $O((\frac{\log n}{\log\log n})^d)$ components, achieving the optimal model complexity without explicit model selection. Furthermore, the NPMLE exhibits a structural adaptation property: For data drawn from a finite mixture, the number of fitted components is bounded in probability as $n\to\infty$. Our proof applies a multivariate Jensen-type bound to control the typical number of critical points of the KKT function associated with the first-order optimality conditions. The key step is to lower bound its gradient norm uniformly on complex spheres. We establish this lower bound by decomposing the KKT function into an empirical fluctuation term and a relative density estimation error term, combining small-ball probability estimates for the former with polynomial approximation and Hellinger error bounds for the latter.
- Abstract(参考訳): 非パラメトリック最大極大推定器 (NPMLE) の構造特性を, ハイパーキューブ内に存在するような$d$次元ガウス混合に対して確立する。
高確率で、n$独立観測に基づくNPMLEは、$O((\frac{\log n}{\log\log n})^d)$成分を混合モデルに適合させて自己正規化し、明示的なモデル選択なしに最適なモデル複雑性を達成する。
さらに、NPMLEは構造的適応性を示す: 有限混合から引き出されたデータに対して、適合成分の数は$n\to\infty$として有界である。
我々の証明は、一階最適条件に付随するKKT関数の臨界点の典型数を制御するために、多変量イェンセン型境界を適用している。
鍵となるステップは、その勾配ノルムを複素球面上で一様に下げることである。
我々は、KKT関数を経験的揺らぎ項と相対密度推定誤差項に分解し、前者の小球確率推定と後者の多項式近似とHellinger誤差境界を組み合わせた下界を確立する。
関連論文リスト
- Minimax Optimality of the NPMLE for Gaussian Mixtures in Hellinger Distance [1.7188280334580195]
我々は、非拘束NPMLEが、真の混合測度がガウス級であるとき、二乗ヘルリンガー距離における最小最大速度$log(n)/n$を達成することを示す。
我々の重要な技術革新の1つは、ボールのバウンド・ディグリーのブラケット・エントロピーを著しく制限することであり、これは独立した関心を持つかもしれない。
論文 参考訳(メタデータ) (2026-10-21T17:53:10Z) - SQUARE: Structured Quantum Representation Adapters as Compact Quadratic Feature Maps for Frozen Language Models [50.300302932452006]
凍結言語モデル(LM)は、下流の再ランク付け、スコアリング、嗜好モデリングのための固定された特徴抽出器として、ますます使われている。
本稿では、ボトルネックベクトルを振幅符号化し、パラメータ化量子回路を適用し、その結果の状態を測定する構造量子表現アダプタを提案する。
各基底確率関数は、ちょうどボトルネック座標における正規化された二次形式であり、追加のPauli$Z$読み出しはそれらの確率の線形結合であることを示す。
論文 参考訳(メタデータ) (2026-09-29T09:38:29Z) - Characterizing Heterogeneous Rates in Finite Mixture Estimation via Partial Optimal Transport [88.55403215843967]
改良された局所および大域収束保証を得るためのボロノイ系部分最適輸送(VPOT)は、混合測定の最大極大推定器である。
結果は、混合比例が真の混合成分の数についてのゼロまたは以前の知識から一様に制限されることなく、任意の固定次元で保持される。
論文 参考訳(メタデータ) (2026-09-15T04:32:53Z) - Scalable Lindblad Noise Learning via Stochastic Tensor-Network Simulation [48.887627688666974]
大規模オープン量子システムにおける学習散逸率は、短期量子技術の大きな障害である。
本稿では,シミュレーション手法であるJump Method(TJM)を組み合わせたLindblad散逸率のスケーラブルなノイズ学習フレームワークを提案する。
我々は,Isingモデルにおける2つのノイズモデルに対するアプローチを実証し,各サイトについて,N_mathrmsite=16$まで独立散逸率を学習した。
スケーラブルな数値と厳密な理論的保証の組み合わせは、TJMベースのノイズ学習を大きな量子デバイスにおける散逸を特徴づける実用的な基礎として位置づけている。
論文 参考訳(メタデータ) (2026-08-25T15:07:11Z) - Intrinsic Wasserstein Rates for Score-Based Generative Models on Smooth Manifolds [61.14405512940818]
Scoreベースの生成モデルは高次元空間で訓練されていることを示す。
有限固有アンカーとガウス・ニュートンによる最も近い射影座標のReLU実装を用いる。
論文 参考訳(メタデータ) (2026-05-15T10:20:05Z) - Model Selection and Parameter Estimation of Multi-dimensional Gaussian Mixture Model [5.917400794867873]
多次元ガウス混合モデル(GMM)の学習問題について検討する。
まず、信頼性の高い選択に必要な情報理論の低いサンプルを確立する。
そこで我々は,経験的共分散行列のスペクトルギャップを評価するしきい値に基づく推定法を提案する。
論文 参考訳(メタデータ) (2026-03-20T05:45:24Z) - Parsimonious Gaussian mixture models with piecewise-constant eigenvalue profiles [12.889537265772242]
我々は,一対一の共分散固有値プロファイルを持つ擬似GMMの新たなファミリーを導入する。
様々な教師なし実験において、我々のモデルによって達成された、優れた可能性とパーシモニーのトレードオフを示す。
論文 参考訳(メタデータ) (2025-07-02T09:52:56Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Self-regularizing Property of Nonparametric Maximum Likelihood Estimator
in Mixture Models [39.27013036481509]
一般ガウス混合に対する非パラメトリック最大度(NPMLE)モデルを導入する。
サンプルサイズに基づくNPMLEは高い確率で$O(log n)$原子(質量点)を持つことを示す。
特に、任意の混合は、$Olog選択を持つ有限の混合から統計的に入っている。
論文 参考訳(メタデータ) (2020-08-19T03:39:13Z) - Distributed, partially collapsed MCMC for Bayesian Nonparametrics [68.5279360794418]
ディリクレ法やベータ・ベルヌーリ法のようなモデルでよく用いられる完全無作為測度は独立な部分測度に分解可能であるという事実を利用する。
この分解を用いて、潜在測度を、インスタンス化された成分のみを含む有限測度と、他のすべての成分を含む無限測度に分割する。
得られたハイブリッドアルゴリズムは、収束保証を犠牲にすることなくスケーラブルな推論を可能にすることができる。
論文 参考訳(メタデータ) (2020-01-15T23:10:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。