論文の概要: Solving the Ho--Nguyen Conjecture for Gaussian Mixtures: Applications to Mixtures of Experts

• arxiv url: http://arxiv.org/abs/2610.27265v1
• Date: Mon, 19 Oct 2026 20:37:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.496298
• Title: Solving the Ho--Nguyen Conjecture for Gaussian Mixtures: Applications to Mixtures of Experts
• Title（参考訳）: ガウス混合に対するHo-Nguyenの導出:エキスパートの混合への応用
• Abstract要約: 過度に適合したガウス混合は、ほぼ同じ密度の多くのパラメータ構成を含むことができる。 クラスタサイズごとに$Mhnge2$に対して、実際の非ゼロウェイトシステムは2Mhnge2$を注文していることを証明します。 パラメータ学習では、正確な順序は明示的な点方向類似指数と正確な局所極小順序を与える。
• 参考スコア（独自算出の注目度）: 10.917307620495238
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Over-fitted Gaussian mixtures can contain many parameter configurations with nearly the same density, making the order of density cancellation central to their parameter-learning rates. Ho and Nguyen encoded these cancellations in a polynomial system and conjectured its exact order as a function of cluster size. The key to resolving the conjecture is a common positive-variance shift that turns the coefficient equations into Gaussian moment matching. For every cluster size $\Mhn\ge2$, we prove that the real, nonzero-weight system has order $2\Mhn$: a sharp sign-change bound forces rigidity at that order, while positive Gauss--Hermite quadrature constructs a non-trivial solution through order $2\Mhn-1$. Population-density calculations at 110-digit working precision recover the predicted leading term for two to six components; finite multistart searches recover the same observed powers for two to five components, with smaller finite-scale constants for three to five components. For parameter learning, the exact order gives an explicit pointwise maximum-likelihood exponent and an exact local minimax order on specified shrinking neighbourhoods of a fixed known mixing measure. The same coefficient viewpoint separates high-order cancellation from exact parameter symmetries in mixtures of experts. Synchronized replication preserves the conditional density while keeping the corresponding parameter losses positive in two broad standard-softmax classes, showing why statistical rate arguments must account for exact parameter symmetries.
• Abstract（参考訳）: 過度に適合したガウス混合は、ほぼ同じ密度の多くのパラメータ構成を含むことができ、密度キャンセルの順序はそのパラメータ学習率の中心となる。 Ho と Nguyen はこれらのキャンセルを多項式系にエンコードし、その正確な順序をクラスタサイズの関数として予想した。 予想を解く鍵は、係数方程式をガウスモーメントマッチングに変換する共通の正の分散シフトである。 任意のクラスタサイズ$\Mhn\ge2$に対して、実非ゼロウェイト系がオーダー2\Mhn$: その順序でシャープな符号-交換束縛力の剛性を持ち、正のガウス-ハーマイト二次体はオーダー2\Mhn-1$を介して非自明な解を構成することを証明している。 110桁の作業精度での人口密度計算は、2から6つのコンポーネントの予測される先行項を回復する; 有限なマルチスタート探索は、2から5のコンポーネントで同じ観測パワーを回復し、3から5のコンポーネントでより小さな有限スケール定数を回復する。 パラメータ学習では、厳密な順序は、固定された既知の混合測度の特定の縮小した近傍における明示的な点方向の最大形指数と正確な局所極小順序を与える。 同じ係数の観点で、専門家の混合物の正確なパラメータ対称性から高次キャンセルを分離する。 同期レプリケーションは、2つの広い標準ソフトマックスクラスにおいて対応するパラメータ損失を正に保ちながら条件密度を保存する。

関連論文リスト

• Local Anticoncentration for Gaussian Boson Sampling via Conditional Wishart Geometry [2.8224889996383395]
  局所的な反集中は、付加的な出力確率の相対的な推定への変換を制御する。 複素ガウス摂動モードのハフニアンに対して、一様二次小球体を証明した。
  論文  参考訳（メタデータ） (2026-09-09T07:19:22Z)
• Exact Closed-Form Quantum Correlations of Maximally Entangled Qudit States under Arbitrary Non-Markovian Pure Dephasing [0.0]
  非マルコフ純粋退化の下で、任意の次元$d$の最大絡み合った一対の四重項に対して、絡み合いと量子不協和の時間的進化を研究する。 この解はボルン-マルコフ、リンドブラッド、回転波近似を必要としないので、ここで報告されたすべての結果は正確な力学から直接従う。
  論文  参考訳（メタデータ） (2026-07-22T03:05:59Z)
• On the Geometry of Separation in Finite Gaussian Mixtures [93.28335398145147]
  有限ガウス混合系のパラメータ推定の収束率に及ぼす最小成分分離の影響について検討した。 我々は、新しいヘリンガー下界に基づく統一的な幾何学的枠組みを開発する。 我々は、点次と一様推定法の間で連続的に補間される分離依存収束率を得る。
  論文  参考訳（メタデータ） (2026-06-15T03:49:33Z)
• Fitting Unknown Number of Hyperplanes with Manifold Optimization [57.48093263119306]
  未知数の線形平面をデータに適合させることは、機械学習の根本的な課題である。 既存のアプローチはしばしば最適な最適化に苦しむか、幾何的整合性に欠ける。
  論文  参考訳（メタデータ） (2026-05-27T14:02:20Z)
• Mixtures Closest to a Given Measure: A Semidefinite Programming Approach [1.7969777786551424]
  対象測度を有限個のモーメントでしか利用できない問題について検討する。 既存の多くのアプローチとは異なり、パラメータ集合は有限ではないと仮定される。 クラスタリングには,スタンドアローンのメソッドとして,あるいは前処理のステップとして,フレームワークが機能するアプリケーションを提案する。
  論文  参考訳（メタデータ） (2025-09-26T19:51:21Z)
• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• Towards Convergence Rates for Parameter Estimation in Gaussian-gated Mixture of Experts [40.24720443257405]
  ガウスゲートMOEモデルにおける最大推定値(MLE)の収束解析を行う。 以上の結果から,MLEはガウスゲーティング関数の位置パラメータの2つの相補的な設定の下で異なる挙動を示すことが明らかとなった。 特に、これらの挙動は2つの異なる方程式系の可解性によって特徴づけられる。
  論文  参考訳（メタデータ） (2023-05-12T16:02:19Z)
• The Parametric Stability of Well-separated Spherical Gaussian Mixtures [7.238973585403367]
  分布空間の小さな摂動下で球状ガウス混合モデル(sGMM)のパラメータ安定性を定量化する。 既定義モデルクラスにおける球面ガウス$P$(sGMM)の混合に対して、全変動距離におけるこのモデルクラスの他のすべてのsGMMは、Pに小さいパラメータ距離を持つことを示す最初の明示的境界を導出する。
  論文  参考訳（メタデータ） (2023-02-01T04:52:13Z)
• Robustly Learning any Clusterable Mixture of Gaussians [55.41573600814391]
  本研究では,高次元ガウス混合系の対向ロバスト条件下での効率的な学習性について検討する。 理論的に最適に近い誤り証明である$tildeO(epsilon)$の情報を、$epsilon$-corrupted $k$-mixtureで学習するアルゴリズムを提供する。 我々の主な技術的貢献は、ガウス混合系からの新しい頑健な識別可能性証明クラスターであり、これは正方形の定度証明システムによって捉えることができる。
  論文  参考訳（メタデータ） (2020-05-13T16:44:12Z)
• Algebraic and Analytic Approaches for Parameter Learning in Mixture Models [66.96778152993858]
  1次元の混合モデルにおけるパラメータ学習のための2つの異なるアプローチを提案する。 これらの分布のいくつかについては、パラメータ推定の最初の保証を示す。
  論文  参考訳（メタデータ） (2020-01-19T05:10:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。