論文の概要: EM Approaches to Nonparametric Estimation for Mixture of Linear Regressions
- arxiv url: http://arxiv.org/abs/2510.14890v1
- Date: Thu, 16 Oct 2025 17:10:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-17 21:15:14.965583
- Title: EM Approaches to Nonparametric Estimation for Mixture of Linear Regressions
- Title(参考訳): 線形回帰の混合に対する非パラメトリック推定へのEMアプローチ
- Authors: Andrew Welbaum, Wanli Qiao,
- Abstract要約: 線形回帰モデルの混合では、回帰係数は連続分布または離散分布のいずれかに従うランダムベクトルとして扱われる。
予測最大化(EM)アルゴリズムを2つ提案し,それ以前の分布を推定する。
- 参考スコア(独自算出の注目度): 0.21485350418225238
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In a mixture of linear regression model, the regression coefficients are treated as random vectors that may follow either a continuous or discrete distribution. We propose two Expectation-Maximization (EM) algorithms to estimate this prior distribution. The first algorithm solves a kernelized version of the nonparametric maximum likelihood estimation (NPMLE). This method not only recovers continuous prior distributions but also accurately estimates the number of clusters when the prior is discrete. The second algorithm, designed to approximate the NPMLE, targets prior distributions with a density. It also performs well for discrete priors when combined with a post-processing step. We study the convergence properties of both algorithms and demonstrate their effectiveness through simulations and applications to real datasets.
- Abstract(参考訳): 線形回帰モデルの混合では、回帰係数は連続分布または離散分布のいずれかに従う確率ベクトルとして扱われる。
予測最大化(EM)アルゴリズムを2つ提案し,それ以前の分布を推定する。
最初のアルゴリズムは、非パラメトリック最大推定(NPMLE)のカーネル化バージョンを解く。
この手法は、連続した事前分布を復元するだけでなく、前者が離散である場合のクラスタ数を正確に推定する。
2つ目のアルゴリズムは、NPMLEを近似するために設計され、密度で前の分布をターゲットにしている。
また、個別の事前処理と後処理のステップを組み合わせることで、うまく機能する。
両アルゴリズムの収束特性について検討し、シミュレーションと実際のデータセットへの応用を通してその効果を実証する。
関連論文リスト
- A Recovery Theory for Diffusion Priors: Deterministic Analysis of the Implicit Prior Algorithm [5.71305698739856]
高次元劣化測定は、逆問題における中心的な課題である。
生成拡散モデルにおける最近の進歩は、強力なデータ駆動型前駆体の提供において、顕著な実証的な成功を示している。
論文 参考訳(メタデータ) (2025-09-24T19:35:23Z) - Convergence of Expectation-Maximization Algorithm with Mixed-Integer Optimization [5.319361976450982]
本稿では,特定の種類のEMアルゴリズムの収束を保証する一連の条件を紹介する。
本研究では,混合整数非線形最適化問題の解法として,反復アルゴリズムの新しい解析手法を提案する。
論文 参考訳(メタデータ) (2024-01-31T11:42:46Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Stochastic Mirror Descent for Large-Scale Sparse Recovery [13.500750042707407]
本稿では,2次近似の高次元スパースパラメータの統計的推定への応用について論じる。
提案アルゴリズムは, 回帰器分布の弱い仮定の下で, 推定誤差の最適収束を実現する。
論文 参考訳(メタデータ) (2022-10-23T23:23:23Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Coefficient-based Regularized Distribution Regression [4.21768682940933]
我々は、確率測度から実数値応答への回帰を目的とした係数に基づく正規化分布回帰を、Hilbert空間(RKHS)上で考える。
回帰関数の正則範囲が異なるアルゴリズムの漸近挙動を包括的に研究した。
最適速度は、いくつかの穏やかな条件下で得られるが、これは1段のサンプル化された最小値の最適速度と一致する。
論文 参考訳(メタデータ) (2022-08-26T03:46:14Z) - The Connection between Discrete- and Continuous-Time Descriptions of
Gaussian Continuous Processes [60.35125735474386]
我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。
この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
論文 参考訳(メタデータ) (2021-01-16T17:11:02Z) - Statistical Inference for Model Parameters in Stochastic Gradient
Descent [45.29532403359099]
勾配降下係数(SGD)は,その計算効率とメモリ効率から,大規模データの統計的推定に広く用いられている。
人口減少関数が強い凸であり,一定の条件を満たす場合,SGDに基づく真のモデルパラメータの統計的推測の問題について検討する。
論文 参考訳(メタデータ) (2016-10-27T07:04:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。