論文の概要: Moment Estimation for Nonparametric Mixture Models Through Implicit Tensor Decomposition

• arxiv url: http://arxiv.org/abs/2210.14386v1
• Date: Tue, 25 Oct 2022 23:31:33 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-27 15:52:48.533525
• Title: Moment Estimation for Nonparametric Mixture Models Through Implicit Tensor Decomposition
• Title（参考訳）: インシシットテンソル分解による非パラメトリック混合モデルのモーメント推定
• Authors: Yifan Zhang, Joe Kileel
• Abstract要約: 条件に依存しない混合モデルを$mathbbRn$で推定するために,最小二乗法を交互に最適化する手法を提案する。 高次元テンソルに関連する急激なコストは、特殊テンソルフリー操作の開発を通じて回避される。
• 参考スコア（独自算出の注目度）: 7.139680863764187
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present an alternating least squares type numerical optimization scheme to estimate conditionally-independent mixture models in $\mathbb{R}^n$, with minimal additional distributional assumptions. Following the method of moments, we tackle a coupled system of low-rank tensor decomposition problems. The steep costs associated with high-dimensional tensors are avoided, through the development of specialized tensor-free operations. Numerical experiments illustrate the performance of the algorithm and its applicability to various models and applications. In many cases the results exhibit improved reliability over the expectation-maximization algorithm, with similar time and storage costs. We also provide some supporting theory, establishing identifiability and local linear convergence.
• Abstract（参考訳）: 最小限の分布仮定で,条件非依存の混合モデルを$\mathbb{R}^n$で推定する,交代最小二乗型数値最適化手法を提案する。 モーメントの手法に従うと、低ランクテンソル分解問題の結合系に取り組む。 高次元テンソルに関連する急激なコストは、特殊テンソルフリー操作の開発を通じて回避される。 数値実験により、アルゴリズムの性能と様々なモデルや応用への適用性が示されている。 多くの場合、結果は予測最大化アルゴリズムよりも信頼性が向上し、同様の時間とストレージコストがかかる。 また,同定可能性と局所線形収束性を確立するための支援理論も提示する。

関連論文リスト

• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Efficient Algorithms for Regularized Nonnegative Scale-invariant Low-rank Approximation Models [3.6034001987137767]
  低ランク近似モデルにおける正規化関数の役割について検討する。 本稿では,$ell_pp$-regularized non- negative low-rank approximation を扱える汎用なMajorization-Minimization (MM)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-03-27T12:49:14Z)
• Partially factorized variational inference for high-dimensional mixed models [0.0]
  変分推論は、特にベイズ的文脈において、そのような計算を行う一般的な方法である。 標準平均場変動推論は,高次元の後方不確かさを劇的に過小評価することを示した。 次に、平均場仮定を適切に緩和すると、不確実な定量化が高次元で悪化しない手法が導かれることを示す。
  論文  参考訳（メタデータ） (2023-12-20T16:12:37Z)
• Efficient Training of Energy-Based Models Using Jarzynski Equality [13.636994997309307]
  エネルギーベースモデル(英: Energy-based model、EBM)は、統計物理学にインスパイアされた生成モデルである。 モデルパラメータに対する勾配の計算には、モデルの分布をサンプリングする必要がある。 ここでは、ジャジンスキーの等式に基づく非平衡熱力学の結果を用いて、この計算を効率的に行う方法を示す。
  論文  参考訳（メタデータ） (2023-05-30T21:07:52Z)
• Non-Parametric Learning of Stochastic Differential Equations with Non-asymptotic Fast Rates of Convergence [65.63201894457404]
  非線形微分方程式のドリフトと拡散係数の同定のための新しい非パラメトリック学習パラダイムを提案する。 鍵となる考え方は、基本的には、対応するフォッカー・プランク方程式のRKHSに基づく近似をそのような観測に適合させることである。
  論文  参考訳（メタデータ） (2023-05-24T20:43:47Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• A Stochastic Newton Algorithm for Distributed Convex Optimization [62.20732134991661]
  均質な分散凸最適化のためのNewtonアルゴリズムを解析し、各マシンが同じ人口目標の勾配を計算する。 提案手法は,既存の手法と比較して,性能を損なうことなく,必要な通信ラウンドの数,頻度を低減できることを示す。
  論文  参考訳（メタデータ） (2021-10-07T17:51:10Z)
• Tensor decomposition for learning Gaussian mixtures from moments [6.576993289263191]
  データ処理と機械学習では、データを正確に表現できるモデルを復元し、活用することが重要な課題である。 この問題に対処するための対称テンソル分解法について検討し,データ分布の経験的モーメントからテンソルを構築する。
  論文  参考訳（メタデータ） (2021-06-01T15:11:08Z)
• Jointly Modeling and Clustering Tensors in High Dimensions [6.072664839782975]
  テンソルの合同ベンチマークとクラスタリングの問題を考察する。 本稿では,統計的精度の高い近傍に幾何的に収束する効率的な高速最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-04-15T21:06:16Z)
• Stochastic Approximation for Online Tensorial Independent Component Analysis [98.34292831923335]
  独立成分分析(ICA)は統計機械学習や信号処理において一般的な次元削減ツールである。 本稿では,各独立成分を推定する副産物オンライン時系列アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-12-28T18:52:37Z)
• Multi-View Spectral Clustering Tailored Tensor Low-Rank Representation [105.33409035876691]
  本稿では,テンソル低ランクモデルに基づくマルチビュースペクトルクラスタリング(MVSC)の問題について検討する。 MVSCに適合する新しい構造テンソル低ランクノルムを設計する。 提案手法は最先端の手法よりもかなり優れていることを示す。
  論文  参考訳（メタデータ） (2020-04-30T11:52:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。