論文の概要: EM's Convergence in Gaussian Latent Tree Models

• arxiv url: http://arxiv.org/abs/2211.11904v1
• Date: Mon, 21 Nov 2022 23:12:58 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-23 17:17:18.050060
• Title: EM's Convergence in Gaussian Latent Tree Models
• Title（参考訳）: ガウス木モデルにおけるEMの収束性
• Authors: Yuval Dagan, Constantinos Daskalakis, Anthimos Vardis Kandiros
• Abstract要約: 人口のログライクな独特な非自明な点は、その大域的な最大点であることを示す。 予測最大化アルゴリズムは、単一の潜在変数の場合に収束することが保証される。
• 参考スコア（独自算出の注目度）: 22.987933817370305
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the optimization landscape of the log-likelihood function and the convergence of the Expectation-Maximization (EM) algorithm in latent Gaussian tree models, i.e.~tree-structured Gaussian graphical models whose leaf nodes are observable and non-leaf nodes are unobservable. We show that the unique non-trivial stationary point of the population log-likelihood is its global maximum, and establish that the expectation-maximization algorithm is guaranteed to converge to it in the single latent variable case. Our results for the landscape of the log-likelihood function in general latent tree models provide support for the extensive practical use of maximum likelihood based-methods in this setting. Our results for the EM algorithm extend an emerging line of work on obtaining global convergence guarantees for this celebrated algorithm. We show our results for the non-trivial stationary points of the log-likelihood by arguing that a certain system of polynomial equations obtained from the EM updates has a unique non-trivial solution. The global convergence of the EM algorithm follows by arguing that all trivial fixed points are higher-order saddle points.
• Abstract（参考訳）: 葉ノードが観測可能で非リーフノードが観測不可能な木構造ガウス図形モデルにおいて、ログ様関数の最適化状況と、潜在ガウス木モデルにおける期待最大化(EM)アルゴリズムの収束について検討する。 集団ログに類似する一意な非自明な定常点がその大域的最大値であることを示し、期待最大化アルゴリズムが単一の潜在変数の場合に収束することが保証されることを示す。 一般的な潜在木モデルにおける対数様関数のランドスケープに対する我々の結果は、この設定における最大極大ベースメソッドの広範な活用を支援する。 EMアルゴリズムに対する我々の結果は、この有望なアルゴリズムのグローバル収束保証を得るための新たな作業線を延長する。 我々は,em更新から得られるある多項式方程式系が一意な非自明な解を持つと主張することにより,log-likelihood の非自明な定常点に対する結果を示す。 EMアルゴリズムのグローバル収束は、すべての自明な不動点が高次サドル点であると主張することで従う。

関連論文リスト

• Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood Estimation for Latent Gaussian Models [69.22568644711113]
  我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。 理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。 シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
  論文  参考訳（メタデータ） (2023-06-05T21:08:34Z)
• CITS: Coherent Ising Tree Search Algorithm Towards Solving Combinatorial Optimization Problems [0.0]
  本稿では、マルコフ連鎖からSAに基づく奥行き制限木への探索空間の拡大による探索アルゴリズムを提案する。 それぞれのイテレーションにおいて、このアルゴリズムは、先を見据えて、木に沿って探索することで、実現可能な探索空間内で最高の準最適解を選択する」。 以上の結果から,IsingのNP最適化問題に対する高次木探索戦略は,より少ないエポックの範囲で解決可能であることが示唆された。
  論文  参考訳（メタデータ） (2022-03-09T10:07:26Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• Partial Counterfactual Identification from Observational and Experimental Data [83.798237968683]
  観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。 我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
  論文  参考訳（メタデータ） (2021-10-12T02:21:30Z)
• Regularization of Mixture Models for Robust Principal Graph Learning [0.0]
  D$次元データポイントの分布から主グラフを学習するために,Mixture Modelsの正規化バージョンを提案する。 モデルのパラメータは期待最大化手順によって反復的に推定される。
  論文  参考訳（メタデータ） (2021-06-16T18:00:02Z)
• Spectral clustering under degree heterogeneity: a case for the random walk Laplacian [83.79286663107845]
  本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。 次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
  論文  参考訳（メタデータ） (2021-05-03T16:36:27Z)
• From Trees to Continuous Embeddings and Back: Hyperbolic Hierarchical Clustering [33.000371053304676]
  本稿では,Dasguptaの離散最適化問題に対して,証明可能な品質保証を用いた最初の連続緩和を提案する。 勾配勾配勾配の近似解でさえ、凝集性クラスタリングよりも優れた品質を有することを示す。 また、下流分類タスクにおけるエンドツーエンドトレーニングによるHypHCの柔軟性についても強調する。
  論文  参考訳（メタデータ） (2020-10-01T13:43:19Z)
• ROOT-SGD: Sharp Nonasymptotics and Near-Optimal Asymptotics in a Single Algorithm [71.13558000599839]
  第一次アルゴリズムを用いて,厳密な凸と滑らかな非制約最適化問題の解法について検討する。 我々は,過去の勾配を平均化し,実装が容易な小説「Recursive One-Over-T SGD」を考案した。 有限サンプル, 漸近感覚, 感覚の両面において, 最先端の性能を同時に達成できることを実証する。
  論文  参考訳（メタデータ） (2020-08-28T14:46:56Z)
• Inference with Aggregate Data: An Optimal Transport Approach [16.274397329511196]
  多数の個人が生成した集合データを用いた確率的グラフィカルモデルに対する推論(フィルタリング)問題を考察する。 本稿では,木構造グラフの計算複雑性とグローバルコンバージェンス保証を両立する,効率的な信念伝播アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-03-31T03:12:20Z)
• Block-Approximated Exponential Random Graphs [77.4792558024487]
  指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。 本稿では,非自明なERGに対する近似フレームワークを提案する。 我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
  論文  参考訳（メタデータ） (2020-02-14T11:42:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。