論文の概要: Low-rank Bayesian matrix completion via geodesic Hamiltonian Monte Carlo on Stiefel manifolds

• arxiv url: http://arxiv.org/abs/2410.20318v1
• Date: Sun, 27 Oct 2024 03:12:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-29 12:15:04.098875
• Title: Low-rank Bayesian matrix completion via geodesic Hamiltonian Monte Carlo on Stiefel manifolds
• Title（参考訳）: シュティーフェル多様体上の測地的ハミルトニアン・モンテカルロによる低ランクベイズ行列の完備化
• Authors: Tiangang Cui, Alex Gorodetsky,
• Abstract要約: 低ランクベイズ行列の効率的な計算を可能にするための新しいサンプリングベース手法を提案する。 提案手法は, 標準ギブスサンプリング器で発生するサンプリング困難を, 行列完備化に使用される一般的な2つの行列因子化のために解決することを示す。 数値的な例は、より優れた混合と定常分布への高速収束を含む優れたサンプリング性能を示す。
• 参考スコア（独自算出の注目度）: 0.18416014644193066
• License:
• Abstract: We present a new sampling-based approach for enabling efficient computation of low-rank Bayesian matrix completion and quantifying the associated uncertainty. Firstly, we design a new prior model based on the singular-value-decomposition (SVD) parametrization of low-rank matrices. Our prior is analogous to the seminal nuclear-norm regularization used in non-Bayesian setting and enforces orthogonality in the factor matrices by constraining them to Stiefel manifolds. Then, we design a geodesic Hamiltonian Monte Carlo (-within-Gibbs) algorithm for generating posterior samples of the SVD factor matrices. We demonstrate that our approach resolves the sampling difficulties encountered by standard Gibbs samplers for the common two-matrix factorization used in matrix completion. More importantly, the geodesic Hamiltonian sampler allows for sampling in cases with more general likelihoods than the typical Gaussian likelihood and Gaussian prior assumptions adopted in most of the existing Bayesian matrix completion literature. We demonstrate an applications of our approach to fit the categorical data of a mice protein dataset and the MovieLens recommendation problem. Numerical examples demonstrate superior sampling performance, including better mixing and faster convergence to a stationary distribution. Moreover, they demonstrate improved accuracy on the two real-world benchmark problems we considered.
• Abstract（参考訳）: 本稿では,低ランクベイズ行列を効率的に計算し,関連する不確実性を定量化するためのサンプリングに基づく新しい手法を提案する。 まず,低ランク行列の特異値分解(SVD)パラメトリゼーションに基づく新しい先行モデルの設計を行う。 我々の先行は、非ベイズ的設定で使われる半核ノルム正則化に類似しており、それらをスティーフェル多様体に制約することにより、因子行列の直交性を強制する。 そこで我々は,SVD係数行列の後方サンプルを生成するための測地学的ハミルトニアンモンテカルロ (-within-Gibbs) アルゴリズムを設計した。 提案手法は, 標準ギブスサンプリング器で発生するサンプリング困難を, 行列完備化に使用される一般的な2つの行列因子化のために解決することを示した。 さらに重要なことに、測地学的ハミルトンサンプリング器は、既存のベイズ行列完備文献のほとんどで採用されている典型的なガウス的可能性やガウス的事前仮定よりも、より一般的な確率でサンプリングすることができる。 マウスタンパク質データセットの分類データとMovieLensレコメンデーション問題に適合する手法の応用を実証する。 数値的な例は、より優れた混合と定常分布への高速収束を含む優れたサンプリング性能を示す。 さらに,検討した2つの実世界のベンチマーク問題に対して,精度を向上した。

関連論文リスト

• Concentration of a sparse Bayesian model with Horseshoe prior in estimating high-dimensional precision matrix [0.0]
  提案手法は,高次元設定に先立って完全に規定されたホースシューを用いた後部温暖化に関する理論的結果を提供する。 また, モデルミス種別に関する新たな理論的結果も提供し, 後肢に一般的なオラクルの不等式を提供する。
  論文  参考訳（メタデータ） (2024-06-20T12:50:54Z)
• Symmetric Matrix Completion with ReLU Sampling [15.095194065320987]
  エントリー依存サンプリングによる対称正半定値低ランク行列補完(MC)の問題について検討する。 特に、静止点のみを観測する修正線形単位(ReLU)サンプリングについて検討する。
  論文  参考訳（メタデータ） (2024-06-09T15:14:53Z)
• Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood Estimation for Latent Gaussian Models [69.22568644711113]
  我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。 理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。 シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
  論文  参考訳（メタデータ） (2023-06-05T21:08:34Z)
• Manifold Gaussian Variational Bayes on the Precision Matrix [70.44024861252554]
  複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。 本研究では,変分行列上の正定値制約を満たすガウス変分推論の効率的なアルゴリズムを開発した。 MGVBPはブラックボックスの性質のため、複雑なモデルにおけるVIのための準備が整ったソリューションである。
  論文  参考訳（メタデータ） (2022-10-26T10:12:31Z)
• Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
  Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。 提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
  論文  参考訳（メタデータ） (2022-06-22T17:58:23Z)
• Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
  本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。 6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-21T01:47:17Z)
• Spectral clustering under degree heterogeneity: a case for the random walk Laplacian [83.79286663107845]
  本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。 次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
  論文  参考訳（メタデータ） (2021-05-03T16:36:27Z)
• Multilevel Gibbs Sampling for Bayesian Regression [6.2997667081978825]
  データ行列のレベル階層は、データ行列の特徴やサンプルをクラスタリングすることによって作成されます。 マルコフ連鎖の収束を改善するために, 相関試料を用いた分散還元について検討した。 スピードアップは、予測性能に大きな損失を被ることなく、ほぼすべてに対して達成される。
  論文  参考訳（メタデータ） (2020-09-25T11:18:17Z)
• Bayesian learning of orthogonal embeddings for multi-fidelity Gaussian Processes [3.564709604457361]
  プロジェクション」マッピングは、事前未知と見なされる正則行列から成り、GPパラメータと共同で推論する必要がある。 提案するフレームワークをGPを用いたマルチ忠実度モデルに拡張し,複数の出力を同時にトレーニングするシナリオを含む。 提案手法の利点は, 産業用ガスタービン用最終段翼の3次元空力最適化に難渋するものである。
  論文  参考訳（メタデータ） (2020-08-05T22:28:53Z)
• Efficient MCMC Sampling for Bayesian Matrix Factorization by Breaking Posterior Symmetries [1.3858051019755282]
  本稿では、これらの対称性を確実に破り、精度を維持/改善する事前選択に対する簡単な修正を提案する。 非ゼロ線形独立先行手段を用いることで,MCMC試料の自己相関が著しく低下し,再建誤差の低減につながる可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-08T00:25:48Z)
• Optimal Iterative Sketching with the Subsampled Randomized Hadamard Transform [64.90148466525754]
  最小二乗問題に対する反復スケッチの性能について検討する。 本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。 これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
  論文  参考訳（メタデータ） (2020-02-03T16:17:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。