論文の概要: Rank-one matrix estimation with groupwise heteroskedasticity

• arxiv url: http://arxiv.org/abs/2106.11950v1
• Date: Tue, 22 Jun 2021 17:48:36 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-23 16:08:49.997963
• Title: Rank-one matrix estimation with groupwise heteroskedasticity
• Title（参考訳）: グループワイドヘテロスケダスティック性を用いたランクワン行列推定
• Authors: Joshua K. Behne and Galen Reeves
• Abstract要約: 本研究では,異なるノイズレベル下で行列の異なるブロックが観測されるガウス観測からランク1行列を推定する問題について検討する。 行列と潜伏変数の両方を推定する際、最小平均二乗誤差の正確な公式を証明した。 我々は、近似メッセージパッシングアルゴリズムと勾配降下アルゴリズムを導出し、これらのアルゴリズムが特定の状況における情報理論的限界を達成することを実証的に示す。
• 参考スコア（独自算出の注目度）: 5.202966939338455
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the problem of estimating a rank-one matrix from Gaussian observations where different blocks of the matrix are observed under different noise levels. This problem is motivated by applications in clustering and community detection where latent variables can be partitioned into a fixed number of known groups (e.g., users and items) and the blocks of the matrix correspond to different types of pairwise interactions (e.g., user-user, user-item, or item-item interactions). In the setting where the number of blocks is fixed while the number of variables tends to infinity, we prove asymptotically exact formulas for the minimum mean-squared error in estimating both the matrix and the latent variables. These formulas describe the weak recovery thresholds for the problem and reveal invariance properties with respect to certain scalings of the noise variance. We also derive an approximate message passing algorithm and a gradient descent algorithm and show empirically that these algorithms achieve the information-theoretic limits in certain regimes.
• Abstract（参考訳）: 本研究では,異なるノイズレベル下で行列の異なるブロックが観測されるガウス観測からランク1行列を推定する問題について検討する。 この問題はクラスタリングやコミュニティ検出のアプリケーションによって動機付けられており、潜伏変数は一定の数の既知のグループ(例えば、ユーザとアイテム)に分割でき、行列のブロックは異なる種類のペアワイズ相互作用(例えば、ユーザとイテム、アイテムとイテムの相互作用)に対応する。 ブロック数を固定し変数数が無限になる傾向がある設定では、行列と潜在変数の両方の推定において最小平均二乗誤差に対する漸近的に厳密な公式が証明される。 これらの式は、問題の弱い回復閾値を記述し、ノイズ分散の特定のスケーリングに関する不変性を明らかにする。 また、近似メッセージパッシングアルゴリズムと勾配降下アルゴリズムを導出し、これらのアルゴリズムが特定の状況における情報理論的限界を達成することを実証的に示す。

関連論文リスト

• Empirical Bayes Linked Matrix Decomposition [0.0]
  この問題に対する経験的変分ベイズ的アプローチを提案する。 単一行列文脈において新規な反復的計算手法について述べる。 提案手法は,下層の低ランク信号の回復に関して,異なるシナリオ下で非常によく機能することを示す。
  論文  参考訳（メタデータ） (2024-08-01T02:13:11Z)
• Tensor cumulants for statistical inference on invariant distributions [49.80012009682584]
  我々は,PCAが信号の大きさの臨界値で計算的に困難になることを示す。 我々は、与えられた次数の不変量に対して明示的でほぼ直交的な基底を与える新しい対象の集合を定義する。 また、異なるアンサンブルを区別する新しい問題も分析できます。
  論文  参考訳（メタデータ） (2024-04-29T14:33:24Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• Comparative Study of Inference Methods for Interpolative Decomposition [4.913248451323163]
  補間分解(ID)学習のための自動関係決定(ARD)を用いた確率モデルを提案する。 CCLE $EC50$, CCLE $IC50$, Gene Body Methylation, promoteder Methylation datasets with different size, and dimensions。
  論文  参考訳（メタデータ） (2022-06-29T11:37:05Z)
• Lattice-Based Methods Surpass Sum-of-Squares in Clustering [98.46302040220395]
  クラスタリングは教師なし学習における基本的なプリミティブである。 最近の研究は、低次手法のクラスに対する低い境界を確立している。 意外なことに、この特定のクラスタリングモデルのtextitdoesは、統計的-計算的ギャップを示さない。
  論文  参考訳（メタデータ） (2021-12-07T18:50:17Z)
• Learning Noise Transition Matrix from Only Noisy Labels via Total Variation Regularization [88.91872713134342]
  本稿では,雑音遷移行列を推定し,同時に分類器を学習する理論的基礎付け手法を提案する。 提案手法の有効性を,ベンチマークおよび実世界のデータセットを用いた実験により示す。
  論文  参考訳（メタデータ） (2021-02-04T05:09:18Z)
• All-or-nothing statistical and computational phase transitions in sparse spiked matrix estimation [35.035853993422506]
  スパース方式で近似メッセージパッシングアルゴリズムを解析する。 最小誤差と平均二乗誤差の位相遷移がすべて存在する。 スパース体制では、スパース回復が近似メッセージパッシングに困難であることを示す統計的-アルゴリズム的ギャップが分岐する。
  論文  参考訳（メタデータ） (2020-06-14T18:38:34Z)
• Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
  我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。 本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
  論文  参考訳（メタデータ） (2020-05-22T22:30:52Z)
• Information-Theoretic Limits for the Matrix Tensor Product [8.206394018475708]
  本稿では,ランダム行列の行列テンソル積を含む高次元推論問題について検討する。 本稿では,高次元行列保存信号の解析のための新しい手法を紹介する。
  論文  参考訳（メタデータ） (2020-05-22T17:03:48Z)
• Asymptotic Analysis of an Ensemble of Randomly Projected Linear Discriminants [94.46276668068327]
  [1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。 我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。 また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
  論文  参考訳（メタデータ） (2020-04-17T12:47:04Z)
• A Block Coordinate Descent-based Projected Gradient Algorithm for Orthogonal Non-negative Matrix Factorization [0.0]
  本稿では非負行列分解問題(NMF)に対する投影勾配法(PG)を用いる。 正則性制約をペナライズし,ブロック座標降下法を用いてPG法を適用した。
  論文  参考訳（メタデータ） (2020-03-23T13:24:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。