論文の概要: Approximate Message Passing for the Matrix Tensor Product Model
- arxiv url: http://arxiv.org/abs/2306.15580v1
- Date: Tue, 27 Jun 2023 16:03:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-28 12:42:13.358526
- Title: Approximate Message Passing for the Matrix Tensor Product Model
- Title(参考訳): マトリックステンソル製品モデルのための近似メッセージパッシング
- Authors: Riccardo Rossetti, Galen Reeves
- Abstract要約: 本稿では,行列テンソル積モデルに対する近似メッセージパッシング(AMP)アルゴリズムの提案と解析を行う。
非可分関数に対する収束定理に基づいて、非可分関数に対する状態発展を証明する。
我々は、この状態進化結果を利用して、関心の信号の回復に必要な十分な条件を提供する。
- 参考スコア(独自算出の注目度): 8.206394018475708
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose and analyze an approximate message passing (AMP) algorithm for the
matrix tensor product model, which is a generalization of the standard spiked
matrix models that allows for multiple types of pairwise observations over a
collection of latent variables. A key innovation for this algorithm is a method
for optimally weighing and combining multiple estimates in each iteration.
Building upon an AMP convergence theorem for non-separable functions, we prove
a state evolution for non-separable functions that provides an asymptotically
exact description of its performance in the high-dimensional limit. We leverage
this state evolution result to provide necessary and sufficient conditions for
recovery of the signal of interest. Such conditions depend on the singular
values of a linear operator derived from an appropriate generalization of a
signal-to-noise ratio for our model. Our results recover as special cases a
number of recently proposed methods for contextual models (e.g., covariate
assisted clustering) as well as inhomogeneous noise models.
- Abstract(参考訳): 本研究では,標準スパイク行列モデルの一般化である行列テンソル積モデルの近似メッセージパッシング(amp)アルゴリズムを提案し,解析する。
このアルゴリズムの重要な革新は、各イテレーションで複数の見積もりを最適に重み付け、結合する方法である。
非分離関数に対するamp収束定理に基づいて、高次元極限におけるその性能の漸近的に正確な記述を与える非分離関数の状態進化を証明する。
我々は、この状態進化結果を利用して、関心の信号の回復に必要な十分な条件を提供する。
このような条件は、モデルに対する信号対雑音比の適切な一般化から導かれる線形作用素の特異値に依存する。
この結果は,最近提案されたコンテキストモデル(共変量クラスタリングなど)や不均質ノイズモデルに対する多くの手法として回復する。
関連論文リスト
- Optimal thresholds and algorithms for a model of multi-modal learning in high dimensions [15.000720880773548]
本論文は,このモデルに対する近似メッセージパッシング(AMP)アルゴリズムを導出し,その性能を高次元限界で特徴づける。
AMPの線形化は、広く使われている部分最小二乗法(PLS)および正準相関解析法(CCA)と数値的に比較される。
論文 参考訳(メタデータ) (2024-07-03T21:48:23Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。
本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - A Random Matrix Approach to Low-Multilinear-Rank Tensor Approximation [24.558241146742205]
本研究では,データテンソルの展開のスペクトルの多次元的挙動を特徴付け,信号の主方向の検出性を決定する関連信号-雑音比を示す。
その結果,非自明な状態下でのマルチリニアSVD (MLSVD) の再構成性能を正確に予測することができた。
論文 参考訳(メタデータ) (2024-02-05T16:38:30Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。
完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。
また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文 参考訳(メタデータ) (2022-11-30T18:59:27Z) - Generative Principal Component Analysis [47.03792476688768]
生成的モデリング仮定を用いた主成分分析の問題点を考察する。
鍵となる仮定は、基礎となる信号は、$k$次元の入力を持つ$L$-Lipschitz連続生成モデルの範囲に近いことである。
本稿では,2次推定器を提案し,検体数として$m$の次数$sqrtfracklog Lm$の統計率を示す。
論文 参考訳(メタデータ) (2022-03-18T01:48:16Z) - Estimation in Rotationally Invariant Generalized Linear Models via
Approximate Message Passing [21.871513580418604]
本稿では,信号推定のための近接メッセージパッシング(AMP)アルゴリズムの新たなファミリーを提案する。
我々は、状態進化再帰を通じて高次元の限界におけるそれらの性能を厳格に特徴づける。
論文 参考訳(メタデータ) (2021-12-08T15:20:04Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳(メタデータ) (2020-10-05T20:03:13Z) - Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。
提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文 参考訳(メタデータ) (2020-06-24T17:53:53Z) - A Support Detection and Root Finding Approach for Learning
High-dimensional Generalized Linear Models [10.103666349083165]
本研究では,高次元一般化線形モデルの学習を支援する支援検出法とルート探索法を開発した。
提案手法の利点を説明するため,シミュレーションと実データ解析を行った。
論文 参考訳(メタデータ) (2020-01-16T14:35:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。