論文の概要: Estimation in Rotationally Invariant Generalized Linear Models via Approximate Message Passing

• arxiv url: http://arxiv.org/abs/2112.04330v1
• Date: Wed, 8 Dec 2021 15:20:04 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-09 17:50:50.468207
• Title: Estimation in Rotationally Invariant Generalized Linear Models via Approximate Message Passing
• Title（参考訳）: 近似メッセージパッシングによる回転不変一般化線形モデルの推定
• Authors: Ramji Venkataramanan, Kevin K\"ogler, and Marco Mondelli
• Abstract要約: 本稿では,信号推定のための近接メッセージパッシング(AMP)アルゴリズムの新たなファミリーを提案する。 我々は、状態進化再帰を通じて高次元の限界におけるそれらの性能を厳格に特徴づける。
• 参考スコア（独自算出の注目度）: 21.871513580418604
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We consider the problem of signal estimation in generalized linear models defined via rotationally invariant design matrices. Since these matrices can have an arbitrary spectral distribution, this model is well suited to capture complex correlation structures which often arise in applications. We propose a novel family of approximate message passing (AMP) algorithms for signal estimation, and rigorously characterize their performance in the high-dimensional limit via a state evolution recursion. Assuming knowledge of the design matrix spectrum, our rotationally invariant AMP has complexity of the same order as the existing AMP for Gaussian matrices; it also recovers the existing AMP as a special case. Numerical results showcase a performance close to Vector AMP (which is conjectured to be Bayes-optimal in some settings), but obtained with a much lower complexity, as the proposed algorithm does not require a computationally expensive singular value decomposition.
• Abstract（参考訳）: 回転不変設計行列によって定義される一般化線形モデルにおける信号推定の問題を考える。 これらの行列は任意のスペクトル分布を持つことができるため、このモデルはアプリケーションでしばしば発生する複雑な相関構造を捉えるのに適している。 本稿では,信号推定のための近似メッセージパッシング(amp)アルゴリズムの新たなファミリーを提案し,その性能を状態進化再帰による高次元限界で厳格に特徴付ける。 設計行列スペクトルの知識を仮定すると、我々の回転不変AMPはガウス行列の既存のAMPと同じ順序の複雑さを持つ。 数値計算の結果、ベクトルampに近い性能(いくつかの設定ではベイズ最適と推定される)を示すが、提案アルゴリズムは計算コストの高い特異値分解を必要としないため、より少ない複雑さで得られる。

関連論文リスト

• An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
  クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。 このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。 本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-09-30T15:57:14Z)
• Spectral Estimators for Structured Generalized Linear Models via Approximate Message Passing [28.91482208876914]
  本研究では,高次元一般化線形モデルにおけるパラメータ推定の問題について考察する。 広く使われているにもかかわらず、厳密なパフォーマンス特性とデータ前処理の原則が、構造化されていない設計でのみ利用可能である。
  論文  参考訳（メタデータ） (2023-08-28T11:49:23Z)
• Approximate Message Passing for the Matrix Tensor Product Model [8.206394018475708]
  本稿では,行列テンソル積モデルに対する近似メッセージパッシング(AMP)アルゴリズムの提案と解析を行う。 非可分関数に対する収束定理に基づいて、非可分関数に対する状態発展を証明する。 我々は、この状態進化結果を利用して、関心の信号の回復に必要な十分な条件を提供する。
  論文  参考訳（メタデータ） (2023-06-27T16:03:56Z)
• Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
  不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。 特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
  論文  参考訳（メタデータ） (2023-02-13T19:57:17Z)
• Approximate Message Passing for Multi-Layer Estimation in Rotationally Invariant Models [15.605031496980775]
  我々は、AMPアルゴリズムのクラスを新たに提案し、状態の進化を再現する。 以上の結果から,この複雑性の増大はアルゴリズムの性能においてほとんど,あるいは全くコストがかからないことが示唆された。
  論文  参考訳（メタデータ） (2022-12-03T08:10:35Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• High-Dimensional Sparse Bayesian Learning without Covariance Matrices [66.60078365202867]
  共分散行列の明示的な構成を避ける新しい推論手法を提案する。 本手法では, 数値線形代数と共役勾配アルゴリズムの対角線推定結果とを結合する。 いくつかのシミュレーションにおいて,本手法は計算時間とメモリにおける既存手法よりも拡張性が高い。
  論文  参考訳（メタデータ） (2022-02-25T16:35:26Z)
• Bilinear Classes: A Structural Framework for Provable Generalization in RL [119.42509700822484]
  Bilinear Classesは強化学習の一般化を可能にする新しい構造フレームワークである。 このフレームワークは、サンプルの複雑さが達成可能な、ほとんどすべての既存のモデルを取り込んでいる。 我々の主な成果は、双線形クラスのためのサンプル複雑性を持つRLアルゴリズムである。
  論文  参考訳（メタデータ） (2021-03-19T16:34:20Z)
• Memory Approximate Message Passing [9.116196799517262]
  近似メッセージパッシング(amp)は低コスト反復パラメータ推定手法である。 本稿では,一元不変行列に対する低複素メモリAMP(MAMP)を提案する。
  論文  参考訳（メタデータ） (2020-12-20T07:42:15Z)
• Approximate Message Passing with Spectral Initialization for Generalized Linear Models [35.618694363241744]
  我々は、近似メッセージパッシング(AMP)に基づく推定器に焦点を当てる。 スペクトル推定器を用いたAMPアルゴリズムを提案する。 また,提案手法の有効性を示す数値的な結果も提供する。
  論文  参考訳（メタデータ） (2020-10-07T14:52:35Z)
• Optimal Iterative Sketching with the Subsampled Randomized Hadamard Transform [64.90148466525754]
  最小二乗問題に対する反復スケッチの性能について検討する。 本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。 これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
  論文  参考訳（メタデータ） (2020-02-03T16:17:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。