論文の概要: Sufficient-Statistic Memory AMP
- arxiv url: http://arxiv.org/abs/2112.15327v4
- Date: Fri, 30 Jun 2023 03:26:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-03 16:11:02.310203
- Title: Sufficient-Statistic Memory AMP
- Title（参考訳）: 十分統計メモリAMP
- Authors: Lei Liu, Shunqi Huang, YuZhi Yang, Zhaoyang Zhang and Brian M.
Kurkoski
- Abstract要約: AMP型アルゴリズムの重要な特徴は、それらの力学が状態進化によって正しく記述できることである。
本稿では,十分に統計的なメモリAMP(SS-MAMP)アルゴリズムフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 12.579567275436343
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Approximate message passing (AMP) type algorithms have been widely used in
the signal reconstruction of certain large random linear systems. A key feature
of the AMP-type algorithms is that their dynamics can be correctly described by
state evolution. While state evolution is a useful analytic tool, its
convergence is not guaranteed. To solve the convergence problem of the state
evolution of AMP-type algorithms in principle, this paper proposes a
sufficient-statistic memory AMP (SS-MAMP) algorithm framework under the
conditions of right-unitarily invariant sensing matrices, Lipschitz-continuous
local processors and the sufficient-statistic constraint (i.e., the current
message of each local processor is a sufficient statistic of the signal vector
given the current and all preceding messages). We show that the covariance
matrices of SS-MAMP are L-banded and convergent, which is an optimal framework
(from the local MMSE/LMMSE perspective) for AMP-type algorithms given the
Lipschitz-continuous local processors. Given an arbitrary MAMP, we can
construct an SS-MAMP by damping, which not only ensures the convergence of the
state evolution, but also preserves the orthogonality, i.e., its dynamics can
be correctly described by state evolution. As a byproduct, we prove that the
Bayes-optimal orthogonal/vector AMP (BO-OAMP/VAMP) is an SS-MAMP. As an
example, we construct a sufficient-statistic Bayes-optimal MAMP (SS-BO-MAMP)
whose state evolution converges to the minimum (i.e., Bayes-optimal) mean
square error (MSE) predicted by replica methods when it has a unique fixed
point. In addition, the MSE of SS-BO-MAMP is not worse than the original
BO-MAMP. Finally, simulations are provided to support the theoretical results.
- Abstract（参考訳）: 近似メッセージパッシング(AMP)型アルゴリズムは、ある大きなランダム線形系の信号再構成に広く用いられている。
amp型アルゴリズムの重要な特徴は、そのダイナミクスが状態進化によって正しく記述できることである。
状態進化は有用な分析ツールであるが、その収束は保証されていない。
amp型アルゴリズムの収束問題を原理的に解くため,本論文では,ss-mampアルゴリズムのフレームワークとして,右一意不変なセンシング行列,リプシッツ連続局所プロセッサ,および十分統計制約(すなわち,各局所プロセッサの現在のメッセージは,現在与えられた信号ベクトルの十分統計量である)を条件として提案する。
SS-MAMPの共分散行列はLバンドで収束しており、Lipschitz-Continuousローカルプロセッサが与えられたAMP型アルゴリズムに対して(局所MMSE/LMMSEの観点から)最適なフレームワークであることを示す。
任意の MAMP が与えられると、減衰によって SS-MAMP を構築することができ、状態進化の収束を保証するだけでなく、直交性、すなわち状態進化によってその力学を正しく記述することができる。
副産物としてベイズ最適直交ベクトルAMP(BO-OAMP/VAMP)がSS-MAMPであることが証明される。
例えば、状態進化が最小(すなわちベイズ最適)平均二乗誤差(mse)に収束する十分統計的なベイズ最適マンプ(ss-bo-mamp)を構築し、それが一意な不動点を持つとき、レプリカ法によって予測される。
さらに、SS-BO-MAMPのMSEは、オリジナルのBO-MAMPよりも悪くはない。
最後に、理論結果を支持するシミュレーションが提供される。
関連論文リスト
- Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳（メタデータ） (2023-12-19T21:45:38Z) - Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。
特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
論文 参考訳（メタデータ） (2023-02-13T19:57:17Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳（メタデータ） (2022-09-27T07:58:25Z) - Capacity Optimality of OAMP in Coded Large Unitarily Invariant Systems [9.101719525164803]
本稿では、単位不変感センサ行列、任意の信号分布、前方誤り制御(FEC)符号化を含む単位不変システム(LUIS)について検討する。
最適化符号を用いたOAMPは、最適化されていない符号とよく知られたTurbo linear MMSEアルゴリズムよりも大幅に性能が向上していることを示す。
論文 参考訳（メタデータ） (2022-06-23T13:11:20Z) - Sufficient Statistic Memory Approximate Message Passing [5.708490209087275]
AMP型アルゴリズムの重要な特徴は、それらの力学が状態進化によって正しく記述できることである。
本稿では,十分な統計条件下でのメモリAMP(MAMP)を提案する。
論文 参考訳（メタデータ） (2022-06-23T13:06:00Z) - Fast Batch Nuclear-norm Maximization and Minimization for Robust Domain
Adaptation [154.2195491708548]
ランダムに選択されたデータバッチの分類出力行列の構造について検討し,予測可能性と多様性について検討した。
本稿では,目標出力行列上で核ノルムを行い,目標予測能力を向上するBatch Nuclear-norm Maximization and Minimizationを提案する。
実験により,本手法は3つの典型的なドメイン適応シナリオにおいて適応精度とロバスト性を高めることができることが示された。
論文 参考訳（メタデータ） (2021-07-13T15:08:32Z) - Memory Approximate Message Passing [9.116196799517262]
本稿では、干渉抑制のための長メモリマッチングフィルタを提案するメモリAMP(MAMP)を提案する。
状態進化は、MAMPの性能を特徴づけるために導かれる。
すべての右単位不変行列に対して、最適化された MAMP は OAMP/VAMP に収束し、一意な不動点を持つならベイズ最適である。
論文 参考訳（メタデータ） (2021-06-04T03:37:14Z) - Memory Approximate Message Passing [9.116196799517262]
近似メッセージパッシング(amp)は低コスト反復パラメータ推定手法である。
本稿では,一元不変行列に対する低複素メモリAMP(MAMP)を提案する。
論文 参考訳（メタデータ） (2020-12-20T07:42:15Z) - Plug-And-Play Learned Gaussian-mixture Approximate Message Passing [71.74028918819046]
そこで本研究では,従来のi.i.d.ソースに適した圧縮圧縮センシング(CS)リカバリアルゴリズムを提案する。
我々のアルゴリズムは、Borgerdingの学習AMP(LAMP)に基づいて構築されるが、アルゴリズムに普遍的な復調関数を採用することにより、それを大幅に改善する。
数値評価により,L-GM-AMPアルゴリズムは事前の知識を必要とせず,最先端の性能を実現する。
論文 参考訳（メタデータ） (2020-11-18T16:40:45Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳（メタデータ） (2020-11-05T08:04:34Z) - Rigorous State Evolution Analysis for Approximate Message Passing with
Side Information [15.90775344965397]
サイド情報をAMP-SI(Adroximate Message Passing with Side Information)に組み込んだ新しいフレームワークが導入された。
信号とSIペアの間に統計的依存関係がある場合、AMP-SIに対して厳密な性能保証を提供する。
AMP-SI平均二乗誤差を精度良く予測できることを示す。
論文 参考訳（メタデータ） (2020-03-25T16:11:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。