論文の概要: Sufficient Statistic Memory AMP
- arxiv url: http://arxiv.org/abs/2112.15327v1
- Date: Fri, 31 Dec 2021 07:25:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-03 14:27:27.893811
- Title: Sufficient Statistic Memory AMP
- Title（参考訳）: 十分な統計メモリAMP
- Authors: Lei Liu, Shunqi Huang, and Brian M. Kurkoski
- Abstract要約: 近似メッセージパッシング(AMP)は,非ガウス信号を用いた高次元線形システムの再構築に有望な手法である。
本稿では,十分な統計条件下でのメモリAMP(MAMP)を提案する。
- 参考スコア（独自算出の注目度）: 8.111218562486052
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Approximate message passing (AMP) is a promising technique for unknown signal
reconstruction of certain high-dimensional linear systems with non-Gaussian
signaling. A distinguished feature of the AMP-type algorithms is that their
dynamics can be rigorously described by state evolution. However, state
evolution does not necessarily guarantee the convergence of iterative
algorithms. To solve the convergence problem of AMP-type algorithms in
principle, this paper proposes a memory AMP (MAMP) under a sufficient statistic
condition, named sufficient statistic MAMP (SS-MAMP). We show that the
covariance matrices of SS-MAMP are L-banded and convergent. Given an arbitrary
MAMP, we can construct an SS-MAMP by damping, which not only ensures the
convergence of MAMP but also preserves the orthogonality of MAMP, i.e., its
dynamics can be rigorously described by state evolution. As a byproduct, we
prove that the Bayes-optimal orthogonal/vector AMP (BO-OAMP/VAMP) is an
SS-MAMP. As a result, we reveal two interesting properties of BO-OAMP/VAMP for
large systems: 1) the covariance matrices are L-banded and are convergent in
BO-OAMP/VAMP, and 2) damping and memory are useless (i.e., do not bring
performance improvement) in BO-OAMP/VAMP. As an example, we construct a
sufficient statistic Bayes-optimal MAMP (BO-MAMP), which is Bayes optimal if
its state evolution has a unique fixed point and its MSE is not worse than the
original BO-MAMP. Finally, simulations are provided to verify the validity and
accuracy of the theoretical results.
- Abstract（参考訳）: 近似メッセージパッシング(AMP)は非ガウス信号を用いたある種の高次元線形システムの未知信号再構成のための有望な手法である。
amp型アルゴリズムの特徴は、そのダイナミクスが状態進化によって厳密に記述できる点である。
しかし、状態進化は反復アルゴリズムの収束を必ずしも保証しない。
本稿では,AMP型アルゴリズムの収束問題を原理として,十分な統計条件下でのメモリAMP(MAMP)を提案する。
SS-MAMPの共分散行列はLバンドで収束することを示す。
任意の MAMP が与えられると、減衰により SS-MAMP を構築することができ、これは MAMP の収束を保証するだけでなく、MAMP の直交性も維持する。
副産物としてベイズ最適直交ベクトルAMP(BO-OAMP/VAMP)がSS-MAMPであることが証明される。
その結果,大規模システムに対するBO-OAMP/VAMPの2つの興味深い特性が明らかになった。
1) 共分散行列はLバンドであり、BO-OAMP/VAMPに収束する。
2) 減衰とメモリはbo-oamp/vampでは役に立たない(すなわち性能改善を行わない)。
例えば、状態の進化が一意な不動点を持ち、mseが元のbo-mampよりも悪くない場合にベイズ最適となる十分な統計量ベイズ最適マンプ(bo-mamp)を構築する。
最後に,理論結果の妥当性と正確性を検証するためにシミュレーションを行った。
関連論文リスト
- Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳（メタデータ） (2023-12-19T21:45:38Z) - Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。
特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
論文 参考訳（メタデータ） (2023-02-13T19:57:17Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳（メタデータ） (2022-09-27T07:58:25Z) - Capacity Optimality of OAMP in Coded Large Unitarily Invariant Systems [9.101719525164803]
本稿では、単位不変感センサ行列、任意の信号分布、前方誤り制御(FEC)符号化を含む単位不変システム(LUIS)について検討する。
最適化符号を用いたOAMPは、最適化されていない符号とよく知られたTurbo linear MMSEアルゴリズムよりも大幅に性能が向上していることを示す。
論文 参考訳（メタデータ） (2022-06-23T13:11:20Z) - Sufficient Statistic Memory Approximate Message Passing [5.708490209087275]
AMP型アルゴリズムの重要な特徴は、それらの力学が状態進化によって正しく記述できることである。
本稿では,十分な統計条件下でのメモリAMP(MAMP)を提案する。
論文 参考訳（メタデータ） (2022-06-23T13:06:00Z) - Fast Batch Nuclear-norm Maximization and Minimization for Robust Domain
Adaptation [154.2195491708548]
ランダムに選択されたデータバッチの分類出力行列の構造について検討し,予測可能性と多様性について検討した。
本稿では,目標出力行列上で核ノルムを行い,目標予測能力を向上するBatch Nuclear-norm Maximization and Minimizationを提案する。
実験により,本手法は3つの典型的なドメイン適応シナリオにおいて適応精度とロバスト性を高めることができることが示された。
論文 参考訳（メタデータ） (2021-07-13T15:08:32Z) - Memory Approximate Message Passing [9.116196799517262]
本稿では、干渉抑制のための長メモリマッチングフィルタを提案するメモリAMP(MAMP)を提案する。
状態進化は、MAMPの性能を特徴づけるために導かれる。
すべての右単位不変行列に対して、最適化された MAMP は OAMP/VAMP に収束し、一意な不動点を持つならベイズ最適である。
論文 参考訳（メタデータ） (2021-06-04T03:37:14Z) - Memory Approximate Message Passing [9.116196799517262]
近似メッセージパッシング(amp)は低コスト反復パラメータ推定手法である。
本稿では,一元不変行列に対する低複素メモリAMP(MAMP)を提案する。
論文 参考訳（メタデータ） (2020-12-20T07:42:15Z) - Plug-And-Play Learned Gaussian-mixture Approximate Message Passing [71.74028918819046]
そこで本研究では,従来のi.i.d.ソースに適した圧縮圧縮センシング(CS)リカバリアルゴリズムを提案する。
我々のアルゴリズムは、Borgerdingの学習AMP(LAMP)に基づいて構築されるが、アルゴリズムに普遍的な復調関数を採用することにより、それを大幅に改善する。
数値評価により,L-GM-AMPアルゴリズムは事前の知識を必要とせず,最先端の性能を実現する。
論文 参考訳（メタデータ） (2020-11-18T16:40:45Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳（メタデータ） (2020-11-05T08:04:34Z) - Rigorous State Evolution Analysis for Approximate Message Passing with
Side Information [15.90775344965397]
サイド情報をAMP-SI(Adroximate Message Passing with Side Information)に組み込んだ新しいフレームワークが導入された。
信号とSIペアの間に統計的依存関係がある場合、AMP-SIに対して厳密な性能保証を提供する。
AMP-SI平均二乗誤差を精度良く予測できることを示す。
論文 参考訳（メタデータ） (2020-03-25T16:11:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。