論文の概要: An MMSE Lower Bound via Poincar\'e Inequality
- arxiv url: http://arxiv.org/abs/2205.05848v1
- Date: Thu, 12 May 2022 02:41:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-14 00:33:38.228503
- Title: An MMSE Lower Bound via Poincar\'e Inequality
- Title(参考訳): Poincar\eの不等式によるMMSE下層境界
- Authors: Ian Zieder and Alex Dytso and Martina Cardone
- Abstract要約: 本稿では,雑音観測から mathbbRd$ の $mathbfX を推定する最小平均二乗誤差 (MMSE) について検討する。
論文はMMSEの新たな下限を提供する。
- 参考スコア(独自算出の注目度): 26.491437065671732
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper studies the minimum mean squared error (MMSE) of estimating
$\mathbf{X} \in \mathbb{R}^d$ from the noisy observation $\mathbf{Y} \in
\mathbb{R}^k$, under the assumption that the noise (i.e.,
$\mathbf{Y}|\mathbf{X}$) is a member of the exponential family. The paper
provides a new lower bound on the MMSE. Towards this end, an alternative
representation of the MMSE is first presented, which is argued to be useful in
deriving closed-form expressions for the MMSE. This new representation is then
used together with the Poincar\'e inequality to provide a new lower bound on
the MMSE. Unlike, for example, the Cram\'{e}r-Rao bound, the new bound holds
for all possible distributions on the input $\mathbf{X}$. Moreover, the lower
bound is shown to be tight in the high-noise regime for the Gaussian noise
setting under the assumption that $\mathbf{X}$ is sub-Gaussian. Finally,
several numerical examples are shown which demonstrate that the bound performs
well in all noise regimes.
- Abstract(参考訳): 本稿では,ノイズが指数関数関数族に属することを前提に,雑音観測値である$\mathbf{y} \in \mathbb{r}^k$から$\mathbf{x} \in \mathbb{r}^d$を推定する最小平均二乗誤差(mmse)について検討する。
論文はMMSEの新たな下限を提供する。
この目的のために、MMSEの代替表現が最初に提示され、MMSEの閉形式式を導出するのに有用であると考えられている。
この新しい表現は Poincar\'e の不等式と共に使われ、MMSE に新しい下界を与える。
例えば、 cram\'{e}r-rao のバウンドとは異なり、新しいバウンドは入力 $\mathbf{x}$ 上のすべての可能な分布に対して成り立つ。
さらに、下限は、$\mathbf{x}$ が準ガウシアンであると仮定してガウシアンノイズ設定の高雑音環境においてタイトであることが示されている。
最後に、バウンドがすべてのノイズレジームでうまく機能することを示すいくつかの数値例を示す。
- 全文 参考訳へのリンク
関連論文リスト
- Noise Regularizes Over-parameterized Rank One Matrix Recovery, Provably [42.427869499882206]
階数 1 の行列 $Y*$ by $XXtop$ をパラメータ化します。
次に,2乗損失関数を用いたランダムな摂動勾配降下法により得られた推定値の平均2乗誤差が$O(sigma2/d)$であることを示す。
対照的に、ランダムな摂動を伴わない勾配降下から得られる推定器は、平均2乗誤差が$O(sigma2)$となる。
論文 参考訳(メタデータ) (2022-02-07T21:53:51Z) - Polyak-Ruppert Averaged Q-Leaning is Statistically Efficient [90.14768299744792]
我々はPolyak-Ruppert 平均 Q-leaning (平均 Q-leaning) を用いた同期 Q-learning を$gamma$-discounted MDP で検討した。
繰り返し平均$barboldsymbolQ_T$に対して正規性を確立する。
要するに、我々の理論分析は、Q-Leaningの平均は統計的に効率的であることを示している。
論文 参考訳(メタデータ) (2021-12-29T14:47:56Z) - Optimal and instance-dependent guarantees for Markovian linear
stochastic approximation [77.84027086542827]
標準スキームの最後の繰り返しの2乗誤差に対して、$t_mathrmmix tfracdn$の非漸近境界を示す。
マルコフ雑音による政策評価について,これらの結果のまとめを導出する。
論文 参考訳(メタデータ) (2021-12-23T18:47:50Z) - Multimeasurement Generative Models [7.502947376736449]
我々は、密度$p_X$ in $mathbbRd$を未知分布からサンプリングする問題を学習とサンプリングの問題を$p_mathbfY$ in $mathbbRMd$とする。
論文 参考訳(メタデータ) (2021-12-18T02:11:36Z) - Beyond Independent Measurements: General Compressed Sensing with GNN
Application [4.924126492174801]
我々は、ノイズコーン観測からmathbbRn$の構造化信号$mathbfxを復元する問題を考察する。
実効的な$mathbfB$は測定値のサロゲートとして用いられる可能性がある。
論文 参考訳(メタデータ) (2021-10-30T20:35:56Z) - Fast Graph Sampling for Short Video Summarization using Gershgorin Disc
Alignment [52.577757919003844]
高速グラフサンプリングの最近の進歩を利用して,短い動画を複数の段落に効率よく要約する問題について検討する。
実験結果から,本アルゴリズムは最先端の手法と同等の映像要約を実現し,複雑さを大幅に低減した。
論文 参考訳(メタデータ) (2021-10-21T18:43:00Z) - Threshold Phenomena in Learning Halfspaces with Massart Noise [56.01192577666607]
ガウス境界の下でのマスアートノイズ付きmathbbRd$におけるPAC学習ハーフスペースの問題について検討する。
この結果は,Massartモデルにおける学習ハーフスペースの複雑さを定性的に特徴づけるものである。
論文 参考訳(メタデータ) (2021-08-19T16:16:48Z) - Global Convergence of Gradient Descent for Asymmetric Low-Rank Matrix
Factorization [49.090785356633695]
非対称な低ランク分解問題: [mathbbRm min d , mathbfU$ および MathV$ について検討する。
論文 参考訳(メタデータ) (2021-06-27T17:25:24Z) - Combining Semilattices and Semimodules [0.0]
そのような$delta$ yield を用いて $mathcal P$ と $mathcal S$ の合成が、ジェイコブスが以前に導入した凸部分集合のモナドにほぼ等しいことを示す。
我々は、$mathcal P$から$mathbbEM(mathcal S)$への正則の弱い持ち上がることの便利な特徴付けと、得られた合成モナドの代数的理論を提供する。
論文 参考訳(メタデータ) (2020-12-29T14:44:13Z) - Hardness of Learning Halfspaces with Massart Noise [56.98280399449707]
我々は、マッサート(有界)ノイズの存在下でPAC学習のハーフスペースの複雑さを研究します。
情報理論上最適なエラーとSQアルゴリズムで達成できる最高のエラーとの間に指数関数的なギャップがあることを示した。
論文 参考訳(メタデータ) (2020-12-17T16:43:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。