論文の概要: A General Derivative Identity for the Conditional Mean Estimator in
Gaussian Noise and Some Applications
- arxiv url: http://arxiv.org/abs/2104.01883v1
- Date: Mon, 5 Apr 2021 12:48:28 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-06 20:35:39.319806
- Title: A General Derivative Identity for the Conditional Mean Estimator in
Gaussian Noise and Some Applications
- Title（参考訳）: ガウス雑音における条件付き平均推定器の一般微分同一性とその応用
- Authors: Alex Dytso, H. Vincent Poor, Shlomo Shamai (Shitz)
- Abstract要約: 文献のいくつかのアイデンティティは、$E[bf X|bf Y=bf y]$を条件分散、スコア関数、高階条件モーメントなどの他の量に接続します。
本稿の目的は,これらのアイデンティティの統一的視点を提供することである。
- 参考スコア（独自算出の注目度）: 128.4391178665731
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Consider a channel ${\bf Y}={\bf X}+ {\bf N}$ where ${\bf X}$ is an
$n$-dimensional random vector, and ${\bf N}$ is a Gaussian vector with a
covariance matrix ${\bf \mathsf{K}}_{\bf N}$. The object under consideration in
this paper is the conditional mean of ${\bf X}$ given ${\bf Y}={\bf y}$, that
is ${\bf y} \to E[{\bf X}|{\bf Y}={\bf y}]$. Several identities in the
literature connect $E[{\bf X}|{\bf Y}={\bf y}]$ to other quantities such as the
conditional variance, score functions, and higher-order conditional moments.
The objective of this paper is to provide a unifying view of these identities.
In the first part of the paper, a general derivative identity for the
conditional mean is derived. Specifically, for the Markov chain ${\bf U}
\leftrightarrow {\bf X} \leftrightarrow {\bf Y}$, it is shown that the Jacobian
of $E[{\bf U}|{\bf Y}={\bf y}]$ is given by ${\bf \mathsf{K}}_{{\bf N}}^{-1}
{\bf Cov} ( {\bf X}, {\bf U} | {\bf Y}={\bf y})$.
In the second part of the paper, via various choices of ${\bf U}$, the new
identity is used to generalize many of the known identities and derive some new
ones. First, a simple proof of the Hatsel and Nolte identity for the
conditional variance is shown. Second, a simple proof of the recursive identity
due to Jaffer is provided. Third, a new connection between the conditional
cumulants and the conditional expectation is shown. In particular, it is shown
that the $k$-th derivative of $E[X|Y=y]$ is the $(k+1)$-th conditional
cumulant.
The third part of the paper considers some applications. In a first
application, the power series and the compositional inverse of $E[X|Y=y]$ are
derived. In a second application, the distribution of the estimator error
$(X-E[X|Y])$ is derived. In a third application, we construct consistent
estimators (empirical Bayes estimators) of the conditional cumulants from an
i.i.d. sequence $Y_1,...,Y_n$.
- Abstract（参考訳）: チャネル ${\bf Y}={\bf X}+ {\bf N}$ を考えると、${\bf X}$ は$n$次元のランダムベクトルであり、${\bf N}$ は共分散行列 ${\bf \mathsf{K}}_{\bf N}$ を持つガウスベクトルである。
この論文で検討されている対象は、${\bf x}$が${\bf y}={\bf y}$、すなわち${\bf y} \to e[{\bf x}|{\bf y}={\bf y}]$である条件付き平均である。
文学におけるいくつかのアイデンティティは、$E[{\bf X}|{\bf Y}={\bf y}]$を条件分散、スコア関数、高次条件モーメントなどの他の量に結びつける。
本稿の目的は,これらのアイデンティティの統一的視点を提供することである。
論文の第1部では、条件付き平均に対する一般微分同一性が導出される。
具体的には、マルコフ鎖 ${\bf u} \leftrightarrow {\bf x} \leftrightarrow {\bf y}$ に対して、$e[{\bf u}|{\bf y}={\bf y}]$ のヤコビアンは${\bf \mathsf{k}}_{{\bf n}}^{-1} {\bf cov} ( {\bf x}, {\bf u} | {\bf y}={\bf y})$ で与えられる。
論文の第2部では、${\bf U}$の様々な選択を通じて、新しいアイデンティティは既知の多くのアイデンティティを一般化し、いくつかの新しいIDを導出するために使用される。
まず、条件分散に対するハッセルとノルテの恒等性の簡単な証明を示す。
第二に、ジャファーによる再帰的アイデンティティの簡単な証明が提供される。
第三に、条件付き累積と条件付き期待との新たな接続を示す。
特に、$E[X|Y=y]$の$k$-th微分が$(k+1)$-th条件累積であることが示されている。
論文の第3部では、いくつかの応用について検討している。
第1の応用では、$E[X|Y=y]$のパワー級数と合成逆数が導出される。
第2のアプリケーションでは、推定器誤差$(X-E[X|Y])$の分布を導出する。
第3のアプリケーションでは、条件付き累積体の一貫した推定器(empirical bayes estimators)を構築する。
シーケンス $y_1,...,y_n$。
関連論文リスト
- An advance in the arithmetic of the Lie groups as an alternative to the
forms of the Campbell-Baker-Hausdorff-Dynkin theorem [0.7373617024876725]
作用素や行列の指数は量子論において広く用いられるが、評価するのは難しいこともある。
ここで、$rm eabf X+bbf Y$ が $rm epbf Zrm eqbf Xrm e-pbf Z$ for scalar $p$ および $q$ と同値であることが証明されている。
論文 参考訳（メタデータ） (2024-01-28T19:20:02Z) - A Unified Framework for Uniform Signal Recovery in Nonlinear Generative
Compressed Sensing [68.80803866919123]
非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。
本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。
また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
論文 参考訳（メタデータ） (2023-09-25T17:54:19Z) - Misspecified Phase Retrieval with Generative Priors [15.134280834597865]
単一のインデックスモデル $y の $m$ i.d.realization から$n$-dimensional signal $mathbfx$ を推定する。
どちらのステップも、適切な条件下では、$sqrt(klog L)cdot (log m)/m$の統計的レートを享受できることが示される。
論文 参考訳（メタデータ） (2022-10-11T16:04:11Z) - Learning a Single Neuron with Adversarial Label Noise via Gradient
Descent [50.659479930171585]
モノトン活性化に対する $mathbfxmapstosigma(mathbfwcdotmathbfx)$ の関数について検討する。
学習者の目標は仮説ベクトル $mathbfw$ that $F(mathbbw)=C, epsilon$ を高い確率で出力することである。
論文 参考訳（メタデータ） (2022-06-17T17:55:43Z) - Private Convex Optimization via Exponential Mechanism [16.867534746193833]
我々は、$ellcave2$ regularizerを$F(x)$に追加することで指数的なメカニズムを変更することで、既知の最適経験的リスクと人口損失の両方を$(epsilon,delta)$-DPで回復することを示した。
また、DP-SCOに対して$widetildeO(n min(d, n))クエリを使って$f_i(x)にこのメカニズムを実装する方法を示す。
論文 参考訳（メタデータ） (2022-03-01T06:51:03Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳（メタデータ） (2021-10-05T09:33:49Z) - Optimal Mean Estimation without a Variance [103.26777953032537]
本研究では,データ生成分布の分散が存在しない環境での重み付き平均推定問題について検討する。
最小の信頼区間を$n,d,delta$の関数として得る推定器を設計する。
論文 参考訳（メタデータ） (2020-11-24T22:39:21Z) - Sparse sketches with small inversion bias [79.77110958547695]
逆バイアスは、逆の共分散に依存する量の推定を平均化するときに生じる。
本研究では、確率行列に対する$(epsilon,delta)$-unbiased estimatorという概念に基づいて、逆バイアスを解析するためのフレームワークを開発する。
スケッチ行列 $S$ が密度が高く、すなわちサブガウスのエントリを持つとき、$(epsilon,delta)$-unbiased for $(Atop A)-1$ は $m=O(d+sqrt d/ のスケッチを持つ。
論文 参考訳（メタデータ） (2020-11-21T01:33:15Z) - An example of prediction which complies with Demographic Parity and
equalizes group-wise risks in the context of regression [3.9596068699962323]
異なる処理を生成しないベイズ最適予測$f*$は、$f*(x) = mathbbE[Y | X = x]$と定義される。
本稿では,アルゴリズム的公正性の数学的概念をよりよく理解するために,この結果がもたらすいくつかの意味について論じる。
論文 参考訳（メタデータ） (2020-11-13T22:46:05Z) - Efficient Statistics for Sparse Graphical Models from Truncated Samples [19.205541380535397]
i) スパースガウス図形モデルの推論と (ii) スパース線形モデルの回復支援の2つの基本的問題と古典的問題に焦点をあてる。
疎線型回帰については、$(bf x,y)$ が生成されるが、$y = bf xtopOmega* + MathcalN(0,1)$ と $(bf x, y)$ は、truncation set $S subseteq mathbbRd$ に属する場合にのみ見られる。
論文 参考訳（メタデータ） (2020-06-17T09:21:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。