論文の概要: Nonparametric approximation of conditional expectation operators
- arxiv url: http://arxiv.org/abs/2012.12917v3
- Date: Sat, 5 Aug 2023 19:53:20 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-09 01:38:21.224556
- Title: Nonparametric approximation of conditional expectation operators
- Title（参考訳）: 条件付き期待作用素の非パラメトリック近似
- Authors: Mattes Mollenhauer and P\'eter Koltai
- Abstract要約: 最小の仮定の下で、$[Pf](x) := mathbbE[f(Y) mid X = x ]$ で定義される$L2$-operatorの近似について検討する。
我々は、再生されたカーネル空間上で作用するヒルベルト・シュミット作用素により、作用素ノルムにおいて$P$が任意に適切に近似できることを証明した。
- 参考スコア（独自算出の注目度）: 0.3655021726150368
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Given the joint distribution of two random variables $X,Y$ on some second
countable locally compact Hausdorff space, we investigate the statistical
approximation of the $L^2$-operator defined by $[Pf](x) := \mathbb{E}[ f(Y)
\mid X = x ]$ under minimal assumptions. By modifying its domain, we prove that
$P$ can be arbitrarily well approximated in operator norm by Hilbert-Schmidt
operators acting on a reproducing kernel Hilbert space. This fact allows to
estimate $P$ uniformly by finite-rank operators over a dense subspace even when
$P$ is not compact. In terms of modes of convergence, we thereby obtain the
superiority of kernel-based techniques over classically used parametric
projection approaches such as Galerkin methods. This also provides a novel
perspective on which limiting object the nonparametric estimate of $P$
converges to. As an application, we show that these results are particularly
important for a large family of spectral analysis techniques for Markov
transition operators. Our investigation also gives a new asymptotic perspective
on the so-called kernel conditional mean embedding, which is the theoretical
foundation of a wide variety of techniques in kernel-based nonparametric
inference.
- Abstract（参考訳）: 局所コンパクトハウスドルフ空間上の 2 つの確率変数 $X,Y$ の合同分布を考えると、最小の仮定の下で、$[Pf](x) := \mathbb{E}[f(Y) \mid X = x ]$ で定義される$L^2$-operator の統計的近似を研究する。
その領域を変更することで、Hilbert-Schmidt作用素が再生カーネルヒルベルト空間に作用する作用素ノルムにおいて、$P$を任意に適切に近似できることを示す。
この事実は、高密度部分空間上の有限ランク作用素によって、$P$がコンパクトでない場合でも、$P$を均一に推定することができる。
収束モードの観点からは、ガレルキン法のような古典的なパラメトリック射影法よりもカーネルベース技術の方が優れている。
これはまた、非パラメトリックな推定値である$p$が収束するオブジェクトを制限する新しい視点を提供する。
応用として,これらの結果はマルコフ遷移作用素のスペクトル解析技術群において特に重要であることを示す。
本研究は,カーネルベース非パラメトリック推論における多種多様な手法の理論的基礎であるいわゆるカーネル条件平均埋め込みに対する新たな漸近的視点を与える。
関連論文リスト
- Tensor network approximation of Koopman operators [0.0]
本稿では,測度保存エルゴディックシステムの可観測物の進化を近似する枠組みを提案する。
提案手法は,スキューアジョイント・クープマン発生器のスペクトル収束近似に基づく。
この量子に着想を得た近似の重要な特徴は、次元$(2d+1)n$のテンソル積空間から情報を取得することである。
論文 参考訳（メタデータ） (2024-07-09T21:40:14Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳（メタデータ） (2024-04-29T15:04:07Z) - Rates of Convergence in Certain Native Spaces of Approximations used in
Reinforcement Learning [0.0]
本稿では、再生カーネルヒルベルト空間(RKHS)$H(Omega)$の集合に生じる値関数近似の収束率について研究する。
値関数およびコントローラ近似における誤差の上限の明示は、有限次元近似の空間に対して$mathcalP_H,N$で導かれる。
論文 参考訳（メタデータ） (2023-09-14T02:02:08Z) - Efficient displacement convex optimization with particle gradient
descent [57.88860627977882]
粒子勾配降下は確率測度の関数の最適化に広く用いられている。
本稿では, 有限個の粒子による粒子勾配降下について考察し, その理論的保証を定式化して, 測度に置換凸となる関数を最適化する。
論文 参考訳（メタデータ） (2023-02-09T16:35:59Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳（メタデータ） (2023-01-16T02:57:37Z) - Optimal Rates for Regularized Conditional Mean Embedding Learning [32.870965795423366]
経験的CME推定器に対して,不特定条件下での新しい適応的統計的学習率を導出する。
我々の解析は、$mathcalH_Y$を有限次元と仮定することなく、最適な$O(log n / n)$レートと一致することを示した。
論文 参考訳（メタデータ） (2022-08-02T19:47:43Z) - A Law of Robustness beyond Isoperimetry [84.33752026418045]
我々は、任意の分布上でニューラルネットワークパラメータを補間する頑健性の低い$Omega(sqrtn/p)$を証明した。
次に、$n=mathrmpoly(d)$のとき、スムーズなデータに対する過度なパラメータ化の利点を示す。
我々は、$n=exp(omega(d))$ のとき、$O(1)$-Lipschitz の頑健な補間関数の存在を否定する。
論文 参考訳（メタデータ） (2022-02-23T16:10:23Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳（メタデータ） (2021-09-24T14:48:20Z) - Tight Nonparametric Convergence Rates for Stochastic Gradient Descent
under the Noiseless Linear Model [0.0]
このモデルに基づく最小二乗リスクに対する1パス, 固定段差勾配勾配の収束度を解析した。
特殊な場合として、ランダムなサンプリング点における値のノイズのない観測から単位区間上の実関数を推定するオンラインアルゴリズムを解析する。
論文 参考訳（メタデータ） (2020-06-15T08:25:50Z) - Linear Time Sinkhorn Divergences using Positive Features [51.50788603386766]
エントロピー正則化で最適な輸送を解くには、ベクトルに繰り返し適用される$ntimes n$ kernel matrixを計算する必要がある。
代わりに、$c(x,y)=-logdotpvarphi(x)varphi(y)$ ここで$varphi$は、地上空間から正のorthant $RRr_+$への写像であり、$rll n$である。
論文 参考訳（メタデータ） (2020-06-12T10:21:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。