論文の概要: Kullback-Leibler and Renyi divergences in reproducing kernel Hilbert
space and Gaussian process settings
- arxiv url: http://arxiv.org/abs/2207.08406v1
- Date: Mon, 18 Jul 2022 06:40:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-19 15:00:25.625501
- Title: Kullback-Leibler and Renyi divergences in reproducing kernel Hilbert
space and Gaussian process settings
- Title（参考訳）: カーネルヒルベルト空間とガウス過程の再生におけるkullback-leiblerとrenyiの発散
- Authors: Minh Ha Quang
- Abstract要約: 正規化Kullback-LeiblerとR'enyiの発散をAlpha Log-Det(Log-Det)発散により定式化する。
特徴的核について、最初の設定は、完全可分な距離空間上の任意のボレル確率測度の間の分岐をもたらす。
我々は、Alpha Log-Detの発散がヒルベルト-シュミットノルムにおいて連続であることを示し、ヒルベルト空間値の確率変数に対して大数の法則を適用することができる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we present formulations for regularized Kullback-Leibler and
R\'enyi divergences via the Alpha Log-Determinant (Log-Det) divergences between
positive Hilbert-Schmidt operators on Hilbert spaces in two different settings,
namely (i) covariance operators and Gaussian measures defined on reproducing
kernel Hilbert spaces (RKHS); and (ii) Gaussian processes with squared
integrable sample paths. For characteristic kernels, the first setting leads to
divergences between arbitrary Borel probability measures on a complete,
separable metric space. We show that the Alpha Log-Det divergences are
continuous in the Hilbert-Schmidt norm, which enables us to apply laws of large
numbers for Hilbert space-valued random variables. As a consequence of this, we
show that, in both settings, the infinite-dimensional divergences can be
consistently and efficiently estimated from their finite-dimensional versions,
using finite-dimensional Gram matrices/Gaussian measures and finite sample
data, with {\it dimension-independent} sample complexities in all cases. RKHS
methodology plays a central role in the theoretical analysis in both settings.
The mathematical formulation is illustrated by numerical experiments.
- Abstract（参考訳）: 本稿では, ヒルベルト空間上の正のヒルベルト・シュミット作用素間のα対決定式 (log-det) による正規化kullback-leiblerとr\'enyi divergencesの定式化について述べる。
(i)再生成核ヒルベルト空間(rkhs)上で定義される共分散作用素とガウス測度
(ii)二乗可積分なサンプルパスを持つガウス過程。
特性核に対して、最初の設定は完備で分離可能な距離空間上の任意のボレル確率測度の発散に繋がる。
我々は、Alpha Log-Detの発散がヒルベルト-シュミットノルムにおいて連続であることを示し、ヒルベルト空間値の確率変数に対して大数の法則を適用することができる。
その結果、両方の設定において、無限次元の発散は、有限次元のグラム行列/ガウス測度および有限のサンプルデータを用いて、有限次元のバージョンから一貫して効率的に推定され、すべてのケースで「it次元非依存」なサンプル複素量を持つことが示された。
RKHS法は、どちらの設定においても理論解析において中心的な役割を果たす。
数学的定式化は数値実験によって示される。
関連論文リスト
- Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳（メタデータ） (2024-04-29T15:04:07Z) - Conditioning of Banach Space Valued Gaussian Random Variables: An Approximation Approach Based on Martingales [8.81121308982678]
ガウス確率変数として有意な2つのバナッハ空間の条件分布について検討する。
それらの手段と共分散は、マルティンゲールアプローチに基づく一般的な有限次元近似スキームによって決定されることを示す。
論文 参考訳（メタデータ） (2024-04-04T13:57:44Z) - Continuous percolation in a Hilbert space for a large system of qubits [58.720142291102135]
パーコレーション遷移は無限クラスターの出現によって定義される。
ヒルベルト空間の指数的に増加する次元性は、有限サイズの超球面による被覆を非効率にすることを示す。
コンパクトな距離空間におけるパーコレーション遷移への我々のアプローチは、他の文脈での厳密な処理に有用である。
論文 参考訳（メタデータ） (2022-10-15T13:53:21Z) - Page curves and typical entanglement in linear optics [0.0]
ランダムな線形光ユニタリにより進化した一組の圧縮モード内での絡み合いについて検討する。
我々はR'enyi-2エントロピーで測定されたエンタングルメントの典型性について様々な結果を示す。
我々の主目的は、平均とエントロピーの分散によって従う対称性特性を利用して、ユニタリ平均化を劇的に単純化する。
論文 参考訳（メタデータ） (2022-09-14T18:00:03Z) - Experimental Design for Linear Functionals in Reproducing Kernel Hilbert
Spaces [102.08678737900541]
線形汎関数に対するバイアス認識設計のためのアルゴリズムを提供する。
準ガウス雑音下での固定および適応設計に対する漸近的でない信頼集合を導出する。
論文 参考訳（メタデータ） (2022-05-26T20:56:25Z) - Estimation of Riemannian distances between covariance operators and
Gaussian processes [0.7360807642941712]
無限次元正定値ヒルベルト・シュミット作用素間の2つの距離について検討する。
結果は、どちらの距離もヒルベルト・シュミットノルムに収束することを示している。
論文 参考訳（メタデータ） (2021-08-26T09:57:47Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳（メタデータ） (2021-06-18T08:33:45Z) - The Connection between Discrete- and Continuous-Time Descriptions of
Gaussian Continuous Processes [60.35125735474386]
我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。
この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
論文 参考訳（メタデータ） (2021-01-16T17:11:02Z) - Convergence and finite sample approximations of entropic regularized
Wasserstein distances in Gaussian and RKHS settings [0.0]
ヒルベルト空間設定におけるエントロピー正則化ワッサーシュタイン距離の収束と有限サンプル近似について検討する。
無限次元ヒルベルト空間上のガウス測度の場合、2-シンクホーン発散の収束は、正確な2-ワッセルシュタイン距離の収束よりも弱い。
論文 参考訳（メタデータ） (2021-01-05T09:46:58Z) - Entropic regularization of Wasserstein distance between
infinite-dimensional Gaussian measures and Gaussian processes [0.0]
この研究は、無限次元ヒルベルト空間上の2-ワッサーシュタイン距離のエントロピー正則化の定式化を研究する。
無限次元の設定では、エントロピックな2-ワッサーシュタイン距離とシンクホーンの発散は、正確な2-ワッサースタイン距離とは対照的にFr'echet微分可能である。
論文 参考訳（メタデータ） (2020-11-15T10:03:12Z) - Hilbert-space geometry of random-matrix eigenstates [55.41644538483948]
パラメータ依存ランダム行列アンサンブルの固有状態のヒルベルト空間幾何について論じる。
この結果はフビニ・スタディ計量とベリー曲率の正確な関節分布関数を与える。
この結果とランダム・マトリクス・アンサンブルの数値シミュレーションおよびランダム磁場中の電子との比較を行った。
論文 参考訳（メタデータ） (2020-11-06T19:00:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。