論文の概要: Kernel Embeddings and the Separation of Measure Phenomenon
- arxiv url: http://arxiv.org/abs/2505.04613v2
- Date: Mon, 15 Sep 2025 09:35:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-16 15:23:16.111373
- Title: Kernel Embeddings and the Separation of Measure Phenomenon
- Title(参考訳): カーネル埋め込みと測定現象の分離
- Authors: Leonardo V. Santoro, Kartik G. Waghmare, Victor M. Panaretos,
- Abstract要約: カーネルの共分散埋め込みは、異なる確率分布を情報論的に完全に分離することにつながることを証明している。
この現象は、埋め込みによって無限次元の祝福であり、効率的な推論ツールの設計を知らせる可能性がある。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We prove that kernel covariance embeddings lead to information-theoretically perfect separation of distinct probability distributions. In statistical terms, we establish that testing for the equality of two probability measures on a compact and separable metric space is equivalent to testing for the singularity between two centered Gaussian measures on a reproducing kernel Hilbert Space. The corresponding Gaussians are defined via the notion of kernel covariance embedding of a probability measure, and the Hilbert space is that generated by the embedding kernel. Distinguishing singular Gaussians is fundamentally simpler from an information-theoretic perspective than non-parametric two-sample testing, particularly in complex or high-dimensional domains. This is because singular Gaussians are supported on essentially separate and affine subspaces. Our proof leverages the classical Feldman-Hajek dichotomy, and shows that even a small perturbation of a distribution will be maximally magnified through its Gaussian embedding. This ``separation of measure phenomenon'' appears to be a blessing of infinite dimensionality, by means of embedding, with the potential to inform the design of efficient inference tools in considerable generality. The elicitation of this phenomenon also appears to crystallize, in a precise and simple mathematical statement, the outstanding empirical effectiveness of the so-called ``kernel trick".
- Abstract(参考訳): カーネルの共分散埋め込みは、異なる確率分布を情報論的に完全に分離することにつながることを証明している。
統計的には、コンパクトかつ分離可能な距離空間上の2つの確率測度の等式に対する検定は、再生された核ヒルベルト空間上の2つの中心ガウス測度の特異性に対する検定と等価である。
対応するガウス空間は確率測度の核共分散埋め込みの概念によって定義され、ヒルベルト空間は埋め込みカーネルによって生成される。
特異ガウスの識別は、特に複素領域や高次元領域において、非パラメトリックな2サンプルテストよりも情報理論の観点から根本的に単純である。
これは、特異ガウス多様体が本質的に分離かつアフィン部分空間で支えられているためである。
我々の証明は古典的なフェルドマン・ハジェク二分法を利用しており、分布の小さな摂動でさえガウスの埋め込みによって最大で拡大されることを示している。
この「測度現象の分離」は、埋め込みによって無限次元の祝福であり、効率的な推論ツールの設計をかなりの一般性で通知する可能性がある。
この現象の誘発は、正確で単純な数学的ステートメントにおいて、いわゆる「カーネルトリック」の卓越した経験的効果を結晶化しているように見える。
関連論文リスト
- GaussianFormer-2: Probabilistic Gaussian Superposition for Efficient 3D Occupancy Prediction [55.60972844777044]
3Dセマンティック占有予測は、堅牢な視覚中心の自律運転において重要な課題である。
既存のほとんどの手法は、密度の高いグリッドベースのシーン表現を利用しており、運転シーンの空間的空間性を見渡している。
本稿では,各ガウス分布をその周辺領域の確率分布として解釈する確率論的ガウス重ね合わせモデルを提案する。
論文 参考訳(メタデータ) (2024-12-05T17:59:58Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Stationary Kernels and Gaussian Processes on Lie Groups and their Homogeneous Spaces II: non-compact symmetric spaces [43.877478563933316]
対称性は、考慮できる事前情報の最も基本的な形態の1つである。
本研究では,非ユークリッド空間の非常に大きなクラス上に定常ガウス過程を構築するための構築的および実践的手法を開発する。
論文 参考訳(メタデータ) (2023-01-30T17:27:12Z) - Gaussian Processes on Distributions based on Regularized Optimal
Transport [2.905751301655124]
最適正則輸送の双対定式化に基づく確率測度空間上の新しいカーネルを提案する。
この構成がヒルベルトノルムを用いて有効なカーネルを得ることを可能にすることを証明している。
このカーネルに基づくガウス過程の挙動に関する理論的保証を提供する。
論文 参考訳(メタデータ) (2022-10-12T20:30:23Z) - Targeted Separation and Convergence with Kernel Discrepancies [61.973643031360254]
カーネルベースの不一致測度は、(i)ターゲットPを他の確率測度から分離するか、(ii)Pへの弱収束を制御する必要がある。
本稿では, (i) と (ii) を保証するのに十分な,必要な新しい条件を導出する。
可分距離空間上のMDDに対して、ボヒナー埋め込み可測度を分離するカーネルを特徴づけ、すべての測度を非有界カーネルと分離するための単純な条件を導入する。
論文 参考訳(メタデータ) (2022-09-26T16:41:16Z) - Page curves and typical entanglement in linear optics [0.0]
ランダムな線形光ユニタリにより進化した一組の圧縮モード内での絡み合いについて検討する。
我々はR'enyi-2エントロピーで測定されたエンタングルメントの典型性について様々な結果を示す。
我々の主目的は、平均とエントロピーの分散によって従う対称性特性を利用して、ユニタリ平均化を劇的に単純化する。
論文 参考訳(メタデータ) (2022-09-14T18:00:03Z) - Stationary Kernels and Gaussian Processes on Lie Groups and their Homogeneous Spaces I: the compact case [43.877478563933316]
対称性は、考慮できる事前情報の最も基本的な形態の1つである。
本研究では,非ユークリッド空間の非常に大きなクラス上に定常ガウス過程を構築するための構築的および実践的手法を開発する。
論文 参考訳(メタデータ) (2022-08-31T16:40:40Z) - Kullback-Leibler and Renyi divergences in reproducing kernel Hilbert
space and Gaussian process settings [0.0]
正規化Kullback-LeiblerとR'enyiの発散をAlpha Log-Det(Log-Det)発散により定式化する。
特徴的核について、最初の設定は、完全可分な距離空間上の任意のボレル確率測度の間の分岐をもたらす。
我々は、Alpha Log-Detの発散がヒルベルト-シュミットノルムにおいて連続であることを示し、ヒルベルト空間値の確率変数に対して大数の法則を適用することができる。
論文 参考訳(メタデータ) (2022-07-18T06:40:46Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-06-18T08:33:45Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Convergence and finite sample approximations of entropic regularized
Wasserstein distances in Gaussian and RKHS settings [0.0]
ヒルベルト空間設定におけるエントロピー正則化ワッサーシュタイン距離の収束と有限サンプル近似について検討する。
無限次元ヒルベルト空間上のガウス測度の場合、2-シンクホーン発散の収束は、正確な2-ワッセルシュタイン距離の収束よりも弱い。
論文 参考訳(メタデータ) (2021-01-05T09:46:58Z) - Random extrapolation for primal-dual coordinate descent [61.55967255151027]
本稿では,データ行列の疎度と目的関数の好適な構造に適応する,ランダムに外挿した原始-双対座標降下法を提案する。
一般凸凹の場合, 主対差と目的値に対するシーケンスのほぼ確実に収束と最適サブ線形収束率を示す。
論文 参考訳(メタデータ) (2020-07-13T17:39:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。