論文の概要: The Minimax Rate of HSIC Estimation for Translation-Invariant Kernels
- arxiv url: http://arxiv.org/abs/2403.07735v2
- Date: Mon, 14 Oct 2024 11:18:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-15 15:03:28.469789
- Title: The Minimax Rate of HSIC Estimation for Translation-Invariant Kernels
- Title（参考訳）: 翻訳不変カーネルにおけるHSIC推定の最小値
- Authors: Florian Kalinke, Zoltan Szabo,
- Abstract要約: 連続有界変換不変特性核を持つガウス環を含むボレル測度に対する$mathbb Rd$のHSIC推定の最小値が$mathcal O!left(n-1/2right)$であることを証明する。
- 参考スコア（独自算出の注目度）: 0.0
- License:
- Abstract: Kernel techniques are among the most influential approaches in data science and statistics. Under mild conditions, the reproducing kernel Hilbert space associated to a kernel is capable of encoding the independence of $M\ge 2$ random variables. Probably the most widespread independence measure relying on kernels is the so-called Hilbert-Schmidt independence criterion (HSIC; also referred to as distance covariance in the statistics literature). Despite various existing HSIC estimators designed since its introduction close to two decades ago, the fundamental question of the rate at which HSIC can be estimated is still open. In this work, we prove that the minimax optimal rate of HSIC estimation on $\mathbb R^d$ for Borel measures containing the Gaussians with continuous bounded translation-invariant characteristic kernels is $\mathcal O\!\left(n^{-1/2}\right)$. Specifically, our result implies the optimality in the minimax sense of many of the most-frequently used estimators (including the U-statistic, the V-statistic, and the Nystr\"om-based one) on $\mathbb R^d$.
- Abstract（参考訳）: カーネル技術は、データ科学と統計学において最も影響力のあるアプローチの一つである。
穏やかな条件下では、カーネルに関連する再生カーネルヒルベルト空間は、$M\ge 2$ランダム変数の独立性を符号化することができる。
おそらく、カーネルに依存する最も広範な独立対策は、いわゆるヒルベルト=シュミット独立基準(HSIC、統計学では距離共分散とも呼ばれる)である。
20年近く前に導入されて以来、様々な既存のHSIC推定器が設計されているが、HSICを推定できる確率に関する根本的な疑問はいまだに未解決である。
本研究では,連続有界変換不変特性カーネルを持つガウス測度を含むボレル測度に対して,HSIC推定の最小値が$\mathcal O\!
\left(n^{-1/2}\right)$
具体的には、U-統計量、V-統計量、およびNystr\"om-based one"を含む)で最も頻繁に使われる多くの推定値のミニマックス感覚の最適性を示す。
関連論文リスト
- Nyström Kernel Stein Discrepancy [4.551160285910023]
我々は Nystr を用いた KSD アクセラレーションを提案し,ランタイム $mathcal Oleft(mn+m3right)$ for $n$ サンプルと $mll n$ Nystr"om ポイントについて述べる。
我々は、その$sqrtn$-consistencyと古典的なガウスの仮定を示し、一連のベンチマークで適合性テストの適用性を示す。
論文 参考訳（メタデータ） (2024-06-12T16:50:12Z) - A Specialized Semismooth Newton Method for Kernel-Based Optimal
Transport [92.96250725599958]
カーネルベース最適輸送(OT)推定器は、サンプルからOT問題に対処するための代替的機能的推定手順を提供する。
SSN法は, 標準正規性条件下でのグローバル収束率$O (1/sqrtk)$, 局所二次収束率を達成できることを示す。
論文 参考訳（メタデータ） (2023-10-21T18:48:45Z) - Nystr\"om $M$-Hilbert-Schmidt Independence Criterion [0.0]
カーネルをユビキタスにする主な特徴は、 (i) 設計された領域の数、 (ii) カーネルに関連する関数クラスのヒルベルト構造、 (iii) 情報を失うことなく確率分布を表現する能力である。
我々は、Mge 2$のケースを処理し、その一貫性を証明し、その適用性を実証する代替のNystr"omベースのHSIC推定器を提案する。
論文 参考訳（メタデータ） (2023-02-20T11:51:58Z) - Kernelized Cumulants: Beyond Kernel Mean Embeddings [11.448622437140022]
我々は、テンソル代数のツールを用いて、累積をカーネルヒルベルト空間(RKHS)に拡張する。
我々は、次数1を超えることはいくつかの利点があり、同じ計算複雑性と最小限のオーバーヘッドで達成できると主張している。
論文 参考訳（メタデータ） (2023-01-29T15:31:06Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳（メタデータ） (2023-01-16T02:57:37Z) - A Permutation-Free Kernel Independence Test [36.50719125230106]
非パラメトリック独立試験では、i.d. data $(X_i,Y_i)_i=1n$, where $X in MathcalX, Y in MathcalY$ is in any general space。
カーネルHilbert-Schmidt Independence Criterion (HSIC) や Distance Covariance (dCov) のような現代のテスト統計は、基礎となるU統計の縮退により、難解なnull分布を持つ。
本稿では,HSICの簡易かつ非自明な修正について述べる。
論文 参考訳（メタデータ） (2022-12-18T15:28:16Z) - High Probability Bounds for a Class of Nonconvex Algorithms with AdaGrad
Stepsize [55.0090961425708]
本研究では,AdaGradのスムーズな非確率問題に対する簡易な高確率解析法を提案する。
我々はモジュラーな方法で解析を行い、決定論的設定において相補的な$mathcal O (1 / TT)$収束率を得る。
我々の知る限りでは、これは真に適応的なスキームを持つAdaGradにとって初めての高い確率である。
論文 参考訳（メタデータ） (2022-04-06T13:50:33Z) - Nystr\"om Kernel Mean Embeddings [92.10208929236826]
Nystr"om法に基づく効率的な近似手法を提案する。
サブサンプルサイズの条件は標準の$n-1/2$レートを得るのに十分である。
本稿では,この結果の最大誤差と二次規則の近似への応用について論じる。
論文 参考訳（メタデータ） (2022-01-31T08:26:06Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳（メタデータ） (2021-09-24T14:48:20Z) - Taming Nonconvexity in Kernel Feature Selection---Favorable Properties
of the Laplace Kernel [77.73399781313893]
カーネルベースの特徴選択の客観的機能を確立することが課題である。
非言語最適化に利用可能な勾配に基づくアルゴリズムは、局所ミニマへの収束を保証できるだけである。
論文 参考訳（メタデータ） (2021-06-17T11:05:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。