論文の概要: Nystr\"om $M$-Hilbert-Schmidt Independence Criterion
- arxiv url: http://arxiv.org/abs/2302.09930v1
- Date: Mon, 20 Feb 2023 11:51:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-21 15:33:44.726776
- Title: Nystr\"om $M$-Hilbert-Schmidt Independence Criterion
- Title(参考訳): nystr\"om $m$-hilbert-schmidt 独立基準
- Authors: Florian Kalinke and Zolt\'an Szab\'o
- Abstract要約: カーネルをユビキタスにする主な特徴は、 (i) 設計された領域の数、 (ii) カーネルに関連する関数クラスのヒルベルト構造、 (iii) 情報を失うことなく確率分布を表現する能力である。
我々は、Mge 2$のケースを処理し、その一貫性を証明し、その適用性を実証する代替のNystr"omベースのHSIC推定器を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Kernel techniques are among the most popular and powerful approaches of data
science. Among the key features that make kernels ubiquitous are (i) the number
of domains they have been designed for, (ii) the Hilbert structure of the
function class associated to kernels facilitating their statistical analysis,
and (iii) their ability to represent probability distributions without loss of
information. These properties give rise to the immense success of
Hilbert-Schmidt independence criterion (HSIC) which is able to capture joint
independence of random variables under mild conditions, and permits closed-form
estimators with quadratic computational complexity (w.r.t. the sample size). In
order to alleviate the quadratic computational bottleneck in large-scale
applications, multiple HSIC approximations have been proposed, however these
estimators are restricted to $M=2$ random variables, do not extend naturally to
the $M\ge 2$ case, and lack theoretical guarantees. In this work, we propose an
alternative Nystr\"om-based HSIC estimator which handles the $M\ge 2$ case,
prove its consistency, and demonstrate its applicability in multiple contexts,
including synthetic examples, dependency testing of media annotations, and
causal discovery.
- Abstract(参考訳): カーネル技術は、データサイエンスの最もポピュラーで強力なアプローチの1つです。
カーネルをユビキタスにする重要な特徴の1つは
(i)彼らが設計した藩の数
(ii)その統計解析を容易にする核に関連する函数類のヒルベルト構造
(iii)情報を失うことなく確率分布を表現する能力。
これらの性質はヒルベルト・シュミット独立基準(HSIC)の大きな成功をもたらし、緩やかな条件下でランダム変数の連立独立を捉え、2次計算複雑性を持つ閉形式推定器(例:サンプルサイズ)を許容する。
大規模アプリケーションにおける二次的計算ボトルネックを軽減するため、複数のHSIC近似が提案されているが、これらの推定値はM=2$ランダム変数に制限され、自然に$M\ge 2$ケースに拡張されず、理論的保証がない。
本研究では,$m\ge 2$ ケースを処理し,一貫性を証明し,合成例,メディアアノテーションの依存性テスト,因果発見など,複数のコンテキストにおける適用性を示す nystr\"om ベースの hsic 推定器を提案する。
関連論文リスト
- Doubly Robust Conditional Independence Testing with Generative Neural Networks [8.323172773256449]
本稿では、第3の確率ベクトル$Z$を与えられた2つのジェネリックランダムベクトル$X$と$Y$の条件独立性をテストする問題に対処する。
条件分布を明示的に推定しない新しい非パラメトリック試験法を提案する。
論文 参考訳(メタデータ) (2024-07-25T01:28:59Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - The Minimax Rate of HSIC Estimation for Translation-Invariant Kernels [0.0]
連続有界変換不変特性核を持つガウス環を含むボレル測度に対する$mathbb Rd$のHSIC推定の最小値が$mathcal O!left(n-1/2right)$であることを証明する。
論文 参考訳(メタデータ) (2024-03-12T15:13:21Z) - Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳(メタデータ) (2024-03-08T18:50:19Z) - A Specialized Semismooth Newton Method for Kernel-Based Optimal
Transport [92.96250725599958]
カーネルベース最適輸送(OT)推定器は、サンプルからOT問題に対処するための代替的機能的推定手順を提供する。
SSN法は, 標準正規性条件下でのグローバル収束率$O (1/sqrtk)$, 局所二次収束率を達成できることを示す。
論文 参考訳(メタデータ) (2023-10-21T18:48:45Z) - Kernelized Cumulants: Beyond Kernel Mean Embeddings [11.448622437140022]
我々は、テンソル代数のツールを用いて、累積をカーネルヒルベルト空間(RKHS)に拡張する。
我々は、次数1を超えることはいくつかの利点があり、同じ計算複雑性と最小限のオーバーヘッドで達成できると主張している。
論文 参考訳(メタデータ) (2023-01-29T15:31:06Z) - A Permutation-Free Kernel Independence Test [36.50719125230106]
非パラメトリック独立試験では、i.d. data $(X_i,Y_i)_i=1n$, where $X in MathcalX, Y in MathcalY$ is in any general space。
カーネルHilbert-Schmidt Independence Criterion (HSIC) や Distance Covariance (dCov) のような現代のテスト統計は、基礎となるU統計の縮退により、難解なnull分布を持つ。
本稿では,HSICの簡易かつ非自明な修正について述べる。
論文 参考訳(メタデータ) (2022-12-18T15:28:16Z) - Nonparametric extensions of randomized response for private confidence sets [51.75485869914048]
本研究は,局所的差分プライバシー(LDP)の制約の下で,集団平均の非パラメトリック,非漸近的統計的推測を行う手法を導出する。
民営化データへのアクセスのみを与えられた場合、$mustar$に対して信頼区間(CI)と時間一様信頼シーケンス(CS)を提示する。
論文 参考訳(メタデータ) (2022-02-17T16:04:49Z) - Nystr\"om Kernel Mean Embeddings [92.10208929236826]
Nystr"om法に基づく効率的な近似手法を提案する。
サブサンプルサイズの条件は標準の$n-1/2$レートを得るのに十分である。
本稿では,この結果の最大誤差と二次規則の近似への応用について論じる。
論文 参考訳(メタデータ) (2022-01-31T08:26:06Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Nonparametric approximation of conditional expectation operators [0.3655021726150368]
最小の仮定の下で、$[Pf](x) := mathbbE[f(Y) mid X = x ]$ で定義される$L2$-operatorの近似について検討する。
我々は、再生されたカーネル空間上で作用するヒルベルト・シュミット作用素により、作用素ノルムにおいて$P$が任意に適切に近似できることを証明した。
論文 参考訳(メタデータ) (2020-12-23T19:06:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。