論文の概要: Kernel Selection is Model Selection: A Unified Complexity-Penalized Approach for MMD Two-Sample Tests
- arxiv url: http://arxiv.org/abs/2605.06883v1
- Date: Thu, 07 May 2026 19:32:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:38.581466
- Title: Kernel Selection is Model Selection: A Unified Complexity-Penalized Approach for MMD Two-Sample Tests
- Title(参考訳): カーネル選択はモデル選択:MDD2サンプルテストのための統一複雑化ペナライズされたアプローチ
- Authors: Yijin Ni, Xiaoming Huo,
- Abstract要約: Maximum Maximum Discrepancy (MMD) は、非パラメトリックな2サンプルテストの統計である。
MMDは完全に選択されたカーネルによって制御される。
複雑化MDD(CP-MMD)を提案する。
CP-MMDは、線形でパラメトリックな状態と、最先端のテストパワーのマッチングや超過といった、深いばらつきにまたがるグリッドフリーなカーネル選択を可能にする。
- 参考スコア(独自算出の注目度): 12.805268849262243
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The Maximum Mean Discrepancy (MMD) is a cornerstone statistic for nonparametric two-sample testing, but its test power is dictated entirely by the chosen kernel. Because any fixed kernel inherently fails to distinguish certain distributions, the kernel must be dynamically optimized. However, data-driven optimization violates the foundational i.i.d. assumption, forcing a strict trade-off in existing frameworks. Ratio criteria ignore this dependence, inducing overfitting and variance collapse on rich kernel classes. Conversely, aggregation methods bypass the dependence using finite grids, but this strategy cannot scale to continuous search spaces like deep kernels. To break this dichotomy, we establish data-driven kernel selection as a model selection problem. We propose Complexity-Penalized MMD (CP-MMD), a criterion derived by applying the two-sample uniform concentration inequality of preceding works to the post-optimization MMD problem. The resulting penalty bounds the empirical MMD by the complexity of the kernel search space, mathematically absorbing the cost of optimization, so that CP-MMD enables direct, grid-free maximization over continuous parametric classes, including scalar bandwidths, polynomial feature bandwidths, and deep network parameters. By formally accounting for optimization complexity, we prove that CP-MMD maximizes true test power while ensuring unconditional Type-I validity. Consequently, CP-MMD enables grid-free kernel selection across linear, polynomial-feature, and deep regimes, matching or exceeding state-of-the-art test power.
- Abstract(参考訳): Maximum Mean Discrepancy (MMD) は、非パラメトリックな2サンプルテストの基盤となる統計量であるが、そのテスト能力は選択されたカーネルによって決定される。
固定化されたカーネルは本質的に特定のディストリビューションを区別できないため、カーネルは動的に最適化されなければならない。
しかし、データ駆動最適化は基礎的な前提に反し、既存のフレームワークで厳格なトレードオフを強いる。
比率基準はこの依存を無視し、リッチカーネルクラスに過剰適合と分散崩壊を引き起こす。
逆に、アグリゲーション手法は有限格子による依存をバイパスするが、この戦略はディープカーネルのような連続的な探索空間に拡張することはできない。
この二分法を破るために、モデル選択問題としてデータ駆動型カーネル選択を確立する。
本報告では, ポスト最適化MDD問題に対して, 前処理の2サンプル均一濃度不等式を適用した条件である複雑化MDD(CP-MMD)を提案する。
結果として生じるペナルティは、カーネル探索空間の複雑さによって制限され、数学的に最適化コストを吸収するため、CP-MMDはスカラー帯域幅、多項式特徴帯域幅、ディープネットワークパラメータを含む連続パラメトリッククラスに対して直接、グリッドフリーの最大化を可能にする。
最適化の複雑さを公式に説明することにより、CP-MMDは非条件のType-I妥当性を確保しつつ、真のテストパワーを最大化することを示す。
その結果、CP-MMDは、線形、多項式機能、ディープレジームにまたがるグリッドフリーなカーネル選択を可能にし、最先端のテストパワーに適合または超えることができる。
関連論文リスト
- A Unified View of Optimal Kernel Hypothesis Testing [3.1727619150610837]
本稿では,MDD の2サンプル,HSIC 独立性,KSD に適したフレームワーク間の最適なカーネル仮説テストの統一的な視点を提供する。
カーネルの最適分離率と$L2$のメトリクスを2つの適応的なカーネル選択法で示す。
論文 参考訳(メタデータ) (2025-03-10T09:06:40Z) - Efficiently Training Deep-Learning Parametric Policies using Lagrangian Duality [55.06411438416805]
制約付きマルコフ決定プロセス(CMDP)は、多くの高度な応用において重要である。
本稿では,パラメトリックアクターポリシーを効率的に訓練するための2段階深度決定規則(TS-DDR)を提案する。
現状の手法と比較して, 解の質を高め, 数桁の計算時間を削減できることが示されている。
論文 参考訳(メタデータ) (2024-05-23T18:19:47Z) - MMD-FUSE: Learning and Combining Kernels for Two-Sample Testing Without
Data Splitting [28.59390881834003]
最大平均離散性(MMD)に基づく2サンプルテストのパワーを最大化する新しい統計法を提案する。
これらのカーネルは、データ分割を避けるために、よく校正されたテストで、データ依存だが置換に依存しない方法でどのように選択できるかを示す。
我々は,合成低次元および実世界の高次元データに対するMDD-FUSEテストの適用性を強調し,その性能を現状のカーネルテストと比較した。
論文 参考訳(メタデータ) (2023-06-14T23:13:03Z) - Boosting the Power of Kernel Two-Sample Tests [4.07125466598411]
最大平均誤差(MMD)に基づくカーネル2サンプルテストは、一般的な距離空間上の2つの分布の違いを検出する最も一般的な方法の1つである。
マハラノビス距離を用いて,複数のカーネル上でMDD推定値を組み合わせることで,カーネルテストのパワーを高める手法を提案する。
論文 参考訳(メタデータ) (2023-02-21T14:14:30Z) - Targeted Separation and Convergence with Kernel Discrepancies [61.973643031360254]
カーネルベースの不一致測度は、(i)ターゲットPを他の確率測度から分離するか、(ii)Pへの弱収束を制御する必要がある。
本稿では, (i) と (ii) を保証するのに十分な,必要な新しい条件を導出する。
可分距離空間上のMDDに対して、ボヒナー埋め込み可測度を分離するカーネルを特徴づけ、すべての測度を非有界カーネルと分離するための単純な条件を導入する。
論文 参考訳(メタデータ) (2022-09-26T16:41:16Z) - MMD Aggregated Two-Sample Test [31.116276769013204]
平均最大離散性(MMD)に基づく2つの新しい非パラメトリック2サンプルカーネルテストを提案する。
まず、固定化されたカーネルに対して、置換またはワイルドブートストラップを用いてMDDテストを構築し、テストしきい値を決定するために2つの一般的な数値処理を行う。
本研究では,この実験が非漸近的にレベルを制御し,反復対数項までソボレフ球の最小値を達成することを証明した。
論文 参考訳(メタデータ) (2021-10-28T12:47:49Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-06-18T08:33:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。