論文の概要: A general technique for approximating high-dimensional empirical kernel matrices

• arxiv url: http://arxiv.org/abs/2511.03892v1
• Date: Wed, 05 Nov 2025 22:36:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-07 20:17:53.230865
• Title: A general technique for approximating high-dimensional empirical kernel matrices
• Title（参考訳）: 高次元経験的カーネル行列の近似法
• Authors: Chiraag Kaushik, Justin Romberg, Vidya Muthukumar,
• Abstract要約: カーネル関数 $k(cdot,cdot)$ 上でランダムなカーネル行列の期待作用素ノルムに対するユーザフレンドリなバウンダリを示す。 次に,本手法を適用し,一般高次元データに基づく内積カーネル行列のより厳密な近似法を提案する。
• 参考スコア（独自算出の注目度）: 16.583173656638806
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present simple, user-friendly bounds for the expected operator norm of a random kernel matrix under general conditions on the kernel function $k(\cdot,\cdot)$. Our approach uses decoupling results for U-statistics and the non-commutative Khintchine inequality to obtain upper and lower bounds depending only on scalar statistics of the kernel function and a ``correlation kernel'' matrix corresponding to $k(\cdot,\cdot)$. We then apply our method to provide new, tighter approximations for inner-product kernel matrices on general high-dimensional data, where the sample size and data dimension are polynomially related. Our method obtains simplified proofs of existing results that rely on the moment method and combinatorial arguments while also providing novel approximation results for the case of anisotropic Gaussian data. Finally, using similar techniques to our approximation result, we show a tighter lower bound on the bias of kernel regression with anisotropic Gaussian data.
• Abstract（参考訳）: 我々は、カーネル関数 $k(\cdot,\cdot)$ の一般的な条件下で、ランダムなカーネル行列の期待された作用素ノルムに対して、単純でユーザフレンドリな境界を示す。 提案手法では, カーネル関数のスカラー統計量と$k(\cdot,\cdot)$に対応する ‘correlation kernel'' 行列にのみ依存する上界と下界を得るために, U-統計学と非可換なKhintchine不等式に対するデカップリング結果を用いる。 次に,本手法を適用して,サンプルサイズとデータ次元が多項式関係である一般高次元データに対して,内積カーネル行列のより厳密な近似を行う。 提案手法は,モーメント法と組合せ論に基づく既存の結果の簡易な証明と,異方性ガウスデータに対する新しい近似結果を提供する。 最後に, 近似結果に類似した手法を用いて, 異方性ガウスデータによるカーネル回帰のバイアスがより小さくなることを示す。

関連論文リスト

• Entrywise error bounds for low-rank approximations of kernel matrices [55.524284152242096]
  切り抜き固有分解を用いて得られたカーネル行列の低ランク近似に対するエントリーワイド誤差境界を導出する。 重要な技術的革新は、小さな固有値に対応するカーネル行列の固有ベクトルの非局在化結果である。 我々は、合成および実世界のデータセットの集合に関する実証的研究により、我々の理論を検証した。
  論文  参考訳（メタデータ） (2024-05-23T12:26:25Z)
• Local Random Feature Approximations of the Gaussian Kernel [14.230653042112834]
  本稿では,一般的なガウスカーネルと,ランダムな特徴近似を用いてカーネルベースモデルを線形化する手法に着目する。 このような手法は、高周波データをモデル化する際、悪い結果をもたらすことを示すとともに、カーネル近似と下流性能を大幅に改善する新たなローカライズ手法を提案する。
  論文  参考訳（メタデータ） (2022-04-12T09:52:36Z)
• How Good are Low-Rank Approximations in Gaussian Process Regression? [28.392890577684657]
  2つの共通低ランクカーネル近似による近似ガウス過程(GP)回帰の保証を提供する。 理論境界の有効性を評価するため,シミュレーションデータと標準ベンチマークの両方について実験を行った。
  論文  参考訳（メタデータ） (2021-12-13T04:04:08Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• Random extrapolation for primal-dual coordinate descent [61.55967255151027]
  本稿では,データ行列の疎度と目的関数の好適な構造に適応する,ランダムに外挿した原始-双対座標降下法を提案する。 一般凸凹の場合, 主対差と目的値に対するシーケンスのほぼ確実に収束と最適サブ線形収束率を示す。
  論文  参考訳（メタデータ） (2020-07-13T17:39:35Z)
• Sparse Gaussian Processes via Parametric Families of Compactly-supported Kernels [0.6091702876917279]
  本稿では,コンパクトなサポートを持つカーネル関数のパラメトリック族を導出する手法を提案する。 この種類のカーネルのパラメータは、最大推定値を用いてデータから学習することができる。 これらの近似は、ターゲットGPから直接描画されたデータをモデル化する際に、正確なモデルに対して最小限の誤差を生じさせることを示す。
  論文  参考訳（メタデータ） (2020-06-05T20:44:09Z)
• How Good are Low-Rank Approximations in Gaussian Process Regression? [24.09582049403961]
  2つの共通低ランクカーネル近似による近似ガウス過程(GP)回帰の保証を提供する。 理論境界の有効性を評価するため,シミュレーションデータと標準ベンチマークの両方について実験を行った。
  論文  参考訳（メタデータ） (2020-04-03T14:15:10Z)
• Improved guarantees and a multiple-descent curve for Column Subset Selection and the Nystr\"om method [76.73096213472897]
  我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。 我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。 RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
  論文  参考訳（メタデータ） (2020-02-21T00:43:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。