論文の概要: Signed random Fourier features for fast density estimation with indefinite kernels
- arxiv url: http://arxiv.org/abs/2608.29265v1
- Date: Sat, 29 Aug 2026 13:38:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.9062
- Title: Signed random Fourier features for fast density estimation with indefinite kernels
- Title（参考訳）: 不定核を用いた高速密度推定のための符号付きランダムフーリエ特性
- Abstract要約: カーネル密度推定(KDE)は密度関数の最も基本的な統計的推定法の一つである。
これは大規模データセットでは禁止されている$mathcalO(N2)$計算コストを発生させる。
カーネル関数のスペクトル密度のサンプリングに基づくランダムフーリエ特徴(RFF)技術は、カーネル推定器の高速化に人気がある。
- 参考スコア（独自算出の注目度）: 4.03064765804009
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Kernel density estimation (KDE) is one of the most fundamental statistical estimators of density functions. Its direct implementation on a dataset of $N$ points incurs an $\mathcal{O}(N^{2})$ computational cost, which is prohibitive for large-scale datasets. Kernel approximation techniques can be applied to bring the computational cost down to $\mathcal{O}(N)$. The random Fourier features (RFF) technique, based on sampling from the spectral density of the kernel function, has become popular to speed up kernel estimators for machine learning applications. Unfortunately, it is restricted to positive definite kernels, while the majority of kernel functions popular in KDE, such as the parabolic kernel, do not satisfy this property. To overcome this limitation, this article introduces the signed random Fourier features (SRFF) technique. It is a generalization of RFF compatible with indefinite kernels whose inverse Fourier transform is absolutely integrable. The motivation for introducing this method is to speed up KDE in the case of multivariate compact kernels, which are generally not positive definite. We detail how to implement SRFF for both product kernels and isotropic kernels. For the class of Kuttner-Golubov kernels $K(\boldsymbol{x}_{i},\boldsymbol{x}_{j})=(1-\left\Vert \boldsymbol{x}_{i}-\boldsymbol{x}_{j}\right\Vert ^α)^β\mathbf{1}_{\{\left\Vert \boldsymbol{x}_{i}-\boldsymbol{x}_{j}\right\Vert \leq1\}}$ where $\boldsymbol{x}_{i}\in\mathbb{R}^{d}$, $\boldsymbol{x}_{j}\in\mathbb{R}^{d}$, $α>0$, $β>0$, which includes the triangular, parabolic, biweight, triweight, and other kernel functions of interest for KDE as particular examples, we provide an explicit acceptance-rejection algorithm to sample from its signed spectral density. Our numerical tests on a dataset of one million points confirm the computational efficiency and accuracy of SRFF for large-scale KDE.
- Abstract（参考訳）: カーネル密度推定(KDE)は密度関数の最も基本的な統計的推定法の一つである。
N$ポイントのデータセットへの直接実装は、大規模データセットでは禁止される$\mathcal{O}(N^{2})$計算コストを発生させる。
カーネル近似技術を用いて計算コストを$\mathcal{O}(N)$に下げることができる。
カーネル関数のスペクトル密度のサンプリングに基づくランダムフーリエ特徴(RFF)技術は、機械学習アプリケーションにおけるカーネル推定の高速化に人気がある。
残念なことに、これは正定値のカーネルに制限されているが、KDEで人気であるパラボリックカーネルのようなカーネル関数の大部分は、この特性を満足していない。
この制限を克服するために、本稿では、署名されたランダムフーリエ特徴(SRFF)技術を紹介する。
これは、逆フーリエ変換が絶対可積分である不定核との RFF の一般化である。
この手法を導入する動機は、多変量コンパクトカーネルの場合、一般的に正定値ではないKDEを高速化することにある。
製品カーネルと異方性カーネルの両方に対してSRFFを実装する方法について詳述する。
Kuttner-Golubov 核のクラス $K(\boldsymbol{x}_{i},\boldsymbol{x}_{j})=(1-\left\Vert \boldsymbol{x}_{i}-\boldsymbol{x}_{j}\right\Vert ^α)^β\mathbf{1}_{\{\left\Vert \boldsymbol{x}_{i}-\boldsymbol{x}_{j}\right\Vert \leq1\}} ここで$\boldsymbol{x}_{i}\in\mathbb{R}^{d}$1, $0, $0, $0, $0, $0, $\boldsymboldsymbol{x}_{j}in\mathbb{R}^{d}$0, $0, $0, $0, $\boldsymbolt \boldsymbol{x}_{i}-\boldsymboldsymbol{x}_{i}=0, $0, $0, $0, $\boldsymbolt \boldsymboldsymbol {x}_{i}_{i}-\Vert \leq1\}} である。
我々は,大規模KDEにおけるSRFFの計算効率と精度を100万点のデータセットで検証した。
関連論文リスト
- Low-Dimensional Embeddings for Gaussian Kernels on Manifolds [0.42970700836450487]
$mathbb RN$, $t=((d/varepsilon2)log(dR/varepsilon))$ の$d$次元ユークリッド球の点に対して、任意のガウス核距離を保存するのに十分であることを示す。
同様の RFF 埋め込みの下では、ガウス核のパワー距離から作られる重み付き Cech と Rips のフィルターは$(pmvarepsilon_star)$-interleaved という意味で持続的ホモロジーが保存される。
論文 参考訳（メタデータ） (2026-09-14T08:00:56Z) - Near-Optimal Regret in Adversarial Kernel Bandits [50.68324062892194]
本稿では,各ラウンドにおける損失が任意の有界要素によって誘導される逆カーネルバンドイット問題について検討する。
我々の主な結果は、$widetildeObig(sqrtT, d_*(),log|X|big)$, ここでは$d_*()$は有効次元の広く解釈された概念である。
論文 参考訳（メタデータ） (2026-05-26T06:10:24Z) - Tensor Sketch: Fast and Scalable Polynomial Kernel Approximation [19.363672064425504]
ランダムな特徴写像を用いた非線形カーネルの近似は、カーネルメソッドを大規模データセットにスケーリングする強力な手法となった。
近似誤差を理論的に保証し、その結果のカーネル関数の推定精度を保証します。
論文 参考訳（メタデータ） (2025-05-13T00:47:17Z) - On The Relative Error of Random Fourier Features for Preserving Kernel
Distance [7.383448514243228]
有名なラプラシアカーネルを含むかなりの範囲のカーネルに対して、RFFは低次元を用いて小さな相対誤差でカーネル距離を近似することはできないことを示す。
一般シフト不変カーネルに対するデータ公開次元還元に向けての第一歩を踏み出し、ラプラシアンカーネルに対して同様の$mathrmpoly(epsilon-1 log n)$ dimension を得る。
論文 参考訳（メタデータ） (2022-10-01T10:35:12Z) - Learning a Single Neuron with Adversarial Label Noise via Gradient
Descent [50.659479930171585]
モノトン活性化に対する $mathbfxmapstosigma(mathbfwcdotmathbfx)$ の関数について検討する。
学習者の目標は仮説ベクトル $mathbfw$ that $F(mathbbw)=C, epsilon$ を高い確率で出力することである。
論文 参考訳（メタデータ） (2022-06-17T17:55:43Z) - On the Self-Penalization Phenomenon in Feature Selection [69.16452769334367]
カーネル群に基づく暗黙の空間性誘導機構について述べる。
アプリケーションとしては、この疎結合誘導機構を使用して、特徴選択に一貫性のあるアルゴリズムを構築します。
論文 参考訳（メタデータ） (2021-10-12T09:36:41Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳（メタデータ） (2021-10-05T09:33:49Z) - Taming Nonconvexity in Kernel Feature Selection---Favorable Properties
of the Laplace Kernel [77.73399781313893]
カーネルベースの特徴選択の客観的機能を確立することが課題である。
非言語最適化に利用可能な勾配に基づくアルゴリズムは、局所ミニマへの収束を保証できるだけである。
論文 参考訳（メタデータ） (2021-06-17T11:05:48Z) - GO Hessian for Expectation-Based Objectives [73.06986780804269]
GOグラデーションは、最近予測に基づく目的に対して$mathbbE_q_boldsymboldsymboldsymbolgamma(boldsymboly) [f(boldsymboly)]$として提案された。
GO勾配に基づいて、$mathbbE_q_boldsymboldsymboldsymbolgamma(boldsymboly) [f(boldsymboly)]$ an unbiased low-variance Hessian estimator, named GO Hessian を示す。
論文 参考訳（メタデータ） (2020-06-16T02:20:41Z) - Fourier Sparse Leverage Scores and Approximate Kernel Learning [29.104055676527913]
我々はガウス測度とラプラス測度の両方の下でフーリエ関数のレバレッジスコアに新しい明示的な上限を証明した。
私たちの限界は、機械学習における2つの重要な応用によって動機付けられています。
論文 参考訳（メタデータ） (2020-06-12T17:25:39Z) - Linear Time Sinkhorn Divergences using Positive Features [51.50788603386766]
エントロピー正則化で最適な輸送を解くには、ベクトルに繰り返し適用される$ntimes n$ kernel matrixを計算する必要がある。
代わりに、$c(x,y)=-logdotpvarphi(x)varphi(y)$ ここで$varphi$は、地上空間から正のorthant $RRr_+$への写像であり、$rll n$である。
論文 参考訳（メタデータ） (2020-06-12T10:21:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。