論文の概要: The Uniformly Rotated Mondrian Kernel
- arxiv url: http://arxiv.org/abs/2502.04323v1
- Date: Thu, 06 Feb 2025 18:59:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-07 14:31:16.166288
- Title: The Uniformly Rotated Mondrian Kernel
- Title(参考訳): 一様回転モンドリアンカーネル
- Authors: Calvin Osborne, Eliza O'Reilly,
- Abstract要約: モンドリアンカーネルはラプラスカーネルの高速なランダムな特徴近似の例である。
このランダムな特徴写像の変動を,一様に回転したモンドリアン過程を用いて検討する。
この等方性核に対する閉形式表現と、一様回転したモンドリアン核の一様収束率を得る。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: First proposed by Rahimi and Recht, random features are used to decrease the computational cost of kernel machines in large-scale problems. The Mondrian kernel is one such example of a fast random feature approximation of the Laplace kernel, generated by a computationally efficient hierarchical random partition of the input space known as the Mondrian process. In this work, we study a variation of this random feature map by using uniformly randomly rotated Mondrian processes to approximate a kernel that is invariant under rotations. We obtain a closed-form expression for this isotropic kernel, as well as a uniform convergence rate of the uniformly rotated Mondrian kernel to this limit. To this end, we utilize techniques from the theory of stationary random tessellations in stochastic geometry and prove a new result on the geometry of the typical cell of the superposition of uniformly random rotations of Mondrian tessellations. Finally, we test the empirical performance of this random feature map on both synthetic and real-world datasets, demonstrating its improved performance over the Mondrian kernel on a debiased dataset.
- Abstract(参考訳): Rahimi と Recht が最初に提案したランダムな特徴は、大規模な問題におけるカーネルマシンの計算コストの削減に使用される。
モンドリアン・カーネル (Mondrian kernel) は、ラプラス・カーネルの高速なランダムな特徴近似の例であり、モンドリアン・プロセス (Mondrian process) として知られる入力空間の計算効率の良い階層的ランダム分割によって生成される。
本研究では、このランダムな特徴写像の変動を、一様にランダムに回転したモンドリアン過程を用いて、回転の下で不変なカーネルを近似する。
この等方性核に対する閉形式表現と、一様に回転したモンドリアン核のこの極限への一様収束率を得る。
この目的のために、確率幾何学における定常的ランダム・テッセレーションの理論の技法を利用し、モンドリアン・テッセレーションの一様ランダム・ローテーションの重ね合わせの典型的なセルの幾何学に関する新しい結果を示す。
最後に、このランダムな特徴マップの合成および実世界の両方のデータセット上での経験的性能を検証し、デバイアス付きデータセット上でのMondrianカーネル上での性能改善を実証した。
関連論文リスト
- von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Kernel quadrature with randomly pivoted Cholesky [0.0]
本稿では、ランダムにピボットされたチョーレスキーと呼ばれるサンプリングアルゴリズムによって引き起こされたノードを用いて、再生カーネルヒルベルト空間の関数に対する新しい二次規則を提案する。
その結果、ランダムにピボットされたコレスキーは高速で、より計算に高価な二次スキームに匹敵する4次誤差率が得られることが示された。
論文 参考訳(メタデータ) (2023-06-06T18:33:40Z) - Simplex Random Features [53.97976744884616]
ソフトマックスおよびガウスカーネルの非バイアス近似のための新しいランダム特徴(RF)機構であるSimplex Random Features (SimRFs)を提案する。
我々は,これらのカーネルの非バイアス推定値に対して,SimRFが最小平均二乗誤差(MSE)を提供することを示す。
ポイントワイドカーネル推定,非パラメトリック分類,スケーラブルトランスフォーマーなどの設定において,SimRFによる一貫したゲインを示す。
論文 参考訳(メタデータ) (2023-01-31T18:53:39Z) - Local Random Feature Approximations of the Gaussian Kernel [14.230653042112834]
本稿では,一般的なガウスカーネルと,ランダムな特徴近似を用いてカーネルベースモデルを線形化する手法に着目する。
このような手法は、高周波データをモデル化する際、悪い結果をもたらすことを示すとともに、カーネル近似と下流性能を大幅に改善する新たなローカライズ手法を提案する。
論文 参考訳(メタデータ) (2022-04-12T09:52:36Z) - Gaussian Processes and Statistical Decision-making in Non-Euclidean
Spaces [96.53463532832939]
我々はガウス過程の適用性を高める技術を開発した。
この観点から構築した効率的な近似を幅広く導入する。
非ユークリッド空間上のガウス過程モデルの集合を開発する。
論文 参考訳(メタデータ) (2022-02-22T01:42:57Z) - Geometry-aware Bayesian Optimization in Robotics using Riemannian
Mat\'ern Kernels [64.62221198500467]
ベイズ最適化のための幾何対応カーネルの実装方法を示す。
この技術は、ロボット工学における制御パラメータチューニング、パラメトリックポリシー適応、構造設計に利用できる。
論文 参考訳(メタデータ) (2021-11-02T09:47:22Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-06-18T08:33:45Z) - Sparse Gaussian Processes via Parametric Families of Compactly-supported
Kernels [0.6091702876917279]
本稿では,コンパクトなサポートを持つカーネル関数のパラメトリック族を導出する手法を提案する。
この種類のカーネルのパラメータは、最大推定値を用いてデータから学習することができる。
これらの近似は、ターゲットGPから直接描画されたデータをモデル化する際に、正確なモデルに対して最小限の誤差を生じさせることを示す。
論文 参考訳(メタデータ) (2020-06-05T20:44:09Z) - Scaling up Kernel Ridge Regression via Locality Sensitive Hashing [6.704115928005158]
ランダムな双対関数の重み付け版を導入し、対応するカーネル関数が滑らかなガウス過程を生成することを示す。
重み付けされたランダムなバイナリ化特徴は、対応するカーネル行列にスペクトル近似を与え、カーネルリッジ回帰の効率的なアルゴリズムをもたらすことを示す。
論文 参考訳(メタデータ) (2020-03-21T21:41:16Z) - Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。
我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。
また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
論文 参考訳(メタデータ) (2020-02-16T09:01:18Z) - Stochastic geometry to generalize the Mondrian Process [0.0]
離散分布から引き出されたカット方向のSTITプロセスは,高次元軸方向のモンドリアン過程に昇降することにより効率的にシミュレーションできることを示す。
また、静止STITプロセスとそれらの混合物が近似できる全ての可能なカーネルを特徴付ける。
これにより、密度推定において、モンドリアンの森、モンドリアンのカーネル、ラプラスのカーネルの正確な比較が可能になる。
論文 参考訳(メタデータ) (2020-02-03T14:47:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。