論文の概要: On the design of scalable, high-precision spherical-radial Fourier features

• arxiv url: http://arxiv.org/abs/2408.13231v1
• Date: Fri, 23 Aug 2024 17:11:25 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-26 14:20:44.768233
• Title: On the design of scalable, high-precision spherical-radial Fourier features
• Title（参考訳）: スケーラブルで高精度な球面ラジアルフーリエ関数の設計について
• Authors: Ayoub Belhadji, Qianyu Julie Zhu, Youssef Marzouk,
• Abstract要約: 我々は、その等方性を利用して高次元のガウス測度を正確に近似する新しい二次規則の族を導入する。 従来の研究と比較して,本手法は近似誤差を徹底的に解析し,ラジアル成分と球面成分の両方に対する自然な選択を示唆している。
• 参考スコア（独自算出の注目度）: 5.216151302783165
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Approximation using Fourier features is a popular technique for scaling kernel methods to large-scale problems, with myriad applications in machine learning and statistics. This method replaces the integral representation of a shift-invariant kernel with a sum using a quadrature rule. The design of the latter is meant to reduce the number of features required for high-precision approximation. Specifically, for the squared exponential kernel, one must design a quadrature rule that approximates the Gaussian measure on $\mathbb{R}^d$. Previous efforts in this line of research have faced difficulties in higher dimensions. We introduce a new family of quadrature rules that accurately approximate the Gaussian measure in higher dimensions by exploiting its isotropy. These rules are constructed as a tensor product of a radial quadrature rule and a spherical quadrature rule. Compared to previous work, our approach leverages a thorough analysis of the approximation error, which suggests natural choices for both the radial and spherical components. We demonstrate that this family of Fourier features yields improved approximation bounds.
• Abstract（参考訳）: Fourier機能を使用した近似は、大規模な問題にカーネルメソッドをスケーリングするための一般的なテクニックであり、機械学習や統計学に無数の応用がある。 この方法はシフト不変カーネルの積分表現を二次規則を用いた和に置き換える。 後者の設計は、高精度近似に必要な特徴の数を減らすことを目的としている。 具体的には、平方指数核に対して、$\mathbb{R}^d$ 上のガウス測度を近似する二次規則を設計しなければならない。 この研究のこれまでの努力は、高次元において困難に直面してきた。 我々は、その等方性を利用して高次元のガウス測度を正確に近似する新しい二次規則の族を導入する。 これらの規則は、放射状二次規則と球状二次規則のテンソル積として構成される。 従来の研究と比較して,本手法は近似誤差を徹底的に解析し,ラジアル成分と球面成分の両方に対する自然な選択を示唆している。 このフーリエ特徴の族は近似境界を改良することを示した。

関連論文リスト

• von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
  円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。 後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• Sketching the Heat Kernel: Using Gaussian Processes to Embed Data [4.220336689294244]
  本稿では, ガウス過程の実現に基づく低次元ユークリッド空間にデータを埋め込む新しい非決定論的手法を提案する。 我々の手法は、その強靭性から外れ値へのさらなる優位性を示す。
  論文  参考訳（メタデータ） (2024-03-01T22:56:19Z)
• Implicit Manifold Gaussian Process Regression [49.0787777751317]
  ガウス過程の回帰は、よく校正された不確実性推定を提供するために広く用いられている。 これは、データが実際に存在する暗黙の低次元多様体のため、高次元データに苦しむ。 本稿では,データ(ラベル付きおよびラベルなし)から直接暗黙構造を完全に微分可能な方法で推定できる手法を提案する。
  論文  参考訳（メタデータ） (2023-10-30T09:52:48Z)
• Trigonometric Quadrature Fourier Features for Scalable Gaussian Process Regression [3.577968559443225]
  QFF(Quardrature Fourier Features)は、近似精度の向上とキャリブレーションの不確実性評価の改善により近年人気を集めている。 QFFの鍵となる限界は、その性能が高振動性二次状態に関連するよく知られた病態に悩まされることである。 我々は、新しい非ガウスの二次法則を用いる新しい三角四分法フーリエ法(TQFF)により、この問題に対処する。
  論文  参考訳（メタデータ） (2023-10-23T03:53:09Z)
• Isotropic Gaussian Processes on Finite Spaces of Graphs [71.26737403006778]
  種々の非重み付きグラフの集合上でガウス過程の先行を定義するための原理的手法を提案する。 さらに、未重み付きグラフの同値類の集合を検討し、それに対する事前の適切なバージョンを定義する。 化学の応用に触発されて、我々は、小データ構造における実際の分子特性予測タスクについて、提案手法を解説した。
  論文  参考訳（メタデータ） (2022-11-03T10:18:17Z)
• Compressive Fourier collocation methods for high-dimensional diffusion equations with periodic boundary conditions [7.80387197350208]
  高次元偏微分方程式(英: High-dimensional partial Differential Equations, PDE)は、ファイナンスから計算化学まで多岐にわたる数学モデリングツールである。 これらのPDEを解くための標準的な数値技術は、典型的には次元の呪いの影響を受けている。 高次元におけるスパース関数近似の最近の進歩に触発されて、圧縮フーリエコロケーションと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-06-02T19:11:27Z)
• Gaussian Processes and Statistical Decision-making in Non-Euclidean Spaces [96.53463532832939]
  我々はガウス過程の適用性を高める技術を開発した。 この観点から構築した効率的な近似を幅広く導入する。 非ユークリッド空間上のガウス過程モデルの集合を開発する。
  論文  参考訳（メタデータ） (2022-02-22T01:42:57Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)
• Least squares surface reconstruction on arbitrary domains [30.354512876068085]
  2D Savitzky-GolayフィルタとK-nearest近傍カーネルに基づく数値微分の計算法を提案する。 同じ定式化を用いて、線形最小二乗問題として、正書法と直視高の両方を記述する方法を示す。 我々は,合成データと実データの両方において,最先端技術に対する性能向上を実証した。
  論文  参考訳（メタデータ） (2020-07-16T21:33:39Z)
• SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
  本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。 我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
  論文  参考訳（メタデータ） (2020-03-05T14:33:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。