論文の概要: Trigonometric Quadrature Fourier Features for Scalable Gaussian Process
Regression
- arxiv url: http://arxiv.org/abs/2310.14544v1
- Date: Mon, 23 Oct 2023 03:53:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-24 22:51:46.025370
- Title: Trigonometric Quadrature Fourier Features for Scalable Gaussian Process
Regression
- Title(参考訳): スケーラブルガウス過程回帰のための三角四分法フーリエ特性
- Authors: Kevin Li, Max Balakirsky, Simon Mak
- Abstract要約: QFF(Quardrature Fourier Features)は、近似精度の向上とキャリブレーションの不確実性評価の改善により近年人気を集めている。
QFFの鍵となる限界は、その性能が高振動性二次状態に関連するよく知られた病態に悩まされることである。
我々は、新しい非ガウスの二次法則を用いる新しい三角四分法フーリエ法(TQFF)により、この問題に対処する。
- 参考スコア(独自算出の注目度): 3.577968559443225
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Fourier feature approximations have been successfully applied in the
literature for scalable Gaussian Process (GP) regression. In particular,
Quadrature Fourier Features (QFF) derived from Gaussian quadrature rules have
gained popularity in recent years due to their improved approximation accuracy
and better calibrated uncertainty estimates compared to Random Fourier Feature
(RFF) methods. However, a key limitation of QFF is that its performance can
suffer from well-known pathologies related to highly oscillatory quadrature,
resulting in mediocre approximation with limited features. We address this
critical issue via a new Trigonometric Quadrature Fourier Feature (TQFF)
method, which uses a novel non-Gaussian quadrature rule specifically tailored
for the desired Fourier transform. We derive an exact quadrature rule for TQFF,
along with kernel approximation error bounds for the resulting feature map. We
then demonstrate the improved performance of our method over RFF and Gaussian
QFF in a suite of numerical experiments and applications, and show the TQFF
enjoys accurate GP approximations over a broad range of length-scales using
fewer features.
- Abstract(参考訳): 拡張ガウス過程(GP)回帰の文献においてフーリエ特徴近似がうまく適用されている。
特に、ガウスの二次規則から派生したQFF(Quardrature Fourier Features)は、Random Fourier Feature (RFF)法と比較して近似精度の向上とキャリブレーションの不確実性評価の改善により近年人気を博している。
しかしながら、qffの鍵となる制限は、その性能が高振動二次数に関するよく知られた病理に苦しむ可能性があることである。
提案手法は, 所望のフーリエ変換に特化された新しい非ガウス二次法則を用いて, 新たな三角四分法フーリエ特徴量(TQFF)法を用いて, この問題に対処する。
我々は、TQFFの正確な二次規則と、得られた特徴写像のカーネル近似誤差境界を導出する。
次に, RFF と Gaussian QFF による提案手法の性能向上を数値実験および応用で実証し, より少ない特徴量を用いて, TQFF が広い範囲にわたるGP近似を満足することを示す。
関連論文リスト
- On the design of scalable, high-precision spherical-radial Fourier features [5.216151302783165]
我々は、その等方性を利用して高次元のガウス測度を正確に近似する新しい二次規則の族を導入する。
従来の研究と比較して,本手法は近似誤差を徹底的に解析し,ラジアル成分と球面成分の両方に対する自然な選択を示唆している。
論文 参考訳(メタデータ) (2024-08-23T17:11:25Z) - Data-Driven Filter Design in FBP: Transforming CT Reconstruction with Trainable Fourier Series [3.6508148866314163]
本稿では,FBPフレームワーク内にCT再構成のためのトレーニング可能なフィルタを導入する。
この方法は、フーリエ級数係数を最適化してフィルタを構成することにより、ノイズ低減の限界を克服する。
本フィルタは既存のCT再構成モデルに容易に組み込めるので,幅広い応用に適応できるツールである。
論文 参考訳(メタデータ) (2024-01-29T10:47:37Z) - Neural Fields with Thermal Activations for Arbitrary-Scale Super-Resolution [56.089473862929886]
本稿では,適応型ガウスPSFを用いて点を問合せできる新しい設計手法を提案する。
理論的に保証されたアンチエイリアスにより、任意のスケールの単一画像の超解像のための新しい手法が確立される。
論文 参考訳(メタデータ) (2023-11-29T14:01:28Z) - Fourier Continuation for Exact Derivative Computation in
Physics-Informed Neural Operators [53.087564562565774]
PINOは、偏微分方程式を学習するための有望な実験結果を示す機械学習アーキテクチャである。
非周期問題に対して、フーリエ継続(FC)を利用して正確な勾配法をPINOに適用するアーキテクチャを提案する。
論文 参考訳(メタデータ) (2022-11-29T06:37:54Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Sigma-Delta and Distributed Noise-Shaping Quantization Methods for
Random Fourier Features [73.25551965751603]
我々は、量子化 RFF が基礎となるカーネルの高精度な近似を可能にすることを証明した。
量子化 RFF はさらに圧縮され,メモリ使用量と精度のトレードオフに優れることを示す。
本手法は,この文脈におけるアート量子化手法の他の状態と比較し,いくつかの機械学習タスクにおいて,提案手法の性能を実証的に示す。
論文 参考訳(メタデータ) (2021-06-04T17:24:47Z) - Bias-Free Scalable Gaussian Processes via Randomized Truncations [26.985324213848475]
本稿では,初期乱れ共役勾配 (CG) とランダムフーリエ特徴 (RFF) の2つの共通手法を解析する。
CGは不適合になり、RFFは不適合になりがちです。
分散の増大と引き換えにバイアスを排除したランダム化トランケーション推定器を用いて,これらの問題に対処する。
論文 参考訳(メタデータ) (2021-02-12T18:54:10Z) - Learning Set Functions that are Sparse in Non-Orthogonal Fourier Bases [73.53227696624306]
フーリエスパース集合関数を学習するための新しいアルゴリズム群を提案する。
Walsh-Hadamard変換に焦点をあてた他の研究とは対照的に、我々の新しいアルゴリズムは最近導入された非直交フーリエ変換で機能する。
いくつかの実世界のアプリケーションで有効性を示す。
論文 参考訳(メタデータ) (2020-10-01T14:31:59Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。