論文の概要: Sampling-based Nystr\"om Approximation and Kernel Quadrature
- arxiv url: http://arxiv.org/abs/2301.09517v1
- Date: Mon, 23 Jan 2023 16:05:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-24 13:08:28.554017
- Title: Sampling-based Nystr\"om Approximation and Kernel Quadrature
- Title(参考訳): サンプリングに基づくnystr\"om近似とカーネル二次
- Authors: Satoshi Hayakawa, Harald Oberhauser, Terry Lyons
- Abstract要約: 確率測度に付随する正定値核の「Nystr」近似を解析する。
まず、サンプリングと特異値分解による従来のNystr"om近似の誤差境界の改善を証明した。
次に、Nystr "om approximation において、非i.d.ランドマーク点に適用可能な理論的保証を持つ部分空間の洗練された選択を導入する。
- 参考スコア(独自算出の注目度): 8.658596218544774
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We analyze the Nystr\"om approximation of a positive definite kernel
associated with a probability measure. We first prove an improved error bound
for the conventional Nystr\"om approximation with i.i.d. sampling and
singular-value decomposition in the continuous regime; the proof techniques are
borrowed from statistical learning theory. We further introduce a refined
selection of subspaces in Nystr\"om approximation with theoretical guarantees
that is applicable to non-i.i.d. landmark points. Finally, we discuss their
application to convex kernel quadrature and give novel theoretical guarantees
as well as numerical observations.
- Abstract(参考訳): 確率測度に付随する正定値核のnystr\"om近似を解析した。
まず,従来のnystr\"om近似に対する連続的なサンプリングと特異値分解による誤差境界の改善を証明し,その証明手法を統計的学習理論から借用する。
我々はさらに,非i.i.d.ランドマーク点に適用可能な理論的保証を伴うnystr\"om近似における部分空間の洗練された選択を導入する。
最後に, 核の凸二次体への応用について論じ, 数値観測だけでなく理論上の新たな保証を与える。
関連論文リスト
- A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Provable convergence guarantees for black-box variational inference [19.421222110188605]
ブラックボックスの変分推論は、最適化が成功する証拠がない状況で広く使われている。
我々は,現実的な推論問題に実際に用いられている手法と同様の手法が収束するという厳密な保証を提供する。
論文 参考訳(メタデータ) (2023-06-04T11:31:41Z) - Local optimisation of Nystr\"om samples through stochastic gradient
descent [32.53634754382956]
我々は、Nystrの近似精度を評価するために用いられる古典的基準のサロゲートとして、二乗カーネルの差分基準の未加重変動を考慮する。
我々は、放射状SKDの局所最小化が、Nystr"omサンプルを改良したNystr"om近似精度で得られることを示す数値実験を行った。
論文 参考訳(メタデータ) (2022-03-24T18:17:27Z) - Nystr\"om Kernel Mean Embeddings [92.10208929236826]
Nystr"om法に基づく効率的な近似手法を提案する。
サブサンプルサイズの条件は標準の$n-1/2$レートを得るのに十分である。
本稿では,この結果の最大誤差と二次規則の近似への応用について論じる。
論文 参考訳(メタデータ) (2022-01-31T08:26:06Z) - Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。
演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
論文 参考訳(メタデータ) (2022-01-21T02:46:57Z) - A Stochastic Newton Algorithm for Distributed Convex Optimization [62.20732134991661]
均質な分散凸最適化のためのNewtonアルゴリズムを解析し、各マシンが同じ人口目標の勾配を計算する。
提案手法は,既存の手法と比較して,性能を損なうことなく,必要な通信ラウンドの数,頻度を低減できることを示す。
論文 参考訳(メタデータ) (2021-10-07T17:51:10Z) - Positively Weighted Kernel Quadrature via Subsampling [8.250374560598495]
一般領域における確率測度に対する正重み付きカーネル二次規則について検討する。
これにより、正重みと最小ケース誤差の少ないカーネル二次規則を効率的に構築するアルゴリズムが実現される。
論文 参考訳(メタデータ) (2021-07-20T16:18:56Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Fast Statistical Leverage Score Approximation in Kernel Ridge Regression [12.258887270632869]
Nystr"om approximationは、カーネルリッジ回帰(KRR)問題を迅速に解決する高速ランダム化方法です。
本稿では,静止Kernel-based KRRの統計的レバレッジスコアを正確に推定する線形時間アルゴリズム(モジュロポリログ項)を提案する。
論文 参考訳(メタデータ) (2021-03-09T05:57:08Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳(メタデータ) (2020-05-20T15:01:03Z) - Diversity sampling is an implicit regularization for kernel methods [13.136143245702915]
多様なランドマークを持つNystrのカーネルレグレッションにより,データセットのスペーサー領域におけるレグレッションの精度が向上することを示す。
正確な DPP サンプリングが現実的に実現不可能な場合, 大規模なデータセット内で大きなサイズのサンプルを選択するために, グリーディも提案されている。
論文 参考訳(メタデータ) (2020-02-20T08:24:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。