論文の概要: KF-PLS: Optimizing Kernel Partial Least-Squares (K-PLS) with Kernel
Flows
- arxiv url: http://arxiv.org/abs/2312.06547v1
- Date: Mon, 11 Dec 2023 17:32:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-12 14:41:35.641332
- Title: KF-PLS: Optimizing Kernel Partial Least-Squares (K-PLS) with Kernel
Flows
- Title(参考訳): KF-PLS:カーネルフローを用いたカーネル部分最小二乗(K-PLS)の最適化
- Authors: Zina-Sabrina Duma, Jouni Susiluoto, Otto Lamminp\"a\"a, Tuomas
Sihvonen, Satu-Pia Reinikainen, Heikki Haario
- Abstract要約: Kernel PLS (K-PLS) は非線形予測-応答関係をモデル化するために導入された。
K-PLSでは、入力データはカーネル関数を介して再生カーネルヒルベルト空間(RKH)にマッピングされる。
ガウス過程回帰(GPR)のために開発されたカーネルフロー(KF)に基づくカーネル関数最適化手法を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Partial Least-Squares (PLS) Regression is a widely used tool in chemometrics
for performing multivariate regression. PLS is a bi-linear method that has a
limited capacity of modelling non-linear relations between the predictor
variables and the response. Kernel PLS (K-PLS) has been introduced for
modelling non-linear predictor-response relations. In K-PLS, the input data is
mapped via a kernel function to a Reproducing Kernel Hilbert space (RKH), where
the dependencies between the response and the input matrix are assumed to be
linear. K-PLS is performed in the RKH space between the kernel matrix and the
dependent variable. Most available studies use fixed kernel parameters. Only a
few studies have been conducted on optimizing the kernel parameters for K-PLS.
In this article, we propose a methodology for the kernel function optimization
based on Kernel Flows (KF), a technique developed for Gaussian process
regression (GPR). The results are illustrated with four case studies. The case
studies represent both numerical examples and real data used in classification
and regression tasks. K-PLS optimized with KF, called KF-PLS in this study, is
shown to yield good results in all illustrated scenarios. The paper presents
cross-validation studies and hyperparameter analysis of the KF methodology when
applied to K-PLS.
- Abstract(参考訳): Partial Least-Squares (PLS) Regressionは、化学測定において多変量回帰を行うために広く使われているツールである。
PLSは、予測変数と応答の間の非線形関係をモデル化する限られた能力を持つ双線形法である。
Kernel PLS (K-PLS) は非線形予測応答関係をモデル化するために導入された。
k-plsでは、入力データはカーネル関数を介して再生カーネルヒルベルト空間(英語版)(rkh)にマッピングされ、応答と入力行列の間の依存性は線形であると仮定される。
K-PLSは、カーネル行列と依存変数の間のRKH空間で実行される。
ほとんどの研究は固定カーネルパラメータを使用する。
K-PLSのカーネルパラメータを最適化する研究はごくわずかである。
本稿では,gaussian process regression (gpr) のために開発された手法であるkernel flow (kf) に基づくカーネル関数最適化手法を提案する。
結果は4つのケーススタディで示される。
ケーススタディは、数値例と、分類および回帰タスクで使用される実データの両方を表す。
この研究でKFに最適化されたK-PLSはKF-PLSと呼ばれ、すべてのシナリオにおいて良好な結果が得られた。
本論文は,k-plsに適用するkf手法のクロスバリデーション研究とハイパーパラメータ解析について述べる。
関連論文リスト
- Kernel-based retrieval models for hyperspectral image data optimized with Kernel Flows [0.0]
カーネルベースの統計手法は効率的であるが、その性能はカーネルパラメータの選択に大きく依存する。
K-PCR(Kernel principal Component Regression)を最適化し,KF-PLSとともにテストするための新しいKF型アプローチを提案する。
両手法は2つのハイパースペクトルリモートセンシングデータセットを用いて非線形回帰手法に対してベンチマークを行う。
論文 参考訳(メタデータ) (2024-11-12T13:54:13Z) - Highly Adaptive Ridge [84.38107748875144]
直交可積分な部分微分を持つ右連続函数のクラスにおいて,$n-2/3$自由次元L2収束率を達成する回帰法を提案する。
Harは、飽和ゼロオーダーテンソル積スプライン基底展開に基づいて、特定のデータ適応型カーネルで正確にカーネルリッジレグレッションを行う。
我々は、特に小さなデータセットに対する最先端アルゴリズムよりも経験的性能が優れていることを示す。
論文 参考訳(メタデータ) (2024-10-03T17:06:06Z) - Optimal Kernel Quantile Learning with Random Features [0.9208007322096533]
本稿では、ランダムな特徴を持つカーネル量子化回帰(KQR-RF)の一般化研究について述べる。
本研究は,KQR-RFの能力依存学習率を,RF数に対する軽度条件下で確立する。
我々の仮定を少し修正することによって、キャパシティに依存した誤差解析が、リプシッツ連続損失のケースにも適用できる。
論文 参考訳(メタデータ) (2024-08-24T14:26:09Z) - DKL-KAN: Scalable Deep Kernel Learning using Kolmogorov-Arnold Networks [0.0]
本稿では,DKL-MLPを用いたDKLの代替として,kan(DKL-KAN)を用いたスケーラブルなディープカーネルを提案する。
DKL-MLPと比較して,DKL-KANの2つの変種を分析した。
DKL-KANの有効性は、幅広いアプリケーションにわたる計算訓練時間とテスト予測精度の観点から評価される。
論文 参考訳(メタデータ) (2024-07-30T20:30:44Z) - Gaussian Process Regression under Computational and Epistemic Misspecification [4.5656369638728656]
大規模データアプリケーションでは、カーネルの低ランクあるいはスパース近似を用いて計算コストを削減できる。
本稿では,そのようなカーネル近似が要素誤差に与える影響について検討する。
論文 参考訳(メタデータ) (2023-12-14T18:53:32Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Learning "best" kernels from data in Gaussian process regression. With
application to aerodynamics [0.4588028371034406]
本稿では,ガウス過程の回帰/クリギングサロゲートモデリング手法におけるカーネルの選択/設計アルゴリズムを紹介する。
アルゴリズムの最初のクラスはカーネルフローであり、機械学習の分類の文脈で導入された。
アルゴリズムの第2のクラスはスペクトル核リッジ回帰と呼ばれ、近似される関数のノルムが最小となるような「最良の」カーネルを選択することを目的としている。
論文 参考訳(メタデータ) (2022-06-03T07:50:54Z) - Experimental Design for Linear Functionals in Reproducing Kernel Hilbert
Spaces [102.08678737900541]
線形汎関数に対するバイアス認識設計のためのアルゴリズムを提供する。
準ガウス雑音下での固定および適応設計に対する漸近的でない信頼集合を導出する。
論文 参考訳(メタデータ) (2022-05-26T20:56:25Z) - Kernel Identification Through Transformers [54.3795894579111]
カーネル選択はガウス過程(GP)モデルの性能決定において中心的な役割を果たす。
この研究は、高次元GP回帰モデルのためのカスタムカーネル関数を構築するという課題に対処する。
KITT: Kernel Identification through Transformersを提案する。
論文 参考訳(メタデータ) (2021-06-15T14:32:38Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z) - Improved guarantees and a multiple-descent curve for Column Subset
Selection and the Nystr\"om method [76.73096213472897]
我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。
我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。
RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
論文 参考訳(メタデータ) (2020-02-21T00:43:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。