論文の概要: Computational Efficiency under Covariate Shift in Kernel Ridge Regression

• arxiv url: http://arxiv.org/abs/2505.14083v1
• Date: Tue, 20 May 2025 08:41:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-21 14:49:52.943162
• Title: Computational Efficiency under Covariate Shift in Kernel Ridge Regression
• Title（参考訳）: カーネルリッジ回帰における共変量シフト時の計算効率
• Authors: Andrea Della Vecchia, Arnaud Mavakala Watusadisi, Ernesto De Vito, Lorenzo Rosasco,
• Abstract要約: 学習性能を損なうことなく,計算量を大幅に削減できることを示す。 仮説空間が与えられたRKHS内のランダム部分空間からなるランダム射影の使用について検討する。
• 参考スコア（独自算出の注目度）: 13.02719615069661
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper addresses the covariate shift problem in the context of nonparametric regression within reproducing kernel Hilbert spaces (RKHSs). Covariate shift arises in supervised learning when the input distributions of the training and test data differ, presenting additional challenges for learning. Although kernel methods have optimal statistical properties, their high computational demands in terms of time and, particularly, memory, limit their scalability to large datasets. To address this limitation, the main focus of this paper is to explore the trade-off between computational efficiency and statistical accuracy under covariate shift. We investigate the use of random projections where the hypothesis space consists of a random subspace within a given RKHS. Our results show that, even in the presence of covariate shift, significant computational savings can be achieved without compromising learning performance.
• Abstract（参考訳）: 本稿では、再現カーネルヒルベルト空間(RKHS)における非パラメトリック回帰の文脈における共変量シフト問題に対処する。 共変量シフトは、トレーニングとテストデータの入力分布が異なる場合の教師あり学習において発生し、学習のためのさらなる課題が提示される。 カーネル法は最適な統計特性を持つが、時間的、特にメモリ的な高い計算要求は、そのスケーラビリティを大きなデータセットに制限する。 この制限に対処するために,本論文の主な焦点は,共変量シフトの下での計算効率と統計的精度のトレードオフを検討することである。 仮説空間が与えられたRKHS内のランダム部分空間からなるランダム射影の使用について検討する。 その結果,共変量シフトが存在する場合でも,学習性能を損なうことなく,計算量を大幅に削減できることが示唆された。

関連論文リスト

• Minimum Reduced-Order Models via Causal Inference [2.300302733934937]
  本研究では、因果エントロピーと呼ばれる情報理論指標を用いて、スパースROMの同定に効率的な手法を提案する。 因果エントロピーのガウス近似は、非常に非ガウス統計の存在下においても、非常によく機能することを示す。 また, 得られたROMを用いて, 部分観測とデータ同化による観測値の復元を行った。
  論文  参考訳（メタデータ） (2024-06-29T01:24:41Z)
• Distributed Stochastic Gradient Descent with Staleness: A Stochastic Delay Differential Equation Based Framework [56.82432591933544]
  分散勾配降下(SGD)は、計算リソースのスケーリング、トレーニング時間の短縮、マシンラーニングにおけるユーザのプライバシ保護の支援などにより、近年注目されている。 本稿では,遅延微分方程式(SDDE)と勾配到着の近似に基づく分散SGDの実行時間と安定化について述べる。 活性化作業員の増加は, 安定度による分散SGDを必ずしも加速させるものではないことが興味深い。
  論文  参考訳（メタデータ） (2024-06-17T02:56:55Z)
• Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
  ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。 カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。 我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-09T03:55:09Z)
• Efficient Large-scale Nonstationary Spatial Covariance Function Estimation Using Convolutional Neural Networks [3.5455896230714194]
  非定常データからサブリージョンを導出するためにConvNetsを使用します。 定常場に類似した振る舞いを示す部分領域を同定するために選択機構を用いる。 提案手法の性能を大規模に評価する。
  論文  参考訳（メタデータ） (2023-06-20T12:17:46Z)
• Convolutional generative adversarial imputation networks for spatio-temporal missing data in storm surge simulations [86.5302150777089]
  GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。 提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
  論文  参考訳（メタデータ） (2021-11-03T03:50:48Z)
• Scalable Spatiotemporally Varying Coefficient Modelling with Bayesian Kernelized Tensor Regression [17.158289775348063]
  カーネル化されたテンソル回帰(BKTR)は、低ランクの時間構造を持つモデリングプロセスに対する新しいスケーラブルなアプローチと考えられる。 そこで本研究では,BKTRのモデル推定と推定において,BKTRの優れた性能と効率性を確認した。
  論文  参考訳（メタデータ） (2021-08-31T19:22:23Z)
• ParK: Sound and Efficient Kernel Ridge Regression by Feature Space Partitions [34.576469570537995]
  本稿では,カーネルリッジ回帰のための大規模解法であるParKを紹介する。 提案手法では,分割とランダムなプロジェクションと繰り返し最適化を組み合わせることで,空間と時間の複雑さを低減できる。
  論文  参考訳（メタデータ） (2021-06-23T08:24:36Z)
• Adaptive Local Kernels Formulation of Mutual Information with Application to Active Post-Seismic Building Damage Inference [1.066048003460524]
  地震後の建築物の地域被害評価は高価な作業である。 相互情報の情報理論尺度は,サンプルの有効性を評価する上で最も有効な基準の一つである。 計算コストを削減するためにローカルカーネル戦略が提案されたが、観測されたラベルへのカーネルの適応性は考慮されなかった。 本稿では,観測された出力データに対するカーネルの適合性を実現するための適応型ローカルカーネル手法を開発した。
  論文  参考訳（メタデータ） (2021-05-24T18:34:46Z)
• Real-Time Regression with Dividing Local Gaussian Processes [62.01822866877782]
  局所ガウス過程は、ガウス過程の回帰に基づく新しい、計算効率の良いモデリング手法である。 入力空間の反復的データ駆動分割により、実際にはトレーニングポイントの総数において、サブ線形計算複雑性が達成される。 実世界のデータセットに対する数値的な評価は、予測と更新の速度だけでなく、精度の点で他の最先端手法よりも有利であることを示している。
  論文  参考訳（メタデータ） (2020-06-16T18:43:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。