論文の概要: ParK: Sound and Efficient Kernel Ridge Regression by Feature Space
Partitions
- arxiv url: http://arxiv.org/abs/2106.12231v1
- Date: Wed, 23 Jun 2021 08:24:36 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-24 15:28:55.572729
- Title: ParK: Sound and Efficient Kernel Ridge Regression by Feature Space
Partitions
- Title(参考訳): ParK: 特徴空間分割による音と効率の良いカーネルリッジ回帰
- Authors: Luigi Carratino, Stefano Vigogna, Daniele Calandriello, Lorenzo
Rosasco
- Abstract要約: 本稿では,カーネルリッジ回帰のための大規模解法であるParKを紹介する。
提案手法では,分割とランダムなプロジェクションと繰り返し最適化を組み合わせることで,空間と時間の複雑さを低減できる。
- 参考スコア(独自算出の注目度): 34.576469570537995
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce ParK, a new large-scale solver for kernel ridge regression. Our
approach combines partitioning with random projections and iterative
optimization to reduce space and time complexity while provably maintaining the
same statistical accuracy. In particular, constructing suitable partitions
directly in the feature space rather than in the input space, we promote
orthogonality between the local estimators, thus ensuring that key quantities
such as local effective dimension and bias remain under control. We
characterize the statistical-computational tradeoff of our model, and
demonstrate the effectiveness of our method by numerical experiments on
large-scale datasets.
- Abstract(参考訳): 我々は,カーネルリッジ回帰のための新しい大規模解法parkを紹介する。
分割とランダムな投影と反復最適化を組み合わせることで,同じ統計的精度を維持しつつ,空間と時間の複雑さを低減できる。
特に、入力空間ではなく特徴空間に直接適切な分割を構築することにより、局所的推定子間の直交性が促進され、局所的有効次元やバイアスといった重要な量が制御されていることが保証される。
本手法は,大規模データセット上での数値実験により,統計計算のトレードオフを特徴とし,その効果を実証する。
関連論文リスト
- Advancing Bayesian Optimization via Learning Correlated Latent Space [15.783344085533187]
本稿では,コラーレント空間ベイズ最適化(CoBO)を提案する。
具体的には, リプシッツ正則化, 損失重み付け, 信頼領域再コーディネートを導入し, 期待する領域の内在的なギャップを最小化する。
本稿では,分子設計や算術式整合など,離散データにおけるいくつかの最適化タスクに対するアプローチの有効性を示す。
論文 参考訳(メタデータ) (2023-10-31T08:24:41Z) - Improved Distribution Matching for Dataset Condensation [91.55972945798531]
本稿では,分布マッチングに基づく新しいデータセット凝縮法を提案する。
提案手法は,計算資源の少ない従来の最適化指向手法よりも優れている。
論文 参考訳(メタデータ) (2023-07-19T04:07:33Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳(メタデータ) (2023-06-13T01:18:16Z) - Distributed Sketching for Randomized Optimization: Exact
Characterization, Concentration and Lower Bounds [54.51566432934556]
我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。
ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
論文 参考訳(メタデータ) (2022-03-18T05:49:13Z) - Spatio-Temporal Variational Gaussian Processes [26.60276485130467]
時空間フィルタリングと自然変動推論を組み合わせたガウス過程推論にスケーラブルなアプローチを導入する。
還元された誘導点集合上で状態空間モデルを構成するスパース近似を導出する。
分離可能なマルコフカーネルの場合、完全スパースケースは標準変分GPを正確に回復する。
論文 参考訳(メタデータ) (2021-11-02T16:53:31Z) - A local approach to parameter space reduction for regression and
classification tasks [0.0]
そこで本研究では, クラスタリング手法を用いて, アクティブ部分空間のシナジーを探索する, ローカルアクティブ部分空間 (LAS) と呼ばれる新しい手法を提案する。
LASは、サロゲートモデリングに取り組んでいるコミュニティにとって特に有用である。
論文 参考訳(メタデータ) (2021-07-22T18:06:04Z) - Featurized Density Ratio Estimation [82.40706152910292]
本研究では,2つの分布を推定前の共通特徴空間にマッピングするために,可逆生成モデルを活用することを提案する。
この偉業化は、学習された入力空間の密度比が任意に不正確な場合、潜在空間において密度が密接な関係をもたらす。
同時に、特徴写像の可逆性は、特徴空間で計算された比が入力空間で計算された比と同値であることを保証する。
論文 参考訳(メタデータ) (2021-07-05T18:30:26Z) - Learning interaction kernels in stochastic systems of interacting
particles from multiple trajectories [13.3638879601361]
相互作用する粒子やエージェントのシステムと、相互作用カーネルによって決定されるダイナミクスを考察する。
正規化極大推定器に基づく逆問題に対する非パラメトリック推論手法を提案する。
相関条件により,この問題の条件数を制御し,推定器の整合性を証明することができることを示す。
論文 参考訳(メタデータ) (2020-07-30T01:28:06Z) - Real-Time Regression with Dividing Local Gaussian Processes [62.01822866877782]
局所ガウス過程は、ガウス過程の回帰に基づく新しい、計算効率の良いモデリング手法である。
入力空間の反復的データ駆動分割により、実際にはトレーニングポイントの総数において、サブ線形計算複雑性が達成される。
実世界のデータセットに対する数値的な評価は、予測と更新の速度だけでなく、精度の点で他の最先端手法よりも有利であることを示している。
論文 参考訳(メタデータ) (2020-06-16T18:43:31Z) - Spatially Adaptive Inference with Stochastic Feature Sampling and
Interpolation [72.40827239394565]
スパースサンプリングされた場所のみの機能を計算することを提案する。
次に、効率的な手順で特徴写像を密に再構築する。
提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
論文 参考訳(メタデータ) (2020-03-19T15:36:31Z) - Prediction with Spatio-temporal Point Processes with Self Organizing
Decision Trees [0.0]
私たちはこの問題に新しいアプローチを導入します。
我々のアプローチは、非定常かつ自己興奮的なプロセスであるホークスプロセスに基づいている。
実生活データに関する実験結果を提供する。
論文 参考訳(メタデータ) (2020-03-07T20:39:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。