論文の概要: Generalization Guarantees for Sparse Kernel Approximation with Entropic Optimal Features

• arxiv url: http://arxiv.org/abs/2002.04195v1
• Date: Tue, 11 Feb 2020 04:12:31 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-02 01:18:10.745294
• Title: Generalization Guarantees for Sparse Kernel Approximation with Entropic Optimal Features
• Title（参考訳）: エントロピー最適特徴を持つスパース核近似の一般化保証
• Authors: Liang Ding, Rui Tuo, Shahin Shahrampour
• Abstract要約: カーネルメソッドは、実際に大量の計算コストに悩まされます。 我々はカーネルの特徴間のエントロピーを最大化する新しい最適設計を開発する。 ベンチマークデータセットを用いた実験により、カーネル近似における最先端技術よりもEOFの方が優れていることが検証された。
• 参考スコア（独自算出の注目度）: 33.29293167413832
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Despite their success, kernel methods suffer from a massive computational cost in practice. In this paper, in lieu of commonly used kernel expansion with respect to $N$ inputs, we develop a novel optimal design maximizing the entropy among kernel features. This procedure results in a kernel expansion with respect to entropic optimal features (EOF), improving the data representation dramatically due to features dissimilarity. Under mild technical assumptions, our generalization bound shows that with only $O(N^{\frac{1}{4}})$ features (disregarding logarithmic factors), we can achieve the optimal statistical accuracy (i.e., $O(1/\sqrt{N})$). The salient feature of our design is its sparsity that significantly reduces the time and space cost. Our numerical experiments on benchmark datasets verify the superiority of EOF over the state-of-the-art in kernel approximation.
• Abstract（参考訳）: その成功にもかかわらず、カーネルメソッドは実際には膨大な計算コストに苦しむ。 本稿では,n$入力に対するカーネル拡張に代えて,カーネル特性間のエントロピーを最大化する新しい最適設計法を提案する。 この処理により、エントロピー最適特徴(EOF)に対するカーネル拡張が実現し、特徴の相違によりデータ表現が劇的に向上する。 穏やかな技術的仮定の下で、我々の一般化境界は、$O(N^{\frac{1}{4}})$特徴(対数的因子を無視する)で最適統計精度(すなわち$O(1/\sqrt{N})$)を達成できることを示している。 われわれのデザインの健全な特徴は、時間と空間コストを大幅に削減する空間性である。 ベンチマークデータセットにおける数値実験により,eofがカーネル近似の最先端よりも優れていることを検証した。

関連論文リスト

• Truncated Kernel Stochastic Gradient Descent on Spheres [1.4583059436979549]
  球面高調波の構造に着想を得て,T-カーネルSGDアルゴリズムを提案する。 T-カーネルSGDは「トランケーション」演算を採用し、勾配降下における直列ベースのカーネル関数の適用を可能にする。 従来のカーネルSGDとは対照的に、TカーネルSGDはバイアスと分散のバランスをとるのにより効果的である。
  論文  参考訳（メタデータ） (2024-10-02T14:09:51Z)
• A Specialized Semismooth Newton Method for Kernel-Based Optimal Transport [92.96250725599958]
  カーネルベース最適輸送(OT)推定器は、サンプルからOT問題に対処するための代替的機能的推定手順を提供する。 SSN法は, 標準正規性条件下でのグローバル収束率$O (1/sqrtk)$, 局所二次収束率を達成できることを示す。
  論文  参考訳（メタデータ） (2023-10-21T18:48:45Z)
• Conditional mean embeddings and optimal feature selection via positive definite kernels [0.0]
  条件付き条件埋め込み(CME)に対する演算子理論的アプローチの検討 本研究は,スペクトル解析に基づく最適化手法と,カーネル,プロセス,構築学習アルゴリズムを併用する。
  論文  参考訳（メタデータ） (2023-05-14T08:29:15Z)
• Kernel Subspace and Feature Extraction [7.424262881242935]
  特徴部分空間の観点から,機械学習におけるカーネル手法について検討する。 我々は、ヒルシュフェルト-ゲベライン-レーニの最大相関関数からカーネルを構築し、最大相関カーネルを作成し、その情報理論の最適性を示す。
  論文  参考訳（メタデータ） (2023-01-04T02:46:11Z)
• FaDIn: Fast Discretized Inference for Hawkes Processes with General Parametric Kernels [82.53569355337586]
  この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。 脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。 その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
  論文  参考訳（メタデータ） (2022-10-10T12:35:02Z)
• Non-Convex Optimization with Certificates and Fast Rates Through Kernel Sums of Squares [68.8204255655161]
  非最適化近似問題を考える。 本稿では,最優先計算を保証するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-04-11T09:37:04Z)
• A Robust Asymmetric Kernel Function for Bayesian Optimization, with Application to Image Defect Detection in Manufacturing Systems [2.4278445972594525]
  我々は、ロバストなカーネル関数、非対称な弾性ネットラジアル基底関数(AEN-RBF)を提案する。 理論的には、AEN-RBFは穏やかな条件下でより小さな平均2乗予測誤差を実現できることを示す。 また、AEN-RBFカーネル関数は、外れ値に対する感度が低いことも示している。
  論文  参考訳（メタデータ） (2021-09-22T17:59:05Z)
• Reducing the Variance of Gaussian Process Hyperparameter Optimization with Preconditioning [54.01682318834995]
  プレコンディショニングは、行列ベクトル乗算を含む反復的な方法にとって非常に効果的なステップである。 プレコンディショニングには、これまで検討されていなかった付加的なメリットがあることを実証する。 基本的に無視可能なコストで、同時に分散を低減することができる。
  論文  参考訳（メタデータ） (2021-07-01T06:43:11Z)
• Taming Nonconvexity in Kernel Feature Selection---Favorable Properties of the Laplace Kernel [77.73399781313893]
  カーネルベースの特徴選択の客観的機能を確立することが課題である。 非言語最適化に利用可能な勾配に基づくアルゴリズムは、局所ミニマへの収束を保証できるだけである。
  論文  参考訳（メタデータ） (2021-06-17T11:05:48Z)
• Flow-based Kernel Prior with Application to Blind Super-Resolution [143.21527713002354]
  カーネル推定は一般にブラインド画像超解像(SR)の鍵となる問題の一つである 本稿では,カーネルモデリングのための正規化フローベースカーネルプリレント(fkp)を提案する。 合成および実世界の画像の実験により、提案したFKPがカーネル推定精度を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2021-03-29T22:37:06Z)
• The Statistical Cost of Robust Kernel Hyperparameter Tuning [20.42751031392928]
  対向雑音下での能動回帰の設定におけるカーネルハイパーパラメータチューニングの統計的複雑さについて検討した。 カーネルクラスの複雑性の増大がカーネルハイパーパラメータの学習の複雑さを増大させるのを特徴付け、この問題に対する有限サンプル保証を提供する。
  論文  参考訳（メタデータ） (2020-06-14T21:56:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。