論文の概要: Graph-Aided Online Multi-Kernel Learning
- arxiv url: http://arxiv.org/abs/2102.04690v1
- Date: Tue, 9 Feb 2021 07:43:29 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-10 23:07:13.276752
- Title: Graph-Aided Online Multi-Kernel Learning
- Title（参考訳）: グラフ支援オンラインマルチカーネル学習
- Authors: Pouya M Ghari, Yanning Shen
- Abstract要約: 本稿では, 良好な関数近似を提供する辞書から, データ駆動によるカーネルの選択について検討する。
カーネル間の類似性に基づいて、新しいフレームワークは、カーネルのサブセットの選択を支援するためにグラフを構築し、洗練する。
提案アルゴリズムは、最先端のグラフベースのオンラインMKL代替品と比較して、より厳密なサブ線形後悔を享受する。
- 参考スコア（独自算出の注目度）: 12.805267089186533
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Multi-kernel learning (MKL) has been widely used in function approximation
tasks. The key problem of MKL is to combine kernels in a prescribed dictionary.
Inclusion of irrelevant kernels in the dictionary can deteriorate accuracy of
MKL, and increase the computational complexity. To improve the accuracy of
function approximation and reduce the computational complexity, the present
paper studies data-driven selection of kernels from the dictionary that provide
satisfactory function approximations. Specifically, based on the similarities
among kernels, the novel framework constructs and refines a graph to assist
choosing a subset of kernels. In addition, random feature approximation is
utilized to enable online implementation for sequentially obtained data.
Theoretical analysis shows that our proposed algorithms enjoy tighter
sub-linear regret bound compared with state-of-art graph-based online MKL
alternatives. Experiments on a number of real datasets also showcase the
advantages of our novel graph-aided framework.
- Abstract（参考訳）: マルチカーネル学習(MKL)は関数近似タスクで広く用いられている。
MKLの主な問題は、カーネルを所定の辞書に結合することです。
辞書に無関係なカーネルを含めると、mklの精度が低下し、計算の複雑さが増す。
本論文では,関数近似の精度向上と計算複雑性低減のために,関数近似に満足できる辞書からカーネルをデータ駆動で選択することを検討する。
具体的には、カーネル間の類似性に基づいて、新しいフレームワークは、カーネルのサブセットの選択を支援するグラフを構築し、洗練する。
また、ランダム特徴近似を用いてシーケンシャルに取得したデータのオンライン実装を実現する。
理論的解析により,提案アルゴリズムは,最先端のグラフベースのオンラインMKL代替手法と比較して,より厳密なサブ線形後悔を享受できることが示された。
実際のデータセットの実験では、新しいグラフ支援フレームワークの利点も示しています。
関連論文リスト
- Personalized Online Federated Learning with Multiple Kernels [26.823435733330705]
フェデレートラーニング(Federated Learning)は、学習者のグループ(クライアントと呼ばれる)が、クライアント間で分散されたデータ上でMKLモデルをトレーニングすることを可能にする。
本稿では,クライアントがサーバと通信可能なアルゴリズムフレームワークを開発した。
提案したオンラインフェデレーションMKLアルゴリズムを用いて、各クライアントは、後から最高のカーネルのRF近似に関して、サブ線形後悔を享受する。
論文 参考訳（メタデータ） (2023-11-09T02:51:37Z) - General Graph Random Features [42.75616308187867]
重み付き隣接行列の任意の関数の偏りのない推定のためのランダムウォークに基づく新しいアルゴリズムを提案する。
提案アルゴリズムは, ノード数に関して, グラフカーネル評価の厳密な3次スケーリングを克服し, 準四次時間的複雑性を享受する。
論文 参考訳（メタデータ） (2023-10-07T15:47:31Z) - Inducing Gaussian Process Networks [80.40892394020797]
本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。
特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。
実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
論文 参考訳（メタデータ） (2022-04-21T05:27:09Z) - Graph Kernel Neural Networks [53.91024360329517]
本稿では、グラフ上の内部積を計算するカーネル関数であるグラフカーネルを用いて、標準畳み込み演算子をグラフ領域に拡張することを提案する。
これにより、入力グラフの埋め込みを計算する必要のない完全に構造的なモデルを定義することができる。
私たちのアーキテクチャでは,任意の種類のグラフカーネルをプラグインすることが可能です。
論文 参考訳（メタデータ） (2021-12-14T14:48:08Z) - Scaling Neural Tangent Kernels via Sketching and Random Features [53.57615759435126]
最近の研究報告では、NTKレグレッションは、小規模データセットでトレーニングされた有限範囲のニューラルネットワークより優れている。
我々は、アークコサインカーネルの拡張をスケッチして、NTKの近距離入力スパーシティ時間近似アルゴリズムを設計する。
CNTKの特徴をトレーニングした線形回帰器が,CIFAR-10データセット上での正確なCNTKの精度と150倍の高速化を実現していることを示す。
論文 参考訳（メタデータ） (2021-06-15T04:44:52Z) - Random Features for the Neural Tangent Kernel [57.132634274795066]
完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。
得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
論文 参考訳（メタデータ） (2021-04-03T09:08:12Z) - Learning Compositional Sparse Gaussian Processes with a Shrinkage Prior [26.52863547394537]
本稿では,カーネル選択のスパーシティをホースシュープリアーで処理することにより,カーネル構成を学習するための新しい確率論的アルゴリズムを提案する。
本モデルは,計算時間を大幅に削減した時系列特性をキャプチャし,実世界のデータセット上での競合回帰性能を有する。
論文 参考訳（メタデータ） (2020-12-21T13:41:15Z) - Federated Doubly Stochastic Kernel Learning for Vertically Partitioned
Data [93.76907759950608]
本稿では,垂直分割データに対する2倍のカーネル学習アルゴリズムを提案する。
本稿では,FDSKLがカーネルを扱う場合,最先端のフェデレーション学習手法よりもはるかに高速であることを示す。
論文 参考訳（メタデータ） (2020-08-14T05:46:56Z) - Active Learning with Multiple Kernels [10.203602318836444]
ストリームベースアクティブマルチカーネル学習(AMKL)と呼ばれる新しい研究課題を導入する。
AMKLは、学習者が選択基準に従って、オラクルから選択したデータをラベル付けすることを可能にする。
我々は、無関係なカーネルを「オンザフライ」カーネル辞書から除外できる適応カーネル選択(AMKL-AKS)を持つAMKLを提案する。
論文 参考訳（メタデータ） (2020-05-07T00:48:13Z) - An End-to-End Graph Convolutional Kernel Support Vector Machine [0.0]
グラフ分類のためのカーネルベースサポートベクターマシン(SVM)を提案する。
提案したモデルは、教師付きエンドツーエンドで訓練される。
実験結果から,提案モデルが既存のディープラーニングベースラインモデルよりも優れていることが示された。
論文 参考訳（メタデータ） (2020-02-29T09:57:42Z) - Improved guarantees and a multiple-descent curve for Column Subset
Selection and the Nystr\"om method [76.73096213472897]
我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。
我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。
RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
論文 参考訳（メタデータ） (2020-02-21T00:43:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。