論文の概要: A Spectral Analysis of Dot-product Kernels
- arxiv url: http://arxiv.org/abs/2002.12640v2
- Date: Fri, 26 Feb 2021 16:48:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-28 01:27:18.472269
- Title: A Spectral Analysis of Dot-product Kernels
- Title(参考訳): ドート生成核のスペクトル解析
- Authors: Meyer Scetbon and Zaid Harchaoui
- Abstract要約: 合成ドット積カーネルに関連する積分作用素の固有値減衰推定について述べる。
これにより、対応する再生核ヒルベルト空間における球の体積を得ることができる。
- 参考スコア(独自算出の注目度): 16.688727673221297
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present eigenvalue decay estimates of integral operators associated with
compositional dot-product kernels. The estimates improve on previous ones
established for power series kernels on spheres. This allows us to obtain the
volumes of balls in the corresponding reproducing kernel Hilbert spaces. We
discuss the consequences on statistical estimation with compositional dot
product kernels and highlight interesting trade-offs between the approximation
error and the statistical error depending on the number of compositions and the
smoothness of the kernels.
- Abstract(参考訳): 合成ドット積カーネルに関連する積分作用素の固有値減衰推定について述べる。
推定値は、球上でのパワーシリーズカーネルのために確立された以前のものより改善される。
これにより、対応する再生核ヒルベルト空間における球の体積を得ることができる。
合成ドット積カーネルによる統計的推定結果について考察し, 組成数とカーネルの滑らかさによる近似誤差と統計誤差との興味深いトレードオフを明らかにする。
関連論文リスト
- Non-separable Covariance Kernels for Spatiotemporal Gaussian Processes
based on a Hybrid Spectral Method and the Harmonic Oscillator [0.0]
物理引数に基づいて共分散カーネルを生成するためのハイブリッドスペクトル手法を提案する。
3つの発振器系における共分散核(アンダーダッピング、臨界減衰、オーバーダッピング)の明示的な関係を導出し、それらの特性について検討する。
論文 参考訳(メタデータ) (2023-02-19T14:12:48Z) - A Kernel Perspective of Skip Connections in Convolutional Networks [21.458906138864176]
本稿では,ResNetの特性をガウス過程とニューラルタンジェントカーネルを用いて研究する。
この結果から,ReLUの活性化により,これらの残核の固有値は,スキップ接続が使用されない場合と同等の速度で減衰することが示唆された。
さらに,これらの残留核から得られる行列は,有限深さで良好な条件数が得られることを示す。
論文 参考訳(メタデータ) (2022-11-27T12:25:54Z) - On the Spectral Bias of Convolutional Neural Tangent and Gaussian
Process Kernels [24.99551134153653]
本稿では,それぞれのガウス過程と接する神経核を用いて,過度にパラメータ化された畳み込みニューラルアーキテクチャの特性について検討する。
固有値が階層的に減衰し、崩壊率を定量化し、これらのネットワークにおける階層的特徴の構成を反映する測度を導出することを示す。
論文 参考訳(メタデータ) (2022-03-17T11:23:18Z) - Meta-Learning Hypothesis Spaces for Sequential Decision-making [79.73213540203389]
オフラインデータ(Meta-KeL)からカーネルをメタ学習することを提案する。
穏やかな条件下では、推定されたRKHSが有効な信頼セットを得られることを保証します。
また,ベイズ最適化におけるアプローチの有効性を実証的に評価した。
論文 参考訳(メタデータ) (2022-02-01T17:46:51Z) - Uniform Function Estimators in Reproducing Kernel Hilbert Spaces [0.0]
本稿では,ランダムな位置で重畳された誤差で観測される関数再構成の回帰問題に対処する。
ガウス確率場を用いて導出される推定器は、ヒルベルト空間を条件付き期待値に再現するカーネルの平均ノルムに収束することが示されている。
論文 参考訳(メタデータ) (2021-08-16T08:13:28Z) - Conformal field theory from lattice fermions [77.34726150561087]
1+1次元の格子フェルミオンで与えられる共形場理論の厳密な格子近似を提供する。
これらの結果が共形場理論の量子シミュレーションに関連する明らかな誤差推定にどのように結びつくかを示す。
論文 参考訳(メタデータ) (2021-07-29T08:54:07Z) - Kernel Mean Estimation by Marginalized Corrupted Distributions [96.9272743070371]
カーネル平均をヒルベルト空間で推定することは、多くのカーネル学習アルゴリズムにおいて重要な要素である。
本稿では,カーネル平均推定器としてカーネル平均推定器を提案する。
論文 参考訳(メタデータ) (2021-07-10T15:11:28Z) - Eigen Analysis of Self-Attention and its Reconstruction from Partial
Computation [58.80806716024701]
ドット積に基づく自己注意を用いて計算した注意点のグローバルな構造について検討する。
注意点の変動の大部分は低次元固有空間にあることがわかった。
トークンペアの部分的な部分集合に対してのみスコアを計算し、それを用いて残りのペアのスコアを推定する。
論文 参考訳(メタデータ) (2021-06-16T14:38:42Z) - Exact thermal properties of free-fermionic spin chains [68.8204255655161]
自由フェルミオンの観点で記述できるスピンチェーンモデルに焦点をあてる。
温度の低い臨界点付近で、ユビキタス近似から生じる誤差を同定する。
論文 参考訳(メタデータ) (2021-03-30T13:15:44Z) - Deterministic error bounds for kernel-based learning techniques under
bounded noise [0.0]
本稿では,有限個のノイズ崩壊サンプルから関数を再構成する問題を考察する。
2つのカーネルアルゴリズム、すなわちカーネルリッジ回帰と$varepsilon$- Support vector regressionを解析する。
論文 参考訳(メタデータ) (2020-08-10T10:16:00Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳(メタデータ) (2020-05-20T15:01:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。