論文の概要: Kernel-based estimation for partially functional linear model: Minimax
rates and randomized sketches
- arxiv url: http://arxiv.org/abs/2110.09042v1
- Date: Mon, 18 Oct 2021 06:27:59 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-19 21:06:08.799247
- Title: Kernel-based estimation for partially functional linear model: Minimax
rates and randomized sketches
- Title(参考訳): 部分関数線形モデルのためのカーネルベース推定:ミニマックスレートとランダム化スケッチ
- Authors: Shaogao Lv and Xin He and Junhui Wang
- Abstract要約: 本稿では,機能的共変量と高次元スカラーベクトルからなる部分関数線形モデル(PFLM)について考察する。
無限次元再生核ヒルベルト空間上で、提案されたPFLMの推定は、関数ノルムと$ell_$-ノルムの2つの混合正規化を持つ最小二乗アプローチである。
- 参考スコア(独自算出の注目度): 12.799283644502882
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper considers the partially functional linear model (PFLM) where all
predictive features consist of a functional covariate and a high dimensional
scalar vector. Over an infinite dimensional reproducing kernel Hilbert space,
the proposed estimation for PFLM is a least square approach with two mixed
regularizations of a function-norm and an $\ell_1$-norm. Our main task in this
paper is to establish the minimax rates for PFLM under high dimensional
setting, and the optimal minimax rates of estimation is established by using
various techniques in empirical process theory for analyzing kernel classes. In
addition, we propose an efficient numerical algorithm based on randomized
sketches of the kernel matrix. Several numerical experiments are implemented to
support our method and optimization strategy.
- Abstract(参考訳): 本稿では,すべての予測特徴が関数共変量と高次元スカラーベクトルからなる部分汎関数線形モデル(pflm)を考える。
無限次元再生核ヒルベルト空間上で、提案されたPFLMの推定は、関数ノルムと$\ell_1$-ノルムの2つの混合正規化を持つ最小二乗アプローチである。
本研究の主な課題は,PFLMのミニマックス速度を高次元設定で確立することであり,カーネルクラスの解析に経験的プロセス理論の様々な手法を用いて推定の最適ミニマックス速度を確立することである。
さらに,カーネル行列のランダム化スケッチに基づく効率的な数値アルゴリズムを提案する。
本手法と最適化戦略をサポートするため,いくつかの数値実験を行った。
関連論文リスト
- FORML: A Riemannian Hessian-free Method for Meta-learning on Stiefel Manifolds [4.757859522106933]
本稿では、スティーフェル多様体上の微分の1次近似を用いたヘッセンフリーアプローチを提案する。
本手法は計算負荷とメモリフットプリントを大幅に削減する。
論文 参考訳(メタデータ) (2024-02-28T10:57:30Z) - Efficient Global Planning in Large MDPs via Stochastic Primal-Dual
Optimization [12.411844611718958]
提案手法は, 生成モデルに対する多数のクエリの後に, ほぼ最適ポリシーを出力することを示す。
提案手法は計算効率が高く,低次元パラメータベクトルでコンパクトに表現される単一のソフトマックスポリシーを出力する点が大きな利点である。
論文 参考訳(メタデータ) (2022-10-21T15:49:20Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Experimental Design for Linear Functionals in Reproducing Kernel Hilbert
Spaces [102.08678737900541]
線形汎関数に対するバイアス認識設計のためのアルゴリズムを提供する。
準ガウス雑音下での固定および適応設計に対する漸近的でない信頼集合を導出する。
論文 参考訳(メタデータ) (2022-05-26T20:56:25Z) - Optimal prediction for kernel-based semi-functional linear regression [5.827901300943599]
半関数線形モデルにおける予測のための収束の最小値を求める。
その結果, よりスムーズな関数成分は, 非パラメトリック成分が知られているようなミニマックス速度で学習できることが判明した。
論文 参考訳(メタデータ) (2021-10-29T04:55:44Z) - Simple and Near-Optimal MAP Inference for Nonsymmetric DPPs [3.3504365823045044]
非対称なカーネル行列によって定義される決定点過程に対する最大後続推定(MAP)問題について検討する。
局所探索を用いてこの問題に対する最初の乗法近似保証を得る。
近似係数が$kO(k)$ に近いので、理論上、実験的に、この問題に対する最先端の手法と好適に比較できることが示される。
論文 参考訳(メタデータ) (2021-02-10T09:34:44Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z) - On the Efficient Implementation of the Matrix Exponentiated Gradient
Algorithm for Low-Rank Matrix Optimization [26.858608065417663]
スペクトル上の凸最適化は、機械学習、信号処理、統計学に重要な応用がある。
低ランク行列による最適化に適したMEGの効率的な実装を提案し、各イテレーションで単一の低ランクSVDのみを使用する。
また,本手法の正しい収束のための効率よく計算可能な証明書も提供する。
論文 参考訳(メタデータ) (2020-12-18T19:14:51Z) - On the minmax regret for statistical manifolds: the role of curvature [68.8204255655161]
2つの部分のコードと最小記述長は、最高のモデルを選別するための手順を提供するのに成功している。
我々は、フィッシャー情報計量のスカラー曲率が支配的な役割を果たす複雑さによって与えられる標準表現よりも、よりシャープな表現を導出する。
論文 参考訳(メタデータ) (2020-07-06T17:28:19Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。
我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。
得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文 参考訳(メタデータ) (2020-02-21T17:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。