論文の概要: Non-asymptotic Optimal Prediction Error for Growing-dimensional
Partially Functional Linear Models
- arxiv url: http://arxiv.org/abs/2009.04729v3
- Date: Fri, 30 Sep 2022 01:45:44 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-20 04:02:53.468065
- Title: Non-asymptotic Optimal Prediction Error for Growing-dimensional
Partially Functional Linear Models
- Title(参考訳): 成長次元部分関数線形モデルのための非漸近最適予測誤差
- Authors: Huiming Zhang, Xiaoyu Lei
- Abstract要約: 予測誤差の最大値と最大値の上限を示す。
過剰な予測リスクの正確な上限は、非漸近的な形で示される。
モデルのKulback-Leibler分散の正則性仮定の下で、非漸近ミニマックス下界を導出する。
- 参考スコア(独自算出の注目度): 0.951828574518325
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Under the reproducing kernel Hilbert spaces (RKHS), we consider the penalized
least-squares of the partially functional linear models (PFLM), whose predictor
contains both functional and traditional multivariate parts, and the
multivariate part allows a divergent number of parameters. From the
non-asymptotic point of view, we focus on the rate-optimal upper and lower
bounds of the prediction error. An exact upper bound for the excess prediction
risk is shown in a non-asymptotic form under a more general assumption known as
the effective dimension to the model, by which we also show the prediction
consistency when the number of multivariate covariates $p$ slightly increases
with the sample size $n$. Our new finding implies a trade-off between the
number of non-functional predictors and the effective dimension of the kernel
principal components to ensure prediction consistency in the
increasing-dimensional setting. The analysis in our proof hinges on the
spectral condition of the sandwich operator of the covariance operator and the
reproducing kernel, and on sub-Gaussian and Berstein concentration inequalities
for the random elements in Hilbert space. Finally, we derive the non-asymptotic
minimax lower bound under the regularity assumption of the Kullback-Leibler
divergence of the models.
- Abstract(参考訳): 再現カーネルヒルベルト空間(RKHS)の下では、関数的および伝統的な多変数部分を含む予測子を持つ部分汎関数線形モデルの最小二乗法を考える。
非漸近的な観点から、予測誤差の速度-最適上界と下界に焦点を当てる。
過剰な予測リスクの正確な上限は、モデルへの効果的な次元として知られるより一般的な仮定の下で非漸近的な形で示され、多変量共変量の数 p$ がサンプルサイズ $n$ でわずかに増加する場合の予測一貫性を示す。
我々の新しい発見は、非機能予測器の数とカーネルの主成分の有効次元とのトレードオフを示唆し、増大する次元における予測整合性を保証する。
この証明における解析は、共分散作用素と再生核のサンドウィッチ作用素のスペクトル条件と、ヒルベルト空間のランダム要素に対する準ガウスおよびベルシュタイン濃度の不等式にかかっている。
最後に、モデルのkullback-leibler発散の正規性仮定の下で非漸近的ミニマックス下限を導出する。
関連論文リスト
- Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Statistical Optimality of Divide and Conquer Kernel-based Functional
Linear Regression [1.7227952883644062]
本稿では,対象関数が基礎となるカーネル空間に存在しないシナリオにおいて,分割・コンカレント推定器の収束性能について検討する。
分解に基づくスケーラブルなアプローチとして、関数線形回帰の分割・収束推定器は、時間とメモリにおけるアルゴリズムの複雑さを大幅に減らすことができる。
論文 参考訳(メタデータ) (2022-11-20T12:29:06Z) - Off-policy estimation of linear functionals: Non-asymptotic theory for
semi-parametric efficiency [59.48096489854697]
観測データに基づいて線形汎関数を推定する問題は、因果推論と包帯文献の両方において標準的である。
このような手順の平均二乗誤差に対して非漸近上界を証明した。
非漸近的局所ミニマックス下限をマッチングすることにより、有限標本のインスタンス依存最適性を確立する。
論文 参考訳(メタデータ) (2022-09-26T23:50:55Z) - Mitigating multiple descents: A model-agnostic framework for risk
monotonization [84.6382406922369]
クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。
本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
論文 参考訳(メタデータ) (2022-05-25T17:41:40Z) - Neural Estimation of Statistical Divergences [24.78742908726579]
ニューラルネットワーク(NN)による経験的変動形態のパラメトリゼーションによる統計的発散推定の一手法
特に、近似と経験的推定という2つのエラー源の間には、根本的なトレードオフがある。
NN成長速度がわずかに異なる神経推定器は、最小値の最適値に近づき、パラメトリック収束率を対数因子まで達成できることを示す。
論文 参考訳(メタデータ) (2021-10-07T17:42:44Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Signatures of Chaos in Non-integrable Models of Quantum Field Theory [0.0]
1+1)D量子場理論(QFT)モデルにおける量子カオスのシグネチャについて検討する。
我々は、二重正弦ガードンに焦点をあて、巨大な正弦ガードンと$phi4$モデルの研究も行っている。
論文 参考訳(メタデータ) (2020-12-15T18:56:20Z) - Sparse Representations of Positive Functions via First and Second-Order
Pseudo-Mirror Descent [15.340540198612823]
推定器の範囲が非負である必要がある場合、予測されるリスク問題を考察する。
Emphpseudo-gradientsを用いた近似ミラーの1階および2階の変種を開発した。
実験は、実際に不均一なプロセス強度推定に好適な性能を示す。
論文 参考訳(メタデータ) (2020-11-13T21:54:28Z) - Fundamental Limits of Ridge-Regularized Empirical Risk Minimization in
High Dimensions [41.7567932118769]
経験的リスク最小化アルゴリズムは、様々な推定や予測タスクで広く利用されている。
本稿では,コンベックスEMMの統計的精度に関する基礎的限界を推論のために初めて特徴づける。
論文 参考訳(メタデータ) (2020-06-16T04:27:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。