論文の概要: Optimal Recovery from Inaccurate Data in Hilbert Spaces: Regularize, but what of the Parameter?

• arxiv url: http://arxiv.org/abs/2111.02601v1
• Date: Thu, 4 Nov 2021 03:02:55 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-06 00:57:17.858838
• Title: Optimal Recovery from Inaccurate Data in Hilbert Spaces: Regularize, but what of the Parameter?
• Title（参考訳）: ヒルベルト空間の不正確なデータからの最適回復:正規化, しかしパラメータは?
• Authors: Simon Foucart and Chunyang Liao
• Abstract要約: 本稿では、ヒルベルト空間のフレームワークにおける近似性に基づくモデル仮定について考察する。 また、$ell$でバウンドされた追加エラーによる観察上の不正確さも含んでいる。 ローカルシナリオとグローバルシナリオのギャップを埋めます。
• 参考スコア（独自算出の注目度）: 6.85316573653194
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In Optimal Recovery, the task of learning a function from observational data is tackled deterministically by adopting a worst-case perspective tied to an explicit model assumption made on the functions to be learned. Working in the framework of Hilbert spaces, this article considers a model assumption based on approximability. It also incorporates observational inaccuracies modeled via additive errors bounded in $\ell_2$. Earlier works have demonstrated that regularization provide algorithms that are optimal in this situation, but did not fully identify the desired hyperparameter. This article fills the gap in both a local scenario and a global scenario. In the local scenario, which amounts to the determination of Chebyshev centers, the semidefinite recipe of Beck and Eldar (legitimately valid in the complex setting only) is complemented by a more direct approach, with the proviso that the observational functionals have orthonormal representers. In the said approach, the desired parameter is the solution to an equation that can be resolved via standard methods. In the global scenario, where linear algorithms rule, the parameter elusive in the works of Micchelli et al. is found as the byproduct of a semidefinite program. Additionally and quite surprisingly, in case of observational functionals with orthonormal representers, it is established that any regularization parameter is optimal.
• Abstract（参考訳）: 最適回復においては、学習すべき関数に関する明示的なモデル仮定に結びついた最悪の視点を採用することにより、観測データから関数を学習するタスクを決定的に取り組む。 ヒルベルト空間の枠組みにおいて、本論文は近似可能性に基づくモデル仮定を考える。 また、$\ell_2$で有界な加法誤差によってモデル化された観測上の不正確さも含んでいる。 初期の研究は、正規化がこの状況で最適であるが、望まれるハイパーパラメータを完全に識別しないアルゴリズムを提供することを示した。 この記事では、ローカルシナリオとグローバルシナリオのギャップを埋めます。 チェビシェフ中心の決定に相当する局所的なシナリオでは、ベックとエルダーの半定的なレシピはより直接的なアプローチによって補完され、観測関数が正則な表現子を持つことが証明される。 上記のアプローチでは、所望のパラメータは標準手法で解くことができる方程式の解である。 線形アルゴリズムが支配される大域的シナリオでは、Micchelliらの研究から導かれるパラメータは半定値プログラムの副産物として見出される。 さらに、直交正規表現子を持つ観測関数の場合、任意の正規化パラメータが最適であることが確立されている。

関連論文リスト

• Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
  凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。 このような問題は医学、物理学、機械学習で発生する。 両種類の雑音下で提案アルゴリズムの収束保証を行う。
  論文  参考訳（メタデータ） (2024-11-21T10:26:17Z)
• A Functional Model Method for Nonconvex Nonsmooth Conditional Stochastic Optimization [0.0]
  本稿では, 基底乱ベクトルの非線形関数の期待値と, 基底乱ベクトルに依存する他の関数の条件付き期待値を含む最適化問題を考察する。 本研究では, 外部関数が滑らかで, 内部関数が異なる非制約学習問題に対して, 特殊な単一スケール法を提案する。
  論文  参考訳（メタデータ） (2024-05-17T14:35:50Z)
• Should We Learn Most Likely Functions or Parameters? [51.133793272222874]
  モデルとデータによって示唆される最も可能性の高い関数を直接推定する利点と欠点について検討する。 関数空間MAP推定は, より平坦な最小化, 一般化, オーバーフィッティングの改善につながる可能性がある。
  論文  参考訳（メタデータ） (2023-11-27T16:39:55Z)
• Moreau-Yoshida Variational Transport: A General Framework For Solving Regularized Distributional Optimization Problems [3.038642416291856]
  クラス確率分布上に定義された複合目的関数を最小化する一般的な最適化問題を考える。 本稿では,正規分布最適化問題の解法として,モロー・吉田変分輸送(MYVT)と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-07-31T01:14:42Z)
• Kernel-based off-policy estimation without overlap: Instance optimality beyond semiparametric efficiency [53.90687548731265]
  本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。 任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
  論文  参考訳（メタデータ） (2023-01-16T02:57:37Z)
• A gradient estimator via L1-randomization for online zero-order optimization with two point feedback [93.57603470949266]
  2つの関数評価とランダム化に基づく新しい勾配推定器を提案する。 ゼロ次オラクルの雑音に対する仮定は,ノイズのキャンセルと逆方向雑音の2種類について考察する。 我々は、問題の全てのパラメータに適応する、いつでも完全にデータ駆動のアルゴリズムを提供する。
  論文  参考訳（メタデータ） (2022-05-27T11:23:57Z)
• Experimental Design for Linear Functionals in Reproducing Kernel Hilbert Spaces [102.08678737900541]
  線形汎関数に対するバイアス認識設計のためのアルゴリズムを提供する。 準ガウス雑音下での固定および適応設計に対する漸近的でない信頼集合を導出する。
  論文  参考訳（メタデータ） (2022-05-26T20:56:25Z)
• Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
  ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。 本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
  論文  参考訳（メタデータ） (2020-12-09T20:19:32Z)
• On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
  クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。 また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2019-04-18T02:56:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。