論文の概要: Minimax Adaptive Online Nonparametric Regression over Besov Spaces

• arxiv url: http://arxiv.org/abs/2505.19741v1
• Date: Mon, 26 May 2025 09:23:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:43.322475
• Title: Minimax Adaptive Online Nonparametric Regression over Besov Spaces
• Title（参考訳）: ベソフ空間上のミニマックス適応オンライン非パラメトリック回帰
• Authors: Paul Liautaud, Pierre Gaillard, Olivier Wintenberger,
• Abstract要約: 我々は,連続的かつ極めて不規則な予測規則の豊富なクラスに対して,凸損失を伴うオンライン逆回帰について検討した。 本稿では,$(s,p,q)$の事前知識を必要とせずに逐次予測を行う適応ウェーブレットベースのアルゴリズムを提案する。 また、空間的不均一な滑らかさを動的に追跡できる局所適応拡張を設計する。
• 参考スコア（独自算出の注目度）: 10.138723409205497
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study online adversarial regression with convex losses against a rich class of continuous yet highly irregular prediction rules, modeled by Besov spaces $B_{pq}^s$ with general parameters $1 \leq p,q \leq \infty$ and smoothness $s > d/p$. We introduce an adaptive wavelet-based algorithm that performs sequential prediction without prior knowledge of $(s,p,q)$, and establish minimax-optimal regret bounds against any comparator in $B_{pq}^s$. We further design a locally adaptive extension capable of dynamically tracking spatially inhomogeneous smoothness. This adaptive mechanism adjusts the resolution of the predictions over both time and space, yielding refined regret bounds in terms of local regularity. Consequently, in heterogeneous environments, our adaptive guarantees can significantly surpass those obtained by standard global methods.
• Abstract（参考訳）: ベソフ空間$B_{pq}^s$, 一般パラメータ $1 \leq p,q \leq \infty$, 滑らか度$s > d/p$ でモデル化した, 連続的かつ非常に不規則な予測規則の豊富なクラスに対する凸損失を伴うオンライン逆数回帰について検討する。 適応ウェーブレットに基づくアルゴリズムは、$(s,p,q)$の事前知識なしに逐次予測を行い、$B_{pq}^s$のコンパレータに対して最小最大最適後悔境界を確立する。 さらに、空間的不均一な滑らかさを動的に追跡できる局所適応拡張を設計する。 この適応的なメカニズムは時間と空間の両方で予測の分解を調整し、局所正則性の観点から洗練された後悔境界を与える。 その結果、異種環境において、我々の適応保証は、標準的グローバル手法によって得られた保証を著しく上回ることができる。

関連論文リスト

• Smoothed Normalization for Efficient Distributed Private Optimization [54.197255548244705]
  フェデレートされた学習は、参加者のプライバシを備えた機械学習モデルを可能にする。 トレーニングやフィードバックのない問題に対して、差分にプライベートな分散手法は存在しない。 証明可能な収束保証付き分散アルゴリズム$alpha$-$sf NormEC$を導入する。
  論文  参考訳（メタデータ） (2025-02-19T07:10:32Z)
• Adaptive and non-adaptive minimax rates for weighted Laplacian-eigenmap based nonparametric regression [14.003044924094597]
  重み付きラプラシアン・固有写像に基づく非パラメトリック回帰法の一群に対する適応的および非適応的収束率を示す。
  論文  参考訳（メタデータ） (2023-10-31T20:25:36Z)
• Distributionally Robust Optimization with Bias and Variance Reduction [9.341215359733601]
  勾配に基づくアルゴリズムであるProspectは、スムーズな正規化損失に対する線形収束を享受していることを示す。 また、勾配法のようなベースラインよりも2～3$times$早く収束できることも示している。
  論文  参考訳（メタデータ） (2023-10-21T00:03:54Z)
• Improving Adaptive Online Learning Using Refined Discretization [44.646191058243645]
  リプシッツ損失を伴う制約のないオンライン線形最適化について検討する。 インスタンス最適性の追求に動機づけられ,我々は新しいアルゴリズムを提案する。 これらの結果の中心は、オンライン学習に対する継続的な時間的アプローチである。
  論文  参考訳（メタデータ） (2023-09-27T21:54:52Z)
• Transformers as Support Vector Machines [54.642793677472724]
  自己アテンションの最適化幾何と厳密なSVM問題との間には,形式的等価性を確立する。 勾配降下に最適化された1層変圧器の暗黙バイアスを特徴付ける。 これらの発見は、最適なトークンを分離し選択するSVMの階層としてのトランスフォーマーの解釈を刺激していると信じている。
  論文  参考訳（メタデータ） (2023-08-31T17:57:50Z)
• Optimal Learning Rates for Regularized Least-Squares with a Fourier Capacity Condition [14.910167993978487]
  我々は、ヒルベルトスケールにおけるTikhonov-regularized Learning問題の新しいクラスに対して、ミニマックス適応率を導出する。 我々は、メルサー作用素のスペクトルが適切なヒルベルトスケールの「タイト」埋め込みの存在下で推測できることを実証する。
  論文  参考訳（メタデータ） (2022-04-16T18:32:33Z)
• Lazy Lagrangians with Predictions for Online Learning [24.18464455081512]
  オンライン凸最適化における時間的差分制約による一般的な問題について考察する。 Follow-The-Regularized-Leaderイテレーションと予測適応動的ステップを組み合わせることで、新しい原始双対アルゴリズムを設計する。 我々の研究は、この制約されたOCO設定のためのFTRLフレームワークを拡張し、各最先端のグレディベースのソリューションより優れています。
  論文  参考訳（メタデータ） (2022-01-08T21:49:10Z)
• Optimal Rates for Random Order Online Optimization [60.011653053877126]
  敵が損失関数を選択できるカテットガルバー2020onlineについて検討するが、一様にランダムな順序で提示される。 2020onlineアルゴリズムが最適境界を達成し,安定性を著しく向上することを示す。
  論文  参考訳（メタデータ） (2021-06-29T09:48:46Z)
• Adaptive Control and Regret Minimization in Linear Quadratic Gaussian (LQG) Setting [91.43582419264763]
  我々は不確実性に直面した楽観主義の原理に基づく新しい強化学習アルゴリズムLqgOptを提案する。 LqgOptはシステムのダイナミクスを効率的に探索し、モデルのパラメータを信頼区間まで推定し、最も楽観的なモデルのコントローラをデプロイする。
  論文  参考訳（メタデータ） (2020-03-12T19:56:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。