論文の概要: Dynamic Regret for Online Regression in RKHS via Discounted VAW and Subspace Approximation

• arxiv url: http://arxiv.org/abs/2604.25021v1
• Date: Mon, 27 Apr 2026 21:53:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-29 16:49:17.613302
• Title: Dynamic Regret for Online Regression in RKHS via Discounted VAW and Subspace Approximation
• Title（参考訳）: 分散VAWとサブスペース近似によるRKHSのオンライン回帰の動的回帰
• Authors: Dmitry B. Rokhlin, Georgiy A. Karapetyants,
• Abstract要約: 動的後悔基準の下でヒルベルト空間を再現するカーネルにおける正方損失を伴うオンライン回帰について検討する。 提案手法は,Jacobsen & Cutkosky (2024) の有限次元割引 Vovk--Azoury-Warmuth アプローチを RKHS 設定に転送する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study online regression with the square loss in a reproducing kernel Hilbert space under a dynamic regret criterion. The learner is compared with a time-varying comparator sequence, and the bounds depend on its path length in the RKHS norm. The proposed method transfers the finite-dimensional discounted Vovk--Azoury--Warmuth approach of Jacobsen \& Cutkosky (2024) to the RKHS setting by means of finite-dimensional subspace approximations. For a fixed subspace, we run a VAW-based ensemble of discounted VAW forecasters over a geometric grid of discount factors. The additional approximation error is controlled by the uniform projection error of kernel sections. We then introduce a general orthogonal truncation method: starting from a feature expansion of the kernel, we construct the associated RKHS by introducing an inner product that makes the feature functions orthonormal, and then use the spans of the first basis functions as finite-dimensional approximation spaces. The resulting subspace reduction is applied to several approximation schemes. Explicit feature expansions yield fast-regime bounds for Gaussian and analytic dot-product kernels. Mercer truncations provide a spectral approximation method and lead to dynamic regret bounds in fast and slow regimes, depending on the eigenvalue decay. Finally, we study subspaces spanned by kernel sections and apply this construction to Matérn kernels.
• Abstract（参考訳）: 再現カーネルヒルベルト空間における2乗損失を伴うオンライン回帰について、動的後悔の基準の下で検討する。 学習者は時間変化のコンパレータ列と比較され、その境界はRKHSノルムの経路長に依存する。 提案手法は,有限次元部分空間近似を用いて,Jacobsen \& Cutkosky (2024) の有限次元割引 Vovk--Azoury-Warmuth アプローチを RKHS 設定に転送する。 固定部分空間に対しては、値引き係数の幾何学的グリッド上で、値引き予測器のVAWに基づくアンサンブルを実行する。 追加の近似誤差は、カーネルセクションの均一な投影誤差によって制御される。 次に、カーネルの機能拡張から、特徴関数を正則にするような内積を導入して関連するRKHSを構築し、第一基底関数のスパンを有限次元近似空間として利用する。 結果として生じる部分空間の減少は、いくつかの近似スキームに適用される。 明示的特徴拡張はガウスおよび解析的ドット積核に対して高速な登録境界をもたらす。 マーサートランケーションはスペクトル近似法を提供し、固有値の減衰に依存する高速かつ遅い状態における動的後悔境界をもたらす。 最後に、カーネルセクションにまたがる部分空間について検討し、この構成をマテランカーネルに適用する。

関連論文リスト

• Koopman Subspace Pruning in Reproducing Kernel Hilbert Spaces via Principal Vectors [5.373672902884401]
  本稿では、Kernel Hilbert Space (RKHS) 幾何内でクープマン部分空間のプルーニングを可能にするために、主角とベクトルを計算するためのアプローチを提案する。 まず,ランダム化Nystrom近似を用いて大規模データセットにスケールする計算ルーチンについて概説する。 これらの基礎に基づいて,主ベクトルによる目的部分空間改善のための Kernel-SPV と Approximate Kernel-SPV アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-04-01T23:13:13Z)
• KROM: Kernelized Reduced Order Modeling [3.988493458010939]
  KROMは、RKHSにおける最小ノルム(ガウス過程)回復問題としてPDE解を定式化する。 中心成分は、PDEソリューションのスナップショットライブラリから構築された経験的カーネルである。
  論文  参考訳（メタデータ） (2026-02-27T22:52:22Z)
• NeuraLSP: An Efficient and Rigorous Neural Left Singular Subspace Preconditioner for Conjugate Gradient Methods [49.84495044725856]
  NeuraLSPはニューラルプレコンディショナーである。 提案手法は, インフレーションのランク付けにおける理論的保証と実証的堅牢性の両方を示し, 最大53%の高速化を実現した。
  論文  参考訳（メタデータ） (2026-01-28T02:15:16Z)
• Mirror Descent on Reproducing Kernel Banach Spaces [12.716091600034543]
  本稿では,再生カーネルを用いたバナッハ空間の学習問題に対処する。 再生カーネルを用いてバナッハ空間の双対空間における勾配ステップを利用するアルゴリズムを提案する。 実際にこのアルゴリズムをインスタンス化するために、$p$-normのRKBSの新しいファミリーを導入する。
  論文  参考訳（メタデータ） (2024-11-18T02:18:32Z)
• Decomposed Diffusion Sampler for Accelerating Large-Scale Inverse Problems [64.29491112653905]
  本稿では, 拡散サンプリング法とクリロフ部分空間法を相乗的に組み合わせた, 新規で効率的な拡散サンプリング手法を提案する。 具体的には、ツイーディの公式による分母化標本における接空間がクリロフ部分空間を成すならば、その分母化データによるCGは、接空間におけるデータの整合性更新を確実に維持する。 提案手法は,従来の最先端手法よりも80倍以上高速な推論時間を実現する。
  論文  参考訳（メタデータ） (2023-03-10T07:42:49Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)
• Early stopping and polynomial smoothing in regression with reproducing kernels [2.0411082897313984]
  再生カーネルヒルベルト空間(RKHS)における反復学習アルゴリズムの早期停止問題について検討する。 本稿では,いわゆる最小不一致原理に基づく検証セットを使わずに早期停止を行うデータ駆動型ルールを提案する。 提案したルールは、異なるタイプのカーネル空間に対して、ミニマックス最適であることが証明されている。
  論文  参考訳（メタデータ） (2020-07-14T05:27:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。