論文の概要: A functional central limit theorem for kernel gradient flow and infinitesimal gradient boosting

• arxiv url: http://arxiv.org/abs/2606.25494v1
• Date: Wed, 24 Jun 2026 07:22:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 17:05:30.258596
• Title: A functional central limit theorem for kernel gradient flow and infinitesimal gradient boosting
• Title（参考訳）: カーネル勾配流と無限小勾配促進に対する関数的中心極限定理
• Abstract要約: 我々は、その決定論的極限に関する過程のゆらぎを研究し、機能的中心極限定理を確立する。 この証明はバナッハ空間におけるODEの一般摂動解析に基づいている。
• 参考スコア（独自算出の注目度）: 1.503974529275767
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Building on the large-sample analysis of infinitesimal gradient boosting (Dombry and Duchamps, 2024b), we study the fluctuations of the process around its deterministic limit and establish a functional central limit theorem: the rescaled deviations converge in distribution to a Gaussian process. The analysis is carried out in a reproducing kernel Hilbert space (RKHS) naturally associated with the softmax gradient tree base learner, in which the boosting process is characterized as the solution of an autonomous ordinary differential equation (ODE). The proof rests on a general stochastic perturbation analysis of ODEs in Banach spaces, which is of independent interest: whenever a sequence of vector fields converges and satisfies a central limit theorem, so does the associated ODE solution. We first illustrate this perturbation approach in the simpler setting of kernel gradient flow, where the Gaussian limit admits an explicit characterization, and then consider the more complicated tree-based gradient boosting setting.
• Abstract（参考訳）: 無限小勾配加速の大サンプル解析(Dombry and Duchamps, 2024b)に基づいて、決定論的極限の周りの過程の変動を研究し、機能的中心極限定理を確立する。 この解析は、ソフトマックス勾配木ベース学習器と自然に関連付けられた再生カーネルヒルベルト空間(RKHS)において行われ、このブースティング過程を自律常微分方程式(ODE)の解として特徴付ける。 この証明はバナッハ空間におけるODEの一般確率摂動解析に基づいており、これは独立な関心事である:ベクトル場の列が収束して中心極限定理を満たすときは常に、関連するODE解も成り立つ。 まず、この摂動アプローチを、ガウス極限が明示的な特徴を持つカーネル勾配流のより単純な設定で説明し、さらにより複雑な木に基づく勾配上昇設定を考える。

関連論文リスト

• Dynamic Regret for Online Regression in RKHS via Discounted VAW and Subspace Approximation [0.0]
  動的後悔基準の下でヒルベルト空間を再現するカーネルにおける正方損失を伴うオンライン回帰について検討する。 提案手法は,Jacobsen & Cutkosky (2024) の有限次元割引 Vovk--Azoury-Warmuth アプローチを RKHS 設定に転送する。
  論文  参考訳（メタデータ） (2026-04-27T21:53:54Z)
• Functional Central Limit Theorem for Stochastic Gradient Descent [2.064612766965483]
  凸目的関数に適用した勾配降下アルゴリズムの軌道形状について検討した。 適切に再スケールされた軌道に対する関数的中心極限定理を証明した。
  論文  参考訳（メタデータ） (2026-02-17T12:42:19Z)
• Hellinger-Kantorovich Gradient Flows: Global Exponential Decay of Entropy Functionals [52.154685604660465]
  本稿では,Heringer-Kantorovich(HK)幾何に着目し,正測度と確率測度の勾配流の族について検討する。 中心的な寄与は、オットー・ワッサーシュタインおよびヘルリンガー型勾配流の下でのエントロピー汎函数の大域的指数減衰挙動の完全な特徴づけである。
  論文  参考訳（メタデータ） (2025-01-28T16:17:09Z)
• Limit Theorems for Stochastic Gradient Descent with Infinite Variance [51.4853131023238]
  この勾配降下アルゴリズムは、適切なL'evy過程によって駆動されるオルンシュタイン-ルンシュタイン過程の定常分布として特徴付けられることを示す。 また、これらの結果の線形回帰モデルおよびロジスティック回帰モデルへの応用についても検討する。
  論文  参考訳（メタデータ） (2024-10-21T09:39:10Z)
• Decentralized Riemannian Conjugate Gradient Method on the Stiefel Manifold [59.73080197971106]
  本稿では,最急降下法よりも高速に収束する一階共役最適化法を提案する。 これはスティーフェル多様体上の大域収束を達成することを目的としている。
  論文  参考訳（メタデータ） (2023-08-21T08:02:16Z)
• Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
  本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。 我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。 全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Gradient is All You Need? [0.0]
  本稿では、コンセンサスに基づく勾配最適化(CBO)の解釈による学習アルゴリズムの理論的理解に関する新しい分析的視点を提供する。 本研究は,非局所景観関数の複雑さを軽減するため,CBOの本質的な能力を証明するものである。
  論文  参考訳（メタデータ） (2023-06-16T11:30:55Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• Deep Learning Approximation of Diffeomorphisms via Linear-Control Systems [91.3755431537592]
  我々は、制御に線形に依存する$dot x = sum_i=1lF_i(x)u_i$という形の制御系を考える。 対応するフローを用いて、コンパクトな点のアンサンブル上の微分同相写像の作用を近似する。
  論文  参考訳（メタデータ） (2021-10-24T08:57:46Z)
• Infinitesimal gradient boosting [0.0]
  我々は、機械学習から人気のツリーベース勾配向上アルゴリズムの限界として無限小勾配ブースティングを定義する。 完全無作為化木とエクストラツリーを繋ぐ新種の無作為化回帰木を紹介します。
  論文  参考訳（メタデータ） (2021-04-26T15:09:05Z)
• A proof of convergence for gradient descent in the training of artificial neural networks for constant target functions [3.4792548480344254]
  勾配降下法のリスク関数は, 実際に0に収束することを示す。 この作業の重要な貢献は、ANNパラメータの勾配フローシステムのLyapunov関数を明示的に指定することです。
  論文  参考訳（メタデータ） (2021-02-19T13:33:03Z)
• SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
  本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。 我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
  論文  参考訳（メタデータ） (2020-03-05T14:33:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。