論文の概要: Neural ODEs Meet Concurrent Learning: Stable Online Learning with Lyapunov Guarantees

• arxiv url: http://arxiv.org/abs/2609.32289v1
• Date: Sat, 26 Sep 2026 06:22:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 18:04:21.226642
• Title: Neural ODEs Meet Concurrent Learning: Stable Online Learning with Lyapunov Guarantees
• Title（参考訳）: ニューラルネットワークと並行学習: Lyapunov Guaranteesによる安定したオンライン学習
• Abstract要約: 我々は,NODE-CLが3つの速度測定ノイズに対して最小の中央値予測誤差が得られることを示す。 4つのDeepMind Control Suiteドメインにおいて、NODE-CLは3つの速度測定ノイズに対して最小の中央値予測誤差を達成している。
• 参考スコア（独自算出の注目度）: 1.14219428942199
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural ODEs learn dynamics from trajectory losses, but their adjoint gradients lack the regressor-times-parameter-error structure on which Lyapunov analyses of online adaptation rest, so training on streaming data comes without stability guarantees. We show that this structure is in fact present: the adjoint gradient decomposes exactly into a positive semi-definite trajectory operator acting on the parameter error plus a nonlinear perturbation with explicit, horizon-dependent bounds. A quadratic Lyapunov function then certifies online Neural ODE training over sliding windows under computable gain and horizon conditions, and the same certificate extends to stored data: its drift branch recovers concurrent learning, and its trajectory branch yields NODE-CL, a stored-segment Gauss-Newton method built on batched forward sensitivities that needs no state-derivative estimates. On four DeepMind Control Suite domains, NODE-CL attains the lowest median prediction error on three under velocity measurement noise, where observer-based concurrent learning degrades by up to 8x; with clean measurements it is best on the pendulum and within a factor of 1.6 of the best stored-data baseline on the cartpole and reacher.
• Abstract（参考訳）: ニューラルODEは軌道損失からダイナミクスを学習するが、その随伴勾配は、Lyapunovがオンライン適応残差の分析を行う回帰時間-パラメータ-エラー構造を欠いているため、ストリーミングデータのトレーニングは安定性の保証がない。 随伴勾配は、パラメータ誤差に作用する正の半定軌道作用素と、明示的、地平線依存的境界を持つ非線形摂動に正確に分解される。 二次リアプノフ関数は、計算可能なゲインおよび水平条件下でのスライドウィンドウ上でのオンラインニューラルネットワークODEトレーニングを認証し、同じ証明が格納データに拡張される: ドリフトブランチは並列学習を回復し、その軌道分岐は、状態微分的推定を必要としないバッチ化された前方感性に基づいて構築されたストアドセグメントガウスニュートン法であるNODE-CLを生成する。 4つのDeepMind Control Suiteドメインにおいて、NODE-CLは3つの速度測定ノイズに対して最小の中央値予測誤差を達成し、観測者ベースの並列学習は最大8倍まで低下する。

関連論文リスト

• Structured Neural SDEs for Functional Calibration [1.2107297090229683]
  構造化線形層から構築されたニューラルSDEモデルのファミリーであるSLiSDEを紹介する。 層レベルでパラレル・イン・タイム・シミュレーションを行い, ゲート・イン・フロー・スタックリングにより表現性を回復する。 機能キャリブレーションベンチマークの実験では、構造化されたモデルは完全な神経性SDEベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2026-09-28T10:25:03Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• Hybrid Iterative Neural Low-Regularity Integrator for Nonlinear Dispersive Equations [0.0]
  HIN-LRIは、古典的な数値解法をニューラルネットワークで拡張し、解法の構造化トランケーション誤差を補正するハイブリッドフレームワークである。 低次元の潜在多様体上で動作する軽量ニューラルネットワークは、分析手法が閉じられない残留欠陥を学習する。 実験により、HIN-LRIは解析的、分割的手法、神経的PDEサロゲートよりも精度を向上し、安定した空間的精細化、効果的なアウト・オブ・ディストリビューション転送、オンラインオーバーヘッドを緩和することが示された。
  論文  参考訳（メタデータ） (2026-05-06T12:50:36Z)
• MSINO: Curvature-Aware Sobolev Optimization for Manifold Neural Networks [0.0]
  本稿では,リーマン多様体上で定義されたニューラルネットワークの曲率を考慮した学習フレームワークであるMSINOを紹介する。 我々は、多様体ソボレフ滑らか度定数を持つ Descent Lemma を生成する幾何依存定数を導出する。 MSINOは、曲率と輸送されたジャコビアンを明示的に追跡するトレーニングタイム保証を提供する。
  論文  参考訳（メタデータ） (2026-02-26T12:27:00Z)
• A universal linearized subspace refinement framework for neural networks [1.636137854123538]
  本稿では、LSR(Linearized Subspace Refinement)を導入し、LSR(Linearized Subspace Refinement)とLSR(Linearized Subspace Refinement)について述べる。 LSRは、標準学習された解よりも精度が大幅に向上した洗練された予測器を得る。 複合損失構造に関する問題に対しては、一発LSRと教師付き非線形アライメントを交互に行うIterative LSRを導入する。
  論文  参考訳（メタデータ） (2026-01-20T14:03:28Z)
• Self-Supervised Learning by Curvature Alignment [0.15293427903448018]
  CurvSSLは、曲率調整による自己教師付き学習フレームワークである。 曲率調整型自己教師型学習フレームワークであるCurvSSLを紹介する。 局所幾何学を明示的に形成することは、純粋な統計的SSL正規化器の単純かつ効果的な補完であることを示す。
  論文  参考訳（メタデータ） (2025-11-21T17:22:31Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)
• Kalman Filter for Online Classification of Non-Stationary Data [101.26838049872651]
  オンライン連続学習(OCL)では、学習システムはデータのストリームを受け取り、予測とトレーニングの手順を順次実行する。 本稿では,線形予測量に対するニューラル表現と状態空間モデルを用いた確率ベイズオンライン学習モデルを提案する。 多クラス分類の実験では、モデルの予測能力と非定常性を捉える柔軟性を示す。
  論文  参考訳（メタデータ） (2023-06-14T11:41:42Z)
• Learning Discretized Neural Networks under Ricci Flow [48.47315844022283]
  低精度重みとアクティベーションからなる離散ニューラルネットワーク(DNN)について検討する。 DNNは、訓練中に微分不可能な離散関数のために無限あるいはゼロの勾配に悩まされる。
  論文  参考訳（メタデータ） (2023-02-07T10:51:53Z)
• Beyond the Edge of Stability via Two-step Gradient Updates [49.03389279816152]
  Gradient Descent(GD)は、現代の機械学習の強力な仕事場である。 GDが局所最小値を見つける能力は、リプシッツ勾配の損失に対してのみ保証される。 この研究は、2段階の勾配更新の分析を通じて、単純だが代表的でありながら、学習上の問題に焦点をあてる。
  論文  参考訳（メタデータ） (2022-06-08T21:32:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。