論文の概要: End-to-End Stability of Online Active Learning in Large-Scale Neural Systems

• arxiv url: http://arxiv.org/abs/2611.02488v1
• Date: Mon, 02 Nov 2026 04:02:13 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:28:02.523459
• Title: End-to-End Stability of Online Active Learning in Large-Scale Neural Systems
• Title（参考訳）: 大規模ニューラルネットワークにおけるオンライン能動学習のエンドツーエンド安定性
• Abstract要約: 本稿では,安定性を重視したオンラインアクティブラーニングフレームワークを開発する。 予測エラーをフィードバック信号として使用し、構造化された深層モデルを更新する。 カスケードされたリャプノフ分析は、OAL学習プロセス全体の安定性を確立する。
• 参考スコア（独自算出の注目度）: 16.272086784083225
• License:
• Abstract: Online Active Learning (OAL) aims to extend deep learning from static inference after offline training to continuous adaptation during real-time interaction with a changing physical environment. This transition is essential for safety-critical applications, but it raises a central theoretical question: whether the online parameter update process remains stable when scaled to multilayer neural architectures. This paper develops a stability-focused OAL framework. The framework uses prediction error as a feedback signal to update a structured deep model, thereby linking online learning with Lyapunov-based energy minimization. We show that prediction error convergence alone is insufficient for global parameter convergence because multilayer networks may admit high-dimensional manifolds of equivalent output solutions. The analysis therefore separates output error regulation, internal zero dynamics, interlayer coupling, and parameter convergence. Persistency of excitation and active damping are then used to remove the residual null-space modes that remain after output error convergence. A cascaded Lyapunov analysis establishes asymptotic stability of the overall OAL learning process, while monotonic activation functions and diffeomorphic layer mappings provide the uniqueness condition for the target parameter trajectory. The resulting proof provides a theoretical basis for applying online adaptive learning to large-scale neural systems in nonstationary and safety-critical settings.
• Abstract（参考訳）: オンラインアクティブラーニング(OAL)は、オフライントレーニング後の静的推論から、変化する物理的環境とのリアルタイムインタラクション中の継続的適応まで、ディープラーニングを拡張することを目的としている。 この移行は安全クリティカルなアプリケーションには不可欠だが、オンラインパラメータ更新プロセスがマルチレイヤのニューラルネットワークアーキテクチャにスケールしても安定しているかどうかという、中心的な理論的疑問を提起する。 本稿では,安定性に着目したOALフレームワークを開発する。 このフレームワークは、予測エラーをフィードバック信号として使用し、構造化された深層モデルを更新し、オンライン学習とリアプノフに基づくエネルギー最小化をリンクする。 多層ネットワークは等価な出力解の高次元多様体を許容する可能性があるため、大域的パラメータ収束には予測誤差収束だけでは不十分であることを示す。 この分析は出力エラー制御、内部ゼロダイナミクス、層間結合、パラメータ収束を分離する。 励起とアクティブダンピングの持続性は、出力誤差収束後に残る残余のヌル空間モードを取り除くために使用される。 カスケードされたリャプノフ解析はOAL学習過程全体の漸近安定性を確立し、一方単調活性化関数と微分型層マッピングは対象パラメータ軌跡の特異性条件を提供する。 結果として得られた証明は、非定常かつ安全クリティカルな環境で大規模ニューラルネットワークにオンライン適応学習を適用する理論的基礎を提供する。

関連論文リスト

• Transolver-$σ$: Joint Spectral-Physical Subspace Modeling for Neural PDE Solving [53.58729034895666]
  Transolver-$は、結合スペクトル-物理部分空間モデリングに基づくニューラルPDEソルバである。 平均的な相対誤差を33.4%減らし、各基準に対して最強の基準線を上回り、最先端を達成している。
  論文  参考訳（メタデータ） (2026-09-29T11:24:19Z)
• Structured Neural SDEs for Functional Calibration [1.2107297090229683]
  構造化線形層から構築されたニューラルSDEモデルのファミリーであるSLiSDEを紹介する。 層レベルでパラレル・イン・タイム・シミュレーションを行い, ゲート・イン・フロー・スタックリングにより表現性を回復する。 機能キャリブレーションベンチマークの実験では、構造化されたモデルは完全な神経性SDEベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2026-09-28T10:25:03Z)
• When Does Scale-Invariant Optimization Become Unstable? An Exact Schedule Law with Weight Decay [6.625270757109195]
  標準成長は、反対の幾何学的自己整合効果を誘導する一方、1つの量で全てのスケジュールと崩壊の強制を捉えていることを示す。 これは、収縮と拡張が支配する効果的な学習率体制をきれいに分離する鋭い境界をもたらす。
  論文  参考訳（メタデータ） (2026-09-08T17:46:17Z)
• An active-learning framework for real-time depth perception from monocular vision streams [24.813023779263645]
  オンラインアクティブラーニング機構は、運用中に連続的に適応する機能を備えたコンパクトニューラルネットワークを実現するために導入された。 クローズドループ予測評価学習パラダイムを構築し、ストリーミング視覚入力から高信頼で情報豊富な信号を積極的に選択する。 提案システムは,競争深度推定精度を維持しつつ,約75%の計算コスト削減を実現する。
  論文  参考訳（メタデータ） (2026-08-05T14:45:16Z)
• The Butterfly Effect: Neural Network Training Trajectories Are Highly Sensitive to Initial Conditions [51.68215326304272]
  たとえ小さな摂動であっても、同じ訓練軌跡を確実に引き起こすことで、トレーニング時間とともに急速に減少する効果が発散することを示します。 この結果から,ニューラルネットワークのトレーニング安定性,微調整,モデルマージ,モデルアンサンブルの多様性の実践的意味が示唆された。
  論文  参考訳（メタデータ） (2025-06-16T08:35:16Z)
• Preserving Plasticity in Continual Learning with Adaptive Linearity Injection [10.641213440191551]
  ディープニューラルネットワークにおける可塑性の喪失は、漸進的に学習するモデルの能力が徐々に低下することである。 近年の研究では、深い線形ネットワークは可塑性の喪失に対して弾力性があることが示されている。 適応線形化(AdaLin)は,各ニューロンの活性化機能を動的に適応し,可塑性損失を軽減する一般的な手法である。
  論文  参考訳（メタデータ） (2025-05-14T15:36:51Z)
• Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
  分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。 非滑らかな正規化はしばしば機械学習タスクに組み込まれる。 本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T08:32:25Z)
• Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
  同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。 一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。 本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
  論文  参考訳（メタデータ） (2024-03-27T09:14:36Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)
• An Ode to an ODE [78.97367880223254]
  我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。 この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
  論文  参考訳（メタデータ） (2020-06-19T22:05:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。