論文の概要: From Generic to Dedicated: A Novel Optimizer for Online Continual Learning

• arxiv url: http://arxiv.org/abs/2610.27835v1
• Date: Tue, 20 Oct 2026 08:24:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.718039
• Title: From Generic to Dedicated: A Novel Optimizer for Online Continual Learning
• Title（参考訳）: ジェネリックからディディケートへ:オンライン連続学習の新しい最適化
• Abstract要約: オンライン連続学習(OCL)は、厳密な単一パス制約の下で、非定常データストリームから学習するモデルを必要とする。 本研究では,Polak-Ruppert平均化を"塑性"のエンジンとして再キャストし,Primal平均化を"安定性"のアンカーとして再キャストすることで,最適化ダイナミクスとOCLの必要性の新たなリンクを明らかにする。
• 参考スコア（独自算出の注目度）: 7.847361203396407
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Online Continual Learning (OCL) requires models to learn from non-stationary data streams under a strict single-pass constraint, making them highly susceptible to catastrophic forgetting. While existing studies have explored various strategies from data, architecture, and optimization perspectives, the optimizer often directly uses generic approaches such as SGD and AdamW. In this work, we reveal a new link between optimization dynamics and OCL needs by recasting Polyak-Ruppert averaging as the engine of "plasticity" and Primal averaging as the anchor of "stability". This inspires our novel optimizer, SPIN (Stability-Plasticity INterpolation), which explicitly decouples plasticity and stability by interpolating between a fast-moving "plasticity" sequence and an adaptive "stability" sequence. We theoretically demonstrate that SPIN implicitly employs an inverse Hessian approximation, providing crucial Tikhonov regularization to damp noisy, single-sample Hessian estimates and mitigate forgetting. More importantly, SPIN can be seamlessly integrated into existing OCL methods by taking resulted gradients as input and replacing standard optimizers. Extensive experiments show that using SPIN instead of standard optimizers yields consistent and significant performance gains across multiple OCL approaches, including the challenging rehearsal-free setting and under strict memory constraints.
• Abstract（参考訳）: オンライン連続学習(OCL)は、厳密な単一パス制約の下で、非定常データストリームから学習するモデルを必要とするため、破滅的な忘れがちである。 既存の研究では、データ、アーキテクチャ、最適化の観点から様々な戦略を探求してきたが、オプティマイザはSGDやAdamWといった一般的なアプローチを直接利用することが多い。 本研究では,Plyak-Ruppert平均化を"塑性"のエンジンとして再キャストし,Primal平均化を"安定性"のアンカーとして再キャストすることで,最適化ダイナミクスとOCLの必要性の新たなリンクを明らかにする。 これにより、高速移動型「塑性」シーケンスと適応型「安定性」シーケンスを補間することにより、塑性と安定性を明示的に分離する新しいオプティマイザSPIN(Stability-Plasticity Interpolation)が導入された。 理論的には、SPINは暗黙的に逆 Hessian 近似を用いており、ノイズの多い単一サンプルの Hessian 推定を減衰させ、忘れを緩和するために重要な Tikhonov 正規化を提供する。 さらに重要なことは、SPINを既存のOCLメソッドにシームレスに統合し、結果の勾配を入力として取り、標準オプティマイザを置き換えることである。 大規模な実験では、標準オプティマイザの代わりにSPINを使用することで、困難なリハーサルのない設定や厳格なメモリ制約など、複数のOCLアプローチで一貫した、重要なパフォーマンス向上が得られることが示されている。

関連論文リスト

• AutoNorm: Understanding Adaptive Normalization in Transformers through Differentiable Gating [0.0]
  正規化はトランスフォーマーのトレーニングを安定化するための重要な要素である。 本稿では,微分可能正規化ゲーティングにおける鍵となる最適化課題について検討する。 ゲートフリーズスケジュールによる最適化不安定性を緩和するトレーニング戦略であるAutoNorm-S(Stabilized)を提案する。
  論文  参考訳（メタデータ） (2026-07-12T06:12:37Z)
• Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
  構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。 グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。 特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
  論文  参考訳（メタデータ） (2026-04-20T16:43:28Z)
• An Adaptive Differentially Private Federated Learning Framework with Bi-level Optimization [10.218291445871435]
  フェデレーション学習は、データプライバシを保持しながら、分散クライアント間で協調的なモデルトレーニングを可能にする。 実際の展開では、デバイスの不均一性、非独立性、および同一に分散された(Non-IID)データは、しばしば非常に不安定で偏りのある勾配更新をもたらす。 異種およびプライバシー制約のある環境下でモデル効率を明示的に目標とする適応型微分プライベートなフェデレーション学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-06T16:27:33Z)
• Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
  ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。 SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。 複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2026-02-01T12:56:10Z)
• MAESTRO: Meta-learning Adaptive Estimation of Scalarization Trade-offs for Reward Optimization [56.074760766965085]
  大規模言語モデル(LLM)の整合性のための効率的なパラダイムとしてグループ相対政策最適化が登場している。 我々は,報酬スカラー化を動的潜在ポリシーとして扱い,モデルの終端隠蔽状態を意味的ボトルネックとして活用するMAESTROを提案する。 本稿では,軽量コンダクタネットワークがメタリワード信号としてグループ相対的優位性を生かしてポリシと共進化する,双方向最適化フレームワークにおけるコンテキスト的帯域幅問題としてこれを定式化する。
  論文  参考訳（メタデータ） (2026-01-12T05:02:48Z)
• Safeguarded Stochastic Polyak Step Sizes for Non-smooth Optimization: Robust Performance Without Small (Sub)Gradients [16.39606116102731]
  適応型ニューラルネットワークを提供するPolyakの消滅は、勾配降下(SGD)にとって有望な選択であることが証明された。 ディープネットワークに関する総合的な実験は、タイトな凸ネットワーク理論を腐食させる。 本研究では、強い仮定を必要とせず、非滑らかな最適化に対して厳密な収束保証を提供する。
  論文  参考訳（メタデータ） (2025-12-02T02:24:32Z)
• More Than Memory Savings: Zeroth-Order Optimization Mitigates Forgetting in Continual Learning [10.698225972251839]
  Zeroth-order (ZO) 最適化は、一階法(FO) に代わるメモリ効率の代替として注目されている。 本研究では,ZOの最適化が自然に損失景観の平ら化を招き,連続学習における忘れを減少させることを示す。 この安定性は可塑性のコストを伴い、不正確な勾配推定と緩やかな収束により、ZO最適化は新しいタスク固有の知識を取得する際にFOよりも効果が低い傾向にある。 FO最適化分類器を備えた単一アダプタベースのPEFTモジュールに対して,ZO最適化を適用した簡易かつ効果的なZO-FCを提案する。
  論文  参考訳（メタデータ） (2025-10-23T21:54:00Z)
• Iterative Refinement of Flow Policies in Probability Space for Online Reinforcement Learning [56.47948583452555]
  固定ステップのEulerスキームによるフローマッチング推論プロセスの離散化は,最適輸送から変化するJordan-Kinderlehrer-Otto原理と整合する,というキーインサイトに基づいて,SWFP(Stepwise Flow Policy)フレームワークを紹介した。 SWFPは、大域的な流れを、プロキシメート分布間の小さな漸進的な変換の列に分解する。 この分解は、小さな流れブロックのカスケードを介して事前訓練された流れを微調整する効率的なアルゴリズムを導き、大きな利点をもたらす。
  論文  参考訳（メタデータ） (2025-10-17T07:43:51Z)
• Branch, or Layer? Zeroth-Order Optimization for Continual Learning of Vision-Language Models [44.27801276966812]
  本稿では、視覚言語連続学習(VLCL)のためのゼロ次最適化(ZO)の体系的探索を開拓する。 まず,VLCLにおけるNuive full-ZO導入の不適合性について検討した。 我々は、浅層と深層表現の不均一な学習力学を活かして、ZOとFOをネットワーク層にインターリーブする階層最適化パラダイムを開発した。
  論文  参考訳（メタデータ） (2025-06-14T08:59:19Z)
• Achieving Constraints in Neural Networks: A Stochastic Augmented Lagrangian Approach [49.1574468325115]
  DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。 制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。 我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
  論文  参考訳（メタデータ） (2023-10-25T13:55:35Z)
• Fast Distributionally Robust Learning with Variance Reduced Min-Max Optimization [85.84019017587477]
  分散的ロバストな教師付き学習は、現実世界のアプリケーションのための信頼性の高い機械学習システムを構築するための重要なパラダイムとして登場している。 Wasserstein DRSLを解くための既存のアルゴリズムは、複雑なサブプロブレムを解くか、勾配を利用するのに失敗する。 我々はmin-max最適化のレンズを通してwaserstein drslを再検討し、スケーラブルで効率的に実装可能な超勾配アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-04-27T16:56:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。