論文の概要: Preventing Latent Rehearsal Decay in Online Continual SSL with SOLAR

• arxiv url: http://arxiv.org/abs/2604.10586v1
• Date: Sun, 12 Apr 2026 11:11:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:16.117801
• Title: Preventing Latent Rehearsal Decay in Online Continual SSL with SOLAR
• Title（参考訳）: SOLARによるオンライン連続SSLにおける遅延リハーサルの回避
• Authors: Giacomo Cignoni, Simone Magistri, Andrew D. Bagdanov, Antonio Carta,
• Abstract要約: Online Continual Self-Supervised Learning (OCSSL)は、ラベルのない非定常データの連続的なストリームからモデルを学習するシナリオである。 OCSSLは安定性と塑性のトレードオフに特に注意を要する。
• 参考スコア（独自算出の注目度）: 14.741979939779105
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: This paper explores Online Continual Self-Supervised Learning (OCSSL), a scenario in which models learn from continuous streams of unlabeled, non-stationary data, where methods typically employ replay and fast convergence is a central desideratum. We find that OCSSL requires particular attention to the stability-plasticity trade-off: stable methods (e.g. replay with Reservoir sampling) are able to converge faster compared to plastic ones (e.g. FIFO buffer), but incur in performance drops under certain conditions. We explain this collapse phenomenon with the Latent Rehearsal Decay hypothesis, which attributes it to latent space degradation under excessive stability of replay. We introduce two metrics (Overlap and Deviation) that diagnose latent degradation and correlate with accuracy declines. Building on these insights, we propose SOLAR, which leverages efficient online proxies of Deviation to guide buffer management and incorporates an explicit Overlap loss, allowing SOLAR to adaptively managing plasticity. Experiments demonstrate that SOLAR achieves state-of-the-art performance on OCSSL vision benchmarks, with both high convergence speed and final performance.
• Abstract（参考訳）: 本稿では,オンライン連続自己監視学習(OCSSL, Online Continual Self-Supervised Learning)について考察する。 安定な手法(例:貯留層サンプリングによるリプレイ)は,プラスチック(例:FIFOバッファ)に比べて高速に収束するが,一定の条件下では性能低下が生じる。 本稿では,この崩壊現象を,リプレイの過度な安定性の下での遅延空間劣化に起因する潜在リハーサル崩壊仮説で説明する。 遅延劣化を診断し,精度低下と相関する2つの指標(Overlap と Deviation )を導入する。 これらの知見に基づいて,Deviationの効率的なオンラインプロキシを活用してバッファ管理をガイドし,明示的なオーバーラップロスを取り入れたSOLARを提案する。 実験により、SOLARはOCSSLビジョンベンチマークにおいて、収束速度と最終性能の両方で最先端のパフォーマンスを達成することが示された。

関連論文リスト

• Dual-Stage Invariant Continual Learning under Extreme Visual Sparsity [8.16821029459195]
  背景駆動の勾配は、連続的なドメインシフトの間、機能のバックボーンを不安定にすることを示す。 連成蒸留による二段階不変連続学習フレームワークを提案する。 高分解能空間ベース RSO 検出データセットの実験は、確立された連続物体検出法よりも一貫した改善を示す。
  論文  参考訳（メタデータ） (2026-03-27T09:03:49Z)
• Mitigating Temporal Blindness in Kubernetes Autoscaling: An Attention-Double-LSTM Framework [0.0]
  本稿では,作業負荷の予測と制御をアテンション強化型2重スタックLSTMアーキテクチャを介して統合する,安定性を考慮した自動スケーリングフレームワークを提案する。 このアプローチは90パーセントのレイテンシを約29%削減すると同時に,レプリカを39%削減することを示す。 これらの結果は, 生産エッジ環境における信頼性, 低ジッタ自動スケーリングの前提条件として, 深い注意記憶による時間的盲点の緩和が重要であることを確認した。
  論文  参考訳（メタデータ） (2026-03-21T10:03:53Z)
• When Sensors Fail: Temporal Sequence Models for Robust PPO under Sensor Drift [64.37959940809633]
  時間的持続的なセンサ故障下でのPPOのロバスト性について検討する。 トランスフォーマーを用いたシーケンスポリシーは, センサ数が少ない場合でも高いリターンを保ちながら, 堅牢性, RNN, SSMよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2026-03-04T22:21:54Z)
• From Observations to States: Latent Time Series Forecasting [65.98504021691666]
  本稿では,TSFを観測回帰から潜時予測に移行する新しいパラダイムであるLatent Time Series Forecasting(LatentTSF)を提案する。 具体的には、LatentTSFはAutoEncoderを使用して、各段階での観測結果を高次元の潜在状態空間に投影する。 提案する潜伏目標は,予測潜伏状態と地道状態と観測値との相互情報を暗黙的に最大化する。
  論文  参考訳（メタデータ） (2026-01-30T20:39:44Z)
• Avoiding Premature Collapse: Adaptive Annealing for Entropy-Regularized Structural Inference [1.7523718031184992]
  この障害の基本的なメカニズムは、 textbf Premature Mode Collapseである。 提案手法は,適応型スケジューリングアルゴリズムであるtextbfEfficient Piecewise Hybrid Adaptive Stability Control (EPH-ASC) で,推論過程の安定性をモニタする。
  論文  参考訳（メタデータ） (2026-01-30T14:47:18Z)
• Consolidation or Adaptation? PRISM: Disentangling SFT and RL Data via Gradient Concentration [56.074760766965085]
  PRISMは、モデルの既存の知識との認知的対立度に基づいてデータを調停する動的認識フレームワークを実現する。 この結果から,内部最適化方式に基づくデータ分離が,スケーラブルでロバストなエージェントアライメントに不可欠であることが示唆された。
  論文  参考訳（メタデータ） (2026-01-12T05:43:20Z)
• Steering Vision-Language-Action Models as Anti-Exploration: A Test-Time Scaling Approach [78.4812458793128]
  動作チャンクの高忠実度検証に軽量な擬数推定器を適用したテスト時間スケーリングフレームワークである textbfTACO を提案する。 我々の手法は、オフライン強化学習(RL)における古典的な反探索原理に似ており、勾配のないため、計算上の大きな恩恵をもたらす。
  論文  参考訳（メタデータ） (2025-12-02T14:42:54Z)
• Boosting Fidelity for Pre-Trained-Diffusion-Based Low-Light Image Enhancement via Condition Refinement [63.54516423266521]
  事前学習拡散ベース(PTDB)法は、しばしばコンテンツ忠実さを犠牲にして知覚的リアリズムを高める。 本稿では,事前学習した拡散モデルにおける条件付けのための新しい最適化手法を提案する。 我々のアプローチはプラグアンドプレイであり、より効率的な制御を提供するために既存の拡散ネットワークにシームレスに統合される。
  論文  参考訳（メタデータ） (2025-10-20T02:40:06Z)
• Convergence and Generalization of Anti-Regularization for Parametric Models [0.0]
  反正則化は損失関数に逆符号を持つ報酬項を導入する。 スペクトル安全性条件と信頼領域制約を定式化する。 我々は、プロジェクション演算子と勾配クリッピングを組み合わせた軽量な安全ガードを設計し、安定した介入を保証する。
  論文  参考訳（メタデータ） (2025-08-24T15:34:17Z)
• Precipitation Nowcasting Using Diffusion Transformer with Causal Attention [3.9468501770612576]
  現在のディープラーニング手法は、条件と予測結果の効果的な依存関係を確立するのに不足している。 因果アテンションモデルを用いた拡散変圧器を用いた降雨キャスティングを提案する。
  論文  参考訳（メタデータ） (2024-10-17T08:10:41Z)
• ScaleLong: Towards More Stable Training of Diffusion Model via Scaling Network Long Skip Connection [152.01257690637064]
  UNetにおけるLCCの係数は,UNetの前方・後方伝播の安定性とロバスト性に大きな影響を及ぼすことを示す。 UNet における LSC の係数をスケールし,UNet のトレーニング安定性を向上する,効果的な係数スケーリングフレームワーク ScaleLong を提案する。
  論文  参考訳（メタデータ） (2023-10-20T14:45:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。