論文の概要: Preventing Latent Rehearsal Decay in Online Continual SSL with SOLAR

• arxiv url: http://arxiv.org/abs/2604.10586v1
• Date: Sun, 12 Apr 2026 11:11:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:16.117801
• Title: Preventing Latent Rehearsal Decay in Online Continual SSL with SOLAR
• Title（参考訳）: SOLARによるオンライン連続SSLにおける遅延リハーサルの回避
• Abstract要約: Online Continual Self-Supervised Learning (OCSSL)は、ラベルのない非定常データの連続的なストリームからモデルを学習するシナリオである。 OCSSLは安定性と塑性のトレードオフに特に注意を要する。
• 参考スコア（独自算出の注目度）: 14.741979939779105
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: This paper explores Online Continual Self-Supervised Learning (OCSSL), a scenario in which models learn from continuous streams of unlabeled, non-stationary data, where methods typically employ replay and fast convergence is a central desideratum. We find that OCSSL requires particular attention to the stability-plasticity trade-off: stable methods (e.g. replay with Reservoir sampling) are able to converge faster compared to plastic ones (e.g. FIFO buffer), but incur in performance drops under certain conditions. We explain this collapse phenomenon with the Latent Rehearsal Decay hypothesis, which attributes it to latent space degradation under excessive stability of replay. We introduce two metrics (Overlap and Deviation) that diagnose latent degradation and correlate with accuracy declines. Building on these insights, we propose SOLAR, which leverages efficient online proxies of Deviation to guide buffer management and incorporates an explicit Overlap loss, allowing SOLAR to adaptively managing plasticity. Experiments demonstrate that SOLAR achieves state-of-the-art performance on OCSSL vision benchmarks, with both high convergence speed and final performance.
• Abstract（参考訳）: 本稿では,オンライン連続自己監視学習(OCSSL, Online Continual Self-Supervised Learning)について考察する。 安定な手法(例:貯留層サンプリングによるリプレイ)は,プラスチック(例:FIFOバッファ)に比べて高速に収束するが,一定の条件下では性能低下が生じる。 本稿では,この崩壊現象を,リプレイの過度な安定性の下での遅延空間劣化に起因する潜在リハーサル崩壊仮説で説明する。 遅延劣化を診断し,精度低下と相関する2つの指標(Overlap と Deviation )を導入する。 これらの知見に基づいて,Deviationの効率的なオンラインプロキシを活用してバッファ管理をガイドし,明示的なオーバーラップロスを取り入れたSOLARを提案する。 実験により、SOLARはOCSSLビジョンベンチマークにおいて、収束速度と最終性能の両方で最先端のパフォーマンスを達成することが示された。

関連論文リスト

• Stable-MM-R1: Anchoring Multimodal Reasoning Dynamics via Entropy-Guided Stratification [19.490862077232205]
  強化学習訓練の安定化を目的としたデータ中心型フレームワークを提案する。 まず、動的にデータをフィルタリングして「蒸留ゾーン」にフォーカスする潜在的クエリマイニング(PAQM)を導入する。 本稿では,Hybrid Stratified Replay(HSR)を提案する。これは,Path Entropyに基づくロールアウトの階層化,ロールアウトレベルの信頼性プロキシ,結果報酬に基づいてバッチを再構成する機構である。
  論文  参考訳（メタデータ） (2026-09-07T07:47:00Z)
• Decoupled Latent Optimization of Diffusion Models for Full Waveform Inversion [4.293965179144764]
  フルウェーブフォーム・インバージョン(FWI)は、高度に不規則な2次PDE速度最適化を解くことで、記録から地下の速度を回復する。 最近の拡散優先法は、標準定式化と事前整合性の間の脆弱なトレードオフを犠牲にして現実性を改善する。 そこで本稿では,潜時費用目標を補助的物理変数と潜時変数に対する潜時費用目標に緩和するDe Latent Optimization (DLO)を提案する。 OpenFWIベンチマークでは、DLOは古典的正規化器や既存の拡散ベースのメソッドよりもクリーンでノイズがあり、トラスが不足している。
  論文  参考訳（メタデータ） (2026-06-12T05:55:10Z)
• Theoretical Foundations of Continual Learning via Drift-Plus-Penalty [6.614755043607776]
  継続的な学習(CL)は、破滅的な忘れを緩和しながら新しいタスクを取り入れることでこの課題に対処する。 我々は,忘れることの進化を明示的に制御する制御理論的な視点をCLに導入する。 我々は,Drift-PlusPenalty原則を最適化した継続的フレームワークであるCentinual Learning with Drift-PlusPenalty(COLD)を提案する。
  論文  参考訳（メタデータ） (2026-06-07T04:51:32Z)
• Where to Refine, When to Stop: Rethinking Redundancy via Latent Discrepancy for Efficient Visual Autoregressive Generation [50.139984798361375]
  遅延不一致による冗長性を除去する学習自由フレームワークを提案する。 LD-Pruningは、Infinity-8Bの最大2.35倍のスピードアップを実現し、高い生成品質を維持しながら推論を大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-29T19:34:39Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• Stabilizing Temporal Inference Dynamics for Online Surgical Phase Recognition [42.76777398447746]
  オンライン外科的位相認識(SPR)モデルはフレームの精度が高いが、その予測は時間的安定性に欠けることが多い。 この不安定性はランダムノイズではなく、2つのメカニズムから生じることを示す。 モデルに依存しないプラグイン・アンド・プレイコンポーネントを用いて時間的推論ダイナミクスを明示的に安定化する統合トレイン・推論・評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-11T16:56:15Z)
• Dual-Stage Invariant Continual Learning under Extreme Visual Sparsity [8.16821029459195]
  背景駆動の勾配は、連続的なドメインシフトの間、機能のバックボーンを不安定にすることを示す。 連成蒸留による二段階不変連続学習フレームワークを提案する。 高分解能空間ベース RSO 検出データセットの実験は、確立された連続物体検出法よりも一貫した改善を示す。
  論文  参考訳（メタデータ） (2026-03-27T09:03:49Z)
• Mitigating Temporal Blindness in Kubernetes Autoscaling: An Attention-Double-LSTM Framework [0.0]
  本稿では,作業負荷の予測と制御をアテンション強化型2重スタックLSTMアーキテクチャを介して統合する,安定性を考慮した自動スケーリングフレームワークを提案する。 このアプローチは90パーセントのレイテンシを約29%削減すると同時に,レプリカを39%削減することを示す。 これらの結果は, 生産エッジ環境における信頼性, 低ジッタ自動スケーリングの前提条件として, 深い注意記憶による時間的盲点の緩和が重要であることを確認した。
  論文  参考訳（メタデータ） (2026-03-21T10:03:53Z)
• When Sensors Fail: Temporal Sequence Models for Robust PPO under Sensor Drift [64.37959940809633]
  時間的持続的なセンサ故障下でのPPOのロバスト性について検討する。 トランスフォーマーを用いたシーケンスポリシーは, センサ数が少ない場合でも高いリターンを保ちながら, 堅牢性, RNN, SSMよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2026-03-04T22:21:54Z)
• From Observations to States: Latent Time Series Forecasting [65.98504021691666]
  本稿では,TSFを観測回帰から潜時予測に移行する新しいパラダイムであるLatent Time Series Forecasting(LatentTSF)を提案する。 具体的には、LatentTSFはAutoEncoderを使用して、各段階での観測結果を高次元の潜在状態空間に投影する。 提案する潜伏目標は,予測潜伏状態と地道状態と観測値との相互情報を暗黙的に最大化する。
  論文  参考訳（メタデータ） (2026-01-30T20:39:44Z)
• Avoiding Premature Collapse: Adaptive Annealing for Entropy-Regularized Structural Inference [1.7523718031184992]
  この障害の基本的なメカニズムは、 textbf Premature Mode Collapseである。 提案手法は,適応型スケジューリングアルゴリズムであるtextbfEfficient Piecewise Hybrid Adaptive Stability Control (EPH-ASC) で,推論過程の安定性をモニタする。
  論文  参考訳（メタデータ） (2026-01-30T14:47:18Z)
• Consolidation or Adaptation? PRISM: Disentangling SFT and RL Data via Gradient Concentration [56.074760766965085]
  PRISMは、モデルの既存の知識との認知的対立度に基づいてデータを調停する動的認識フレームワークを実現する。 この結果から,内部最適化方式に基づくデータ分離が,スケーラブルでロバストなエージェントアライメントに不可欠であることが示唆された。
  論文  参考訳（メタデータ） (2026-01-12T05:43:20Z)
• Steering Vision-Language-Action Models as Anti-Exploration: A Test-Time Scaling Approach [78.4812458793128]
  動作チャンクの高忠実度検証に軽量な擬数推定器を適用したテスト時間スケーリングフレームワークである textbfTACO を提案する。 我々の手法は、オフライン強化学習(RL)における古典的な反探索原理に似ており、勾配のないため、計算上の大きな恩恵をもたらす。
  論文  参考訳（メタデータ） (2025-12-02T14:42:54Z)
• Boosting Fidelity for Pre-Trained-Diffusion-Based Low-Light Image Enhancement via Condition Refinement [63.54516423266521]
  事前学習拡散ベース(PTDB)法は、しばしばコンテンツ忠実さを犠牲にして知覚的リアリズムを高める。 本稿では,事前学習した拡散モデルにおける条件付けのための新しい最適化手法を提案する。 我々のアプローチはプラグアンドプレイであり、より効率的な制御を提供するために既存の拡散ネットワークにシームレスに統合される。
  論文  参考訳（メタデータ） (2025-10-20T02:40:06Z)
• Convergence and Generalization of Anti-Regularization for Parametric Models [0.0]
  反正則化は損失関数に逆符号を持つ報酬項を導入する。 スペクトル安全性条件と信頼領域制約を定式化する。 我々は、プロジェクション演算子と勾配クリッピングを組み合わせた軽量な安全ガードを設計し、安定した介入を保証する。
  論文  参考訳（メタデータ） (2025-08-24T15:34:17Z)
• Precipitation Nowcasting Using Diffusion Transformer with Causal Attention [3.9468501770612576]
  現在のディープラーニング手法は、条件と予測結果の効果的な依存関係を確立するのに不足している。 因果アテンションモデルを用いた拡散変圧器を用いた降雨キャスティングを提案する。
  論文  参考訳（メタデータ） (2024-10-17T08:10:41Z)
• ScaleLong: Towards More Stable Training of Diffusion Model via Scaling Network Long Skip Connection [152.01257690637064]
  UNetにおけるLCCの係数は,UNetの前方・後方伝播の安定性とロバスト性に大きな影響を及ぼすことを示す。 UNet における LSC の係数をスケールし,UNet のトレーニング安定性を向上する,効果的な係数スケーリングフレームワーク ScaleLong を提案する。
  論文  参考訳（メタデータ） (2023-10-20T14:45:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。