論文の概要: Lifelong Representations: A Survey on Continual Self-Supervised Learning for Vision Models
- arxiv url: http://arxiv.org/abs/2607.09785v1
- Date: Wed, 08 Jul 2026 13:44:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.192807
- Title: Lifelong Representations: A Survey on Continual Self-Supervised Learning for Vision Models
- Title（参考訳）: Lifelong Representations: ビジョンモデルのための継続的自己監督型学習に関する調査
- Abstract要約: 本稿では,視覚に対する連続的自己教師型学習(CSSL)の包括的調査を行う。
自監督目的が破滅的忘れに対する堅牢性を向上させる理由を考察した。
スケーラビリティや迅速な適応性の必要性といったオープンな課題を特定します。
- 参考スコア（独自算出の注目度）: 26.65040437876567
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Traditionally, continual learning has assumed access to labeled data, yet many real-world applications -- such as lifelong robotics -- require models to adapt continuously from unlabeled streams. This has led to the development of continual self-supervised learning (CSSL), a rapidly growing area that lacks a dedicated, systematic review. In this work, we present a comprehensive survey of CSSL for vision, with connections to emerging vision-language settings. First, we analyze existing evaluation protocols and highlight inconsistencies that hinder fair comparison. We then examine why self-supervised objectives exhibit improved robustness to catastrophic forgetting, relating this to task-agnostic representations and smoother loss landscapes. Next, we organize existing methods into a unified taxonomy based on their forgetting-mitigation strategies, including distillation, replay, regularization, architectural approaches, model merging, and objective-level adaptation. Finally, we identify open challenges such as scalability and the need for fast adaptability. We argue that advancing CSSL requires moving beyond small-scale benchmarks towards continual pre-training paradigms for large-scale systems.
- Abstract（参考訳）: 伝統的に、連続的な学習はラベル付きデータへのアクセスを前提としてきたが、生涯にわたるロボット工学のような多くの現実世界のアプリケーションは、ラベルなしストリームから連続的に適応するモデルを必要としている。
このことが継続的自己教師型学習(CSSL)の発展につながった。
本研究は,新たな視覚言語設定への接続を伴う視覚用CSSLの包括的調査を示す。
まず、既存の評価プロトコルを分析し、公正な比較を妨げている矛盾を強調します。
次に, 自己監督対象が破滅的忘れに対する堅牢性の向上を示す理由を, タスク非依存の表現や, よりスムーズなロスランドスケープに関連づけて検討した。
次に, 既存の手法を, 蒸留, リプレイ, 正規化, アーキテクチャアプローチ, モデルマージ, 客観的適応など, 忘れ・軽減戦略に基づいて, 統一された分類体系に整理する。
最後に、スケーラビリティや迅速な適応性の必要性といったオープンな課題を特定します。
我々は、CSSLを前進させるには、小規模のベンチマークを超えて、大規模システムのための継続的な事前トレーニングパラダイムに移行する必要があると論じる。
関連論文リスト
- Continual Vision-Language Learning for Remote Sensing: Benchmarking and Analysis [39.81956241706565]
リモートセンシングにおける連続的な視覚言語学習のためのベンチマークであるCLeaRSを提案する。
CLeaRSは、207k以上のイメージテキストペアを持つ10のキュレートされたサブセットで構成され、多様な解釈タスク、モダリティの検知、アプリケーションシナリオで構成されている。
多様な視覚言語モデルの大規模なベンチマークでは、すべての設定において破滅的な忘れが浮かび上がっている。
論文 参考訳（メタデータ） (2026-04-01T12:27:31Z) - LibContinual: A Comprehensive Library towards Realistic Continual Learning [62.34449396069085]
継続的学習(CL)における根本的な課題は破滅的な忘れ込みであり、新しいタスクに適応することで、以前のタスクのパフォーマンスが低下する。
現実的なCLの基礎となるプラットフォームとして設計された,包括的で再現可能なライブラリであるLibContinualを提案する。
論文 参考訳（メタデータ） (2025-12-26T13:59:13Z) - Learning Affordances at Inference-Time for Vision-Language-Action Models [50.93181349331096]
ロボット工学において、VLA(Vision-Language-Action Model)は複雑な制御タスクを解くための有望な道を提供する。
本稿では,VLAの低レベルポリシーを過去の経験を条件とした高レベルVLMに接続するLITEN(Learning from Inference-Time Execution)を紹介する。
提案手法は,低レベルVLAの計画の生成と実行を行う推論フェーズと,その結果を反映した評価フェーズとを反復する。
論文 参考訳（メタデータ） (2025-10-22T16:43:29Z) - LLM Unlearning Under the Microscope: A Full-Stack View on Methods and Metrics [10.638045151201084]
本稿では,近年のステートフル・アンラーニング法12の原則的分類について述べる。
未学習効果(UE)、実用性維持(UT)、堅牢性(Rob)の評価を再考する。
分析の結果,Multiple-choice question (MCQ) の精度に支配される現在の評価は,狭い視点しか示さないことがわかった。
論文 参考訳（メタデータ） (2025-10-08T23:47:05Z) - Continual Learning for VLMs: A Survey and Taxonomy Beyond Forgetting [70.83781268763215]
視覚言語モデル(VLM)は、大規模事前学習を活用することで、多様なマルチモーダルタスクにおいて優れたパフォーマンスを実現している。
VLMは、クロスモーダル機能ドリフト、共有アーキテクチャによるパラメータ干渉、ゼロショット機能侵食など、ユニークな課題に直面している。
本調査は、生涯の視覚言語システムを開発する研究者にとって、包括的かつ診断的な基準となることを目的としている。
論文 参考訳（メタデータ） (2025-08-06T09:03:10Z) - Evolving Machine Learning: A Survey [8.382299491159852]
この調査は、データドリフト、コンセプトドリフト、破滅的な忘れ、歪んだ学習、ネットワーク適応の5つの主要な課題に焦点を当てている。
我々は100以上の研究を体系的にレビューし、教師なし、教師なし、および半教師なしのアプローチにまたがって最先端の手法を分類した。
我々の研究は、研究者や実践者が実世界の展開のために堅牢で倫理的でスケーラブルなシステムを開発するのをガイドすることを目的としている。
論文 参考訳（メタデータ） (2025-05-23T13:50:02Z) - Temporal-Difference Variational Continual Learning [77.92320830700797]
複数の先行推定の正則化効果を統合する新たな学習目標を提案する。
提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
論文 参考訳（メタデータ） (2024-10-10T10:58:41Z) - Data-efficient Large Vision Models through Sequential Autoregression [58.26179273091461]
限られたデータセットに基づいて,効率的な自己回帰に基づく視覚モデルを構築する。
このモデルは,高レベル・低レベルのセマンティック理解の両方にまたがる視覚的タスクにおいて,その習熟度をいかに達成するかを実証する。
我々の経験的評価は、モデルが様々なタスクに適応する際の機敏さを強調し、パラメータフットプリントの大幅な削減を図った。
論文 参考訳（メタデータ） (2024-02-07T13:41:53Z) - Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。
本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。
以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
論文 参考訳（メタデータ） (2023-09-15T17:10:51Z) - Semi-Supervised and Unsupervised Deep Visual Learning: A Survey [76.2650734930974]
半教師なし学習と教師なし学習は、ラベルなしの視覚データから学ぶための有望なパラダイムを提供する。
本稿では, 半教師付き学習(SSL)と非教師付き学習(UL)の先進的な深層学習アルゴリズムについて, 統一的な視点による視覚的認識について概説する。
論文 参考訳（メタデータ） (2022-08-24T04:26:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。