論文の概要: MePo++: Unifying Representation Refinement and Reconciliation for General Continual Learning
- arxiv url: http://arxiv.org/abs/2609.05075v1
- Date: Fri, 04 Sep 2026 12:33:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.03522
- Title: MePo++: Unifying Representation Refinement and Reconciliation for General Continual Learning
- Title(参考訳): MePo++: 一般的な継続的学習のための表現の制限と和解を統一する
- Abstract要約: 一般的な連続学習(GCL)は、タスクの同一性、明示的な境界、あるいは以前のデータへの繰り返しアクセスのない、進化するデータストリームから学ぶことを目的としている。
MePo++は、表現の洗練と和解を通じて、事前訓練された知識と下流のGCLをブリッジする。
- 参考スコア(独自算出の注目度): 47.304673929751935
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: General continual learning (GCL) aims to learn from evolving data streams without task identities, explicit boundaries, or repeated access to previous data, making it a realistic yet challenging setting for continual intelligence. Although pretrained models (PTMs) provide rich prior knowledge for addressing the limited supervision and non-stationary nature of GCL, existing PTM-based methods often directly adapt pretrained representations and overlook two critical gaps: the misalignment between upstream pretraining and downstream continual adaptation, and the unreliability of conventional output alignment under blurry streams. Here we propose MePo++, a unified post-training framework that bridges pretrained knowledge and downstream GCL through representation refinement and reconciliation. MePo++ introduces two complementary components: MetaPrep, which improves representation plasticity for continual adaptation through unsupervised meta-refinement over pseudo continual sequences; and StreamAlign, which reinforces representation stability by reconciling evolving online features with a stable pretrained geometry. By improving representation learnability before adaptation and preserving alignment during continual learning, MePo++ enables PTMs to remain both plastic for new concepts and stable over evolving streams. Experiments across diverse PTMs, datasets, and continual learning baselines demonstrate the consistent effectiveness and generality of MePo++ for PTM-based GCL. Our code is available at https://github.com/SunGL001/MePo_Plus.
- Abstract(参考訳): 一般的な連続学習(GCL)は、タスクの同一性、明示的な境界、あるいは以前のデータへの繰り返しアクセスのないデータストリームから学習することを目的としており、連続的なインテリジェンスのための現実的で難しい設定となっている。
事前学習モデル(PTM)は、GCLの限られた監督と非定常性に対処するための豊富な事前知識を提供するが、既存のPTMベースの手法は、しばしば事前学習された表現を直接適用し、2つの重要なギャップを見落としている。
本稿では,事前学習した知識と下流のGCLを表現の洗練と和解を通じてブリッジする,統一的なポストトレーニングフレームワークであるMePo++を提案する。
MePo++は2つの補完的なコンポーネントを導入している。MetaPrepは、疑似連続配列に対する教師なしメタリファインメントを通じて、連続的適応のための表現の可塑性を改善する。
適応前の表現学習性の向上と連続学習中のアライメントの維持により、MePo++は、PTMを新しい概念のためにプラスチックのままにし、進化するストリームよりも安定したものにすることができる。
多様なPTM、データセット、連続学習ベースラインにわたる実験は、PTMベースのGCLのためのMePo++の一貫性のある有効性と汎用性を示している。
私たちのコードはhttps://github.com/SunGL001/MePo_Plus.comから入手可能です。
関連論文リスト
- MePo: Meta Post-Refinement for Rehearsal-Free General Continual Learning [47.195830952416294]
PTMs-based General Continual Learning (GCL) のためのMeta Post-Refinement (MePo) という革新的なアプローチを導入する。
MePoは、事前学習データから擬似タスクシーケンスを構築し、事前訓練されたバックボーンを洗練するための双方向メタラーニングパラダイムを開発する。
MePoはプラグイン戦略として機能し、さまざまなGCLベンチマークや事前訓練されたチェックポイントで大幅なパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2026-02-08T12:15:35Z) - Unbiased Online Curvature Approximation for Regularized Graph Continual Learning [9.70311578832594]
グラフ連続学習(GCL)は、グラフベースのタスクの連続的なシーケンスから学習することを目的としている。
規則化法はGCLの破滅的な忘れ込みを防ぐのに不可欠である。
本稿では,モデルの現在の学習状況に基づいて,フルフィッシャー情報行列(FIM)の非バイアスオンライン曲率近似を提案する。
論文 参考訳(メタデータ) (2025-09-16T06:35:13Z) - Continual Learning for VLMs: A Survey and Taxonomy Beyond Forgetting [70.83781268763215]
視覚言語モデル(VLM)は、大規模事前学習を活用することで、多様なマルチモーダルタスクにおいて優れたパフォーマンスを実現している。
VLMは、クロスモーダル機能ドリフト、共有アーキテクチャによるパラメータ干渉、ゼロショット機能侵食など、ユニークな課題に直面している。
本調査は、生涯の視覚言語システムを開発する研究者にとって、包括的かつ診断的な基準となることを目的としている。
論文 参考訳(メタデータ) (2025-08-06T09:03:10Z) - Adapt before Continual Learning [9.477667054965782]
コアCLプロセス(ACL)の前にPTMを適応させることは、新しいタスクを学習する前にプラグアンドプレイ適応フェーズを導入する新しいフレームワークである。
ACLはベンチマークと統合メソッド間でCL性能を大幅に改善する。
論文 参考訳(メタデータ) (2025-06-04T13:46:33Z) - Continual Task Learning through Adaptive Policy Self-Composition [54.95680427960524]
CompoFormerは構造ベースの連続トランスフォーマーモデルであり、メタポリシックネットワークを介して、以前のポリシーを適応的に構成する。
実験の結果,CompoFormerは従来の継続学習法(CL)よりも優れており,特にタスクシーケンスが長いことが判明した。
論文 参考訳(メタデータ) (2024-11-18T08:20:21Z) - Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳(メタデータ) (2024-07-11T10:35:53Z) - Transformers for Supervised Online Continual Learning [11.270594318662233]
オンライン連続学習に変換器のコンテキスト内学習機能を活用する手法を提案する。
本手法は,画像位置定位のための大規模実世界ベンチマークであるCLOCにおいて,過去の最先端結果よりも大幅に改善されていることを示す。
論文 参考訳(メタデータ) (2024-03-03T16:12:20Z) - CTP: Towards Vision-Language Continual Pretraining via Compatible
Momentum Contrast and Topology Preservation [128.00940554196976]
Vision-Language Continual Pretraining (VLCP)は、大規模なデータセット上でオフラインでトレーニングすることで、さまざまな下流タスクに対して印象的な結果を示している。
VLCP(Vision-Language Continual Pretraining)の研究を支援するために,我々はまず,包括的で統一されたベンチマークデータセットP9Dをコントリビュートする。
独立したタスクとしての各業界からのデータは、継続的な学習をサポートし、Webデータの事前学習をシミュレートする現実世界のロングテールな性質に準拠している。
論文 参考訳(メタデータ) (2023-08-14T13:53:18Z) - Recyclable Tuning for Continual Pre-training [98.51583779792031]
継続事前学習は、学習済み言語モデル(PLM)が成長するデータから新たな知識を継続的に獲得し、徐々にアップグレードされるパラダイムである。
時代遅れの適応重量をリサイクルするための適切なアルゴリズムを開発するべきだと我々は主張する。
両手法が組み合わされ,性能が向上することを示す。
論文 参考訳(メタデータ) (2023-05-15T15:05:44Z) - New Insights for the Stability-Plasticity Dilemma in Online Continual
Learning [21.664470275289407]
マルチスケール特徴適応ネットワーク(MuFAN)というオンライン連続学習フレームワークを提案する。
MuFANはSVHN、CIFAR100、miniImageNet、CORe50データセット上で、最先端の継続的な学習方法よりも優れている。
論文 参考訳(メタデータ) (2023-02-17T07:43:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。