論文の概要: Continual Learning as Shared-Manifold Continuation Under Compatible Shift
- arxiv url: http://arxiv.org/abs/2603.20036v1
- Date: Fri, 20 Mar 2026 15:21:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 19:48:39.204172
- Title: Continual Learning as Shared-Manifold Continuation Under Compatible Shift
- Title（参考訳）: コンパチブルシフト下における共有多様体継続としての連続学習
- Authors: Henry J. Kobs,
- Abstract要約: 継続的な学習方法は、通常、パラメータの正規化、古い出力のマッチング、または以前の例の再生によって古い動作を保存する。
我々は、古いデータと新しいデータが同じ潜在的サポートに留まるべき体制に対して、より狭い幾何学的な代替手段について研究する。
本研究では, スパース再生, 出力蒸留, リレーショナル幾何保存, 局所平滑化, および古いアンカー上でのチャート割り当て正規化を組み合わせた幾何保存変種の評価を行った。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continual learning methods usually preserve old behavior by regularizing parameters, matching old outputs, or replaying previous examples. These strategies can reduce forgetting, but they do not directly specify how the latent representation should evolve. We study a narrower geometric alternative for the regime where old and new data should remain on the same latent support: continual learning as continuation of a shared manifold. We instantiate this view within Support-Preserving Manifold Assimilation (SPMA) and evaluate a geometry-preserving variant, SPMA-OG, that combines sparse replay, output distillation, relational geometry preservation, local smoothing, and chart-assignment regularization on old anchors. On representative compatible-shift CIFAR10 and Tiny-ImageNet runs, SPMA-OG improves over sparse replay baselines in old-task retention and representation-preservation metrics while remaining competitive on new-task accuracy. On a controlled synthetic atlas-manifold benchmark, it achieves near-perfect anchor-geometry preservation while also improving new-task accuracy over replay. These results provide evidence that geometry-aware anchor regularization is a useful inductive bias when continual learning should preserve a shared latent support rather than create a new one.
- Abstract（参考訳）: 継続的な学習方法は、通常、パラメータの正規化、古い出力のマッチング、または以前の例の再生によって古い動作を保存する。
これらの戦略は、忘れることを減らすことができるが、潜在表現がどのように進化するかを直接規定するものではない。
共有多様体の連続体としての連続学習において、古いデータと新しいデータが同じ潜在的サポートに留まるべき体制に対するより狭い幾何学的代替法について検討する。
我々は,SPMA(Support-Preserving Manifold Assimilation)内でこの視点をインスタンス化し,スパース再生,出力蒸留,リレーショナル幾何保存,局所平滑化,および古いアンカー上のチャート割り当て正規化を組み合わせた幾何保存変種SPMA-OGを評価する。
一般的な互換シフトCIFAR10とTiny-ImageNetの実行では、SPMA-OGは、新しいタスク精度に競争力を維持しながら、古いタスクの保持と表現保存のメトリクスにおけるスパースリプレイベースラインよりも改善されている。
制御された合成アトラスマンフォールドベンチマークでは、ほぼ完璧なアンカー幾何保存を実現し、リプレイによる新しいタスク精度を向上させる。
これらの結果は、幾何学的アンカー正規化が、新しいものを作成するよりも、継続学習が共有潜在サポートを保持するべきときに有用な帰納的バイアスであることを示す。
関連論文リスト
- Continual Learning with Vision-Language Models via Semantic-Geometry Preservation [30.46243279009575]
事前学習された視覚言語モデル(VLM)の継続的な学習は、破滅的な忘れがちである。
現在のアプローチは、事前学習から受け継いだクロスモーダルな意味幾何学を明示的に保持することなく、新しいタスクに適応する。
連続学習のための意味幾何学保存法(SeGP-CL)を提案する。
論文 参考訳（メタデータ） (2026-03-12T15:25:53Z) - Long-Term Multi-Session 3D Reconstruction Under Substantial Appearance Change [52.46888249268445]
長期の環境モニタリングには、数ヶ月または数年ごとに分割された繰り返しサイト訪問で3Dモデルを再構築し調整する機能が必要である。
既存のアプローチは、独立して再構築されたセッションのポストホックアライメントに依存している。
我々は,共同SfM再建において,クロスセッション対応を直接実施することを提案する。
論文 参考訳（メタデータ） (2026-02-24T06:12:51Z) - Trust Region Continual Learning as an Implicit Meta-Learner [3.705371747297478]
我々は,生産的リプレイとフィッシャー計量信頼領域制約を併用した,エフェトラスト領域連続学習のハイブリッド視点について検討する。
局所近似では,MAMLスタイルの解釈を単一の暗黙的な内部ステップで行うことができた。
これにより、連続学習における創発的なメタラーニング特性が得られる。
論文 参考訳（メタデータ） (2026-02-02T18:19:16Z) - Dense Semantic Matching with VGGT Prior [49.42199006453071]
本稿では,VGGTの本質的な強みを,初期の特徴段階を再利用し,後続の特徴段階を微調整し,双方向対応のための意味的頭部を追加することによって維持するアプローチを提案する。
提案手法は, 従来のベースラインよりも優れた幾何認識, 整合性, および多様体保存を実現する。
論文 参考訳（メタデータ） (2025-09-25T14:56:11Z) - Learning Along the Arrow of Time: Hyperbolic Geometry for Backward-Compatible Representation Learning [46.45124762458626]
後方互換性のある表現学習により、更新されたモデルが既存のモデルとシームレスに統合され、ストアドデータの再処理が回避される。
そこで我々は、時間をモデルの信頼と進化を捉えるための自然な軸として扱う、双曲幾何学への視点転換を提案する。
実験は、よりレジリエントで適応可能な機械学習システムを実現するために、互換性を達成するための提案手法の優越性を検証した。
論文 参考訳（メタデータ） (2025-06-06T07:53:40Z) - PAID: Pairwise Angular-Invariant Decomposition for Continual Test-Time Adaptation [70.98107766265636]
本稿では,事前学習した重みの幾何学的特性を出発点として,3つの重要な成分(等級,絶対角,対角構造)を体系的に解析する。
両角構造は多種多様なドメインにわたって安定であり, ドメイン不変な意味情報を符号化し, 適応中に保存すべきことを示唆する。
論文 参考訳（メタデータ） (2025-06-03T05:18:15Z) - Backward-Compatible Aligned Representations via an Orthogonal Transformation Layer [20.96380700548786]
画像検索システムは、古い表現と新しい表現のミスアライメントにより、表現が改善されたモデルを更新する際の課題に直面している。
以前の研究では、バックフィルなしで新しい表現と古い表現を直接比較できる後方互換性のあるトレーニング方法が検討されてきた。
本稿では、後方互換性と独立に訓練されたモデルの性能のバランスをとることに取り組む。
論文 参考訳（メタデータ） (2024-08-16T15:05:28Z) - Disentangled Representation Learning with the Gromov-Monge Gap [65.73194652234848]
乱れのないデータから歪んだ表現を学習することは、機械学習における根本的な課題である。
本稿では,2次最適輸送に基づく非交叉表現学習手法を提案する。
提案手法の有効性を4つの標準ベンチマークで示す。
論文 参考訳（メタデータ） (2024-07-10T16:51:32Z) - Learning Flat Latent Manifolds with VAEs [16.725880610265378]
本稿では、ユークリッド計量がデータポイント間の類似性のプロキシとなる変分自動エンコーダのフレームワークの拡張を提案する。
我々は、変分オートエンコーダで一般的に使用されるコンパクトな以前のものを、最近発表されたより表現力のある階層型に置き換える。
提案手法は,ビデオ追跡ベンチマークを含む,さまざまなデータセットを用いて評価する。
論文 参考訳（メタデータ） (2020-02-12T09:54:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。