論文の概要: Continual Learning of Domain-Invariant Representations
- arxiv url: http://arxiv.org/abs/2605.15775v1
- Date: Fri, 15 May 2026 09:31:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.235755
- Title: Continual Learning of Domain-Invariant Representations
- Title(参考訳): ドメイン不変表現の連続的学習
- Authors: Pascal Janetzky, Tobias Schlagenhauf, Stefan Feuerriegel,
- Abstract要約: ドメイン間の不変構造をキャプチャする表現を逐次学習するCLメソッドのクラスを導入する。
提案手法は,既存のCLベースラインを目標領域への一般化という点で常に上回っている。
- 参考スコア(独自算出の注目度): 32.573842841321316
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Continual learning (CL) aims to train models sequentially over multiple domains without forgetting previously learned knowledge. However, existing CL methods optimize for in-domain performance and are therefore prone to learning spurious, domain-specific cues (``shortcut learning''), which limits generalization to unseen domains after deployment. In this paper, we address this limitation through continual learning of domain-invariant representation. We introduce a broad class of CL methods that sequentially learn representations capturing invariant structures across domains. Our methods are motivated by the observation that such invariant structures often preserve the underlying causal mechanisms, which can reduce the risk of overfitting to domain-specific cues and thus offer better out-of-domain generalization. Our proposed CL methods combine replay-based training with a tailored sequential invariance alignment to learn -- and preserve -- invariant structures over time. We evaluate our methods under a deployment-oriented protocol that measures performance on unseen target domains. Across six benchmark and real-world datasets spanning vision, medicine, manufacturing, and ecology, our methods consistently outperform existing CL baselines in terms of generalization to unseen target domains. As an ablation, we further show that naïve extensions of sequential training with existing domain-invariant representation learning (DIRL) methods provide only limited benefits. To the best of our knowledge, this is the first work to develop domain-invariant representation methods for CL.
- Abstract(参考訳): 連続学習(CL)は、学習済みの知識を忘れずに、複数のドメイン上でモデルを逐次訓練することを目的としている。
しかし、既存のCLメソッドはドメイン内のパフォーマンスを最適化するので、デプロイ後に目に見えないドメインに一般化を制限する、急激なドメイン固有のキュー(`shortcut learning'')を学習する傾向がある。
本稿では、ドメイン不変表現の連続的な学習を通して、この制限に対処する。
ドメイン間の不変構造をキャプチャする表現を逐次学習するCLメソッドの幅広いクラスを導入する。
我々の手法は、そのような不変構造がしばしば根底にある因果機構を保ち、ドメイン固有のキューに過度に適合するリスクを低減し、ドメイン外一般化をより良くする、という観察に動機づけられている。
提案手法では,リプレイベーストレーニングと逐次的不変性アライメントを組み合わせることで,時間とともに学習・保存を行う。
我々は,未確認のターゲットドメインの性能を計測するデプロイメント指向プロトコルを用いて,本手法の評価を行った。
視覚, 医療, 製造, 生態学にまたがる6つのベンチマークと実世界のデータセットにおいて, 我々の手法は, 既存のCLベースラインを常に上回り, 対象ドメインの一般化に寄与する。
さらに,従来のドメイン不変表現学習(DIRL)手法による逐次学習の拡張は,限られた利点しか得られないことを示す。
我々の知る限りでは、CLのドメイン不変表現法を開発する最初の試みである。
関連論文リスト
- Granular Ball Guided Stable Latent Domain Discovery for Domain-General Crowd Counting [19.18297173252027]
そこで本研究では,一般群集カウントのためのグラニュラーボールガイド型安定潜時ドメイン探索フレームワークを提案する。
提案手法はまず, サンプルをコンパクトな局所粒状球体に分類し, 擬似ドメインを推論する代表として粒状球体をクラスタ化する。
検出された潜在ドメインの上に,伝達可能な意味表現を改善する2分岐学習フレームワークを開発する。
論文 参考訳(メタデータ) (2026-03-25T09:12:35Z) - Free Lunch to Meet the Gap: Intermediate Domain Reconstruction for Cross-Domain Few-Shot Learning [20.048013939398484]
クロスドメインのFew-Shot Learningは、ソースドメインからターゲットドメインに一般化された知識を転送する試みである。
我々は、コードブックとしてソース機能を組み込んだ中間ドメインプロキシ(IDP)を構築するための新しい試みを行っている。
本研究では,これらのプロキシをターゲット領域の特徴変換の学習指導として利用する高速なドメインアライメント手法を開発した。
論文 参考訳(メタデータ) (2025-11-18T09:14:06Z) - LLM-RecG: A Semantic Bias-Aware Framework for Zero-Shot Sequential Recommendation [5.512301280728178]
ゼロショットクロスドメインシーケンシャルレコメンデーション(ZCDSR)は、追加のトレーニングや微調整なしで、目に見えないドメインでの予測を可能にする。
大規模言語モデル(LLM)の最近の進歩は、ドメイン間の知識伝達を容易にすることで、ZCDSRを大幅に強化している。
本稿では,アイテムレベルとシーケンシャルレベルの両方において,ドメイン間のアライメントを改善するセマンティックバイアス対応フレームワークを提案する。
論文 参考訳(メタデータ) (2025-01-31T15:43:21Z) - In the Era of Prompt Learning with Vision-Language Models [1.060608983034705]
ドメイン一般化のためのドメインに依存しない新しい学習戦略であるtextscStyLIP を紹介する。
StyLIPは、スタイルプロジェクタを使用してドメイン固有のプロンプトトークンを学習することで、CLIPsビジョンエンコーダの視覚スタイルとコンテンツを切り離す。
また,CLIPの凍結視覚バックボーンを利用した非教師なし領域適応(DA)のためのAD-CLIPを提案する。
論文 参考訳(メタデータ) (2024-11-07T17:31:21Z) - Rethinking Domain Adaptation and Generalization in the Era of CLIP [27.12334798260904]
単純なドメインがCLIPのゼロショット認識を特定のドメインで促進することを示す。
また,CLIPを用いたゼロショット適応と擬似ラベルに基づく自己学習のためのベンチマークを作成する。
複数の未ラベル領域からCLIPのタスク一般化能力を改善することを提案する。
論文 参考訳(メタデータ) (2024-07-21T14:09:14Z) - Memory-Efficient Prompt Tuning for Incremental Histopathology
Classification [69.46798702300042]
本稿では,経済的なメモリコストのモデル一般化ポテンシャルを育成するための,メモリ効率の良いプロンプトチューニングフレームワークを提案する。
乳癌転移分類と上皮間質組織分類の2つの病理組織学的タスクにより,我々の枠組みを広く評価した。
論文 参考訳(メタデータ) (2024-01-22T03:24:45Z) - MoP-CLIP: A Mixture of Prompt-Tuned CLIP Models for Domain Incremental
Learning [12.737883740101438]
本稿では,プロンプト調整型CLIPモデル(MoP-CLIP)を用いた新しいDIL手法を提案する。
トレーニング段階では、各ドメインの各クラスの特徴分布をモデル化し、個々のテキストと視覚的プロンプトを学習して、特定のドメインに適応させます。
学習した分布は、与えられたテストサンプルが既知のドメインに属しているかどうかを識別し、分類タスクの正しいプロンプトを選択する。
論文 参考訳(メタデータ) (2023-07-11T18:17:50Z) - Transferrable Contrastive Learning for Visual Domain Adaptation [108.98041306507372]
Transferrable Contrastive Learning (TCL) はドメイン適応に適した自己教師型学習パラダイムである。
TCLは、クリーンで斬新な対照的な損失を通じて、ソースとターゲット間のドメイン内ドメイン間の相違を罰する。
無料のランチは、対照的な学習が組み込まれているため、TCLは、ターゲットデータのための擬似ラベルの時間的にアンサンブルされたバージョンを自然に達成する、移動平均キーエンコーダに依存している。
論文 参考訳(メタデータ) (2021-12-14T16:23:01Z) - Structured Latent Embeddings for Recognizing Unseen Classes in Unseen
Domains [108.11746235308046]
本稿では,異なる領域からの画像を投影することで,ドメインに依存しない遅延埋め込みを学習する手法を提案する。
挑戦的なDomainNetとDomainNet-LSベンチマークの実験は、既存のメソッドよりもアプローチの方が優れていることを示している。
論文 参考訳(メタデータ) (2021-07-12T17:57:46Z) - Cluster, Split, Fuse, and Update: Meta-Learning for Open Compound Domain
Adaptive Semantic Segmentation [102.42638795864178]
セマンティックセグメンテーションのための原則的メタラーニングに基づくOCDAアプローチを提案する。
対象ドメインを複数のサブターゲットドメインに,教師なしの方法で抽出した画像スタイルでクラスタリングする。
その後、メタラーニングがデプロイされ、スタイルコードに条件付きでサブターゲットドメイン固有の予測を融合するように学習される。
モデルに依存しないメタラーニング(MAML)アルゴリズムにより,モデルをオンライン更新することを学び,一般化をさらに改善する。
論文 参考訳(メタデータ) (2020-12-15T13:21:54Z) - Class-Incremental Domain Adaptation [56.72064953133832]
私たちは、CIDA(Class-Incremental Domain Adaptation)と呼ばれる実践的ドメイン適応(DA)パラダイムを導入します。
既存のDAメソッドはドメインシフトに取り組むが、新しいターゲットドメインクラスを学ぶのには適さない。
提案手法は,CIDAパラダイムにおけるDAメソッドとCIメソッドの両方と比較して,優れた性能が得られる。
論文 参考訳(メタデータ) (2020-08-04T07:55:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。