論文の概要: Not All Patches Are Equally Forgettable: Spatially Localized Domain Unlearning in Vision-Language Models
- arxiv url: http://arxiv.org/abs/2609.17790v1
- Date: Tue, 15 Sep 2026 19:55:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.520906
- Title: Not All Patches Are Equally Forgettable: Spatially Localized Domain Unlearning in Vision-Language Models
- Title（参考訳）: すべてのパッチが等しく忘れられるわけではない:視覚-言語モデルにおける空間的局所的ドメインアンラーニング
- Abstract要約: 事前学習された視覚言語モデル(VLM)は、追加のトレーニングを必要とせずに、強力なクロスドメイン認識性能を示す。
ドメイン関連および意味情報は、しばしば学習された表現空間内で絡み合っている。
本稿では、まず、パッチレベルのドメイン感度を推定し、次いで、パッチを選択的に減衰させる2段階のパッチ選択フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 4.440305753099884
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Pre-trained vision-language models (VLMs) exhibit strong cross-domain recognition performance even without additional training. However, this robustness can also preserve undesirable domain-specific behavior, as domain-related and semantic information often remain entangled within the learned representation space, making selective domain unlearning challenging. Existing approaches typically address this problem through latent-space disentanglement and prompt- or feature-level interventions, without directly attributing and attenuating individual patch-token contributions. However, here we suggest that rather than uniformly suppressing the full representation, it may be more effective to exploit the spatial structure of vision transformers to localize and suppress patch regions that contribute disproportionately to forget-domain prediction. Patches that strongly influence forget-domain prediction may not be equally important for semantic recognition, suggesting that forgetting should be guided according to the domain contribution of different visual regions. Specifically, we propose a two-stage patch-selective framework that first estimates patch-level domain sensitivity and then selectively attenuates patches whose contribution to forget-domain prediction is stronger than their semantic utility. We evaluate our framework on Office-Home, Mini DomainNet, and DomainNet. Experimental results demonstrate improved forgetting-retention tradeoffs compared to prior methods while improving retained-domain recognition by up to 3.8\%. Additional evaluations under visually overlapping and unseen-domain settings further demonstrate improved robustness under distribution shift.
- Abstract（参考訳）: 事前学習された視覚言語モデル(VLM)は、追加のトレーニングを必要とせずに、強力なクロスドメイン認識性能を示す。
しかし、この堅牢性は、ドメイン関連やセマンティック情報が学習された表現空間に絡まっており、選択されたドメインの学習が難しいため、望ましくないドメイン固有の振る舞いを保存することもできる。
既存のアプローチでは、個々のパッチに対する貢献に直接貢献したり減らしたりすることなく、遅延空間のゆがみやプロンプトや特徴レベルの介入を通じてこの問題に対処するのが一般的である。
しかし,本研究では,全表現を一様に抑制するのではなく,視覚変換器の空間構造を利用して,領域予測に不均衡なパッチ領域を局所化し,抑制することがより効果的である可能性が示唆された。
忘れドメイン予測に強く影響を及ぼすパッチは、セマンティック認識において等しく重要ではなく、異なる視覚領域のドメイン貢献に応じて、忘れることがガイドされるべきである。
具体的には、まずパッチレベルのドメイン感度を推定し、その後、忘れドメイン予測に寄与するパッチをセマンティックユーティリティよりも強くする2段階のパッチ選択フレームワークを提案する。
私たちは、Office-Home、Mini DomainNet、DomainNetのフレームワークを評価します。
実験結果から, 従来手法と比較して, 留置保持トレードオフが改善し, 保持ドメイン認識が最大3.86%向上した。
視覚的に重なる領域と見えない領域の設定の下でのさらなる評価は、分散シフト下でのロバスト性をさらに向上させる。
関連論文リスト
- Unsupervised Domain Adaptation for Anatomical Landmark Detection [5.070344284426738]
非教師なし領域適応(UDA)の設定下での解剖学的ランドマーク検出のための新しい枠組みを提案する。
このフレームワークは、自己学習とドメインの敵対的学習を活用して、適応中のドメインギャップに対処する。
脳波および肺のランドマーク検出実験は,領域間隙を広いマージンで低減し,他のUDA法より一貫して優れる手法の有効性を示した。
論文 参考訳（メタデータ） (2023-08-25T10:22:13Z) - Boosting Cross-Domain Speech Recognition with Self-Supervision [35.01508881708751]
自動音声認識(ASR)のクロスドメイン性能は,トレーニングとテストのミスマッチにより著しく損なわれる可能性がある。
従来, 自己監督学習 (SSL) や擬似ラベル学習 (PL) は, 未ラベルデータの自己監督を利用してUDAに有効であることが示された。
この研究は、事前学習および微調整のパラダイムにおいて、ラベルなしデータを完全に活用する体系的なUDAフレームワークを提案する。
論文 参考訳（メタデータ） (2022-06-20T14:02:53Z) - Domain Invariant Masked Autoencoders for Self-supervised Learning from
Multi-domains [73.54897096088149]
マルチドメインからの自己教師型学習のためのドメイン不変のMasked AutoEncoder (DiMAE)を提案する。
中心となる考え方は、入力画像を異なるドメインからのスタイルノイズで拡張し、拡張イメージの埋め込みからイメージを再構築することである。
PACSとDomainNetの実験は、最近の最先端の手法と比較して、DiMAEがかなりの利益を得ていることを示している。
論文 参考訳（メタデータ） (2022-05-10T09:49:40Z) - Preserving Domain Private Representation via Mutual Information
Maximization [3.2597336130674317]
本稿では,ラベルを欠く領域にプライベートな表現を保存するためのアプローチを提案する。
我々の手法は、いくつかの公開データセット上で最先端の手法より優れている。
論文 参考訳（メタデータ） (2022-01-09T22:55:57Z) - AFAN: Augmented Feature Alignment Network for Cross-Domain Object
Detection [90.18752912204778]
オブジェクト検出のための教師なしドメイン適応は、多くの現実世界のアプリケーションにおいて難しい問題である。
本稿では、中間領域画像生成とドメイン・アドバイザリー・トレーニングを統合した新しい機能アライメント・ネットワーク(AFAN)を提案する。
提案手法は、類似および異種ドメイン適応の双方において、標準ベンチマークにおける最先端の手法よりも大幅に優れている。
論文 参考訳（メタデータ） (2021-06-10T05:01:20Z) - Generalizable Representation Learning for Mixture Domain Face
Anti-Spoofing [53.82826073959756]
ドメイン一般化(DG)に基づく対スプーフィングアプローチは、予期せぬシナリオの堅牢性のために注目を集めています。
ドメインダイナミック調整メタラーニング(D2AM)についてドメインラベルを使わずに提案する。
この制限を克服するため,ドメインダイナミック調整メタラーニング(D2AM)を提案する。
論文 参考訳（メタデータ） (2021-05-06T06:04:59Z) - Domain Adaptation for Semantic Segmentation via Patch-Wise Contrastive
Learning [62.7588467386166]
ドメイン間で構造的に類似するラベルパッチの機能を調整することで、ドメインギャップを埋めるためにコントラスト学習を利用する。
私たちのアプローチは、常に2つの困難なドメイン適応セグメンテーションタスクにおいて、最先端の非監視および半監督メソッドを上回ります。
論文 参考訳（メタデータ） (2021-04-22T13:39:12Z) - Domain Adaptation for Semantic Parsing [68.81787666086554]
本稿では,ドメイン適応のための新しいセマンティクスを提案する。このセマンティクスでは,ソースドメインと比較して,対象ドメインのアノテーション付きデータがはるかに少ない。
我々のセマンティックな利点は、2段階の粗大なフレームワークから得ており、2段階の異なる正確な処理を提供できる。
ベンチマークデータセットの実験により、我々の手法はいくつかの一般的なドメイン適応戦略より一貫して優れていることが示された。
論文 参考訳（メタデータ） (2020-06-23T14:47:41Z) - Domain-aware Visual Bias Eliminating for Generalized Zero-Shot Learning [150.42959029611657]
ドメイン対応ビジュアルバイアス除去(DVBE)ネットワークは2つの相補的な視覚表現を構成する。
目に見えない画像に対しては、最適なセマンティック・視覚アライメントアーキテクチャを自動で検索する。
論文 参考訳（メタデータ） (2020-03-30T08:17:04Z) - Towards Stable and Comprehensive Domain Alignment: Max-Margin
Domain-Adversarial Training [38.12978698952838]
適応再構成ネットワーク(ARN)を設計し,MDAT(Max-margin Domain-Adversarial Training)を提案する。
ARNは、余分なネットワーク構造を伴わずに、機能レベルとピクセルレベルのドメインアライメントを実行する。
我々のアプローチは、他の最先端のドメインアライメント手法よりも優れています。
論文 参考訳（メタデータ） (2020-03-30T07:48:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。