論文の概要: Bridging Contrastive Learning and Domain Adaptation: Theoretical Perspective and Practical Application
- arxiv url: http://arxiv.org/abs/2502.00052v1
- Date: Tue, 28 Jan 2025 23:45:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-09 04:50:38.414047
- Title: Bridging Contrastive Learning and Domain Adaptation: Theoretical Perspective and Practical Application
- Title(参考訳): ブリッジング・コントラスト学習とドメイン適応:理論的視点と実践的応用
- Authors: Gonzalo Iñaki Quintana, Laurence Vancamberg, Vincent Jugnon, Agnès Desolneux, Mathilde Mougeot,
- Abstract要約: NT-Xent損失(自己監督)とSupervised Contrastive Losという2つの標準的な対照的な損失は、ドメイン適応に広く使用される相似性尺度であるCMMD(Class-wise Mean Maximum Disrepancy)に関連している。
比較的損失の最小化はCMMDを減少させ,同時にクラス分離性を向上させることを示し,ドメイン適応の文脈におけるコントラスト学習の理論的基礎を築いた。
- 参考スコア(独自算出の注目度): 2.563180814294141
- License:
- Abstract: This work studies the relationship between Contrastive Learning and Domain Adaptation from a theoretical perspective. The two standard contrastive losses, NT-Xent loss (Self-supervised) and Supervised Contrastive loss, are related to the Class-wise Mean Maximum Discrepancy (CMMD), a dissimilarity measure widely used for Domain Adaptation. Our work shows that minimizing the contrastive losses decreases the CMMD and simultaneously improves class-separability, laying the theoretical groundwork for the use of Contrastive Learning in the context of Domain Adaptation. Due to the relevance of Domain Adaptation in medical imaging, we focused the experiments on mammography images. Extensive experiments on three mammography datasets - synthetic patches, clinical (real) patches, and clinical (real) images - show improved Domain Adaptation, class-separability, and classification performance, when minimizing the Supervised Contrastive loss.
- Abstract(参考訳): 本研究は、理論的観点から、コントラスト学習とドメイン適応の関係について研究する。
NT-Xent損失(自己監督)とSupervised Contrastive Losという2つの標準的な対照的な損失は、ドメイン適応に広く使用される相似性尺度であるCMMD(Class-wise Mean Maximum Disrepancy)に関連している。
比較的損失の最小化はCMMDを減少させ,同時にクラス分離性を向上させることを示し,ドメイン適応の文脈におけるコントラスト学習の理論的基礎を築いた。
医用画像におけるドメイン適応の関連性から,マンモグラフィー画像に焦点をあてた。
3つのマンモグラフィーデータセット(合成パッチ、臨床(実)パッチ、臨床(実)イメージ)の大規模な実験では、スーパービジョンコントラストの損失を最小限に抑えて、ドメイン適応、クラス分離性、分類性能が改善された。
関連論文リスト
- Enhancing Whole Slide Image Classification through Supervised Contrastive Domain Adaptation [1.7641392161755438]
ドメインシフトは、染色およびデジタル化プロトコルのホスピタル内およびホスピタル間変動に起因する一般的な現象である。
この変動に対処する新しいドメイン適応法を示す。
論文 参考訳(メタデータ) (2024-12-05T15:39:54Z) - Robust image representations with counterfactual contrastive learning [17.273155534515393]
因果画像合成の最近の進歩を生かした新しいフレームワークである反ファクト・コントラスト学習を導入する。
提案手法は,5つのデータセットで評価され,獲得シフトに対するロバスト性の観点から,標準的なコントラスト学習よりも優れていた。
さらなる実験により、提案フレームワークは買収シフトを超えて拡張され、反実的コントラスト学習で訓練されたモデルは、生物学的セックスにおけるサブグループパフォーマンスを大幅に改善することが示された。
論文 参考訳(メタデータ) (2024-09-16T15:11:00Z) - Domain-Adaptive Learning: Unsupervised Adaptation for Histology Images
with Improved Loss Function Combination [3.004632712148892]
本稿では,H&E染色組織像を対象とした非教師なし領域適応(UDA)のための新しいアプローチを提案する。
本手法では, 組織像に特有の課題に対処するために, 慎重に選択された既存の損失関数とともに, 新たな損失関数を提案する。
提案手法は, 組織像の最先端技術を超え, 精度, 堅牢性, 一般化の面で広く評価されている。
論文 参考訳(メタデータ) (2023-09-29T12:11:16Z) - Taxonomy Adaptive Cross-Domain Adaptation in Medical Imaging via
Optimization Trajectory Distillation [73.83178465971552]
自動医用画像解析の成功は、大規模かつ専門家による注釈付きトレーニングセットに依存する。
非教師なしドメイン適応(UDA)はラベル付きデータ収集の負担を軽減するための有望なアプローチである。
本稿では,2つの技術的課題に新しい視点から対処する統一的手法である最適化トラジェクトリ蒸留を提案する。
論文 参考訳(メタデータ) (2023-07-27T08:58:05Z) - ACTION++: Improving Semi-supervised Medical Image Segmentation with
Adaptive Anatomical Contrast [10.259713750306458]
半教師型医療セグメンテーションのための適応的解剖学的コントラストを持つ改良型コントラスト学習フレームワークであるACTION++を提案する。
我々は、長い尾の医療データに対する対照的な損失において、一定温度の$tau$を盲目的に採用することは、最適ではないと論じている。
ACTION++は2つの半教師付き設定で最先端を実現する。
論文 参考訳(メタデータ) (2023-04-05T18:33:18Z) - Rethinking Semi-Supervised Medical Image Segmentation: A
Variance-Reduction Perspective [51.70661197256033]
医用画像セグメンテーションのための階層化グループ理論を用いた半教師付きコントラスト学習フレームワークARCOを提案する。
まず、分散還元推定の概念を用いてARCOを構築することを提案し、特定の分散還元技術が画素/ボクセルレベルのセグメンテーションタスクにおいて特に有用であることを示す。
5つの2D/3D医療データセットと3つのセマンティックセグメンテーションデータセットのラベル設定が異なる8つのベンチマークで、我々のアプローチを実験的に検証する。
論文 参考訳(メタデータ) (2023-02-03T13:50:25Z) - Stacking Ensemble Learning in Deep Domain Adaptation for Ophthalmic
Image Classification [61.656149405657246]
ドメイン適応は、十分なラベルデータを取得することが困難な画像分類タスクに有効である。
本稿では,3つのドメイン適応手法を拡張することで,アンサンブル学習を積み重ねるための新しい手法SELDAを提案する。
Age-Related Eye Disease Study (AREDS)ベンチマーク眼科データセットを用いた実験結果から,提案モデルの有効性が示された。
論文 参考訳(メタデータ) (2022-09-27T14:19:00Z) - Domain Adaptation with Adversarial Training on Penultimate Activations [82.9977759320565]
教師なし領域適応(Unsupervised Domain Adaptation, UDA)の重要な目的は、ラベルなし対象データに対するモデル予測の信頼性を高めることである。
我々は,この戦略が,入力画像や中間特徴に対する敵対的訓練よりも予測信頼性を高める目的と,より効率的で相関性が高いことを示す。
論文 参考訳(メタデータ) (2022-08-26T19:50:46Z) - CADA: Multi-scale Collaborative Adversarial Domain Adaptation for
Unsupervised Optic Disc and Cup Segmentation [3.587294308501889]
CADA(Collaborative Adrial Domain Adaptation)と呼ばれる新しい教師なしドメイン適応フレームワークを提案する。
提案するCADAは,異なるネットワーク層における対角学習とアンサンブル重みの両面から,対話的な協調的適応を示すパラダイムである。
マルチスケールな入力学習を取り入れたCADAモデルは、性能劣化を克服し、最先端のドメイン適応手法より優れていることを示す。
論文 参考訳(メタデータ) (2021-10-05T23:44:26Z) - Margin Preserving Self-paced Contrastive Learning Towards Domain
Adaptation for Medical Image Segmentation [51.93711960601973]
クロスモーダル医療画像セグメンテーションのための自己ペースコントラスト学習モデルを保存する新しいマージンを提案する。
プログレッシブに洗練されたセマンティックプロトタイプの指導により、埋め込み表現空間の識別性を高めるために、コントラスト損失を減少させる新しいマージンが提案される。
クロスモーダル心セグメンテーションタスクの実験は、MPSCLが意味セグメンテーション性能を大幅に改善することを示した。
論文 参考訳(メタデータ) (2021-03-15T15:23:10Z) - Unsupervised Bidirectional Cross-Modality Adaptation via Deeply
Synergistic Image and Feature Alignment for Medical Image Segmentation [73.84166499988443]
我々は、Synergistic Image and Feature Alignment (SIFA)と名付けられた新しい教師なしドメイン適応フレームワークを提案する。
提案するSIFAは、画像と特徴の両方の観点から、ドメインの相乗的アライメントを行う。
2つの異なるタスクに対する実験結果から,SIFA法は未ラベル対象画像のセグメンテーション性能を向上させるのに有効であることが示された。
論文 参考訳(メタデータ) (2020-02-06T13:49:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。