論文の概要: Post-Deployment Adaptation with Access to Source Data via Federated
Learning and Source-Target Remote Gradient Alignment
- arxiv url: http://arxiv.org/abs/2308.16735v1
- Date: Thu, 31 Aug 2023 13:52:28 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-01 14:24:46.678277
- Title: Post-Deployment Adaptation with Access to Source Data via Federated
Learning and Source-Target Remote Gradient Alignment
- Title(参考訳): フェデレーション学習とソースターゲットリモートグラデーションアライメントによるソースデータへのアクセスによるデプロイ後の適応化
- Authors: Felix Wagner, Zeju Li, Pramit Saha, Konstantinos Kamnitsas
- Abstract要約: デプロイ後適応(PDA)は、トレーニング済みのデプロイされたモデルをターゲットデータディストリビューションに調整することで、この問題に対処する。
PDAは、プライバシ上の懸念から、モデルでデプロイできないため、ソーストレーニングデータへのアクセスを前提としない。
本稿では,フェデレートラーニングの遠隔データからPDAに学習の有用性をもたらす新しい適応フレームワークであるFedPDAを紹介する。
- 参考スコア(独自算出の注目度): 8.288631856590165
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deployment of Deep Neural Networks in medical imaging is hindered by
distribution shift between training data and data processed after deployment,
causing performance degradation. Post-Deployment Adaptation (PDA) addresses
this by tailoring a pre-trained, deployed model to the target data distribution
using limited labelled or entirely unlabelled target data, while assuming no
access to source training data as they cannot be deployed with the model due to
privacy concerns and their large size. This makes reliable adaptation
challenging due to limited learning signal. This paper challenges this
assumption and introduces FedPDA, a novel adaptation framework that brings the
utility of learning from remote data from Federated Learning into PDA. FedPDA
enables a deployed model to obtain information from source data via remote
gradient exchange, while aiming to optimize the model specifically for the
target domain. Tailored for FedPDA, we introduce a novel optimization method
StarAlign (Source-Target Remote Gradient Alignment) that aligns gradients
between source-target domain pairs by maximizing their inner product, to
facilitate learning a target-specific model. We demonstrate the method's
effectiveness using multi-center databases for the tasks of cancer metastases
detection and skin lesion classification, where our method compares favourably
to previous work. Code is available at: https://github.com/FelixWag/StarAlign
- Abstract(参考訳): 医療画像におけるディープニューラルネットワークの展開は、トレーニングデータとデプロイ後に処理されたデータの分散シフトによって妨げられ、パフォーマンスが低下する。
デプロイ後適応(PDA)は、プライバシの懸念と大きなサイズのため、モデルでデプロイできないソーストレーニングデータへのアクセスを前提としながら、ラベル付きまたは完全にラベル付けされていないターゲットデータを使用して、トレーニング済み、デプロイ済みのモデルをターゲットデータディストリビューションに調整することで、この問題に対処する。
これにより、限られた学習信号のため、信頼性の高い適応が困難になる。
本稿では、この仮定に挑戦し、フェデレートラーニングの遠隔データからPDAに学習の有用性をもたらす新しい適応フレームワークであるFedPDAを紹介する。
FedPDAにより、デプロイされたモデルは、ターゲットドメインに特化してモデルを最適化しながら、リモート勾配交換を通じてソースデータから情報を取得することができる。
FedPDA用に開発されたStarAlign (Source-Target Remote Gradient Alignment)は、ソースとターゲットのドメインペア間の勾配を最適化し、内部積を最大化し、ターゲット固有のモデルの学習を容易にする。
がん転移検出および皮膚病変分類のタスクにマルチセンターデータベースを用いて,本手法の有効性を実証した。
コードは、https://github.com/FelixWag/StarAlignで入手できる。
関連論文リスト
- Beyond Efficiency: Molecular Data Pruning for Enhanced Generalization [30.738229850748137]
MolPegは、一般化を強化するための分子データプルーニングフレームワークである。
これは、事前訓練されたモデルでデータプルーニングを適用する、ソースフリーなデータプルーニングシナリオに焦点を当てている。
4つのダウンストリームタスクで既存のDPメソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2024-09-02T09:06:04Z) - Robust Source-Free Domain Adaptation for Fundus Image Segmentation [3.585032903685044]
Unlabelled Domain Adaptation (UDA)は、ラベル付きデータから学習した知識を、未ラベルデータのみを使用してターゲットドメインに転送する学習技術である。
本研究では,ロバストドメイン適応のための2段階トレーニングステージを提案する。
本稿では,ラベルのないターゲットデータを有効利用して擬似ラベルと擬似境界を生成する,ロバストな擬似ラベルと擬似境界(PLPB)手法を提案する。
論文 参考訳(メタデータ) (2023-10-25T14:25:18Z) - Source-Free Domain Adaptation for Medical Image Segmentation via
Prototype-Anchored Feature Alignment and Contrastive Learning [57.43322536718131]
医用画像セグメンテーションのための2段階のソースフリードメイン適応(SFDA)フレームワークを提案する。
プロトタイプアンコールされた特徴アライメントの段階では,まず,事前学習した画素ワイド分類器の重みを原プロトタイプとして利用する。
そこで,本研究では,目標となる特徴とクラスプロトタイプとの整合性を期待するコストを最小化し,双方向輸送を導入する。
論文 参考訳(メタデータ) (2023-07-19T06:07:12Z) - Rethinking the Role of Pre-Trained Networks in Source-Free Domain
Adaptation [26.481422574715126]
ソースフリードメイン適応(SFDA)は、完全にラベル付けされたソースドメインでトレーニングされたソースモデルを、ラベル付けされていないターゲットドメインに適応させることを目的としている。
大規模データ事前トレーニングネットワークは、ソーストレーニング中にソースモデルを初期化するために使用され、その後破棄される。
本稿では,事前学習されたネットワークを対象適応プロセスに統合し,一般化に重要な特徴を多様化することを提案する。
論文 参考訳(メタデータ) (2022-12-15T02:25:22Z) - Unsupervised Model Adaptation for Source-free Segmentation of Medical
Images [15.820660013260584]
教師なし領域適応(Unsupervised domain adapt, UDA)は、対象領域のイメージのラベル付けの必要性に対処するために用いられる。
ほとんどのUDAアプローチは、共有ソース/ターゲット潜在機能空間を作成することで、ターゲットの一般化を保証する。
本稿では,適応時にソースデータにアクセスする必要がなく,患者データのプライバシを維持することができる医用画像分割のためのUDAアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-11-02T01:01:19Z) - Adapting the Mean Teacher for keypoint-based lung registration under
geometric domain shifts [75.51482952586773]
ディープニューラルネットワークは一般的に、ラベル付きトレーニングデータが多く必要であり、トレーニングデータとテストデータの間のドメインシフトに弱い。
本稿では,ラベル付きソースからラベル付きターゲットドメインへのモデルの適用により,画像登録のための幾何学的領域適応手法を提案する。
本手法は,ベースラインモデルの精度を目標データに適合させながら,ベースラインモデルの50%/47%を継続的に改善する。
論文 参考訳(メタデータ) (2022-07-01T12:16:42Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Instance Relation Graph Guided Source-Free Domain Adaptive Object
Detection [79.89082006155135]
教師なしドメイン適応(Unsupervised Domain Adaptation, UDA)は、ドメインシフトの問題に取り組むための効果的なアプローチである。
UDAメソッドは、ターゲットドメインの一般化を改善するために、ソースとターゲット表現を整列させようとする。
Source-Free Adaptation Domain (SFDA)設定は、ソースデータへのアクセスを必要とせずに、ターゲットドメインに対してソーストレーニングされたモデルを適用することで、これらの懸念を軽減することを目的としている。
論文 参考訳(メタデータ) (2022-03-29T17:50:43Z) - Invariance Learning in Deep Neural Networks with Differentiable Laplace
Approximations [76.82124752950148]
我々はデータ拡張を選択するための便利な勾配法を開発した。
我々はKronecker-factored Laplace近似を我々の目的とする限界確率に近似する。
論文 参考訳(メタデータ) (2022-02-22T02:51:11Z) - Source Data-absent Unsupervised Domain Adaptation through Hypothesis
Transfer and Labeling Transfer [137.36099660616975]
Unsupervised Adapt Adaptation (UDA) は、関連性のある異なるラベル付きソースドメインから新しいラベルなしターゲットドメインへの知識の転送を目標としている。
既存のudaメソッドの多くはソースデータへのアクセスを必要としており、プライバシ上の懸念からデータが機密で共有できない場合は適用できない。
本稿では、ソースデータにアクセスする代わりに、トレーニング済みの分類モデルのみを用いて現実的な設定に取り組むことを目的とする。
論文 参考訳(メタデータ) (2020-12-14T07:28:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。