論文の概要: Mitigating Domain Shift in Federated Learning via Intra- and Inter-Domain Prototypes

• arxiv url: http://arxiv.org/abs/2501.08521v2
• Date: Mon, 10 Mar 2025 02:01:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:43:23.590189
• Title: Mitigating Domain Shift in Federated Learning via Intra- and Inter-Domain Prototypes
• Title（参考訳）: ドメイン内およびドメイン間プロトタイプによるフェデレーション学習におけるドメインシフトの緩和
• Authors: Huy Q. Le, Ye Lin Tun, Yu Qiao, Minh N. H. Nguyen, Keon Oh Kim, Choong Seon Hong,
• Abstract要約: 本稿では,$textbfI$ntraドメインと$textbfI$nterドメインを組み込んだ新しいプロトタイプ学習手法I$2$PFLを紹介する。 そこで我々は,MixUpをベースとした拡張プロトタイプと機能アライメントを行い,局所領域内の多様性を捉え,局所的特徴の一般化を促進する。
• 参考スコア（独自算出の注目度）: 28.507105940018704
• License:
• Abstract: Federated Learning (FL) has emerged as a decentralized machine learning technique, allowing clients to train a global model collaboratively without sharing private data. However, most FL studies ignore the crucial challenge of heterogeneous domains where each client has a distinct feature distribution, which is popular in real-world scenarios. Prototype learning, which leverages the mean feature vectors within the same classes, has become a prominent solution for federated learning under domain shift. However, existing federated prototype learning methods focus soley on inter-domain prototypes and neglect intra-domain perspectives. In this work, we introduce a novel federated prototype learning method, namely I$^2$PFL, which incorporates $\textbf{I}$ntra-domain and $\textbf{I}$nter-domain $\textbf{P}$rototypes, to mitigate domain shift from both perspectives and learn a generalized global model across multiple domains in federated learning. To construct intra-domain prototypes, we propose feature alignment with MixUp-based augmented prototypes to capture the diversity within local domains and enhance the generalization of local features. Additionally, we introduce a reweighting mechanism for inter-domain prototypes to generate generalized prototypes that reduce domain shift while providing inter-domain knowledge across multiple clients. Extensive experiments on the Digits, Office-10, and PACS datasets illustrate the superior performance of our method compared to other baselines.
• Abstract（参考訳）: Federated Learning(FL)は、分散機械学習技術として登場し、クライアントがプライベートデータを共有せずにグローバルモデルを協調的にトレーニングすることを可能にする。 しかし、多くのFL研究は、各クライアントが異なる特徴分布を持つ異種ドメインにおいて重要な課題を無視しており、これは現実世界のシナリオで人気である。 同じクラス内の平均特徴ベクトルを利用するプロトタイプ学習は、ドメインシフトの下でのフェデレーション学習の顕著なソリューションとなっている。 しかし、既存のフェデレートされたプロトタイプ学習手法はドメイン間プロトタイプに焦点を合わせ、ドメイン内視点を無視する。 本稿では,新しいフェデレーション型プロトタイプ学習手法であるI$2$PFLを導入する。これは,フェデレーション型学習において,ドメインシフトを両面から緩和し,複数のドメインにまたがる一般化グローバルモデルを学ぶために,$\textbf{I}$ntra- domainと$\textbf{I}$nter- domainを組み込んだものである。 ドメイン内プロトタイプを構築するために、MixUpベースの拡張プロトタイプと機能アライメントを提案し、ローカルドメイン内の多様性を捉え、局所的特徴の一般化を強化する。 さらに,複数のクライアント間でドメイン間の知識を提供しながら,ドメインシフトを低減する汎用プロトタイプを生成するために,ドメイン間プロトタイプの再重み付け機構を導入する。 Digits、Office-10、PACSデータセットの大規模な実験は、他のベースラインと比較して、我々の手法の優れた性能を示している。

関連論文リスト

• DomCLP: Domain-wise Contrastive Learning with Prototype Mixup for Unsupervised Domain Generalization [10.343546104340962]
  InfoNCEによるインスタンス識別タスクに基づく自己教師付き学習(SSL)手法は、目覚ましい成功を収めた。 UDGアプローチはInfoNCEと対照的な学習を利用して表現を生成する。 そこで我々は,DomCLP,ドメインワイドコントラスト学習とプロトタイプミックスアップを提案する。
  論文  参考訳（メタデータ） (2024-12-12T08:59:08Z)
• Learning with Alignments: Tackling the Inter- and Intra-domain Shifts for Cross-multidomain Facial Expression Recognition [16.864390181629044]
  本稿では、ドメイン間のシフトとドメイン内シフトの両方を扱うための、LA-CMFERという新しいラーニング・ウィズ・アライメント・CMFERフレームワークを提案する。 これに基づいて、LA-CMFERは、知識伝達におけるハード・トゥ・アライメント・サンプルの優先順位付けをモデルに強制する二重レベル領域間アライメント法を提案する。 ドメイン内シフトに対処するため、LA-CMFERは複数ビューの整合性制約を持つ複数ビューのドメイン内アライメント手法を導入した。
  論文  参考訳（メタデータ） (2024-07-08T07:43:06Z)
• Taming Cross-Domain Representation Variance in Federated Prototype Learning with Heterogeneous Data Domains [8.047147770476212]
  フェデレートラーニング(FL)は、プライベートデータを共有することなく、協調的な機械学習トレーニングを可能にする。 ほとんどのFLメソッドは、クライアント間で同じデータドメインを前提としていますが、現実のシナリオは、しばしば異種データドメインを伴います。 分散を意識した2段階のプロトタイプをクラスタリングし,新たな$alpha$-sparsityのプロトタイプロスを利用するFedPLVMを紹介した。
  論文  参考訳（メタデータ） (2024-03-14T02:36:16Z)
• DiPrompT: Disentangled Prompt Tuning for Multiple Latent Domain Generalization in Federated Learning [20.51179258856028]
  フェデレートラーニング(FL)は、分散データから学ぶための強力なパラダイムとして登場した。 既存のFLメソッドの多くは、トレーニング中にドメインラベルが提供されると仮定し、その評価はドメインの数に明確な制約を課している。 本稿では,ドメイン一般化のための適応的なプロンプトを分散的に学習することで,上記の制約に対処するDistangled Prompt Tuning(DiPrompT)を提案する。
  論文  参考訳（メタデータ） (2024-03-11T15:58:15Z)
• Dynamic Instance Domain Adaptation [109.53575039217094]
  教師なしのドメイン適応に関するほとんどの研究は、各ドメインのトレーニングサンプルがドメインラベルを伴っていると仮定している。 適応的な畳み込みカーネルを持つ動的ニューラルネットワークを開発し、各インスタンスにドメインに依存しない深い特徴を適応させるために、インスタンス適応残差を生成する。 我々のモデルはDIDA-Netと呼ばれ、複数の一般的な単一ソースおよび複数ソースのUDAデータセット上で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-03-09T20:05:54Z)
• Federated and Generalized Person Re-identification through Domain and Feature Hallucinating [88.77196261300699]
  人物再識別(re-ID)におけるフェデレーションドメイン一般化(FedDG)の問題について検討する。 一般化された局所的・グローバルなモデルを学ぶための多様な特徴を創出する手法として,DFH (Domain and Feature Hallucinating) を提案する。 提案手法は4つの大規模re-IDベンチマークにおいてFedDGの最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-03-05T09:15:13Z)
• AFAN: Augmented Feature Alignment Network for Cross-Domain Object Detection [90.18752912204778]
  オブジェクト検出のための教師なしドメイン適応は、多くの現実世界のアプリケーションにおいて難しい問題である。 本稿では、中間領域画像生成とドメイン・アドバイザリー・トレーニングを統合した新しい機能アライメント・ネットワーク(AFAN)を提案する。 提案手法は、類似および異種ドメイン適応の双方において、標準ベンチマークにおける最先端の手法よりも大幅に優れている。
  論文  参考訳（メタデータ） (2021-06-10T05:01:20Z)
• Prototypical Cross-domain Self-supervised Learning for Few-shot Unsupervised Domain Adaptation [91.58443042554903]
  FUDA(Unsupervised Domain Adaptation)のためのPCS(Prototypical Cross-Domain Self-Supervised Learning)フレームワークを提案する。 PCSは、クロスドメインのローレベルな機能アライメントを行うだけでなく、ドメイン間の共有埋め込み空間におけるセマンティック構造をエンコードおよびアライメントする。 最新の手法と比較して、pcsは、fuda上の異なるドメインペアの平均分類精度を10.5%、office、office-home、visda-2017、domainnetで3.5%、9.0%、13.2%改善している。
  論文  参考訳（メタデータ） (2021-03-31T02:07:42Z)
• Learning to Combine: Knowledge Aggregation for Multi-Source Domain Adaptation [56.694330303488435]
  マルチソースドメイン適応(LtC-MSDA)フレームワークを併用する学習法を提案する。 簡単に言うと、知識グラフは様々なドメインのプロトタイプ上に構築され、セマンティックに隣接した表現間の情報伝達を実現する。 我々のアプローチは、既存の手法よりも顕著なマージンで優れています。
  論文  参考訳（メタデータ） (2020-07-17T07:52:44Z)
• Cross-domain Detection via Graph-induced Prototype Alignment [114.8952035552862]
  カテゴリレベルのドメインアライメントを求めるグラフ誘発プロトタイプアライメント(GPA)フレームワークを提案する。 さらに,クラス不均衡がドメイン適応に与える影響を軽減するために,クラス重み付きコントラスト損失を設計する。 我々のアプローチは、既存の手法よりも顕著なマージンで優れています。
  論文  参考訳（メタデータ） (2020-03-28T17:46:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。