論文の概要: Non-linear Fusion in Federated Learning: A Hypernetwork Approach to
Federated Domain Generalization
- arxiv url: http://arxiv.org/abs/2402.06974v1
- Date: Sat, 10 Feb 2024 15:42:03 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-13 18:21:27.465830
- Title: Non-linear Fusion in Federated Learning: A Hypernetwork Approach to
Federated Domain Generalization
- Title(参考訳): フェデレーション学習における非線形融合--フェデレーションドメイン一般化へのハイパーネットワークアプローチ
- Authors: Marc Bartholet, Taehyeon Kim, Ami Beuret, Se-Young Yun, Joachim M.
Buhmann
- Abstract要約: フェデレートラーニング(FL)は、複数のクライアントが共同で共有グローバルモデルをトレーニングする、有望なパラダイムとして現れています。
我々は、ハイパーネットワークベースのフェデレートフュージョンのための、hFedFと呼ばれる革新的なフェデレーションアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 28.422221283052533
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Learning (FL) has emerged as a promising paradigm in which multiple
clients collaboratively train a shared global model while preserving data
privacy. To create a robust and practicable FL framework, it is crucial to
extend its ability to generalize well to unseen domains - a problem referred to
as federated Domain Generalization (FDG), being still under-explored. We
propose an innovative federated algorithm, termed hFedF for hypernetwork-based
Federated Fusion, designed to bridge the performance gap between generalization
and personalization, capable of addressing various degrees of domain shift.
Essentially, the hypernetwork supports a non-linear fusion of client models
enabling a comprehensive understanding of the underlying data distribution. We
encompass an extensive discussion and provide novel insights into the tradeoff
between personalization and generalization in FL. The proposed algorithm
outperforms strong benchmarks on three widely-used data sets for DG in an
exceeding number of cases.
- Abstract(参考訳): フェデレートラーニング(FL)は、データプライバシを保持しながら、複数のクライアントが共同で共有グローバルモデルをトレーニングする、有望なパラダイムとして登場した。
堅牢で実践可能なFLフレームワークを構築するためには、未確認領域(FDG(Federated Domain Generalization)と呼ばれる問題)にうまく一般化する能力を拡張することが不可欠である。
本稿では,一般化とパーソナライズの間の性能ギャップを橋渡しし,様々な領域シフトに対応可能なhfedfと呼ばれる,革新的なフェデレーションアルゴリズムを提案する。
本質的には、ハイパーネットワークはクライアントモデルの非線形融合をサポートし、基盤となるデータ分散の包括的理解を可能にする。
FLにおけるパーソナライゼーションと一般化のトレードオフについて,広範な議論を包括し,新たな知見を提供する。
提案アルゴリズムは,DGの広範に使用されている3つのデータセットに対して,多数のケースで強いベンチマークを達成している。
関連論文リスト
- FedGCA: Global Consistent Augmentation Based Single-Source Federated Domain Generalization [29.989092118578103]
Federated Domain Generalization (FedDG) は、多ドメイントレーニングサンプルでドメインを見落とせるように、グローバルモデルをトレーニングすることを目的としている。
連合学習ネットワークのクライアントは、固有のサンプリングと時間制限のため、単一のIIDドメインに制限されることが多い。
本稿では,FedGCA(Federated Global Consistent Augmentation)法について紹介する。
論文 参考訳(メタデータ) (2024-09-23T02:24:46Z) - StyDeSty: Min-Max Stylization and Destylization for Single Domain Generalization [85.18995948334592]
単一のドメインの一般化(単一DG)は、単一のトレーニングドメインからのみ見えないドメインに一般化可能な堅牢なモデルを学ぶことを目的としている。
最先端のアプローチは、主に新しいデータを合成するために、敵対的な摂動やスタイルの強化といったデータ拡張に頼っている。
データ拡張の過程で、ソースと擬似ドメインのアライメントを明示的に考慮したemphStyDeStyを提案する。
論文 参考訳(メタデータ) (2024-06-01T02:41:34Z) - StableFDG: Style and Attention Based Learning for Federated Domain
Generalization [36.173582743028625]
本稿では,フェデレートされた領域の一般化を実現するためのスタイルと注意に基づく学習戦略を提案する。
スタイルベースの学習により、各クライアントは、ローカルデータセット内の元のソースドメインを越えて、新しいスタイルを探索できる。
2つ目のコントリビューションは注目に基づく機能ハイライトで、同じクラスのデータサンプルの特徴の類似性をキャプチャします。
論文 参考訳(メタデータ) (2023-11-01T02:17:01Z) - Improving Domain Generalization with Domain Relations [77.63345406973097]
本稿では、モデルがトレーニングされたドメインと異なる新しいドメインに適用されたときに発生するドメインシフトに焦点を当てる。
ドメイン固有モデルを学習するためのD$3$Gという新しい手法を提案する。
以上の結果から,D$3$Gは最先端の手法より一貫して優れていた。
論文 参考訳(メタデータ) (2023-02-06T08:11:16Z) - Domain Generalization via Selective Consistency Regularization for Time
Series Classification [16.338176636365752]
ドメイン一般化手法は、限られた数のソースドメインからのデータで、ドメインシフトに頑健なモデルを学習することを目的としている。
本稿では,ソースドメイン間の予測一貫性を選択的に適用する表現学習手法を提案する。
論文 参考訳(メタデータ) (2022-06-16T01:57:35Z) - Relation Matters: Foreground-aware Graph-based Relational Reasoning for
Domain Adaptive Object Detection [81.07378219410182]
我々は、FGRR(Fearground-aware Graph-based Reasoning)というドメインDのための新しい汎用フレームワークを提案する。
FGRRはグラフ構造を検出パイプラインに組み込んで、ドメイン内およびドメイン間フォアグラウンドオブジェクト関係を明示的にモデル化する。
実験の結果、提案したFGRRは4つのDomainDベンチマークの最先端よりも優れていることが示された。
論文 参考訳(メタデータ) (2022-06-06T05:12:48Z) - Compound Domain Generalization via Meta-Knowledge Encoding [55.22920476224671]
マルチモーダル分布を再正規化するために,スタイル駆動型ドメイン固有正規化(SDNorm)を導入する。
組込み空間における関係モデリングを行うために,プロトタイプ表現,クラスセントロイドを利用する。
4つの標準ドメイン一般化ベンチマークの実験により、COMENはドメインの監督なしに最先端のパフォーマンスを上回ることが判明した。
論文 参考訳(メタデータ) (2022-03-24T11:54:59Z) - Robust Domain-Free Domain Generalization with Class-aware Alignment [4.442096198968069]
ドメインフリードメイン一般化(DFDG)は、目に見えないテストドメインでより良い一般化性能を実現するモデル非依存の方法である。
DFDGは新しい戦略を用いてドメイン不変なクラス差別的特徴を学習する。
時系列センサと画像分類公開データセットの両方で競合性能を得る。
論文 参考訳(メタデータ) (2021-02-17T17:46:06Z) - Cross-Domain Grouping and Alignment for Domain Adaptive Semantic
Segmentation [74.3349233035632]
深層畳み込みニューラルネットワーク(CNN)内のソースドメインとターゲットドメインにセマンティックセグメンテーションネットワークを適用する既存の技術は、対象ドメイン自身や推定カテゴリ内のクラス間変異を考慮していない。
学習可能なクラスタリングモジュールと、クロスドメイングルーピングとアライメントと呼ばれる新しいドメイン適応フレームワークを導入する。
本手法はセマンティクスセグメンテーションにおける適応性能を一貫して向上させ,様々なドメイン適応設定において最先端を上回っている。
論文 参考訳(メタデータ) (2020-12-15T11:36:21Z) - Domain Conditioned Adaptation Network [90.63261870610211]
本稿では,ドメイン条件付きチャネルアテンション機構を用いて,異なる畳み込みチャネルを励起するドメイン条件適応ネットワーク(DCAN)を提案する。
これは、ディープDAネットワークのドメインワイドな畳み込みチャネルアクティベーションを探求する最初の試みである。
論文 参考訳(メタデータ) (2020-05-14T04:23:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。