論文の概要: FedAGHN: Personalized Federated Learning with Attentive Graph HyperNetworks
- arxiv url: http://arxiv.org/abs/2501.16379v1
- Date: Fri, 24 Jan 2025 10:48:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-29 16:42:30.316827
- Title: FedAGHN: Personalized Federated Learning with Attentive Graph HyperNetworks
- Title(参考訳): FedAGHN: Attentive Graph HyperNetworksによる個人化フェデレーション学習
- Authors: Jiarui Song, Yunheng Shen, Chengbin Hou, Pengyu Wang, Jinbao Wang, Ke Tang, Hairong Lv,
- Abstract要約: PFLは、クライアントごとにパーソナライズされたモデルを学ぶことで、クライアント間でのデータの統計的不均一性に対処することを目的としている。
Attentive Graph HyperNetworks (FedAGHN) を用いた個人化フェデレーション学習を提案する。
FedAGHNはきめ細かいコラボレーティブな関係を捉え、クライアント固有のパーソナライズされた初期モデルを生成する。
- 参考スコア(独自算出の注目度): 19.57993976799076
- License:
- Abstract: Personalized Federated Learning (PFL) aims to address the statistical heterogeneity of data across clients by learning the personalized model for each client. Among various PFL approaches, the personalized aggregation-based approach conducts parameter aggregation in the server-side aggregation phase to generate personalized models, and focuses on learning appropriate collaborative relationships among clients for aggregation. However, the collaborative relationships vary in different scenarios and even at different stages of the FL process. To this end, we propose Personalized Federated Learning with Attentive Graph HyperNetworks (FedAGHN), which employs Attentive Graph HyperNetworks (AGHNs) to dynamically capture fine-grained collaborative relationships and generate client-specific personalized initial models. Specifically, AGHNs empower graphs to explicitly model the client-specific collaborative relationships, construct collaboration graphs, and introduce tunable attentive mechanism to derive the collaboration weights, so that the personalized initial models can be obtained by aggregating parameters over the collaboration graphs. Extensive experiments can demonstrate the superiority of FedAGHN. Moreover, a series of visualizations are presented to explore the effectiveness of collaboration graphs learned by FedAGHN.
- Abstract(参考訳): パーソナライズド・フェデレート・ラーニング(PFL)は、クライアントごとにパーソナライズされたモデルを学ぶことで、クライアント間のデータの統計的不均一性に対処することを目的としている。
パーソナライズされたアグリゲーションベースのアプローチでは、サーバ側アグリゲーションフェーズでパラメータアグリゲーションを行い、パーソナライズされたモデルを生成する。
しかし、協調関係は異なるシナリオやFLプロセスの異なる段階でも異なる。
この目的のために,Attentive Graph HyperNetworks (AGHNs) を用いたPersonalized Federated Learning with Attentive Graph HyperNetworks (FedAGHN)を提案する。
具体的には、AGHNは、クライアント固有の協調関係を明示的にモデル化し、協調グラフを構築し、協調重みを導出するための調整可能な注意機構を導入し、協調グラフ上のパラメータを集約することでパーソナライズされた初期モデルを得ることができる。
大規模な実験は、FedAGHNの優位性を示すことができる。
さらに、FedAGHNが学習したコラボレーショングラフの有効性を検討するために、一連のビジュアライゼーションを提示する。
関連論文リスト
- Towards Federated Graph Learning in One-shot Communication [27.325478113745206]
Federated Graph Learning(FGL)は、分散プライベートグラフ間のデータサイロを壊すための有望なパラダイムとして登場した。
ワンショットフェデレートラーニング(OFL)は1ラウンドでのコラボレーションを可能にするが、既存のOFLメソッドはグラフデータには有効ではない。
本稿では,ノード分類のための最初の$textbfO-pFGL$メソッド(textbfO-pFGL$)を提案する。
論文 参考訳(メタデータ) (2024-11-18T05:59:29Z) - Personalized Federated Knowledge Graph Embedding with Client-Wise Relation Graph [49.66272783945571]
クライアント関係グラフを用いた個人化フェデレーション知識グラフを提案する。
PFedEGは、近隣のクライアントから埋め込まれたエンティティを集約することで、各クライアントに対してパーソナライズされた補完知識を学習する。
我々は4つのベンチマークデータセットの広範な実験を行い、その手法を最先端モデルに対して評価する。
論文 参考訳(メタデータ) (2024-06-17T17:44:53Z) - FedSheafHN: Personalized Federated Learning on Graph-structured Data [22.825083541211168]
我々はFedSheafHNと呼ばれるモデルを提案し、各クライアントのローカルサブグラフをサーバ構築コラボレーショングラフに埋め込む。
我々のモデルは複雑なクライアント特性の統合と解釈を改善します。
また、高速なモデル収束と効果的な新しいクライアントの一般化も備えている。
論文 参考訳(メタデータ) (2024-05-25T04:51:41Z) - Balancing Similarity and Complementarity for Federated Learning [91.65503655796603]
フェデレートラーニング(FL)は、モバイルとIoTシステムにおいてますます重要になっている。
FLの重要な課題の1つは、非i.d.データのような統計的不均一性を管理することである。
FL協調における類似性と相補性のバランスをとる新しいフレームワークである texttFedSaC を導入する。
論文 参考訳(メタデータ) (2024-05-16T08:16:19Z) - Rethinking Personalized Federated Learning with Clustering-based Dynamic
Graph Propagation [48.08348593449897]
本稿では,シンプルながら効果的に個人化できるフェデレーション学習フレームワークを提案する。
私たちは、クライアントをモデルトレーニングステータスとサーバ側のデータ分散に基づいて、複数のクラスタにグループ化します。
我々は3種類の画像ベンチマークデータセットの実験を行い、3種類のタイプで合成されたデータセットを作成する。
論文 参考訳(メタデータ) (2024-01-29T04:14:02Z) - APGL4SR: A Generic Framework with Adaptive and Personalized Global
Collaborative Information in Sequential Recommendation [86.29366168836141]
逐次推薦のための適応およびパーソナライズされたグラフ学習(APGL4SR)というグラフ駆動型フレームワークを提案する。
APGL4SRは、適応的でパーソナライズされたグローバルな協調情報をシーケンシャルレコメンデーションシステムに組み込む。
一般的なフレームワークとして、APGL4SRは大きなマージンを持つ他のベースラインよりも優れている。
論文 参考訳(メタデータ) (2023-11-06T01:33:24Z) - Structured Cooperative Learning with Graphical Model Priors [98.53322192624594]
ローカルデータに制限のある分散デバイス上で、さまざまなタスクに対してパーソナライズされたモデルをトレーニングする方法を研究する。
本稿では,デバイス間の協調グラフをグラフィカルモデルにより生成する「構造化協調学習(SCooL)」を提案する。
SCooLを評価し,既存の分散学習手法と比較した。
論文 参考訳(メタデータ) (2023-06-16T02:41:31Z) - Unrolled Graph Learning for Multi-Agent Collaboration [37.239120967721156]
人間のコラボレーションにインスパイアされた分散マルチエージェント学習モデルを提案する。
エージェントは、適切なコラボレータを自律的に検出し、より良いパフォーマンスを得るためにコラボレータのモデルを参照することができる。
論文 参考訳(メタデータ) (2022-10-31T07:05:44Z) - A Coalition Formation Game Approach for Personalized Federated Learning [12.784305390534888]
我々は,新しいパーソナライズされたアルゴリズム,pFedSVを提案し,各クライアントの最適なコラボレータ連携を識別し,SVに基づいてパーソナライズされたモデルアグリゲーションを実行する。
その結果、pFedSVは最先端のベンチマークと比較すると、各クライアントのパーソナライズ精度が優れていることがわかった。
論文 参考訳(メタデータ) (2022-02-05T07:16:44Z) - Tensor Graph Convolutional Networks for Multi-relational and Robust
Learning [74.05478502080658]
本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。
提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
論文 参考訳(メタデータ) (2020-03-15T02:33:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。