論文の概要: FedGrAINS: Personalized SubGraph Federated Learning with Adaptive Neighbor Sampling

• arxiv url: http://arxiv.org/abs/2501.12592v1
• Date: Wed, 22 Jan 2025 02:35:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-23 16:53:43.278007
• Title: FedGrAINS: Personalized SubGraph Federated Learning with Adaptive Neighbor Sampling
• Title（参考訳）: FedGrAINS: 適応的近隣サンプリングによる個人化サブグラフフェデレーション学習
• Authors: Emir Ceyani, Han Xie, Baturalp Buyukates, Carl Yang, Salman Avestimehr,
• Abstract要約: サブグラフFLのための新しいデータ適応型およびサンプリングベース正規化手法である textitFedGrAINS を提案する。 我々は,textitFedGrAINSをレギュレータとして組み込むことで,ベースラインよりもFL性能が一貫して向上することを示す。
• 参考スコア（独自算出の注目度）: 36.314224807189575
• License:
• Abstract: Graphs are crucial for modeling relational and biological data. As datasets grow larger in real-world scenarios, the risk of exposing sensitive information increases, making privacy-preserving training methods like federated learning (FL) essential to ensure data security and compliance with privacy regulations. Recently proposed personalized subgraph FL methods have become the de-facto standard for training personalized Graph Neural Networks (GNNs) in a federated manner while dealing with the missing links across clients' subgraphs due to privacy restrictions. However, personalized subgraph FL faces significant challenges due to the heterogeneity in client subgraphs, such as degree distributions among the nodes, which complicate federated training of graph models. To address these challenges, we propose \textit{FedGrAINS}, a novel data-adaptive and sampling-based regularization method for subgraph FL. FedGrAINS leverages generative flow networks (GFlowNets) to evaluate node importance concerning clients' tasks, dynamically adjusting the message-passing step in clients' GNNs. This adaptation reflects task-optimized sampling aligned with a trajectory balance objective. Experimental results demonstrate that the inclusion of \textit{FedGrAINS} as a regularizer consistently improves the FL performance compared to baselines that do not leverage such regularization.
• Abstract（参考訳）: グラフはリレーショナルデータと生物学的データのモデリングに不可欠である。 データセットが現実世界のシナリオで大きくなるにつれて、機密情報を露出するリスクが増大し、データセキュリティとプライバシ規則の遵守を保証するために、フェデレーションラーニング(FL)のようなプライバシ保護トレーニング手法が不可欠になる。 最近提案されたパーソナライズされたサブグラフFL法は、プライバシ制限によるクライアントのサブグラフ間のリンクの欠如に対処しながら、パーソナライズされたグラフニューラルネットワーク(GNN)をフェデレーションでトレーニングするためのデファクトスタンダードとなっている。 しかし、パーソナライズされたサブグラフFLは、グラフモデルのフェデレーショントレーニングを複雑にするノード間の次数分布のようなクライアントサブグラフの不均一性のために、大きな課題に直面している。 これらの課題に対処するために、サブグラフFLのための新しいデータ適応型およびサンプリングベース正規化手法である \textit{FedGrAINS} を提案する。 FedGrAINSは生成フローネットワーク(GFlowNets)を活用して、クライアントのタスクに関するノードの重要度を評価し、クライアントのGNNにおけるメッセージパッシングステップを動的に調整する。 この適応は、軌道バランス目標に沿ったタスク最適化サンプリングを反映する。 実験結果から,正則化に‘textit{FedGrAINS} を組み込むことで,そのような正則化を活用できないベースラインに比べてFL性能が一貫した改善が得られた。

関連論文リスト

• Towards Federated Graph Learning in One-shot Communication [27.325478113745206]
  Federated Graph Learning(FGL)は、分散プライベートグラフ間のデータサイロを壊すための有望なパラダイムとして登場した。 ワンショットフェデレートラーニング(OFL)は1ラウンドでのコラボレーションを可能にするが、既存のOFLメソッドはグラフデータには有効ではない。 本稿では,ノード分類のための最初の$textbfO-pFGL$メソッド(textbfO-pFGL$)を提案する。
  論文  参考訳（メタデータ） (2024-11-18T05:59:29Z)
• Federated Graph Learning with Adaptive Importance-based Sampling [22.601850857109024]
  分散グラフデータセットを含むグラフ学習タスクのプライバシ保護には、フェデレーション学習(FL)ベースのGCN(FedGCN)トレーニングが必要である。 既存のグラフサンプリング強化FedGCNトレーニングアプローチは、グラフ構造情報や最適化のダイナミクスを無視し、高いばらつきと不正確なノード埋め込みをもたらす。 我々は、この制限に対処するために、FedAIS(Federated Adaptive Importance-based Smpling)を提案する。 FedAISはテスト精度を最大3.23%向上し、通信コストと計算コストを91.77%、85.59%削減した。
  論文  参考訳（メタデータ） (2024-09-23T01:49:20Z)
• An Aggregation-Free Federated Learning for Tackling Data Heterogeneity [50.44021981013037]
  フェデレートラーニング(FL)は、分散データセットからの知識を活用する効果に頼っている。 従来のFLメソッドでは、クライアントが前回のトレーニングラウンドからサーバが集約したグローバルモデルに基づいてローカルモデルを更新するアグリゲート-then-adaptフレームワークを採用している。 我々は,新しいアグリゲーションフリーFLアルゴリズムであるFedAFを紹介する。
  論文  参考訳（メタデータ） (2024-04-29T05:55:23Z)
• FLASH: Federated Learning Across Simultaneous Heterogeneities [54.80435317208111]
  FLASH (Federated Learning Across Simultaneous Heterogeneities) は軽量かつ柔軟なクライアント選択アルゴリズムである。 ヘテロジニティの幅広い情報源の下で、最先端のFLフレームワークよりも優れています。 最先端のベースラインよりも大幅に、一貫性のある改善を実現している。
  論文  参考訳（メタデータ） (2024-02-13T20:04:39Z)
• Strategic Client Selection to Address Non-IIDness in HAPS-enabled FL Networks [24.10349383347469]
  本研究では,クライアントデータ分散における非IID性に対処するためのクライアント選択戦略を提案する。 FLトレーニングに参加するためにデータに類似したパターンを示すクライアントを戦略的に選択することにより、より均一で代表的なデータ分布を育成する。 シミュレーションにより、このターゲットとなるクライアント選択手法は、HAPSネットワークにおけるFLモデルのトレーニング損失を著しく低減することが示された。
  論文  参考訳（メタデータ） (2024-01-10T18:22:00Z)
• Chasing Fairness in Graphs: A GNN Architecture Perspective [73.43111851492593]
  グラフニューラルネットワーク(GNN)の統一最適化フレームワーク内で設計されたtextsfFair textsfMessage textsfPassing(FMP)を提案する。 FMPでは、アグリゲーションがまず隣人の情報を活用するために採用され、バイアス軽減ステップにより、人口集団ノードのプレゼンテーションセンタが明示的に統合される。 ノード分類タスクの実験により、提案されたFMPは、実世界の3つのデータセットの公平性と正確性の観点から、いくつかのベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2023-12-19T18:00:15Z)
• Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
  Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。 本稿では,FedInsという新しいFLアルゴリズムを提案する。 我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-11T09:58:47Z)
• User-Centric Federated Learning: Trading off Wireless Resources for Personalization [18.38078866145659]
  フェデレートラーニング(FL)システムでは、統計的不均一性はアルゴリズム収束時間を増やし、一般化性能を低下させる。 FLが課すプライバシー制約に違反することなく、上記の問題に対処するためには、パーソナライズされたFLメソッドは、データに直接アクセスすることなく、統計的に類似したクライアントを結合する必要がある。 本研究では,容易に利用できる勾配情報に基づいて,FLクライアント毎にパーソナライズされたモデルを生成可能なユーザ中心集約ルールを設計する。 提案アルゴリズムは,平均精度,ノード性能,通信オーバヘッドの訓練において,パーソナライズされたFLベースラインを上回っている。
  論文  参考訳（メタデータ） (2023-04-25T15:45:37Z)
• Graph Federated Learning for CIoT Devices in Smart Home Applications [23.216140264163535]
  G-Fedfilt'と呼ばれるグラフフィルタリングに基づく新しいグラフ信号処理(GSP)に基づく集約ルールを提案する。 提案するアグリゲータは,グラフのトポロジに基づく情報の流れを構造化することができる。 モデルの一般化をテストする場合、FedAvgよりも2.41%$高い精度が得られる。
  論文  参考訳（メタデータ） (2022-12-29T17:57:19Z)
• Analyzing the Effect of Sampling in GNNs on Individual Fairness [79.28449844690566]
  グラフニューラルネットワーク(GNN)ベースの手法は、レコメンダシステムの分野を飽和させた。 我々は,GNNの学習を支援するために,グラフ上で個別の公平性を促進させる既存手法を拡張した。 本研究では,局所ニュアンスが表現学習における公平化促進の過程を導くことによって,ミニバッチトレーニングが個人の公正化を促進することを示す。
  論文  参考訳（メタデータ） (2022-09-08T16:20:25Z)
• Bayesian Graph Neural Networks with Adaptive Connection Sampling [62.51689735630133]
  グラフニューラルネットワーク(GNN)における適応接続サンプリングのための統一的なフレームワークを提案する。 提案フレームワークは,深部GNNの過度なスムース化や過度に適合する傾向を緩和するだけでなく,グラフ解析タスクにおけるGNNによる不確実性の学習を可能にする。
  論文  参考訳（メタデータ） (2020-06-07T07:06:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。