論文の概要: Beyond Parameter Space: NTK-Guided Personalized Aggregation for Robust Federated Learning
- arxiv url: http://arxiv.org/abs/2608.12108v2
- Date: Thu, 13 Aug 2026 07:52:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 14:00:09.86234
- Title: Beyond Parameter Space: NTK-Guided Personalized Aggregation for Robust Federated Learning
- Title(参考訳): パラメータ空間を超えて:ロバストなフェデレーション学習のためのNTKガイドによるパーソナライズアグリゲーション
- Abstract要約: フェデレーション学習は、データをローカルに保ちながら、分散クライアント間で協調的なモデルトレーニングを可能にする。
中心的な課題は、各クライアントのターゲットドメインに関して、どのクライアントのアップデートがアグリゲーションに有効かを決定することである。
本稿では,関数空間における更新選択を行うフェデレート学習フレームワークを提案する。
- 参考スコア(独自算出の注目度): 1.3924112497839525
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL) enables collaborative model training across distributed clients while keeping data local. A central challenge is determining which client updates are beneficial for aggregation with respect to each client's target domain. Existing methods typically address this problem in parameter space by comparing model parameters or gradients. However, parameter-space similarity can be a poor proxy for predictive behavior, especially under heterogeneous, non-IID data. Consequently, updates that are misaligned with a client's target domain, including those caused by heterogeneous data or malfunctioning clients, may degrade local model performance. We propose Local Inference Guided Aggregation for Heterogeneous Training Environments to Yield Enhancement Through Agreement and Regularization (LIGHTYEAR), a federated learning framework that performs update selection in function space. LIGHTYEAR uses an NTK-based agreement score to characterize predictive behavior and determine a personalized aggregation set for each client. By relating model parameters to local predictive responses, the Neural Tangent Kernel (NTK) provides a more expressive criterion for update selection than parameter-space similarity alone. Because function-space information is not available before aggregation in conventional centralized FL, LIGHTYEAR uses a peer-to-peer (P2P) topology in which clients exchange updates directly and evaluate incoming models on private validation data. Each client selects only updates that are beneficial for its own target domain and aggregates them using a regularized rule that improves stability under heterogeneity. Across five datasets and nine baseline methods, LIGHTYEAR consistently outperforms centralized FL baselines and existing P2P approaches.
- Abstract(参考訳): フェデレートラーニング(FL)は、データをローカルに保ちながら、分散クライアント間で協調的なモデルトレーニングを可能にする。
中心的な課題は、各クライアントのターゲットドメインに関して、どのクライアントのアップデートがアグリゲーションに有効かを決定することである。
既存の手法はモデルパラメータや勾配を比較することで、パラメータ空間におけるこの問題に対処する。
しかし、パラメータ空間の類似性は、特に不均一な非IIDデータの下での予測行動のプロキシとして不十分である。
その結果、不均一なデータや機能不全なクライアントによって引き起こされるものを含む、クライアントのターゲットドメインと不一致な更新は、ローカルモデルのパフォーマンスを低下させる可能性がある。
本稿では,関数空間における更新選択を行う連合学習フレームワークであるLIGHTYEAR(Local Inference Guided Aggregation for Heterogeneous Training Environments to Yield Enhancement Through Agreement and Regularization)を提案する。
LIGHTYEARはNTKベースの合意スコアを使用して予測行動を特徴づけ、クライアント毎にパーソナライズされたアグリゲーションセットを決定する。
モデルパラメータを局所的な予測応答に関連付けることにより、NTK(Neural Tangent Kernel)は、パラメータ空間の類似性だけでなく、更新選択のための表現力のある基準を提供する。
LIGHTYEARはP2P(P2P)トポロジを用いて、クライアントが直接更新し、プライベートなバリデーションデータ上で入ってくるモデルを評価している。
各クライアントは、自身のターゲットドメインに有益なアップデートのみを選択し、不均一性の下での安定性を改善する正規化ルールを使用してそれらを集約する。
5つのデータセットと9つのベースラインメソッドにまたがって、LIGHTYEARは一貫したFLベースラインと既存のP2Pアプローチを一貫して上回っている。
関連論文リスト
- CRIP: Channel Level Representation Injection for Personalized One-Shot Federated Learning [10.225304989678202]
ワンショットフェデレーション学習(OSFL)は、1ラウンドのコミュニケーションだけで、有望なコラボレーティブモデル学習フレームワークとして登場した。
チャネルレベルの特徴アライメントを通じて表現空間で動作するパーソナライズされたOSFLフレームワークであるCRIPを提案する。
論文 参考訳(メタデータ) (2026-08-03T13:41:07Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-05T07:02:50Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
パラメータを好みに置き換えることは、よりスケーラブルでプライバシに保護される未来を表している、と私たちは主張する。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを用いた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化、堅牢性、およびクロスクライアント適応性において、連邦化されたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-01-31T03:11:51Z) - Federated Domain Generalization with Latent Space Inversion [42.37530136140609]
フェデレーションドメイン一般化(FedDG)は、フェデレーション学習フレームワークにおけるクライアント間の分散シフトに対処する。
FedDGメソッドは、ローカルにトレーニングされたクライアントモデルのパラメータを集約し、データプライバシを保持しながら、見えないクライアントに一般化するグローバルモデルを形成する。
私たちのソリューションは、ローカルクライアントのトレーニングとモデルアグリゲーションを実行する新しい方法を提供することによって、この問題に対処します。
論文 参考訳(メタデータ) (2025-12-11T02:17:03Z) - CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。
CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
論文 参考訳(メタデータ) (2025-10-23T05:10:06Z) - Don't Reach for the Stars: Rethinking Topology for Resilient Federated Learning [1.3270838622986498]
フェデレートラーニング(FL)は、データをローカルに保つことでデータのプライバシを保護しながら、分散クライアント間で協調的なモデルトレーニングを可能にする。
従来のFLアプローチは、中央サーバがクライアントからモデル更新を集約する、集中型の星型トポロジーに依存しています。
本稿では,P2P (P2P) FLフレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-07T10:10:37Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳(メタデータ) (2025-01-17T04:00:50Z) - Enhancing Federated Learning with Adaptive Differential Privacy and Priority-Based Aggregation [0.0]
フェデレートラーニング(FL)は、ローカルデータセットに直接アクセスせずにグローバルモデルを開発する。
クライアントとサーバ間で転送されるモデル更新にアクセスすることが可能で、敵に機密性の高いローカル情報を公開する可能性がある。
微分プライバシー(DP)は、パラメータにノイズを加えることでこの問題に対処するための有望なアプローチを提供する。
本稿では、クライアントの相対的影響要因に基づいてノイズを注入し、パラメータを集約するパーソナライズされたDPフレームワークを提案する。
論文 参考訳(メタデータ) (2024-06-26T16:55:07Z) - PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
私たちはaを提案します。
フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。
我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
論文 参考訳(メタデータ) (2024-06-04T13:51:08Z) - Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。
FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。
PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文 参考訳(メタデータ) (2023-05-01T20:04:46Z) - Adaptive Federated Learning via New Entropy Approach [14.595709494370372]
Federated Learning (FL) は、分散機械学習フレームワークとして注目されている。
本稿では,不均一クライアント間のパラメータ偏差を軽減するために,entropy理論(FedEnt)に基づく適応型FEDerated Learningアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-03-27T07:57:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。