論文の概要: Influence-oriented Personalized Federated Learning
- arxiv url: http://arxiv.org/abs/2410.03315v1
- Date: Fri, 4 Oct 2024 11:00:17 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-02 22:58:38.007742
- Title: Influence-oriented Personalized Federated Learning
- Title(参考訳): インパクト指向の個人化フェデレーション学習
- Authors: Yue Tan, Guodong Long, Jing Jiang, Chengqi Zhang,
- Abstract要約: FedC2Iはクライアントレベルとクラスレベルの影響を測定し、各クライアントに対して適応パラメータアグリゲーションを実現する。
我々の中核となる考え方は、十分に構成された影響ベクトルと影響行列を用いて、FLシステム内のクライアント間影響を明示的にモデル化することである。
非IID環境下での既存のフェデレート学習手法に対するFedC2Iの性能評価を行った。
- 参考スコア(独自算出の注目度): 40.22000611584487
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Traditional federated learning (FL) methods often rely on fixed weighting for parameter aggregation, neglecting the mutual influence by others. Hence, their effectiveness in heterogeneous data contexts is limited. To address this problem, we propose an influence-oriented federated learning framework, namely FedC^2I, which quantitatively measures Client-level and Class-level Influence to realize adaptive parameter aggregation for each client. Our core idea is to explicitly model the inter-client influence within an FL system via the well-crafted influence vector and influence matrix. The influence vector quantifies client-level influence, enables clients to selectively acquire knowledge from others, and guides the aggregation of feature representation layers. Meanwhile, the influence matrix captures class-level influence in a more fine-grained manner to achieve personalized classifier aggregation. We evaluate the performance of FedC^2I against existing federated learning methods under non-IID settings and the results demonstrate the superiority of our method.
- Abstract(参考訳): 伝統的な連合学習(FL)法は、しばしばパラメータアグリゲーションの固定重み付けに依存し、他者による相互影響を無視している。
したがって、不均一なデータコンテキストにおけるそれらの有効性は限られている。
この問題に対処するために,各クライアントに対して適応パラメータアグリゲーションを実現するために,クライアントレベルとクラスレベルの影響を定量的に測定する,影響指向のフェデレーション学習フレームワークであるFedC^2Iを提案する。
我々の中核となる考え方は、十分に構成された影響ベクトルと影響行列を用いて、FLシステム内のクライアント間影響を明示的にモデル化することである。
インフルエンスベクトルは、クライアントレベルの影響を定量化し、クライアントが他者からの知識を選択的に取得し、特徴表現層の集約をガイドする。
一方、影響行列は、パーソナライズされた分類器アグリゲーションを達成するために、よりきめ細かな方法でクラスレベルの影響をキャプチャする。
非IID環境下での既存のフェデレート学習手法に対するFedC^2Iの性能評価を行い,本手法の優位性を実証した。
関連論文リスト
- Most Influential Subset Selection: Challenges, Promises, and Beyond [9.479235005673683]
我々は,最も集団的影響の大きいトレーニングサンプルのサブセットを特定することを目的とした,MISS(Most Influential Subset Selection)問題について検討する。
我々は、MISにおける一般的なアプローチを包括的に分析し、その強みと弱点を解明する。
本稿では,これらを反復的に適用した適応バージョンが,試料間の相互作用を効果的に捕捉できることを実証する。
論文 参考訳(メタデータ) (2024-09-25T20:00:23Z) - Individualized Policy Evaluation and Learning under Clustered Network
Interference [4.560284382063488]
クラスタ化されたネットワーク干渉下での最適個別化処理ルールの評価と学習の問題点を考察する。
ITRの実証性能を評価するための推定器を提案する。
学習ITRに対する有限サンプル残差を導出し、効率的な評価推定器の使用により学習ポリシーの性能が向上することを示す。
論文 参考訳(メタデータ) (2023-11-04T17:58:24Z) - Improving Federated Aggregation with Deep Unfolding Networks [19.836640510604422]
フェデレートラーニング(FL)は、デバイスの違いやクライアント間の統計的特徴に負の影響を受ける。
我々は、不均一性の悪影響を不偏に改善する適応重みを学習するディープ・アンフォールディング・ネットワーク(DUN)ベースの手法を導入する。
提案手法は,精度と品質に配慮したアグリゲーションを示す。
論文 参考訳(メタデータ) (2023-06-30T01:51:22Z) - FedControl: When Control Theory Meets Federated Learning [63.96013144017572]
ローカル学習のパフォーマンスと進化に応じてクライアントのコントリビューションを区別する。
この手法は制御理論から着想を得ており、その分類性能はIIDフレームワークで広く評価されている。
論文 参考訳(メタデータ) (2022-05-27T21:05:52Z) - On the Convergence of Clustered Federated Learning [57.934295064030636]
統合学習システムでは、例えばモバイルデバイスや組織参加者といったクライアントは通常、個人の好みや行動パターンが異なる。
本稿では,クライアントグループと各クライアントを統一最適化フレームワークで活用する,新しい重み付きクライアントベースクラスタリングFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-13T02:39:19Z) - Confounder Identification-free Causal Visual Feature Learning [84.28462256571822]
本稿では,創始者を特定する必要性を排除した,創始者同定自由因果視覚特徴学習(CICF)手法を提案する。
CICFは、フロントドア基準に基づいて異なるサンプル間の介入をモデル化し、インスタンスレベルの介入に対するグローバルスコープ干渉効果を近似する。
我々は,CICFと一般的なメタラーニング戦略MAMLの関係を明らかにするとともに,MAMLが理論的観点から機能する理由を解釈する。
論文 参考訳(メタデータ) (2021-11-26T10:57:47Z) - Toward Understanding the Influence of Individual Clients in Federated
Learning [52.07734799278535]
フェデレーションラーニングにより、クライアントはプライベートデータを中央サーバーに送信することなく、グローバルモデルを共同でトレーニングできます。
em-Influenceという新しい概念を定義し、パラメータに対するこの影響を定量化し、このメトリクスを推定する効果的な効率的なモデルを提案しました。
論文 参考訳(メタデータ) (2020-12-20T14:34:36Z) - Influence Functions in Deep Learning Are Fragile [52.31375893260445]
影響関数は、テスト時間予測におけるサンプルの効果を近似する。
影響評価は浅いネットワークでは かなり正確です
ヘッセン正則化は、高品質な影響推定を得るために重要である。
論文 参考訳(メタデータ) (2020-06-25T18:25:59Z) - RelatIF: Identifying Explanatory Training Examples via Relative
Influence [13.87851325824883]
インフルエンス関数を使用して、関連するトレーニング例を特定し、機械学習モデルの予測を"説明"することを望んでいます。
本稿では,グローバルな影響に制約を課す最適化目標を用いて,関連するトレーニング事例を選択するための新しい基準であるRelatIFを紹介する。
経験的評価では、RelatIFで返される例は影響関数を用いた例に比べて直感的であることが判明した。
論文 参考訳(メタデータ) (2020-03-25T20:59:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。