論文の概要: Beyond Non-IID: Learner--Client Distribution Mismatch in Federated Learning
- arxiv url: http://arxiv.org/abs/2608.27715v1
- Date: Thu, 27 Aug 2026 21:08:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.150043
- Title: Beyond Non-IID: Learner--Client Distribution Mismatch in Federated Learning
- Title（参考訳）: 非IIDを超えて:フェデレートラーニングにおける学習者-クライアント分散ミスマッチ
- Abstract要約: フェデレートされた学習システムは、異質なクライアント集団間の協調的なモデルトレーニングを促進するために、ますます多くデプロイされている。
FL文学における伝統的なクライアント選択戦略は、このような不一致をほとんど見落としている。
本稿では,学習者の最適化目標に対して,各クライアントの潜在的なユーティリティを推定する動的影響を考慮したクライアント選択フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 16.954858574077964
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning systems are increasingly deployed to facilitate collaborative model training across a heterogeneous client population. Existing practice mostly implicitly assumes that the aggregated client data distribution is representative of the learner's target distribution or that learning from all available clients is uniformly beneficial for the learner distribution. However, such an assumption often does not hold in reality. Traditional client selection strategies in FL literature largely overlook such misalignment, while most existing work on multi-source transfer learning either requires direct access to local data or uses one-shot model/feature aggregation. In this paper, we take the initiative to understand and mitigate the impacts of such learner-client population misalignment. In particular, we consider the practical setting where the learner keeps a small proxy dataset. We observe that client contributions vary significantly across training rounds, and traditional technology is insufficient to identify beneficial sources under multi-source transfer diversity. Then, we propose a dynamic, influence-aware client selection framework that estimates each client's potential utility to the learner's optimization objective using proxy influence signals on a learner-specific proxy set. Via using leave-one-out evaluations, we prioritize the most informative sources of knowledge while controlling the negative impacts of statistical noise and data heterogeneity. Experiments on CIFAR-10 under heterogeneous data partitions demonstrate that our approach consistently outperforms static and dynamic baselines, achieving faster convergence and higher accuracy.
- Abstract（参考訳）: フェデレートされた学習システムは、異質なクライアント集団間の協調的なモデルトレーニングを促進するために、ますます多くデプロイされている。
既存の実践は、集約されたクライアントデータ分布が学習者の目標分布の代表であるか、あるいは利用可能なすべてのクライアントからの学習が学習者分布に一様に有用であると暗黙的に仮定する。
しかし、そのような前提はしばしば現実には当てはまらない。
FLの従来のクライアント選択戦略は、そのような不一致をほとんど見落としているが、マルチソースのトランスファーラーニングに関する既存の作業の多くは、ローカルデータへの直接アクセスを必要とするか、ワンショットモデル/フィーチャーアグリゲーションを使用するかのどちらかである。
本稿では,このような学習者の集団的不一致の影響を理解・緩和する取り組みを行う。
特に、学習者が小さなプロキシデータセットを保持する実践的な設定について考察する。
クライアントのコントリビューションはトレーニングラウンド毎に大きく異なり、従来の技術では多ソース転送の多様性の下で有益なソースを特定するには不十分である。
そこで本研究では,学習者固有のプロキシセット上でのプロキシ影響信号を用いて,学習者の最適化目標に対して,各クライアントの潜在的なユーティリティを推定する動的影響を考慮したクライアント選択フレームワークを提案する。
離脱評価を用いて、統計的ノイズやデータ不均一性の負の影響を制御しながら、最も情報性の高い知識源を優先する。
不均質なデータ分割下でのCIFAR-10の実験では、我々の手法は静的および動的ベースラインを一貫して上回り、より高速な収束と精度の向上を実現している。
関連論文リスト
- Assessing the Impacts of Imperfect Datasets on Client Selections in Federated Learning [1.3806566857279465]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを行い、サーバがローカルに更新されたモデルを集約する、人気のある分散学習フレームワークである。
非独立で同一に分散した(非IID)データセットやノイズのあるデータセットは、モデル精度の低下や収束遅延の増大につながる可能性がある。
本稿では,FLにおける各クライアントの貢献度を評価するためのプライバシ保護スコアリング手法を提案する。
論文 参考訳（メタデータ） (2026-08-03T13:58:35Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳（メタデータ） (2025-01-17T04:00:50Z) - SFedCA: Credit Assignment-Based Active Client Selection Strategy for Spiking Federated Learning [15.256986486372407]
フェデレーション学習のスパイクにより、リソースに制約のあるデバイスは、ローカルデータを交換することなく、低消費電力で協調的にトレーニングできる。
既存のスパイキングフェデレーション学習手法では、クライアントのアグリゲーションに対してランダムな選択アプローチを採用しており、不偏なクライアントの参加を前提としている。
本研究では,グローバルなサンプル分布バランスに寄与するクライアントを鑑定するために,クレジット割当に基づくアクティブクライアント選択戦略であるSFedCAを提案する。
論文 参考訳（メタデータ） (2024-06-18T01:56:22Z) - Federated Learning Can Find Friends That Are Advantageous [14.993730469216546]
フェデレートラーニング(FL)では、クライアントデータの分散の性質と均一性は、機会と課題の両方を示します。
本稿では,FLトレーニングに参加するクライアントに対して適応的なアグリゲーション重みを割り当てるアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-02-07T17:46:37Z) - Unlocking the Potential of Prompt-Tuning in Bridging Generalized and
Personalized Federated Learning [49.72857433721424]
Vision Transformer (ViT) と Visual Prompt Tuning (VPT) は、様々なコンピュータビジョンタスクの効率を改善して最先端のパフォーマンスを実現する。
本稿では,GFL(Generalized FL)とPFL(Personalized FL)を組み合わせた新しいアルゴリズムSGPTを提案する。
論文 参考訳（メタデータ） (2023-10-27T17:22:09Z) - FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup
for Non-IID Data [54.81695390763957]
フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。
我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。
クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
論文 参考訳（メタデータ） (2023-09-18T12:35:05Z) - When to Trust Aggregated Gradients: Addressing Negative Client Sampling
in Federated Learning [41.51682329500003]
本稿では,各ラウンドにおける集約勾配に対するサーバ学習率を調整するための新しい学習率適応機構を提案する。
我々は、最適なサーバ学習率に肯定的な有意義で堅牢な指標を見つけるために、理論的な推論を行う。
論文 参考訳（メタデータ） (2023-01-25T03:52:45Z) - Knowledge-Aware Federated Active Learning with Non-IID Data [75.98707107158175]
本稿では,アノテーション予算に制限のあるグローバルモデルを効率的に学習するための,連合型アクティブラーニングパラダイムを提案する。
フェデレートされたアクティブラーニングが直面する主な課題は、サーバ上のグローバルモデルのアクティブサンプリング目標と、ローカルクライアントのアクティブサンプリング目標とのミスマッチである。
本稿では,KSAS (Knowledge-Aware Federated Active Learning) とKCFU (Knowledge-Compensatory Federated Update) を組み合わせた,知識対応型アクティブ・ラーニング(KAFAL)を提案する。
論文 参考訳（メタデータ） (2022-11-24T13:08:43Z) - Straggler-Resilient Personalized Federated Learning [55.54344312542944]
フェデレーション学習は、プライバシと通信の制限を尊重しながら、クライアントの大規模なネットワークに分散されたサンプルからのトレーニングモデルを可能にする。
これら2つのハードルを同時に処理する理論的なスピードアップを保証する新しいアルゴリズム手法を開発した。
提案手法は,すべてのクライアントのデータを用いてグローバルな共通表現を見つけ,各クライアントに対してパーソナライズされたソリューションにつながるパラメータの集合を学習するために,表現学習理論からのアイデアに依存している。
論文 参考訳（メタデータ） (2022-06-05T01:14:46Z) - FRAug: Tackling Federated Learning with Non-IID Features via
Representation Augmentation [31.12851987342467]
Federated Learning(FL)は、複数のクライアントが協調してディープラーニングモデルをトレーニングする分散学習パラダイムである。
本稿では,FRAug(Federated Representation Augmentation)を提案する。
当社のアプローチでは,通常は小さなクライアントデータセットを増大させるために,埋め込み空間にクライアント固有の合成サンプルを生成する。
論文 参考訳（メタデータ） (2022-05-30T07:43:42Z) - Towards Fair Federated Learning with Zero-Shot Data Augmentation [123.37082242750866]
フェデレーション学習は重要な分散学習パラダイムとして登場し、サーバはクライアントデータにアクセスせずに、多くのクライアントがトレーニングしたモデルからグローバルモデルを集約する。
本稿では, 統計的不均一性を緩和し, フェデレートネットワークにおけるクライアント間での精度向上を図るために, ゼロショットデータ拡張を用いた新しいフェデレーション学習システムを提案する。
Fed-ZDAC (クライアントでのゼロショットデータ拡張によるフェデレーション学習) と Fed-ZDAS (サーバでのゼロショットデータ拡張によるフェデレーション学習) の2種類について検討する。
論文 参考訳（メタデータ） (2021-04-27T18:23:54Z) - Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。
提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。
この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
論文 参考訳（メタデータ） (2021-02-14T05:36:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。