論文の概要: Task2vec Readiness: Diagnostics for Federated Learning from Pre-Training Embeddings
- arxiv url: http://arxiv.org/abs/2604.10849v1
- Date: Sun, 12 Apr 2026 22:48:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:16.247422
- Title: Task2vec Readiness: Diagnostics for Federated Learning from Pre-Training Embeddings
- Title(参考訳): Task2vecの準備: 事前学習によるフェデレーション学習の診断
- Authors: Cristiano Mafuz, Rodrigo Silva,
- Abstract要約: フェデレーション学習のパフォーマンスは、クライアント間の不均一性に敏感である。
本稿では、トレーニング前にフェデレーションのアライメントを定量化するTask2Vec埋め込みから導いた準備性指標を提案する。
- 参考スコア(独自算出の注目度): 0.019098089260644657
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL) performance is highly sensitive to heterogeneity across clients, yet practitioners lack reliable methods to anticipate how a federation will behave before training. We propose readiness indices, derived from Task2Vec embeddings, that quantifies the alignment of a federation prior to training and correlates with its eventual performance. Our approach computes unsupervised metrics -- such as cohesion, dispersion, and density -- directly from client embeddings. We evaluate these indices across diverse datasets (CIFAR-10, FEMNIST, PathMNIST, BloodMNIST) and client counts (10--20), under Dirichlet heterogeneity levels spanning $α\in \{0.05,\dots,5.0\}$ and FedAVG aggregation strategy. Correlation analyses show consistent and significant Pearson and Spearman coefficients between some of the Task2Vec-based readiness and final performance, with values often exceeding 0.9 across dataset$\times$client configurations, validating this approach as a robust proxy for FL outcomes. These findings establish Task2Vec-based readiness as a principled, pre-training diagnostic for FL that may offer both predictive insight and actionable guidance for client selection in heterogeneous federations.
- Abstract(参考訳): フェデレーション学習(FL)のパフォーマンスは、クライアント間の不均一性に対して非常に敏感であるが、トレーニング前にフェデレーションがどのように振る舞うかを予測するための信頼性の高い方法が欠けている。
本稿では、トレーニング前にフェデレーションのアライメントを定量化し、最終的なパフォーマンスと相関する、Task2Vecの埋め込みから導かれる即応性指標を提案する。
このアプローチでは、クライアントの埋め込みから直接、凝集、分散、密度といった教師なしのメトリクスを計算します。
各種データセット (CIFAR-10, FEMNIST, PathMNIST, BloodMNIST) およびクライアント数 (10-20) の指標を, ディリクレの不均一度レベルが$α\in \{0.05,\dots,5.0\}$およびFedAVGアグリゲーション戦略によって評価した。
相関分析により、Task2Vecベースの準備性と最終的なパフォーマンスの間には、一貫性のあるピアソン係数とスピアマン係数が示され、データセット$\times$client構成で0.9を超えることがしばしばあり、このアプローチをFL結果の堅牢なプロキシとして検証している。
これらの結果から,多種間フェデレーションにおけるクライアント選択のための予測的洞察と行動可能なガイダンスの両方を提供するFLのための原則的,事前学習型診断として,Task2Vecベースの準備性を確立した。
関連論文リスト
- Trust Aware Federated Learning for Secure Bone Healing Stage Interpretation in e-Health [3.523596898195567]
本稿では,骨治癒段階を解釈するための信頼度の高いフェデレーション学習フレームワークを提案する。
このフレームワークは、Flower FLフレームワークを使用してシミュレートされたクライアント間でトレーニングされた多層パーセプトロンモデルを採用している。
論文 参考訳(メタデータ) (2026-02-27T11:28:58Z) - Fractional-Order Federated Learning [4.1751058176413105]
フェデレートラーニング(FL)は、リモートクライアントがクライアントのプライバシを保護しながら、グローバルモデルを協調的にトレーニングすることを可能にする。
プライバシー保護のメリットにもかかわらず、FLには、収束の遅い、通信コストの高い、非独立性および独立性のない(非IID)データなど、大きな欠点がある。
論文 参考訳(メタデータ) (2026-02-17T06:25:23Z) - FedGreed: A Byzantine-Robust Loss-Based Aggregation Method for Federated Learning [1.3853653640712935]
フェデレートラーニング(FL)は、デバイス上のローカルデータセットを保持することで、データのプライバシを保ちながら、複数のクライアント間で協調的なモデルトレーニングを可能にする。
本研究では,クライアントがビザンツ攻撃を行い,クライアントが逆さまに振る舞うようなFL設定に対処する一方,中央サーバは信頼され,参照データセットが装備される。
本稿では,フェデレート学習のためのレジリエントアグリゲーション戦略であるFedGreedを提案する。
論文 参考訳(メタデータ) (2025-08-25T14:20:19Z) - Federated Contrastive Learning for Personalized Semantic Communication [55.46383524190467]
我々は,パーソナライズされたセマンティックコミュニケーションを支援することを目的とした,協調型コントラスト学習フレームワークを設計する。
FedCLは、複数のクライアントにわたるローカルセマンティックエンコーダと、基地局が所有するグローバルセマンティックデコーダの協調トレーニングを可能にする。
分散クライアント間の異種データセットから生じるセマンティック不均衡問題に対処するために,コントラスト学習を用いてセマンティックセントロイドジェネレータを訓練する。
論文 参考訳(メタデータ) (2024-06-13T14:45:35Z) - Provably Personalized and Robust Federated Learning [47.50663360022456]
類似したクライアントのクラスタを識別し、パーソナライズされたモデルパークラスタを訓練する簡単なアルゴリズムを提案する。
アルゴリズムの収束率は、クライアントの真の基盤となるクラスタリングを知っていれば得られるものと一致します。
論文 参考訳(メタデータ) (2023-06-14T09:37:39Z) - Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated
Learning via Class-Imbalance Reduction [76.26710990597498]
本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。
我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。
特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
論文 参考訳(メタデータ) (2022-09-30T05:42:56Z) - DRFLM: Distributionally Robust Federated Learning with Inter-client
Noise via Local Mixup [58.894901088797376]
連合学習は、生データをリークすることなく、複数の組織のデータを使用してグローバルモデルをトレーニングするための有望なアプローチとして登場した。
上記の2つの課題を同時に解決するための一般的な枠組みを提案する。
我々は、ロバストネス解析、収束解析、一般化能力を含む包括的理論的解析を提供する。
論文 参考訳(メタデータ) (2022-04-16T08:08:29Z) - Federated Learning with Heterogeneous Data: A Superquantile Optimization
Approach [0.0]
我々は、不均一なデータを持つ個々のクライアントに対して、優れたパフォーマンスを確実に提供するように設計された、フェデレートされた学習フレームワークを提案する。
提案手法は,誤差の尾の統計を捉える水槽型学習訓練に基づく。
論文 参考訳(メタデータ) (2021-12-17T11:00:23Z) - On Second-order Optimization Methods for Federated Learning [59.787198516188425]
フェデレート学習環境における局所的なステップを持つ2階分散手法の性能評価を行った。
本稿では,更新のための2階ローカル情報とグローバルライン検索を用いて,結果の局所的特異性に対処する新たな変種を提案する。
論文 参考訳(メタデータ) (2021-09-06T12:04:08Z) - FedAUX: Leveraging Unlabeled Auxiliary Data in Federated Learning [14.10627556244287]
フェデレート蒸留(Federated Distillation, FD)は、フェデレート学習のための新しいアルゴリズムパラダイムである。
ラベルなし補助データから最大ユーティリティを導出することで性能を大幅に向上するFedAUXを提案する。
大規模畳み込みニューラルネットワークとトランスフォーマーモデルの実験により、FedAUXのトレーニング性能がSOTA FLベースライン法を上回ることを示した。
論文 参考訳(メタデータ) (2021-02-04T09:53:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。