論文の概要: HASA: Subnet Allocation for Compute-Constrained Model-Heterogeneous Federated Learning
- arxiv url: http://arxiv.org/abs/2606.07621v1
- Date: Sat, 30 May 2026 11:21:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:05.085181
- Title: HASA: Subnet Allocation for Compute-Constrained Model-Heterogeneous Federated Learning
- Title（参考訳）: HASA: 計算制約付きモデルヘテロジニアスフェデレーション学習のためのサブネットアロケーション
- Abstract要約: エッジサービスは、フェデレーション学習を使用してデバイス上のモデルをパーソナライズし、機密データをローカルに保持する。
実際には、デプロイはクライアントリソースとローカルデータ分散の両方を扱う必要があります。
本稿では、クライアントの不均一度スコアに基づいて幅を割り当てる列車専用ルールであるHASAを提案する。
- 参考スコア（独自算出の注目度）: 6.169964580735435
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Edge services increasingly use federated learning to personalize on-device models while keeping sensitive data local. In practice, deployments must handle heterogeneity in both client resources and local data distributions. Model-heterogeneous federated learning lowers client cost by allowing each client to train a subnet of a shared supernet, but most subnet-allocation policies are driven by device constraints and do not explicitly account for statistical heterogeneity. This paper proposes Heterogeneity-Aware Subnet Allocation (HASA), a train-only rule that assigns subnet widths based on client heterogeneity scores computed from local training data while enforcing a fixed size-weighted compute budget. This design enables budget-matched comparisons with alternative allocation policies. On an article-title next-word prediction benchmark with seven clients, HASA improves unweighted mean client test accuracy over uniform allocation across 10 matched seeds, increasing mean client test accuracy from 13.82 percent to 14.32 percent, and improves worst-client accuracy on average. In a matched-budget comparison with representative partial-training baselines, HASA achieves the strongest worst-client and tail-client accuracy on this benchmark. A directionality ablation shows that assigning smaller subnets to more heterogeneous clients degrades both mean and tail performance. A cross-domain image-classification study further shows that the effectiveness of heterogeneity-aware allocation depends on how well the heterogeneity score reflects clients' need for additional model width.
- Abstract（参考訳）: エッジサービスは、フェデレーション学習を使用してデバイス上のモデルをパーソナライズし、機密データをローカルに保持する。
実際には、デプロイはクライアントリソースとローカルデータの分散の両方において不均一性を扱う必要がある。
モデル不均一なフェデレーション学習は、各クライアントが共有スーパーネットのサブネットをトレーニングできるようにすることでクライアントコストを下げるが、ほとんどのサブネット割り当てポリシーはデバイス制約によって駆動され、統計的不均一性を明示的に考慮しない。
本稿では,HASA(Heterogeneity-Aware Subnet Allocation)を提案する。HASA(Heterogeneity-Aware Subnet Allocation)は,局所的なトレーニングデータから計算したクライアントの不均一性スコアに基づいてサブネット幅を割り当てる列車専用ルールである。
この設計は、代替アロケーションポリシーとの予算整合比較を可能にする。
7つのクライアントを持つ記事タイトルの次の単語予測ベンチマークでは、HASAは10個のマッチした種子の均一な割り当てよりも平均クライアントテストの非重み付き精度を改善し、平均クライアントテストの精度を13.82パーセントから14.32パーセントに向上し、平均で最悪のクライアントテストの精度を向上させる。
代表的な部分訓練ベースラインとの整合予算比較において、HASAは、このベンチマークで最強の最悪の傾きと尾傾きの精度を達成する。
指向性アブレーションは、よりヘテロジニアスなクライアントに小さなサブネットを割り当てると平均とテールの両方のパフォーマンスが低下することを示している。
さらに、クロスドメイン画像分類研究により、不均一性を考慮したアロケーションの有効性は、不均一性スコアが追加のモデル幅の必要性をどれだけ反映しているかに依存することが示された。
関連論文リスト
- When Is Shallow Enough? Adaptive Split Federated Learning with Client-Specific Sufficiency Estimation [8.3131553967982]
クライアントの不均一性の下では、従来の静的スプリット戦略は最適ではないかもしれない。
我々はtextbfSufficiency-textbfGuided textbfAdaptive split textbfFederated Learning framework である textscFedSGA を提案する。
論文 参考訳（メタデータ） (2026-08-16T09:06:28Z) - Beyond Parameter Space: NTK-Guided Personalized Aggregation for Robust Federated Learning [1.3924112497839525]
フェデレーション学習は、データをローカルに保ちながら、分散クライアント間で協調的なモデルトレーニングを可能にする。
中心的な課題は、各クライアントのターゲットドメインに関して、どのクライアントのアップデートがアグリゲーションに有効かを決定することである。
本稿では,関数空間における更新選択を行うフェデレート学習フレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-12T14:29:43Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳（メタデータ） (2026-05-05T07:02:50Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
パラメータを好みに置き換えることは、よりスケーラブルでプライバシに保護される未来を表している、と私たちは主張する。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを用いた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化、堅牢性、およびクロスクライアント適応性において、連邦化されたアライメントベースラインを一貫して上回る。
論文 参考訳（メタデータ） (2026-01-31T03:11:51Z) - Latte: Collaborative Test-Time Adaptation of Vision-Language Models in Federated Learning [66.35456997311742]
事前学習された視覚言語モデルによるテスト時間適応は、テスト中の分散シフトに対処するために注目が集まっている。
既存のテスト時間適応法は通常、豊富なデータを持つ単一のドメイン用に設計されている。
本稿では,各クライアントがローカルメモリを保守し,それぞれの履歴テストデータから埋め込みを格納する新しいフレームワークであるLatteを提案する。
論文 参考訳（メタデータ） (2025-07-29T04:27:29Z) - Modality Alignment Meets Federated Broadcasting [9.752555511824593]
フェデレートラーニング(FL)は、ローカルデータを集中化せずに、分散エッジデバイス間でモデルをトレーニングすることで、データのプライバシを保護する強力なアプローチとして登場した。
本稿では,テキストエンコーダをサーバ上に配置し,画像エンコーダをローカルデバイス上で動作させる,モダリティアライメントを利用した新しいFLフレームワークを提案する。
論文 参考訳（メタデータ） (2024-11-24T13:30:03Z) - Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。
本稿では,FedInsという新しいFLアルゴリズムを提案する。
我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文 参考訳（メタデータ） (2023-08-11T09:58:47Z) - Boosting Federated Learning Convergence with Prototype Regularization [46.23872011375391]
本稿では,クライアント間の異種データ分散に対処するプロトタイプベースの正規化戦略を提案する。
MNISTとFashion-MNISTの実験結果から,提案手法は平均テスト精度が3.3%,8.9%向上したことがわかった。
論文 参考訳（メタデータ） (2023-07-20T04:35:50Z) - Efficient Distribution Similarity Identification in Clustered Federated
Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。
既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。
以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文 参考訳（メタデータ） (2022-09-21T17:37:54Z) - Federated Multi-Target Domain Adaptation [99.93375364579484]
フェデレートされた学習手法により、プライバシを保護しながら、分散ユーザデータ上で機械学習モデルをトレーニングすることが可能になります。
分散クライアントデータがラベル付けされず、集中型ラベル付きデータセットがサーバ上で利用可能となる、より実用的なシナリオを考えます。
本稿では,新しい課題に対処する効果的なDualAdapt法を提案する。
論文 参考訳（メタデータ） (2021-08-17T17:53:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。