論文の概要: Capacity Confounds and Coverage Guarantees in Adaptive Sub-model Federated Learning

• arxiv url: http://arxiv.org/abs/2608.07157v1
• Date: Fri, 07 Aug 2026 12:26:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.494656
• Title: Capacity Confounds and Coverage Guarantees in Adaptive Sub-model Federated Learning
• Title（参考訳）: 適応型サブモデルフェデレーション学習におけるキャパシティ・コンファウンドと包括的保証
• Abstract要約: サブモデルフェデレーション学習により、リソース制約のあるクライアントは、グローバルモデルの幅制限されたバージョンをトレーニングできるが、既存のメソッドはデバイスリソース単独でキャパシティを割り当てる。 適応型キャパシティアロケーションフレームワークであるHAS-FLをテストケースとして使用して、このステップが可能かどうかを問う。
• 参考スコア（独自算出の注目度）: 5.586191108738563
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sub-model federated learning lets resource-constrained clients train width-reduced versions of a global model, but existing methods allocate capacity by device resources alone. A natural next step, allocating capacity by each client's data heterogeneity as estimated from the updates the server already observes, has been repeatedly suggested. We ask whether that step is possible, using HAS-FL, an adaptive capacity-allocation framework, as a test case. Our findings are threefold. First, validated against ground-truth label-distribution divergence on reproducible partitions, update-divergence estimates of client heterogeneity are dominated by capacity rather than data: across two corrected estimators, multiple datasets, and all seeds, the estimates correlate strongly and negatively with device capacity, and no data signal remains once capacity is controlled for. This previously undocumented confound affects any method estimating client statistics from sub-model updates. Second, adaptive allocation has a hidden failure mode: when every client is capped below full width, the uncovered parameters stay at random initialization and progressively corrupt the global model. A simple coverage guarantee removes the failure and explains why uniform allocation collapses. Third, a matched-budget control settles what adaptivity contributes: random allocation to the same average budget performs no differently on both image benchmarks, and on the naturally partitioned text benchmark the adaptive policy is the weakest of the three strategies while consuming the most capacity. Sub-model training remains valuable because it admits constrained clients at quadratically reduced cost, but what protects accuracy is parameter coverage rather than allocation intelligence. Its apparent benefits come from capacity budgeting and coverage, and future designs need heterogeneity signals separable from capacity effects.
• Abstract（参考訳）: サブモデルフェデレーション学習により、リソース制約のあるクライアントは、グローバルモデルの幅制限されたバージョンをトレーニングできるが、既存のメソッドはデバイスリソース単独でキャパシティを割り当てる。 サーバがすでに監視している更新から見積もっているように、各クライアントのデータ不均一性によってキャパシティを割り当てる自然な次のステップが、繰り返し提案されている。 適応型キャパシティアロケーションフレームワークであるHAS-FLをテストケースとして使用して、このステップが可能かどうかを問う。 私たちの発見は3倍です。 まず、2つの補正された推定値、複数のデータセット、およびすべての種子にまたがって、推定値がデバイス容量と強く負に相関し、一度キャパシティが制御されるとデータ信号は残らない。 この文書化されていないコンファウンドは、サブモデル更新からクライアントの統計を推定するメソッドに影響を与える。 第二に、アダプティブアロケーションには、隠れた障害モードがある: すべてのクライアントが全幅以下にキャップされているとき、未発見のパラメータはランダム初期化に留まり、グローバルモデルを徐々に破壊する。 単純なカバレッジ保証は、障害を取り除き、なぜ均一なアロケーションが崩壊するかを説明する。 第3に、一致予算制御は、適応性が寄与するものを決定づける: 同じ平均予算に対するランダムな割り当ては、両方の画像ベンチマークで違いなく、自然に分割されたテキストベンチマークでは、3つの戦略の中で最も弱いが、最大のキャパシティを消費する。 サブモデルトレーニングは、制約のあるクライアントを4段階のコスト削減で受け入れているため、依然として価値があるが、正確性を保護するのはアロケーションインテリジェンスではなくパラメータカバレッジである。 その明らかな利点は、キャパシティ予算とカバレッジであり、将来の設計ではキャパシティ効果から分離可能な異種性信号が必要である。

関連論文リスト

• How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
  機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。 因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。 本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
  論文  参考訳（メタデータ） (2026-06-10T21:07:49Z)
• HASA: Subnet Allocation for Compute-Constrained Model-Heterogeneous Federated Learning [6.169964580735435]
  エッジサービスは、フェデレーション学習を使用してデバイス上のモデルをパーソナライズし、機密データをローカルに保持する。 実際には、デプロイはクライアントリソースとローカルデータ分散の両方を扱う必要があります。 本稿では、クライアントの不均一度スコアに基づいて幅を割り当てる列車専用ルールであるHASAを提案する。
  論文  参考訳（メタデータ） (2026-05-30T11:21:48Z)
• Q-LocalAdam: Memory-Efficient Client-Side Adaptive Optimization for Edge Federated Learning [1.4610038284393168]
  エッジデバイス上でのフェデレーション学習は、IID以外のクライアントデータと厳しいメモリ予算に対処する必要がある。 分散を意識した8ビット量子化ブロックワイド線形符号化と分散のためのログ空間符号化を応用したtextbfQ-LocalAdam を提案する。
  論文  参考訳（メタデータ） (2026-05-17T17:23:23Z)
• Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions [89.52532304099522]
  フェデレートラーニング(FL)は、クライアントが生データを集中せずに共有モデルを共同でトレーニングすることを可能にし、固有のプライバシーレベルを提供する。 グラデーションとモデル更新は機密情報を漏洩する可能性があるが、悪意のあるサーバはビザンティン操作のような敵攻撃をマウントする可能性がある。 これらの脆弱性は、統合されたフレームワーク内の差分プライバシー(DP)とビザンチンの堅牢性に対処する必要性を強調している。 Byz-Clip21-SGD2Mを提案する。
  論文  参考訳（メタデータ） (2026-03-24T17:39:09Z)
• Perfectly-Private Analog Secure Aggregation in Federated Learning [51.61616734974475]
  連合学習では、複数のパーティがモデルをローカルにトレーニングし、パラメータを中央サーバと共有する。 本稿では,有限場ではなくトーラスを用いた新しいセキュアパラメータアグリゲーション法を提案する。
  論文  参考訳（メタデータ） (2025-09-10T15:22:40Z)
• Enhancing Federated Learning with Adaptive Differential Privacy and Priority-Based Aggregation [0.0]
  フェデレートラーニング(FL)は、ローカルデータセットに直接アクセスせずにグローバルモデルを開発する。 クライアントとサーバ間で転送されるモデル更新にアクセスすることが可能で、敵に機密性の高いローカル情報を公開する可能性がある。 微分プライバシー(DP)は、パラメータにノイズを加えることでこの問題に対処するための有望なアプローチを提供する。 本稿では、クライアントの相対的影響要因に基づいてノイズを注入し、パラメータを集約するパーソナライズされたDPフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-26T16:55:07Z)
• Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
  本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
  論文  参考訳（メタデータ） (2023-05-01T20:04:46Z)
• Beyond ADMM: A Unified Client-variance-reduced Adaptive Federated Learning Framework [82.36466358313025]
  我々はFedVRAと呼ばれる原始二重FLアルゴリズムを提案し、このアルゴリズムはグローバルモデルの分散還元レベルとバイアスを適応的に制御することができる。 半教師付き画像分類タスクに基づく実験は,既存の手法よりもFedVRAの方が優れていることを示す。
  論文  参考訳（メタデータ） (2022-12-03T03:27:51Z)
• Holistic Robust Data-Driven Decisions [0.0]
  実際には、オーバーフィッティングは単一の原因ではなく、同時にいくつかの要因によって引き起こされる。 ここでは, (i) 統計的誤差を有限サンプルデータ処理の結果とする, (ii) データノイズ, (ii) データポイントが有限精度でのみ測定された場合に発生する, (iii) データのごく一部が完全に破損するデータ不特定性という,3つの過適合な情報源について考察する。 我々は、そのような全体的保護を保証し、計算可能な新しいデータ駆動型定式化を設計する。
  論文  参考訳（メタデータ） (2022-07-19T21:28:51Z)
• Learning Invariant Representation with Consistency and Diversity for Semi-supervised Source Hypothesis Transfer [46.68586555288172]
  本稿では,SSHT(Semi-supervised Source hypothesis Transfer)という新たなタスクを提案する。 本研究では、ランダムに拡張された2つの未ラベルデータ間の予測整合性を容易にし、SSHTの簡易かつ効果的なフレームワークである一貫性と多様性の学習(CDL)を提案する。 実験の結果,本手法は,DomainNet,Office-Home,Office-31データセット上で,既存のSSDA手法や教師なしモデル適応手法よりも優れていた。
  論文  参考訳（メタデータ） (2021-07-07T04:14:24Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。