論文の概要: FedHV: Low-Overhead Hypervolume Weighting for Federated Multi-Objective Optimization
- arxiv url: http://arxiv.org/abs/2609.32790v1
- Date: Sat, 26 Sep 2026 17:07:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 20:14:30.70555
- Title: FedHV: Low-Overhead Hypervolume Weighting for Federated Multi-Objective Optimization
- Title(参考訳): FedHV:フェデレーション多目的最適化のための低オーバーヘッドハイパーボリュームウェイト
- Abstract要約: 参照相対的対象スラックスを閉形逆スラック重みにマッピングするFedHVを導入する。
FedHVはFSMGDAとFedCMOOを5つの設定で平均精度で上回る。
- 参考スコア(独自算出の注目度): 19.910492822482368
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Task-wise federated multi-objective optimization (FedMOO) trains a shared model for competing prediction objectives under heterogeneous data, partial participation, and communication constraints. Existing methods commonly derive task weights from gradient or update geometry. This requires task-specific information or iterative server-side optimization. We introduce FedHV, which maps reference-relative objective slacks to closed-form inverse-slack weights. Each client optimizes one weighted loss and returns objective estimates with its model update. The protocol adds exactly 2m auxiliary scalars per participating client, yielding Theta(d + m) total per-client communication, compared with the Theta(md) task-specific communication of FSMGDA, and requires no additional synchronization stage. We analyze the resulting one-round-delayed weights under client heterogeneity, multi-step local updates, partial participation, and finite-sample objective reports. Under a fixed-horizon positive-slack reference condition, with the prescribed horizon-dependent step size and vanishing report error, FedHV achieves an O(T^(-1/2)) rate for the average squared log-hypervolume gradient norm; persistent report error determines the resulting stationarity neighborhood. The same bound controls the squared Pareto-stationarity residual. Across six Dirichlet-partitioned non-IID settings from four vision benchmark families and three training seeds, FedHV exceeds FSMGDA and FedCMOO in mean accuracy in five settings. Among these methods and uniform scalarization, it achieves the highest worst-task accuracy in four settings and improves the difficult CIFAR-10 objective in both CIFAR10-MNIST settings.
- Abstract(参考訳): タスクワイド・フェデレーション・マルチオブジェクト最適化(FedMOO)は、異種データ、部分的参加、通信制約の下で競合する予測対象の共有モデルを訓練する。
既存の方法は一般に勾配や更新幾何からタスクウェイトを導出する。
これはタスク固有の情報や反復的なサーバサイドの最適化を必要とする。
参照相対的対象スラックスを閉形逆スラック重みにマッピングするFedHVを導入する。
各クライアントは、1つの重み付けされた損失を最適化し、モデル更新で客観的な見積もりを返す。
このプロトコルは、クライアントごとに正確に2mの補助スカラーを付加し、FSMGDAのタスク固有の通信であるTheta(md)と比較して、クライアント毎の合計通信をTheta(d + m)にし、追加の同期ステージを必要としない。
クライアントの不均一性、複数ステップのローカル更新、部分的参加、有限サンプルの客観的レポートに基づく結果の1ラウンド遅れ重みの解析を行う。
固定水平正スラック基準条件の下では、所定の水平依存性のステップサイズとレポートエラーを消失させ、FedHVは平均二乗対数体積勾配ノルムに対してO(T^(-1/2))レートを達成する。
同じ境界が正方形パレート定常残差を制御している。
4つのビジョンベンチマークファミリーと3つのトレーニングシードからの6つのディリクレ分割非IID設定に対して、FedHVは5つの設定でFSMGDAとFedCMOOを平均精度で上回っている。
これらの手法と均一なスキャラライゼーションの中で、4つの設定で最悪のタスク精度を達成し、CIFAR10-MNIST設定の両方において難しいCIFAR-10目標を改善する。
関連論文リスト
- Task-Aware Federated Fine-Tuning for MoE-based Large Language Models [6.888069460182529]
Mixture-of-Experts (MoE) はLarge Language Models (LLM) の広く採用されているアーキテクチャである。
FedTAR は MoE ベースの LLM のためのタスク対応ファインチューニング手法である。
論文 参考訳(メタデータ) (2026-09-11T18:04:41Z) - Optimized Federated Knowledge Distillation with Distributed Neural Architecture Search [7.461859467262201]
フェデレートラーニング(FL)は、データを集中せずに協調的なモデルトレーニングを可能にする。
既存のFLアプローチは、集約、パーソナライゼーション、知識蒸留の改善を通じてこれらの課題を軽減する。
この研究は、クライアント側ニューラルアーキテクチャ選択とサーバ協調知識の蒸留を組み合わせた蒸留駆動FLフレームワークであるFedKDNASを紹介する。
論文 参考訳(メタデータ) (2026-05-20T15:50:49Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-05T07:02:50Z) - Posterior Augmented Flow Matching [64.1559809786948]
後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である
PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
論文 参考訳(メタデータ) (2026-05-01T17:59:59Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
パラメータを好みに置き換えることは、よりスケーラブルでプライバシに保護される未来を表している、と私たちは主張する。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを用いた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化、堅牢性、およびクロスクライアント適応性において、連邦化されたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-01-31T03:11:51Z) - FedSparQ: Adaptive Sparse Quantization with Error Feedback for Robust & Efficient Federated Learning [7.461859467262201]
フェデレートラーニング(FL)は、分散クライアント間の協調モデルトレーニングを可能にする。
FLは、制約されたネットワーク上での高次元モデル更新の頻繁な交換による通信オーバーヘッドに悩まされる。
本稿では,各クライアントの勾配を動的に分散する軽量圧縮フレームワークであるFedSparQを紹介する。
論文 参考訳(メタデータ) (2025-11-05T12:38:08Z) - STT-GS: Sample-Then-Transmit Edge Gaussian Splatting with Joint Client Selection and Power Control [77.56170394100022]
Edge Gaussian splatting (EGS)は、分散クライアントからデータを集約し、エッジサーバでグローバルGSモデルをトレーニングする。
本稿では、異なるクライアントのビューコントリビューションを識別する新しいGS指向の目的関数を定式化する。
その結果,低サンプリング比でGS指向の目的を正確に予測できることが判明した。
論文 参考訳(メタデータ) (2025-10-15T06:20:47Z) - Asynchronous Federated Stochastic Optimization for Heterogeneous Objectives Under Arbitrary Delays [1.9766522384767224]
underlineAsynchunderlineRonous underlineExact underlineAveraging (textscAREA)
textscAREAは勾配推定よりもモデル残差を通信し、勾配反転への露出を減らす。
最初は、最低または最大ではなく、平均的なクライアント更新頻度でスケールするレートを取得しました。
論文 参考訳(メタデータ) (2024-05-16T14:22:49Z) - FedSkip: Combatting Statistical Heterogeneity with Federated Skip
Aggregation [95.85026305874824]
我々はFedSkipと呼ばれるデータ駆動型アプローチを導入し、フェデレーション平均化を定期的にスキップし、ローカルモデルをクロスデバイスに分散することで、クライアントの最適化を改善する。
我々は、FedSkipがはるかに高い精度、より良いアグリゲーション効率、競合する通信効率を達成することを示すために、さまざまなデータセットに関する広範な実験を行う。
論文 参考訳(メタデータ) (2022-12-14T13:57:01Z) - FedMM: Saddle Point Optimization for Federated Adversarial Domain
Adaptation [6.3434032890855345]
フェデレートされたドメイン適応は、クライアント間のラベルの不均衡の頻度のため、ユニークなミニマックストレーニングタスクである。
本稿では,フェデレーション適応問題に特化して設計されたFedMMと呼ばれる分散ミニマックスドメインを提案する。
我々はFedMMがドメインシフトした教師なしデータで定常点への収束を保証することを証明した。
論文 参考訳(メタデータ) (2021-10-16T05:32:03Z) - Tackling the Objective Inconsistency Problem in Heterogeneous Federated
Optimization [93.78811018928583]
本稿では、フェデレートされた異種最適化アルゴリズムの収束性を分析するためのフレームワークを提供する。
我々は,高速な誤差収束を保ちながら,客観的な矛盾を解消する正規化平均化手法であるFedNovaを提案する。
論文 参考訳(メタデータ) (2020-07-15T05:01:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。