論文の概要: ORDERS: An Empirical Study of Norm-Rank Aggregation for Personalized Federated Learning
- arxiv url: http://arxiv.org/abs/2610.10361v1
- Date: Wed, 07 Oct 2026 16:31:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.039932
- Title: ORDERS: An Empirical Study of Norm-Rank Aggregation for Personalized Federated Learning
- Title(参考訳): ORDERS:パーソナライズド・フェデレーション学習のためのノルム・ランド・アグリゲーションの実証的研究
- Abstract要約: 本稿では,共有バックボーン,プライベートな残差アダプタと分類器,および更新ノルムによって割り当てられた幾何重みを組み合わせた構成について検討する。
8つの設定、2つのデータセット、データセット毎に1つの固定パーティションに5つのトレーニングシード。
2クラス毎のCIFAR-10では、ORDERS 80.51 pm 0.79%$ネイティブ平均クライアント精度が79.02 pm 1.42%$のFedPer-R1と80.27 pm 0.73%$の一致した一様ウェイト制御が達成されている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalized federated learning combines shared representations with client-specific predictors, but the contribution of a server weighting rule can be obscured by local training and evaluation choices. We study ORDERS, a configuration that combines a shared backbone, a private residual adapter and classifier, geometric weights assigned by descending update norm, feature alignment, and private-parameter perturbations. The server computes a weighted sum of updates obtained from the same broadcast model; it does not obtain an additional optimization effect from sequential addition. A fully specified evaluation comprises 80 final runs: eight configurations, two datasets, and five training seeds on one fixed partition per dataset. On two-class-per-client CIFAR-10, ORDERS achieves $80.51 \pm 0.79\%$ native mean client accuracy, compared with $79.02 \pm 1.42\%$ for FedPer-R1 and $80.27 \pm 0.73\%$ for the matched uniform-weight control. After common local fine-tuning, the difference from FedPer-R1 narrows to 0.32 percentage points. On Sent140, ORDERS reaches $74.71 \pm 0.49\%$, only 0.69 points above a post hoc client training-majority diagnostic. Ablations provide limited, endpoint-dependent evidence for norm ranking and alignment, and no clear benefit from perturbations. Parameter-payload savings are 5.47% and 0.78%, respectively.
- Abstract(参考訳): パーソナライズされたフェデレーション学習は、共有表現とクライアント固有の予測器を組み合わせるが、サーバ重み付けルールの貢献は、ローカルトレーニングと評価の選択によって明らかになる。
ORDERS、共有バックボーン、プライベート残差アダプタと分類器、下降更新ノルム、特徴アライメント、プライベートパラメータ摂動によって割り当てられた幾何学的重みを組み合わせた構成について検討する。
サーバは、同じ放送モデルから得られた更新の重み付け総和を演算するが、逐次加算による追加最適化効果は得られない。
8つの設定、2つのデータセット、データセット毎に1つの固定パーティションに5つのトレーニングシード。
2クラス毎のCIFAR-10では、ORDERSは、FedPer-R1では79.02 \pm 1.42\%、一致した一様ウェイト制御では80.27 \pm 0.73\%に対して、ネイティブ平均クライアントの精度が80.51 \pm 0.79\%である。
局所的な微調整の後、FedPer-R1との差は0.32ポイントに縮小した。
Sent140では、ORDERSは74.71 \pm 0.49\%$に達し、ホック後のクライアントトレーニングマジョリティ診断よりもわずか0.69ポイント高い。
アブレーションは、標準のランク付けとアライメントに関する制限されたエンドポイント依存の証拠を提供し、摂動による明確な利益は提供しない。
パラメータ・ペイロードの削減率は、それぞれ5.47%と0.78%である。
関連論文リスト
- RIPPLE in Still Water: Zero-Shot Clustering in Federated Learning with Wavelet Scattering Transform [51.56484100374058]
クラスタ化されたフェデレートラーニング(FL)は、クライアントを同じローカル分布のグループに分割し、クラスタ毎に1つの特別なモデルを訓練する。
本稿では、各クライアントのローカルデータのスペクトル特性からクラスタ割り当てを完全にオフラインで計算するクラスタリングFLフレームワークであるRIPPLEを提案する。
論文 参考訳(メタデータ) (2026-10-02T09:35:39Z) - FedLAFP: Low-Rank Aggregation Meets Full-Rank Personalization in Federated Fine-Tuning [11.499152917341256]
フェデレートされたパラメータ効率の微調整により、クライアントは生データを共有したり、完全なモデルを通信したりすることなく、事前訓練されたモデルを適応できる。
既存のパーソナライズされたメソッドは、共有とプライベートの両方に同じ低ランク構造を使用するのが一般的である。
我々は、コンパクトでグローバルに集約されたLoRAブランチとクライアントプライベートでフルランク対応のRandLoRAブランチを結合するロール認識フレームワークであるFedLAFPを提案する。
論文 参考訳(メタデータ) (2026-09-29T08:45:08Z) - SP-CACW: Convergence-Aware Client Weighting for Selfish Personalized Learning [8.941998221680409]
特定対象のクライアントが、負の転送を回避しつつ、自身のリスクを最小限に抑えるためにピア勾配を利用する方法について検討する。
本稿では,収束を考慮したクライアント重み付けフレームワークSP-CACWを提案する。
論文 参考訳(メタデータ) (2026-06-28T10:28:04Z) - Multi-Dimensional Behavioral Evaluation of Agentic Stock Prediction Systems Using Large Language Model Judges with Closed-Loop Reinforcement Learning Feedback [1.2362187555287152]
ファイナンスにおける予測評価は、ポイント予測エラーに基づく集計精度測定と予測精度テストに依存している。
本稿では,中間決定プロセス自体を評価することによって,精度試験を補完する行動予測評価手法を提案する。
論文 参考訳(メタデータ) (2026-05-07T06:31:34Z) - Bayesian Coreset Optimization for Personalized Federated Learning [15.758663902804075]
Federated Learningのような分散機械学習環境では、個々の重みを単一の中央サーバに更新する複数のクライアントが存在する。
本稿では、各クライアントのトレーニング更新を、クライアントデータ全体ではなく、個々のクライアントのコアセットベースの代表データポイントのみに基づいて、中央サーバに転送する、パーソナライズされたコアセット重み付き学習環境を提案する。
論文 参考訳(メタデータ) (2025-11-03T17:58:14Z) - Smoothed Normalization for Efficient Distributed Private Optimization [54.197255548244705]
フェデレートされた学習は、参加者のプライバシを備えた機械学習モデルを可能にする。
トレーニングやフィードバックのない問題に対して、差分にプライベートな分散手法は存在しない。
証明可能な収束保証付き分散アルゴリズム$alpha$-$sf NormEC$を導入する。
論文 参考訳(メタデータ) (2025-02-19T07:10:32Z) - Learn What You Need in Personalized Federated Learning [53.83081622573734]
$textitLearn2pFed$は、アルゴリズムに基づくパーソナライズされたフェデレーション学習フレームワークである。
我々は、textitLearn2pFed$が、従来のパーソナライズされたフェデレーション学習方法よりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2024-01-16T12:45:15Z) - PerAda: Parameter-Efficient Federated Learning Personalization with Generalization Guarantees [95.87604231887353]
既存のpFL手法は高い通信コストと計算コストをもたらすか、テスト通信に弱い。
PerAdaではパラメータ蒸留とpFL pFLが特に試験時間分布において優れた性能を示す。
私たちのコードはhttps://github.com/NV/PerAda.comで公開されています。
論文 参考訳(メタデータ) (2023-02-13T19:00:37Z) - Personalized Federated Learning with Exact Stochastic Gradient Descent [15.666401346622575]
我々は、勾配SGD降下の正確な更新を実現するためのパーソナライズされたベンチマークに対する新しいアプローチを提案する。
本稿では、各最適化ラウンドにおいて、ランダムに選択されたクライアントが、損失関数の最適化に向けてクライアント固有の更新を行う新しいSGD型スキームを提案する。
これにより、クライアントと一般的なパラメータによって実行されるパーソナライズされたパラメータの正確な最小化が可能になる。
論文 参考訳(メタデータ) (2022-02-20T16:11:20Z) - Automatic sleep stage classification with deep residual networks in a
mixed-cohort setting [63.52264764099532]
我々は,大規模コホートの一般化性を評価するために,新しいディープニューラルネットワークモデルを開発した。
総合的な分類精度はトレーニングデータの分数を増やして向上した。
論文 参考訳(メタデータ) (2020-08-21T10:48:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。