論文の概要: WHERE to Generate Matters: Budget-Aware Synthetic Augmentation for Label Skewed Federated Learning
- arxiv url: http://arxiv.org/abs/2607.06616v1
- Date: Tue, 07 Jul 2026 08:25:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.15478
- Title: WHERE to Generate Matters: Budget-Aware Synthetic Augmentation for Label Skewed Federated Learning
- Title(参考訳): WHERE to Generate Matters:Budget-Aware Synthetic Augmentation for Label Skewed Federated Learning
- Abstract要約: FedEASは、各クライアントに、そのローカルラベル分布から計算されたエントロピー適応型クラス毎世代予算を割り当てるポリシーである。
フルクラスバランスの精度向上のほとんどを回復し、生成予算を94.1%削減した。
- 参考スコア(独自算出の注目度): 9.608370051995223
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Label skew in federated learning (FL) causes client drift and degrades global accuracy. Synthetic data augmentation can reduce this imbalance; however, full class balancing requires substantial computation cost. We propose FedEAS, a policy that assigns each client an entropy-adaptive per-class generation budget computed from its local label distribution. The budget jointly decides \emph{how much} each client generates and \emph{WHERE} the samples go. Accordingly, the total generation budget follows from the per-client budgets rather than being fixed in advance. FedEAS recovers most of the accuracy gain of full class balancing while reducing the generation budget by 94.1\%. At the same total generation budget, it outperforms Uniform allocation by up to 18.82\% across CIFAR-10 and CIFAR-100.
- Abstract(参考訳): フェデレートラーニング(FL)におけるラベルスキューは、クライアントのドリフトを引き起こし、グローバルな精度を低下させる。
合成データの増大は、この不均衡を減少させる可能性があるが、完全なクラスバランスには相当な計算コストが必要である。
我々は,各クライアントに対して,そのローカルラベル分布から計算したエントロピー適応型クラス別生成予算を割り当てるFedEASを提案する。
予算は、各クライアントが生成した \emph{how} とサンプルの \emph{WHERE} を共同で決定します。
そのため、前もって固定されるのではなく、総生産予算は周期的な予算から従うことになる。
FedEASは全クラスバランスの精度向上の大部分を回復し、生成予算を94.1\%削減した。
同じ総生産予算で、CIFAR-10とCIFAR-100で最大18.82 %の均一割り当てを達成している。
関連論文リスト
- Q-LocalAdam: Memory-Efficient Client-Side Adaptive Optimization for Edge Federated Learning [1.4610038284393168]
エッジデバイス上でのフェデレーション学習は、IID以外のクライアントデータと厳しいメモリ予算に対処する必要がある。
分散を意識した8ビット量子化ブロックワイド線形符号化と分散のためのログ空間符号化を応用したtextbfQ-LocalAdam を提案する。
論文 参考訳(メタデータ) (2026-05-17T17:23:23Z) - A Game Theoretic Approach for Optimizing Quantum Error Budget Distribution [0.14323566945483496]
現在のフォールトトレラント量子コンパイラは、リソース推定中にエラー予算を均一に割り当て、最適な物理リソースオーバーヘッドを引き起こす。
Nash Equilibriumは論理演算、T状態蒸留、回転合成にまたがるパレート最適分布を生成する。
433 MQTベンチマークによる評価では、物理リソースの要求が均一なベースラインに対して平均30.22%減少し、特定の回路インスタンスに対して97.81%のピーク改善があった。
論文 参考訳(メタデータ) (2026-04-17T00:59:06Z) - Reinforcement Learning from Multi-Source Imperfect Preferences: Best-of-Both-Regimes Regret [71.69884486156359]
我々は, 累積的不完全化予算を用いて, エンフルティソースの不完全性選好からエピソードRLを考察した。
我々は,最良な登録行動を示す,後悔$tildeO(sqrtK/M+)$の統一アルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-03-20T19:34:53Z) - ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。
我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
論文 参考訳(メタデータ) (2026-02-27T05:22:01Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳(メタデータ) (2026-02-19T17:21:15Z) - Adaptive Rollout Allocation for Online Reinforcement Learning with Verifiable Rewards [26.5011687714416]
既存のグループベースのポリシー最適化手法は、すべてのトレーニングプロンプトに対して一定数のロールアウトを割り当てる。
この均一な割り当ては全てのプロンプトを等しく情報的扱いし、非効率的な計算予算の使用と訓練の進捗を妨げる可能性がある。
本稿では、既存のバッチのプロンプトに所定のロールアウト予算を割り当て、ポリシー更新のグラデーションのばらつきを最小限に抑える可変インフォームド予測割当戦略であるVIPを紹介する。
論文 参考訳(メタデータ) (2026-02-02T03:50:01Z) - A Relative-Budget Theory for Reinforcement Learning with Verifiable Rewards in Large Language Model Reasoning [48.70183357021465]
強化学習(Reinforcement Learning, RL)は、大規模言語モデルの推論能力を改善するための主要なパラダイムである。
本稿では, 相対予算$:= H/mathbbE[T]$という単一の量を用いて, この変動を説明する式式予算理論を提案する。
報奨の分散と情報トラジェクトリの確率を制御して,$$がサンプル効率を決定することを示す。
論文 参考訳(メタデータ) (2026-02-02T01:31:52Z) - Predictive Scheduling for Efficient Inference-Time Reasoning in Large Language Models [6.002670452103349]
大規模言語モデル(LLM)は複雑な推論タスクにおいて最先端の精度を達成する。
しかし、クエリ毎に固定されたトークン予算を使用することで、簡単な入力の過剰計算とハードな入力の過小計算につながる。
プラグイン・アンド・プレイのフレームワークであるPredictive Schedulingを導入する。このフレームワークは軽量な予測器を事前実行し、各クエリの最適な推論の長さや難易度を全世代前に推定する。
論文 参考訳(メタデータ) (2026-02-01T13:58:23Z) - One-Shot Federated Ridge Regression: Exact Recovery via Sufficient Statistic Aggregation [0.7106986689736825]
フェデレート・リッジ回帰(Federated ridge regression)は、各クライアントが局所的な十分な統計を計算し、一度送信する分散平衡問題である。
我々は、クライアント1回に1回ノイズが注入された場合の差分プライバシー保証を確立し、マルチラウンドプロトコルのプライバシを低下させる構成ペナルティを排除した。
合成ヘテロジニアス回帰の実験では、単発核融合はFedAvgの精度と一致し、通信コストは最大38時間以下であることが示されている。
論文 参考訳(メタデータ) (2026-01-13T04:47:22Z) - Owen Sampling Accelerates Contribution Estimation in Federated Learning [24.329068747370314]
フェデレートラーニング(FL)は、複数のクライアントから情報を集約して、生データを公開せずに共有グローバルモデルをトレーニングする。
We propose FedOwen, a efficient framework that using Owen sample to approximate Shapley values under the total evaluation budget。
FedOwenは、非IIDベンチマークの最先端ベースラインと比較して、同じ数の通信ラウンドで最終精度を最大23%向上させる。
論文 参考訳(メタデータ) (2025-08-28T23:22:37Z) - PerAda: Parameter-Efficient Federated Learning Personalization with Generalization Guarantees [95.87604231887353]
既存のpFL手法は高い通信コストと計算コストをもたらすか、テスト通信に弱い。
PerAdaではパラメータ蒸留とpFL pFLが特に試験時間分布において優れた性能を示す。
私たちのコードはhttps://github.com/NV/PerAda.comで公開されています。
論文 参考訳(メタデータ) (2023-02-13T19:00:37Z) - Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated
Learning via Class-Imbalance Reduction [76.26710990597498]
本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。
我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。
特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
論文 参考訳(メタデータ) (2022-09-30T05:42:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。