論文の概要: Local Epochs as Optimal Stopping: Theory and Evidence in Federated Learning
- arxiv url: http://arxiv.org/abs/2610.21832v1
- Date: Thu, 15 Oct 2026 13:15:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.088202
- Title: Local Epochs as Optimal Stopping: Theory and Evidence in Federated Learning
- Title(参考訳): 最適停止としてのローカルエポック:フェデレートラーニングの理論とエビデンス
- Abstract要約: フェデレーテッドラーニングは通常、固定された手書きのローカルエポックの数で答える。
我々は,有限水平最適停止として局所訓練を行った。次のエポックの損失減少が価格の2乗ドリフトを上回っている間に,クライアント列車を運転する。
この1段階のルックアヘッド閾値は、決定がネストされたときに最適であることが証明され、幾何的およびパワーローリターンのクローズドフォームが導出され、推定されたルールが誤符号決定によってのみ有効性を失うことを示す。
- 参考スコア(独自算出の注目度): 4.2826310390353
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: How long should each client train before communicating? Federated learning usually answers with a fixed, hand-tuned number of local epochs, yet an extra epoch helps only while the loss it removes outweighs the client drift it adds. We cast local training as finite-horizon optimal stopping: a client trains while the next epoch's expected loss reduction exceeds its priced squared drift. We prove that this one-stage look-ahead threshold is optimal whenever stopping decisions are nested, derive closed forms for geometric and power-law returns, and show that an estimated rule loses utility only through wrong-signed decisions. Epoch-level evidence supports the model's structure (geometric diminishing returns and additive drift) and reveals a simple regularity: the stage of training, not the client, sets the budget. The resulting rule, FedStop, is never more than one point below tuned FedAvg in mean accuracy. Where its budgets vary, it raises worst-decile accuracy by 4-8 points over tuned FedAvg and an adaptive-interval baseline, and every one of these gains remains significant after a Holm correction. Against the client-side stopping rules ALT and FLASH, it has the highest CIFAR-10 worst decile on every seed and is level elsewhere. It stays stable where per-client early stopping collapses, and each stopping decision takes constant time.
- Abstract(参考訳): それぞれのクライアントは、通信する前にどのくらいのトレーニングをすべきですか?
フェデレーション学習は通常、固定された手作業によるローカルエポックの数で答えるが、余分なエポックは、それが取り除く損失が追加するクライアントのドリフトを上回っている間だけに役立つ。
我々は、有限水平最適停止として、次のエポックの損失減少が価格の2乗ドリフトを上回っている間に、クライアント列車を運転した。
この1段階のルックアヘッド閾値は、決定がネストされたときに最適であることが証明され、幾何的およびパワーローリターンのクローズドフォームが導出され、推定されたルールが誤符号決定によってのみ有効性を失うことを示す。
エポックレベルのエビデンスは、モデルの構造(幾何学的減少リターンと付加的ドリフト)を支持し、単純な規則性を明らかにする。
結果のルールであるFedStopは、平均精度で調整されたFedAvgの1ポイント以下であることはない。
予算の異なるところでは、調整済みのFedAvgと適応型インターバルベースラインに対して、最悪の決定精度を4-8ポイント引き上げる。
クライアント側の停止ルールであるALTとFLASHに対して、CIFAR-10はすべての種において最も最悪で、他の種でもレベルが高い。
サイクル毎の早期停止が崩壊した状態で安定し、各停止決定には一定の時間を要する。
関連論文リスト
- Unlocking the Critic: Reward-Free Policy Optimization for LLM Post-Training [12.188582747728931]
我々は、事前訓練された批評家が将来の成果を予測する能力は、効率的なロングホライゾン推論のための貴重な資産となることを示している。
本稿では,リワードフリーポリシー最適化(RFPO)を紹介する。
論文 参考訳(メタデータ) (2026-09-29T09:28:57Z) - SWB-DM: A Calibrated Sliced-Wasserstein-Barycenter Aggregator with Delayed-Momentum Caching for Byzantine-Robust Federated Learning under Partial Participation [0.0]
SWB-DMは、クライアント更新の各スライスを1次元分布として扱い、クライアント間でトリミングされたワッサースタインバリセンタを計算し、メドイドベースのゲージ固定ステップを介して座標IDを復元する。
CIFAR-100、FEMNIST、500サイクルのスケーラビリティを備えた448 CIFAR-10構成のメカニカルな障害モードがいくつか存在する。
論文 参考訳(メタデータ) (2026-09-14T16:30:18Z) - Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。
スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
論文 参考訳(メタデータ) (2026-09-07T01:38:41Z) - CFR without Unbiasedness: Deterministic Guarantees for Persistent Public-Chance Schedules [1.0390646006106319]
均一な非負の加法的公切断に対する決定論的目標移動定理を確立する。
定理のコンポーネント解決形式は、実行トレースを数値的なエクスプロイラビリティ証明に変換する。
ディープ・スタディでは、32から64のフルカットの成果予算が交差し、その後、完全なカバレッジが支配される。
論文 参考訳(メタデータ) (2026-08-14T09:28:35Z) - Learning Not to Optimize: Physics-Informed Action-Space Reshaping for Intent-Based Network Control [50.46501177871741]
LNOQRD は小物候補を75.9% で削減し、90.8% でニアオラクルのカバレッジを維持している。
実験の結果、LNOQRDは実用性と意図の満足度が最も高く、かつ、法律違反が最低で、世代後レイテンシが低いことがわかった。
論文 参考訳(メタデータ) (2026-08-02T00:27:01Z) - Adapt Only When It Pays: Budgeted Decision-Loss Priority for Delayed Online Time-Series Adaptation [0.0]
封印された遅延キュー、正確な予算会計、監査可能な更新テレメトリを備えた残差適応フレームワークであるADOWIPを紹介する。
そのメインスケジューラは、フィードバックが公表された後にのみ更新される、観察された決定余分な優先度ゲートである。
コンベックス線形受け入れ更新サブプロブレムに対して, ハード予算の実現性, 提案したOGD後悔, 安定性, 条件付き有限サンプルゲート選択文を検証した。
論文 参考訳(メタデータ) (2026-06-23T18:22:22Z) - Capacity-Constrained Online Convex Optimization with Delayed Feedback [58.59385794080679]
容量制約下での遅延オンライン凸最適化(OCO)について検討した。
1次フィードバックの場合、容量$C = (log T)$ sufficesで標準遅延OCOレートを対数係数まで回復できることがわかった。
包帯フィードバックの場合、後悔率は$(1 + _textmax/C)$で変調される。
論文 参考訳(メタデータ) (2026-06-10T06:37:06Z) - Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。
鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。
我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
論文 参考訳(メタデータ) (2026-05-21T08:57:38Z) - Decision from Suboptimal Classifiers: Excess Risk Pre- and Post-Calibration [52.70324949884702]
バッチ二分決定における近似的後続確率を用いた余剰リスクの定量化を行う。
我々は、再校正のみが後悔のほとんどに対処する体制と、後悔が集団的損失に支配される体制を識別する。
NLP実験では、これらの量によって、より高度なポストトレーニングの期待値が運用コストに値するかどうかが分かる。
論文 参考訳(メタデータ) (2025-03-23T10:52:36Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。