論文の概要: Practical Validity Conditions for Byzantine-Tolerant Federated Learning
- arxiv url: http://arxiv.org/abs/2605.15887v1
- Date: Fri, 15 May 2026 12:16:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.276883
- Title: Practical Validity Conditions for Byzantine-Tolerant Federated Learning
- Title(参考訳): ビザンチン耐性フェデレート学習のための実践的妥当性条件
- Authors: Mélanie Cambus, Darya Melnyk, Tijana Milentijević, Stefan Schmid,
- Abstract要約: 本稿では,ロバストアグリゲーションのための最小ボール妥当性条件を提案する。
正確なMEBの妥当性は、まだ限られたレジリエンスに悩まされている一方で、大多数のクライアントが正直であれば、緩和された$c$-MEBの妥当性は達成可能であることを示す。
この結果から, 分散コンピューティングにおける有効条件とビザンチン耐性アグリゲーションルールを結合した緩和されたMEB妥当性が示唆された。
- 参考スコア(独自算出の注目度): 3.999068813120317
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Robust aggregation is the core operation in Byzantine-tolerant federated learning. To ensure the quality of aggregation independently of data distribution or attacks, validity conditions are needed. They provide geometric guarantees of where the output of the aggregation must lie. The widespread convex validity requires the output to lie in the convex hull of the honest vectors. Although this guarantee is strong in theory, it is poorly suited to modern federated learning systems, as it has dimension-dependent resilience and excludes many practical aggregation rules. We introduce the minimum enclosing ball (MEB) validity condition for robust aggregation, as well as its multiplicative relaxation, $c$-MEB validity, where $c$ is a constant. We show that exact MEB validity still suffers from limited resilience, while relaxed $c$-MEB validity is achievable if a majority of clients is honest, i.e. $n>2t$. We give an optimal MinMax-MEB rule for the relaxed condition with the bound $c<\sqrt{2}$ and prove explicit relaxed-MEB guarantees for standard aggregators including minimum-diameter averaging, medoid and geometric median. Finally, we relate MEB validity to convex, relaxed-convex and box validity studied in prior literature, thus providing a systematic map of geometric validity conditions for Byzantine-robust aggregation. Our results show that relaxed MEB validity connects validity conditions in distributed computing and Byzantine-tolerant aggregation rules, and offers a practical alternative to convex validity.
- Abstract(参考訳): ロバストアグリゲーションは、ビザンチン耐性フェデレート学習における中核的な操作である。
データ配信やアタックとは無関係にアグリゲーションの品質を確保するためには、妥当性条件が必要である。
それらは集合の出力がどこにあるかという幾何学的な保証を提供する。
広範な凸有効性は、出力を正直なベクトルの凸包に配置することを要求する。
この保証は理論上は強いが、次元に依存したレジリエンスを持ち、多くの実用的なアグリゲーションルールを除外しているため、現代の連邦学習システムには適していない。
本報告では,ロバストアグリゲーションに対する最小囲みボール(MEB)の有効性,および乗算緩和,$c$-MEB妥当性,$c$は定数であることを示す。
正確なMEBの妥当性は依然として限られたレジリエンスに悩まされている一方で、緩和された$c$-MEBの妥当性は、クライアントの大多数が正直であれば達成可能である、すなわち$n>2t$である。
我々は、制限付き$c<\sqrt{2}$で緩和された条件に対して最適なMinMax-MEBルールを与え、最小径平均化、メドイド、幾何中央値を含む標準アグリゲータに対して明示的な緩和されたMEB保証を証明する。
最後に, コンベックス, 緩和凸, ボックス妥当性について先行研究を行い, ビザンチン・ロバスト凝集に対する幾何的妥当性条件のシステマティックマップを提供する。
この結果から, 分散コンピューティングにおける妥当性条件とビザンチン耐性アグリゲーションルールを結合し, 凸妥当性の代替として, 緩和されたMEB妥当性が有効であることが示唆された。
関連論文リスト
- Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions [89.52532304099522]
フェデレートラーニング(FL)は、クライアントが生データを集中せずに共有モデルを共同でトレーニングすることを可能にし、固有のプライバシーレベルを提供する。
グラデーションとモデル更新は機密情報を漏洩する可能性があるが、悪意のあるサーバはビザンティン操作のような敵攻撃をマウントする可能性がある。
これらの脆弱性は、統合されたフレームワーク内の差分プライバシー(DP)とビザンチンの堅牢性に対処する必要性を強調している。
Byz-Clip21-SGD2Mを提案する。
論文 参考訳(メタデータ) (2026-03-24T17:39:09Z) - Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。
累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。
主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
論文 参考訳(メタデータ) (2026-02-10T21:08:53Z) - Benefits of Online Tilted Empirical Risk Minimization: A Case Study of Outlier Detection and Robust Regression [7.238889207632064]
経験的リスク最小化(Empirical Risk Minimization、ERM)は、教師付き学習の基礎となるフレームワークである。
データが一度に1つのサンプルに到達するオンラインまたはストリーミング設定では、古典的なTERMは標準ERMに縮退する。
本稿では,従来の目的から対数を取り除き,新たな計算やメモリオーバーヘッドを伴わずに傾き効果を保存するオンラインTERMを提案する。
論文 参考訳(メタデータ) (2025-09-18T16:51:23Z) - Centroid Approximation for Byzantine-Tolerant Federated Learning [11.477670199123335]
フェデレーション学習は、分散環境で機械学習モデルをトレーニングする際に、各クライアントがデータをローカルに保持することを可能にする。
種々の妥当性条件だけでは, 平均値の良好な近似が保証されないことを示す。
本稿では,凸妥当性の下で$sqrt2d$-approximationを実現するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-06-18T08:40:49Z) - Robust Conformal Prediction with a Single Binary Certificate [58.450154976190795]
コンフォーマル予測(CP)は、任意のモデルの出力を、真のラベルを(調整可能な)高い確率でカバーすることを保証した予測セットに変換する。
我々は,MCサンプルが著しく低い場合でも,より小さな集合を生成する頑健な共形予測を提案する。
論文 参考訳(メタデータ) (2025-03-07T08:41:53Z) - Probabilistic Conformal Prediction with Approximate Conditional Validity [81.30551968980143]
本研究では,共形手法の柔軟性と条件分布の推定を組み合わせ,予測セットを生成する手法を開発した。
我々の手法は、条件付きカバレッジの観点から既存の手法よりも一貫して優れています。
論文 参考訳(メタデータ) (2024-07-01T20:44:48Z) - Off-Policy Evaluation in Markov Decision Processes under Weak Distributional Overlap [3.351714665243138]
我々は,マルコフ決定過程(MDP)における非政治的評価の課題を再考し,分布重なりというより弱い概念の下で検討する。
本稿では,この環境での良好な性能を期待できる2重頑健性(TDR)推定器のクラスを紹介する。
我々の実験では、強い分布重なりが保たない場合、適切な乱れが、政治外の正確な評価を可能にする上で重要な役割を担っていることがわかった。
論文 参考訳(メタデータ) (2024-02-13T03:55:56Z) - On the Variance, Admissibility, and Stability of Empirical Risk Minimization [57.63331017830154]
経験的リスク最小化(ERM: Empirical Risk Minimization)は、平均2乗誤差で最小限の最適値が得られる。
比較的軽度な仮定の下では、ERMの準最適性はその大きなバイアスによるものでなければならない。
論文 参考訳(メタデータ) (2023-05-29T15:25:48Z) - Generalization Bounds in the Presence of Outliers: a Median-of-Means
Study [8.905677748354364]
Median-of-Means (MoM) は平方可積分 r.v.$Z$ の平均$theta$ の推定量である。
ヘビーテールのデータに対する高い信頼性のおかげで、MoMは機械学習に様々な応用を見出した。
新たな作業ラインは、MoMが破損したデータに対処する能力を特徴付け、活用しようとしている。
論文 参考訳(メタデータ) (2020-06-09T13:21:39Z) - Distributional Robustness and Regularization in Reinforcement Learning [62.23012916708608]
経験値関数の新しい正規化器を導入し、ワッサーシュタイン分布のロバストな値関数を下限とすることを示す。
強化学習における$textitexternalな不確実性に対処するための実用的なツールとして正規化を使用することを提案する。
論文 参考訳(メタデータ) (2020-03-05T19:56:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。