Fugu-MT 論文翻訳(概要): Byzantine-Robust Federated Representation Learning

論文の概要: Byzantine-Robust Federated Representation Learning

arxiv url: http://arxiv.org/abs/2609.36660v1
Date: Tue, 29 Sep 2026 04:03:10 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-30 21:28:47.171211
Title: Byzantine-Robust Federated Representation Learning
Title（参考訳）: Byzantine-Robust Federated Representation Learning
Abstract要約: 本研究の目的は,正当性(非正反対性)のクライアントの平均損失を最小限に抑えることにある。本研究では,Byzantine-Robustアグリゲーションによる共有非線形表現を協調的に推定しながら,各クライアントがパーソナライズされた線形ヘッドを学習する表現学習を通じてこの問題に対処する。回帰分析を多クラス分類に拡張し、CIFAR-10, FEMNIST, School Exam Scoreデータセット上で実証的に検証する。
参考スコア（独自算出の注目度）: 15.011110777973103
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We study federated learning (FL) with adversarial clients, where the goal is to minimize the average loss of the honest (non-adversarial) clients without knowing their identity. Under heterogeneity, a single shared model parameter is statistically inappropriate: it cannot capture the distinct data-generating processes across clients, incurring an irreducible model-heterogeneity bias and severely limiting robustness to adversarial clients (a.k.a. Byzantine-robustness). We address this problem through representation learning, where each client learns a personalized linear head, while collaboratively estimating a shared nonlinear representation through Byzantine-robust aggregation. We demonstrate that the heterogeneity among honest representation gradients is controlled by the representation error and statistical errors that decay either with the number of data samples per client ($τ$) or the number of iterations ($T$). In particular, our non-asymptotic parameter recovery error bound reveals three terms: (i) an initialization-dependent error that goes away with $T$, (ii) finite-sample noise terms that decreases with $τ$ and the number of honest clients, and (iii) a stochastic gradient variance term that also reduces with $T$. Importantly, with no irreducible model-heterogeneity bias in our bounds. We extend the regression analysis to multiclass classification, and empirically validate it on CIFAR-10, FEMNIST, and School Exam Score datasets.
Abstract（参考訳）: 本研究の目的は,正当性(非正反対性)のクライアントの平均損失を最小限に抑えることにある。不均一性の下では、単一の共有モデルパラメータは統計的に不適切であり、クライアント間で異なるデータ生成プロセスをキャプチャできない。本研究では,Byzantine-Robustアグリゲーションによる共有非線形表現を協調的に推定しながら,各クライアントがパーソナライズされた線形ヘッドを学習する表現学習を通じてこの問題に対処する。素直な表現勾配の不均一性は、クライアント毎のデータサンプル数(τ$)または反復数(T$)で減衰する表現誤差と統計的誤差によって制御されることを示す。特に、我々の非漸近的パラメータ回復誤差境界は、3つの項を明らかにしている。 (i)$T$を廃止する初期化依存エラー (ii)$τ$で減少する有限サンプルノイズ項と正直なクライアントの数 (iii) 確率勾配分散項も$T$で減少する。重要なことは、我々の境界に既約モデル-不均一性バイアスがないことである。回帰分析を多クラス分類に拡張し、CIFAR-10, FEMNIST, School Exam Scoreデータセット上で実証的に検証する。

関連論文リスト

On the Gradient Heterogeneity Dynamics of Adversarially Robust Federated Regression [15.011110777973103]
フェデレートラーニング(FL)は本質的に異種である。敵のクライアントは、任意の更新を共有することで、さらに異質性を高めることができます。明確なサンプルバーンインの後に収束が保たれることを示す。
論文参考訳（メタデータ） (2026-09-22T05:17:52Z)
Enhancing Federated Quadruplet Learning: Stochastic Client Selection and Embedding Stability Analysis [2.298932494750101]
フェデレートラーニング(FL)は、データ集中化を必要とせずに、分散クライアント間の分散モデルトレーニングを可能にする。我々は,クラス間分割をクライアント間で実現しつつ,クラス内表現の最小化を明示的に実施する新しい方法であるFedQuadを提案する。
論文参考訳（メタデータ） (2026-05-08T15:34:41Z)
Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文参考訳（メタデータ） (2026-02-26T00:47:51Z)
Byzantine-Robust Federated Learning Using Generative Adversarial Networks [1.4091801425319963]
フェデレートラーニング(FL)は、生データを共有せずに分散クライアント間で協調的なモデルトレーニングを可能にするが、その堅牢性は、データやモデル中毒といったビザンチンの行動によって脅かされている。本稿では,クライアントの更新を検証するための代表データを生成するために,サーバ上の条件付き生成逆ネットワーク(cGAN)を活用することで,これらの課題に対処する防衛フレームワークを提案する。このアプローチは、外部データセットへの依存を排除し、多様な攻撃戦略に適応し、標準FLにシームレスに統合する。
論文参考訳（メタデータ） (2025-03-26T18:00:56Z)
Learning with Shared Representations: Statistical Rates and Efficient Algorithms [13.643155483461028]
潜在共有表現による協調学習により、異種クライアントは、サンプルサイズを減らしながら、パフォーマンスを向上したパーソナライズされたモデルをトレーニングできる。経験的成功と広範な研究にもかかわらず、統計誤差率の理論的理解は、低次元線型部分空間に制約された共有表現でさえも不完全である。
論文参考訳（メタデータ） (2024-09-07T21:53:01Z)
Causality Pursuit from Heterogeneous Environments via Neural Adversarial Invariance Learning [12.947265104477237]
データから因果関係を抽出することは、科学的発見、治療介入、伝達学習における根本的な問題である。本稿では,複数の環境における回帰モデルにおける非パラメトリック不変性と因果学習に対処するアルゴリズムを提案する。提案したFocused Adrial Invariant Regularizationフレームワークは、逆検定により回帰モデルを予測不変解へ向ける革新的なミニマックス最適化手法を利用する。
論文参考訳（メタデータ） (2024-05-07T23:37:40Z)
Toward Understanding the Influence of Individual Clients in Federated Learning [52.07734799278535]
フェデレーションラーニングにより、クライアントはプライベートデータを中央サーバーに送信することなく、グローバルモデルを共同でトレーニングできます。 em-Influenceという新しい概念を定義し、パラメータに対するこの影響を定量化し、このメトリクスを推定する効果的な効率的なモデルを提案しました。
論文参考訳（メタデータ） (2020-12-20T14:34:36Z)
Exploiting Sample Uncertainty for Domain Adaptive Person Re-Identification [137.9939571408506]
各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
論文参考訳（メタデータ） (2020-12-16T04:09:04Z)
Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
論文参考訳（メタデータ） (2020-07-21T08:18:06Z)
Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文参考訳（メタデータ） (2020-06-22T21:12:31Z)
An Investigation of Why Overparameterization Exacerbates Spurious Correlations [98.3066727301239]
この動作を駆動するトレーニングデータの2つの重要な特性を特定します。モデルの"記憶"に対する帰納的バイアスが,パラメータ化の超過を損なう可能性を示す。
論文参考訳（メタデータ） (2020-05-09T01:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。