論文の概要: Distributed Learning with Adversarial Gradient Perturbations
- arxiv url: http://arxiv.org/abs/2605.03313v1
- Date: Tue, 05 May 2026 02:57:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-06 19:35:43.741206
- Title: Distributed Learning with Adversarial Gradient Perturbations
- Title（参考訳）: 逆勾配摂動を用いた分散学習
- Authors: Nawapon Sangsiri, Yufei Tao,
- Abstract要約: 対向勾配摂動下での凸関数と$L$-smooth関数の学習問題を考察する。
我々は、サブ最適性ギャップに厳密な実現可能性しきい値を確立し、証明可能なクエリ複雑性保証でこれらのしきい値を達成するアルゴリズムを提供する。
- 参考スコア（独自算出の注目度）: 0.7734726150561088
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Privacy concerns in distributed learning often lead clients to return intentionally altered gradient information. We consider the problem of learning convex and $L$-smooth functions under adversarial gradient perturbation, where a client's gradient reply to a server query can deviate arbitrarily from the true gradient subject to a distance bound. Our study focuses on two fundamental questions: (i) what is the smallest achievable sub-optimality gap (i.e., excess error in optimization) under such responses, and (ii) how many queries are sufficient to guarantee a given sub-optimality gap? We establish tight feasibility thresholds on the sub-optimality gap and provide algorithms that achieve these thresholds with provable query complexity guarantees.
- Abstract（参考訳）: 分散学習におけるプライバシの懸念は、クライアントが意図的に変更された勾配情報を返すことにつながることが多い。
本稿では,サーバクエリに対するクライアントの勾配応答が,距離境界の真勾配から任意に逸脱する,逆勾配摂動下での凸関数と$L$-smooth関数の学習問題を考察する。
本研究は,2つの基本的疑問に焦点をあてる。
(i)そのような応答の下で達成可能な最小の準最適差(すなわち最適化における過大な誤差)、及び
(ii) 与えられたサブ最適性ギャップを保証するのに十分なクエリがいくつあるか?
我々は、サブ最適性ギャップに厳密な実現可能性しきい値を確立し、証明可能なクエリ複雑性保証でこれらのしきい値を達成するアルゴリズムを提供する。
関連論文リスト
- Gradient-Variation Online Learning under Generalized Smoothness [56.38427425920781]
勾配変分オンライン学習は、オンライン関数の勾配の変化とともにスケールする後悔の保証を達成することを目的としている。
ニューラルネットワーク最適化における最近の取り組みは、一般化された滑らかさ条件を示唆し、滑らかさは勾配ノルムと相関する。
ゲームにおける高速収束と拡張逆最適化への応用について述べる。
論文 参考訳（メタデータ） (2024-08-17T02:22:08Z) - Stochastic Zeroth-Order Optimization under Strongly Convexity and Lipschitz Hessian: Minimax Sample Complexity [59.75300530380427]
本稿では,アルゴリズムが検索対象関数の雑音評価にのみアクセス可能な2次スムーズかつ強い凸関数を最適化する問題を考察する。
本研究は, ミニマックス単純後悔率について, 一致した上界と下界を発達させることにより, 初めて厳密な評価を行ったものである。
論文 参考訳（メタデータ） (2024-06-28T02:56:22Z) - Universal Online Learning with Gradient Variations: A Multi-layer Online Ensemble Approach [57.92727189589498]
本稿では,2段階の適応性を持つオンライン凸最適化手法を提案する。
我々は$mathcalO(log V_T)$, $mathcalO(d log V_T)$, $hatmathcalO(sqrtV_T)$ regret bounds for strong convex, exp-concave and convex loss function。
論文 参考訳（メタデータ） (2023-07-17T09:55:35Z) - Provably Personalized and Robust Federated Learning [47.50663360022456]
類似したクライアントのクラスタを識別し、パーソナライズされたモデルパークラスタを訓練する簡単なアルゴリズムを提案する。
アルゴリズムの収束率は、クライアントの真の基盤となるクラスタリングを知っていれば得られるものと一致します。
論文 参考訳（メタデータ） (2023-06-14T09:37:39Z) - Zeroth-Order Hard-Thresholding: Gradient Error vs. Expansivity [34.84170466506512]
本稿では,新しいランダムサンプリングを用いた一般ZO勾配推定器を用いたゼロ階ハードスレッディング(SZOHT)アルゴリズムを提案する。
SZOHTの問合せ複雑性は, 異なる条件下での次元性に依存しないか, あるいは弱く依存していることが判明した。
論文 参考訳（メタデータ） (2022-10-11T09:23:53Z) - Robust learning with anytime-guaranteed feedback [6.903929927172917]
勾配に基づく学習アルゴリズムは、ほとんど性能保証のないクエリフィードバックによって駆動される。
ここでは、高確率エラーバウンダリを許容する修正された"常にオンラインからバッチ"メカニズムについて検討する。
実際に、実世界のデータアプリケーションで注目すべき利益をあげている。
論文 参考訳（メタデータ） (2021-05-24T07:31:52Z) - Global Optimization of Objective Functions Represented by ReLU Networks [77.55969359556032]
ニューラルネットワークは複雑で非敵対的な関数を学ぶことができ、安全クリティカルな文脈でそれらの正しい振る舞いを保証することは困難である。
ネットワーク内の障害を見つけるための多くのアプローチ(例えば、敵の例)があるが、これらは障害の欠如を保証できない。
本稿では,最適化プロセスを検証手順に統合し,本手法よりも優れた性能を実現する手法を提案する。
論文 参考訳（メタデータ） (2020-10-07T08:19:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。