論文の概要: Unveiling the Non-Monotonic Effect of Privacy on Generalization under Byzantine Robustness

• arxiv url: http://arxiv.org/abs/2607.01492v1
• Date: Wed, 01 Jul 2026 21:42:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.600682
• Title: Unveiling the Non-Monotonic Effect of Privacy on Generalization under Byzantine Robustness
• Title（参考訳）: ビザンチンのロバスト性の下での一般化に対するプライバシーの非単調効果の解明
• Abstract要約: トリレンマが一般化誤差に普遍的に拡張されないことを示す。 高ノイズ(強いプライバシ)では、プライバシーの増大が一般化エラーを減らすことが証明される。 しかし、低ノイズ(プライバシーの弱さ)の体制では、堅牢性とプライバシーの緊張が一般化に再び現れている。
• 参考スコア（独自算出の注目度）: 19.624245500772027
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work has established a fundamental trilemma between Byzantine robustness, local differential privacy (LDP), and optimization error in distributed learning. We show that this trilemma does not universally extend to generalization error, but instead depends critically on the privacy regime. Specifically, in the high-noise regime (strong privacy), we prove that increasing privacy reduces the generalization error, i.e., there is no tension between robustness and privacy. In the low-noise regime (weaker privacy), however, the tension between robustness and privacy reappears and increasing privacy indeed degrades generalization. Our theory explains this surprising non-monotonic behavior of the generalization error via matching lower and upper bounds on the algorithmic stability of Byzantine-robust distributed learning under LDP constraints. We corroborate and further analyze these theoretical findings with empirical evaluations.
• Abstract（参考訳）: 最近の研究は、ビザンチンの堅牢性、局所微分プライバシー(LDP)、分散学習における最適化エラーの基本的なトリレンマを確立している。 このトリレンマが一般化エラーに普遍的に拡張されるのではなく、プライバシ体制に大きく依存していることが示される。 具体的には、高雑音(強いプライバシ)において、プライバシーの増大が一般化エラーを減少させること、すなわち、堅牢性とプライバシの間に緊張関係がないことを証明している。 しかし、低ノイズ(プライバシーの弱さ)では、堅牢性とプライバシの緊張が再び現れ、プライバシーの増大が一般化を低下させる。 我々の理論は、LDP制約下でのビザンチン・ロバスト分散学習のアルゴリズム的安定性について、下界と上界をマッチングすることで、一般化誤差の驚くべき非単調な振る舞いを説明できる。 我々はこれらの理論的な知見を実証的評価で裏付け、さらに分析する。

関連論文リスト

• Revisiting the Provable-Auditable Privacy Gap of DP-SGD [12.511281140615038]
  機械学習アプリケーションでは、ユーティリティと理論的プライバシの強いトレードオフを達成することは難しい。 プライバシ監査に関する最近の研究は、2つの視点を採用しており、代わりに経験的な区別イベントを構築することでアルゴリズムの真のプライバシの境界を低くしている。 本研究では,アルゴリズムを最適化するための具体的な指標として,経験的プライバシの下限を提案する。
  論文  参考訳（メタデータ） (2026-08-28T23:07:29Z)
• A Novel Approach to Differential Privacy with Alpha Divergence [3.289248622896901]
  アルファ・イテレーション・ディファレンシャル・プライバシ(ADP)は,アルファ・ディバイジェンスを基盤とした革新的なプライバシ・フレームワークである。 本研究は、ADPの理論的基盤を概説し、その性能を競合するプライバシーフレームワークと対比する。 提案手法は, プライバシー保護法を著しく改善し, 現代のデータ解析問題に対する柔軟な解決策を提供する。
  論文  参考訳（メタデータ） (2025-06-20T14:10:18Z)
• ImprovDML: Improved Trade-off in Private Byzantine-Resilient Distributed Machine Learning [22.85986751447643]
  一般的な戦略は、Byzantine-Resilientアグリゲーションルールと差分プライバシーメカニズムの統合である。 そこで我々は,プライバシ保護を同時に確保しつつ,モデルの精度を向上する ImprovDML を提案する。 モデル精度と差分プライバシーの間のトレードオフを改善することを実証する。
  論文  参考訳（メタデータ） (2025-06-18T06:53:52Z)
• Enhancing Feature-Specific Data Protection via Bayesian Coordinate Differential Privacy [55.357715095623554]
  ローカル微分プライバシー(LDP)は、ユーザーが外部の関係者を信頼することなく、強力なプライバシー保証を提供する。 本稿では,ベイジアン・フレームワークであるベイジアン・コーディネート・ディファレンシャル・プライバシ(BCDP)を提案する。
  論文  参考訳（メタデータ） (2024-10-24T03:39:55Z)
• The Last Iterate Advantage: Empirical Auditing and Principled Heuristic Analysis of Differentially Private SGD [46.71175773861434]
  ノイズカットされた勾配勾配(DP-SGD)の簡易なプライバシー解析法を提案する。 各種トレーニング手順に適用したプライバシー監査の結果を予測できることを実験的に示す。 既存のプライバシー監査攻撃は、視覚と言語の両方のタスクにおける分析によって制限されていることを実証的に示しています。
  論文  参考訳（メタデータ） (2024-10-08T16:51:10Z)
• Convergent Differential Privacy Analysis for General Federated Learning: the $f$-DP Perspective [57.35402286842029]
  フェデレートラーニング(Federated Learning, FL)は、ローカルプライバシを重視した効率的な協調トレーニングパラダイムである。 ディファレンシャルプライバシ(DP)は、私的保護の信頼性を捕捉し、保証するための古典的なアプローチである。
  論文  参考訳（メタデータ） (2024-08-28T08:22:21Z)
• TernaryVote: Differentially Private, Communication Efficient, and Byzantine Resilient Distributed Optimization on Heterogeneous Data [50.797729676285876]
  本稿では, 3次圧縮機と多数決機構を組み合わせて, 差分プライバシー, 勾配圧縮, ビザンチンレジリエンスを同時に実現するternaryVoteを提案する。 提案アルゴリズムのF差分プライバシー(DP)とビザンチンレジリエンスのレンズによるプライバシー保証を理論的に定量化する。
  論文  参考訳（メタデータ） (2024-02-16T16:41:14Z)
• Optimal Private Discrete Distribution Estimation with One-bit Communication [63.413106413939836]
  1ビット通信制約を伴う個別分布推定問題を考える。 1ビット通信制約下での最悪のトレードオフの1次を特徴付ける。 これらの結果は,1ビット通信制約下でのプライバシユーティリティトレードオフの最適依存性を示す。
  論文  参考訳（メタデータ） (2023-10-17T05:21:19Z)
• On the Statistical Complexity of Estimation and Testing under Privacy Constraints [17.04261371990489]
  差分プライバシー下での統計的テストのパワーをプラグアンドプレイ方式で特徴付ける方法を示す。 プライバシ保護のレベルが非常に高い場合にのみ、プライバシの維持が顕著なパフォーマンス低下をもたらすことを示す。 最後に,プライベート凸解法であるDP-SGLDアルゴリズムを高信頼度で最大推定できることを示した。
  論文  参考訳（メタデータ） (2022-10-05T12:55:53Z)
• Brownian Noise Reduction: Maximizing Privacy Subject to Accuracy Constraints [53.01656650117495]
  研究者と実践者の間には、プライバシとユーティリティのトレードオフの扱い方の違いがある。 ブラウン機構は、まず擬ブラウン運動の最終点に対応する高分散のガウス雑音を加えることで機能する。 我々は、古典的AboveThresholdアルゴリズムの一般化であるReduceedAboveThresholdでブラウン機構を補完する。
  論文  参考訳（メタデータ） (2022-06-15T01:43:37Z)
• Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
  エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。 まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。 そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-09-18T20:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。