論文の概要: Bayesian Framework for Gradient Leakage

• arxiv url: http://arxiv.org/abs/2111.04706v1
• Date: Mon, 8 Nov 2021 18:35:40 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-09 17:46:37.766186
• Title: Bayesian Framework for Gradient Leakage
• Title（参考訳）: 勾配リークのためのベイズフレームワーク
• Authors: Mislav Balunovi\'c, Dimitar I. Dimitrov, Robin Staab, Martin Vechev
• Abstract要約: フェデレーション学習は、トレーニングデータを共有せずに機械学習モデルをトレーニングするための確立された方法である。 近年の研究では、共有勾配が機密情報を漏洩する可能性があるため、データのプライバシを保証できないことが示されている。 本稿では,最適化問題として表現されたベイズ最適逆解析を初めて行う理論的枠組みを提案する。
• 参考スコア（独自算出の注目度）: 8.583436410810203
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning is an established method for training machine learning models without sharing training data. However, recent work has shown that it cannot guarantee data privacy as shared gradients can still leak sensitive information. To formalize the problem of gradient leakage, we propose a theoretical framework that enables, for the first time, analysis of the Bayes optimal adversary phrased as an optimization problem. We demonstrate that existing leakage attacks can be seen as approximations of this optimal adversary with different assumptions on the probability distributions of the input data and gradients. Our experiments confirm the effectiveness of the Bayes optimal adversary when it has knowledge of the underlying distribution. Further, our experimental evaluation shows that several existing heuristic defenses are not effective against stronger attacks, especially early in the training process. Thus, our findings indicate that the construction of more effective defenses and their evaluation remains an open problem.
• Abstract（参考訳）: フェデレーション学習は、トレーニングデータを共有せずに機械学習モデルをトレーニングするための確立された方法である。 しかし最近の研究では、共有勾配が機密情報を漏洩させる可能性があるため、データのプライバシを保証できないことが示されている。 勾配漏洩の問題を定式化するために, 最適化問題として表されるベイズ最適逆解析を初めて可能にする理論的枠組みを提案する。 既存の漏洩攻撃は,入力データと勾配の確率分布に異なる仮定を持つ,この最適敵の近似と見なすことができる。 本実験は,基礎となる分布の知識を持つベイズ最適逆数の有効性を検証した。 また,本実験では,既存のヒューリスティック防御が,特に訓練過程の早い段階では強固な攻撃に対して有効ではないことを示す。 以上の結果から,より効果的な防御の構築とその評価はいまだに未解決の問題であることが示唆された。

関連論文リスト

• Adversarial Robustification via Text-to-Image Diffusion Models [56.37291240867549]
  アドリラルロバスト性は、ニューラルネットワークをエンコードする難しい性質として伝統的に信じられてきた。 データを使わずに敵の堅牢性を実現するために,スケーラブルでモデルに依存しないソリューションを開発した。
  論文  参考訳（メタデータ） (2024-07-26T10:49:14Z)
• Re-thinking Data Availablity Attacks Against Deep Neural Networks [53.64624167867274]
  本稿では、未学習例の概念を再検討し、既存のロバストな誤り最小化ノイズが不正確な最適化目標であることを示す。 本稿では,計算時間要件の低減による保護性能の向上を図った新しい最適化パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-18T04:03:51Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• Decorrelative Network Architecture for Robust Electrocardiogram Classification [4.808817930937323]
  すべてのシナリオで正確であるネットワークをトレーニングすることはできない。 深層学習法は不確実性を推定するためにモデルパラメータ空間をサンプリングする。 これらのパラメータは、しばしば、敵の攻撃によって悪用される、同じ脆弱性にさらされる。 本稿では,特徴デコレーションとフーリエ分割に基づく新たなアンサンブル手法を提案する。
  論文  参考訳（メタデータ） (2022-07-19T02:36:36Z)
• Agree to Disagree: Diversity through Disagreement for Better Transferability [54.308327969778155]
  本稿では,D-BAT(Diversity-By-dis-Agreement Training)を提案する。 我々は、D-BATが一般化された相違の概念から自然に現れることを示す。
  論文  参考訳（メタデータ） (2022-02-09T12:03:02Z)
• A Novel Attribute Reconstruction Attack in Federated Learning [7.426857207652392]
  フェデレーテッド・ラーニング(FL)は、多数の参加者がプライベートトレーニングデータを公開することなく、共同MLモデルを構築することが可能な、有望な学習パラダイムとして登場した。 既存のFL設計では、システム内外の敵がデータプライバシーを侵害するために悪用できる脆弱性が示されている。 トレーニングデータ属性を再構築するためのcos-matchingと呼ばれる,より効率的で効率的な勾配マッチング手法を開発した。
  論文  参考訳（メタデータ） (2021-08-16T05:57:01Z)
• Curse or Redemption? How Data Heterogeneity Affects the Robustness of Federated Learning [51.15273664903583]
  データの不均一性は、フェデレートラーニングにおける重要な特徴の1つとして認識されているが、しばしば敵対的攻撃に対する堅牢性のレンズで見過ごされる。 本稿では, 複合学習におけるバックドア攻撃の影響を, 総合的な実験を通じて評価し, 理解することを目的とした。
  論文  参考訳（メタデータ） (2021-02-01T06:06:21Z)
• Adaptive Deep Learning for Entity Resolution by Risk Analysis [5.496296462160264]
  本論文では, 特定の特性によって, 対象作業負荷に対する深層モデルをチューニングする, 新たなリスクベースアプローチを提案する。 理論分析の結果,リスクに基づく適応トレーニングは,誤った予測されたインスタンスのラベル状態をかなり良い確率で修正できることがわかった。
  論文  参考訳（メタデータ） (2020-12-07T08:05:46Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。