論文の概要: Deep Leakage from Model in Federated Learning

• arxiv url: http://arxiv.org/abs/2206.04887v1
• Date: Fri, 10 Jun 2022 05:56:00 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-14 00:40:55.106711
• Title: Deep Leakage from Model in Federated Learning
• Title（参考訳）: フェデレーション学習におけるモデルからの深い漏洩
• Authors: Zihao Zhao, Mengen Luo, Wenbo Ding
• Abstract要約: モデル重みの伝達がクライアントのプライベートなローカルデータをリークする可能性を示す2つの新しいフレームワークを提案する。 また,提案攻撃に対する防御策を2つ導入し,その防御効果を評価した。
• 参考スコア（独自算出の注目度）: 6.001369927772649
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Distributed machine learning has been widely used in recent years to tackle the large and complex dataset problem. Therewith, the security of distributed learning has also drawn increasing attentions from both academia and industry. In this context, federated learning (FL) was developed as a "secure" distributed learning by maintaining private training data locally and only public model gradients are communicated between. However, to date, a variety of gradient leakage attacks have been proposed for this procedure and prove that it is insecure. For instance, a common drawback of these attacks is shared: they require too much auxiliary information such as model weights, optimizers, and some hyperparameters (e.g., learning rate), which are difficult to obtain in real situations. Moreover, many existing algorithms avoid transmitting model gradients in FL and turn to sending model weights, such as FedAvg, but few people consider its security breach. In this paper, we present two novel frameworks to demonstrate that transmitting model weights is also likely to leak private local data of clients, i.e., (DLM and DLM+), under the FL scenario. In addition, a number of experiments are performed to illustrate the effect and generality of our attack frameworks. At the end of this paper, we also introduce two defenses to the proposed attacks and evaluate their protection effects. Comprehensively, the proposed attack and defense schemes can be applied to the general distributed learning scenario as well, just with some appropriate customization.
• Abstract（参考訳）: 分散機械学習は、大規模で複雑なデータセット問題に取り組むために近年広く使われている。 それに伴い、分散学習のセキュリティも、学界と業界の両方から注目を集めている。 この文脈では、プライベートトレーニングデータをローカルに保持して「セキュア」な分散学習としてフェデレートラーニング(FL)が開発され、パブリックモデル勾配のみが通信される。 しかし, これまでに様々な勾配漏洩攻撃が提案されており, 安全でないことが証明されている。 例えば、これらの攻撃の共通の欠点は、モデル重み、オプティマイザ、いくつかのハイパーパラメータ(学習率など)といった、実際の状況では取得が難しい補助情報を必要とすることだ。 さらに、既存のアルゴリズムの多くは、flのモデル勾配の送信を避け、fedavgのようなモデル重みの送信に切り替えるが、そのセキュリティ侵害を考える人は少ない。 本稿では,モデル重みの伝達がクライアントのプライベートなローカルデータ(dlmとdlm+)をflのシナリオでリークする可能性を示す2つの新しいフレームワークを提案する。 さらに,攻撃フレームワークの効果と汎用性を示すために,多数の実験を行った。 本稿の最後には,提案する攻撃に対して2つの防御策を導入し,その防御効果を評価する。 包括的に、提案された攻撃と防御のスキームは、適切なカスタマイズとともに、一般的な分散学習シナリオにも適用することができる。

関連論文リスト

• Defending against Data Poisoning Attacks in Federated Learning via User Elimination [0.0]
  本稿では,フェデレーションモデルにおける敵ユーザの戦略的排除に焦点を当てた,新たなフレームワークを提案する。 我々は、ローカルトレーニングインスタンスが収集したメタデータと差分プライバシー技術を統合することにより、フェデレートアルゴリズムのアグリゲーションフェーズにおける異常を検出する。 提案手法の有効性を実証し,ユーザのプライバシとモデル性能を維持しながらデータ汚染のリスクを大幅に軽減する。
  論文  参考訳（メタデータ） (2024-04-19T10:36:00Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• A Survey on Vulnerability of Federated Learning: A Learning Algorithm Perspective [8.941193384980147]
  FLシステムの学習プロセスを対象とした脅威モデルに焦点を当てる。 防衛戦略は、特定のメトリクスを使用して悪意のあるクライアントを除外することから進化してきた。 最近の取り組みは、ローカルモデルの最小限の重みを、防御措置をバイパスするために微妙に変更している。
  論文  参考訳（メタデータ） (2023-11-27T18:32:08Z)
• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)
• FL-Defender: Combating Targeted Attacks in Federated Learning [7.152674461313707]
  フェデレートラーニング(FL)は、グローバル機械学習モデルを、参加する労働者のセット間で分散されたローカルデータから学習することを可能にする。 FLは、学習モデルの完全性に悪影響を及ぼす標的の毒殺攻撃に対して脆弱である。 FL標的攻撃に対抗する手段として,textitFL-Defenderを提案する。
  論文  参考訳（メタデータ） (2022-07-02T16:04:46Z)
• Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
  フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。 モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。 本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
  論文  参考訳（メタデータ） (2022-02-14T18:33:12Z)
• Fishing for User Data in Large-Batch Federated Learning via Gradient Magnification [65.33308059737506]
  フェデレートラーニング(FL)は、プライバシーと効率性の約束により急速に人気が高まっている。 これまでの作業では、勾配更新からユーザデータを復元することで、FLパイプラインのプライバシの脆弱性が露呈されていた。 我々は、任意のサイズのバッチで運用するために、既存の攻撃を劇的に高める新しい戦略を導入する。
  論文  参考訳（メタデータ） (2022-02-01T17:26:11Z)
• Federated Learning in Adversarial Settings [0.8701566919381224]
  フェデレートされた学習スキームは、堅牢性、プライバシ、帯域幅効率、モデルの精度の異なるトレードオフを提供します。 この拡張は、厳格なプライバシー要件があっても、プライベートではないがロバストなスキームと同じくらい効率的に機能することを示す。 これは差別化プライバシとロバストネスの基本的なトレードオフの可能性を示している。
  論文  参考訳（メタデータ） (2020-10-15T14:57:02Z)
• WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
  データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。 本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
  論文  参考訳（メタデータ） (2020-08-13T04:26:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。