Fugu-MT 論文翻訳(概要): GI-SMN: Gradient Inversion Attack against Federated Learning without Prior Knowledge

論文の概要: GI-SMN: Gradient Inversion Attack against Federated Learning without Prior Knowledge

arxiv url: http://arxiv.org/abs/2405.03516v1
Date: Mon, 6 May 2024 14:29:24 GMT
ステータス: 処理完了
システム内更新日: 2024-05-07 13:26:55.517687
Title: GI-SMN: Gradient Inversion Attack against Federated Learning without Prior Knowledge
Title（参考訳）: GI-SMN: 事前知識のないフェデレート学習に対するグラディエント・インバージョン・アタック
Authors: Jin Qian, Kaimin Wei, Yongdong Wu, Jilian Zhang, Jipeng Chen, Huan Bao,
Abstract要約: フェデレートラーニング(FL)は、プライバシ保護機械学習アプローチとして登場した。勾配反転攻撃はFLの勾配を利用して元のユーザデータを再現する。スタイルマイグレーションネットワーク(GI-SMN)に基づく新しいグラディエント・インバージョン・アタックを提案する。
参考スコア（独自算出の注目度）: 4.839514405631815
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Federated learning (FL) has emerged as a privacy-preserving machine learning approach where multiple parties share gradient information rather than original user data. Recent work has demonstrated that gradient inversion attacks can exploit the gradients of FL to recreate the original user data, posing significant privacy risks. However, these attacks make strong assumptions about the attacker, such as altering the model structure or parameters, gaining batch normalization statistics, or acquiring prior knowledge of the original training set, etc. Consequently, these attacks are not possible in real-world scenarios. To end it, we propose a novel Gradient Inversion attack based on Style Migration Network (GI-SMN), which breaks through the strong assumptions made by previous gradient inversion attacks. The optimization space is reduced by the refinement of the latent code and the use of regular terms to facilitate gradient matching. GI-SMN enables the reconstruction of user data with high similarity in batches. Experimental results have demonstrated that GI-SMN outperforms state-of-the-art gradient inversion attacks in both visual effect and similarity metrics. Additionally, it also can overcome gradient pruning and differential privacy defenses.
Abstract（参考訳）: フェデレーション学習(FL)は、複数のパーティが元のユーザデータではなく勾配情報を共有する、プライバシ保護機械学習アプローチとして登場した。最近の研究は、勾配インバージョン攻撃がFLの勾配を利用して元のユーザーデータを再現し、重大なプライバシーリスクを生じさせることを示した。しかし、これらの攻撃は、モデル構造やパラメータの変更、バッチ正規化統計の取得、元のトレーニングセットの事前知識の取得など、攻撃者に対して強い仮定をする。したがって、これらの攻撃は現実世界のシナリオでは不可能である。そこで我々は,従来の勾配反転攻撃による強い仮定を突破する,スタイルマイグレーションネットワーク(GI-SMN)に基づく新しいグラディエント・インバージョン・アタックを提案する。最適化空間は、潜在コードの洗練と、勾配マッチングを容易にする正規項の使用により縮小される。 GI-SMNは、バッチで高い類似性を持つユーザデータの再構築を可能にする。実験の結果,GI-SMNは視覚効果と類似度の両方において,最先端の勾配反転攻撃よりも優れていた。さらに、グラデーションプルーニングと差分プライバシー保護を克服することも可能だ。

関連論文リスト

Geminio: Language-Guided Gradient Inversion Attacks in Federated Learning [18.326636715274372]
我々は、GAAを意味論的に意味のある標的攻撃に変換する最初のアプローチであるGeminioを紹介する。 Geminioは、新たなプライバシ攻撃体験を可能にする。攻撃者は自然言語で、彼らが価値とみなすデータの種類を説明することができる。
論文参考訳（メタデータ） (2024-11-22T13:49:56Z)
Extracting Spatiotemporal Data from Gradients with Large Language Models [30.785476975412482]
グラデーションデータから更新できる最近のアップデートは、フェデレートされた学習における重要なプライバシーの約束を破る。我々は,連合学習における攻撃を軽減するための適応型防衛戦略を提案する。提案した防衛戦略は,時間的・時間的連合学習の有用性を効果的に保護し,有効に維持できることを示す。
論文参考訳（メタデータ） (2024-10-21T15:48:34Z)
Ungeneralizable Examples [70.76487163068109]
学習不能なデータを作成するための現在のアプローチには、小さくて特殊なノイズが組み込まれている。学習不能データの概念を条件付きデータ学習に拡張し、textbfUntextbf Generalizable textbfExamples (UGEs)を導入する。 UGEは認証されたユーザに対して学習性を示しながら、潜在的なハッカーに対する非学習性を維持している。
論文参考訳（メタデータ） (2024-04-22T09:29:14Z)
Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
論文参考訳（メタデータ） (2023-09-14T03:48:27Z)
GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization [52.55628139825667]
Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。 textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
論文参考訳（メタデータ） (2023-08-09T04:34:21Z)
Learning to Invert: Simple Adaptive Attacks for Gradient Inversion in Federated Learning [31.374376311614675]
グラディエント・インバージョン・アタックは、フェデレート学習におけるモデル勾配からのトレーニングサンプルの回復を可能にする。既存の防御は、単純な適応攻撃によって破壊される可能性があることを示す。
論文参考訳（メタデータ） (2022-10-19T20:41:30Z)
Scaling Forward Gradient With Local Losses [117.22685584919756]
フォワード学習は、ディープニューラルネットワークを学ぶためのバックプロップに代わる生物学的に妥当な代替手段である。重みよりも活性化に摂動を適用することにより、前方勾配のばらつきを著しく低減できることを示す。提案手法はMNIST と CIFAR-10 のバックプロップと一致し,ImageNet 上で提案したバックプロップフリーアルゴリズムよりも大幅に優れていた。
論文参考訳（メタデータ） (2022-10-07T03:52:27Z)
Enhancing Privacy against Inversion Attacks in Federated Learning by using Mixing Gradients Strategies [0.31498833540989407]
フェデレーション学習は情報漏洩のリスクを低減するが、攻撃に対して脆弱である。いくつかのニューラルネットワーク設計決定が、勾配逆攻撃に対してどのように防御できるかを示す。これらの戦略は、画像認識のためのLeNETのような深層畳み込みニューラルネットワークにも有用である。
論文参考訳（メタデータ） (2022-04-26T12:08:28Z)
Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
論文参考訳（メタデータ） (2022-02-14T18:33:12Z)
Fishing for User Data in Large-Batch Federated Learning via Gradient Magnification [65.33308059737506]
フェデレートラーニング(FL)は、プライバシーと効率性の約束により急速に人気が高まっている。これまでの作業では、勾配更新からユーザデータを復元することで、FLパイプラインのプライバシの脆弱性が露呈されていた。我々は、任意のサイズのバッチで運用するために、既存の攻撃を劇的に高める新しい戦略を導入する。
論文参考訳（メタデータ） (2022-02-01T17:26:11Z)
A Novel Attribute Reconstruction Attack in Federated Learning [7.426857207652392]
フェデレーテッド・ラーニング(FL)は、多数の参加者がプライベートトレーニングデータを公開することなく、共同MLモデルを構築することが可能な、有望な学習パラダイムとして登場した。既存のFL設計では、システム内外の敵がデータプライバシーを侵害するために悪用できる脆弱性が示されている。トレーニングデータ属性を再構築するためのcos-matchingと呼ばれる,より効率的で効率的な勾配マッチング手法を開発した。
論文参考訳（メタデータ） (2021-08-16T05:57:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。