論文の概要: GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization

• arxiv url: http://arxiv.org/abs/2308.04699v2
• Date: Mon, 11 Sep 2023 02:00:51 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-12 19:10:38.389263
• Title: GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization
• Title（参考訳）: gifd:特徴領域最適化を用いた生成勾配インバージョン法
• Authors: Hao Fang, Bin Chen, Xuan Wang, Zhi Wang, Shu-Tao Xia
• Abstract要約: Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。 近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。 textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
• 参考スコア（独自算出の注目度）: 52.55628139825667
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Federated Learning (FL) has recently emerged as a promising distributed machine learning framework to preserve clients' privacy, by allowing multiple clients to upload the gradients calculated from their local data to a central server. Recent studies find that the exchanged gradients also take the risk of privacy leakage, e.g., an attacker can invert the shared gradients and recover sensitive data against an FL system by leveraging pre-trained generative adversarial networks (GAN) as prior knowledge. However, performing gradient inversion attacks in the latent space of the GAN model limits their expression ability and generalizability. To tackle these challenges, we propose \textbf{G}radient \textbf{I}nversion over \textbf{F}eature \textbf{D}omains (GIFD), which disassembles the GAN model and searches the feature domains of the intermediate layers. Instead of optimizing only over the initial latent code, we progressively change the optimized layer, from the initial latent space to intermediate layers closer to the output images. In addition, we design a regularizer to avoid unreal image generation by adding a small ${l_1}$ ball constraint to the searching range. We also extend GIFD to the out-of-distribution (OOD) setting, which weakens the assumption that the training sets of GANs and FL tasks obey the same data distribution. Extensive experiments demonstrate that our method can achieve pixel-level reconstruction and is superior to the existing methods. Notably, GIFD also shows great generalizability under different defense strategy settings and batch sizes.
• Abstract（参考訳）: federated learning(fl)は、複数のクライアントがローカルデータから算出した勾配を中央サーバにアップロードできるようにすることで、クライアントのプライバシを保護する有望な分散機械学習フレームワークとして最近登場した。 例えば、攻撃者は事前訓練された生成的敵ネットワーク(gan)を事前知識として利用することで、共有勾配を反転させ、flシステムに対して機密データを回復することができる。 しかし、GANモデルの潜在空間における勾配反転攻撃は、その表現能力と一般化可能性を制限する。 これらの課題に対処するために、GANモデルを分解して中間層の特徴領域を探索する \textbf{G}radient \textbf{I}nversion over \textbf{F}eature \textbf{D}omains (GIFD) を提案する。 初期潜在コードのみを最適化するのではなく、最適化されたレイヤを初期潜在スペースから出力イメージに近い中間レイヤへと段階的に変更します。 さらに、探索範囲に小さな${l_1}$ボール制約を追加することで、非現実画像生成を避けるために正規化子を設計する。 gifdをout-of-distribution(ood)設定に拡張することで、ganとflタスクのトレーニングセットが同じデータ分散に従うという仮定を弱めます。 本手法は画素レベルの再構成が可能であり,既存手法よりも優れていることを示す。 特にgifdは、異なる防御戦略設定とバッチサイズで非常に汎用性が高い。

関連論文リスト

• MS$^3$D: A RG Flow-Based Regularization for GAN Training with Limited Data [16.574346252357653]
  物理における再正規化群(RG)の考え方に基づく新しい正規化法を提案する。 本手法は,限られたデータシナリオ下でのGANの性能と安定性を効果的に向上できることを示す。
  論文  参考訳（メタデータ） (2024-08-20T18:37:37Z)
• A Closer Look at GAN Priors: Exploiting Intermediate Features for Enhanced Model Inversion Attacks [43.98557963966335]
  Model Inversion (MI)攻撃は、出力情報を利用して、リリースされたモデルからプライバシーに敏感なトレーニングデータを再構築することを目的としている。 GAN(Generative Adversarial Network)の最近の進歩は、MI攻撃の性能向上に大きく貢献している。 本稿では,GAN構造を分解し,中間ブロック間の特徴を利用する中間特徴拡張生成モデル変換(IF-GMI)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T19:16:22Z)
• Gradient Inversion of Federated Diffusion Models [4.1355611383748005]
  拡散モデルは、非常に高解像度の画像データを生成する欠陥生成モデルになりつつある。 本稿では,勾配反転攻撃のプライバシーリスクについて検討する。 本稿では,未知データの最適化をコーディネートする三重最適化GIDM+を提案する。
  論文  参考訳（メタデータ） (2024-05-30T18:00:03Z)
• Unsupervised Discovery of Interpretable Directions in h-space of Pre-trained Diffusion Models [63.1637853118899]
  本稿では,事前学習した拡散モデルのh空間における解釈可能な方向を特定するための,教師なしおよび学習に基づく最初の手法を提案する。 我々は、事前訓練された拡散モデルのh-スペースで動作するシフト制御モジュールを用いて、サンプルをシフトしたバージョンに操作する。 それらを共同で最適化することで、モデルは自然に絡み合った、解釈可能な方向を発見する。
  論文  参考訳（メタデータ） (2023-10-15T18:44:30Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• LD-GAN: Low-Dimensional Generative Adversarial Network for Spectral Image Generation with Variance Regularization [72.4394510913927]
  ディープラーニング法はスペクトル画像(SI)計算タスクの最先端技術である。 GANは、データ分散から学習およびサンプリングすることで、多様な拡張を可能にする。 この種のデータの高次元性は、GANトレーニングの収束を妨げるため、GANベースのSI生成は困難である。 本稿では, オートエンコーダ訓練における低次元表現分散を制御し, GANで生成されたサンプルの多様性を高めるための統計正則化を提案する。
  論文  参考訳（メタデータ） (2023-04-29T00:25:02Z)
• Subspace based Federated Unlearning [75.90552823500633]
  フェデレート・アンラーニング(FL)は、ユーザが忘れられる権利を満たすために、特定のターゲットクライアントのFLへの貢献を取り除くことを目的としている。 既存のフェデレートされた未学習アルゴリズムでは、パラメータの更新履歴をサーバに格納する必要がある。 そこで我々は,SFUと呼ばれる,単純なyet効率のサブスペースに基づくフェデレーションアンラーニング手法を提案する。
  論文  参考訳（メタデータ） (2023-02-24T04:29:44Z)
• FedLAP-DP: Federated Learning by Sharing Differentially Private Loss Approximations [53.268801169075836]
  我々は,フェデレーション学習のための新しいプライバシ保護手法であるFedLAP-DPを提案する。 公式なプライバシー分析は、FedLAP-DPが典型的な勾配共有方式と同じプライバシーコストを発生させることを示している。 提案手法は, 通常の勾配共有法に比べて高速な収束速度を示す。
  論文  参考訳（メタデータ） (2023-02-02T12:56:46Z)
• Recycling Model Updates in Federated Learning: Are Gradient Subspaces Low-Rank? [26.055358499719027]
  本稿では,この低ランク性を利用して勾配リサイクルを実現する「Look-back Gradient Multiplier(LBGM)」アルゴリズムを提案する。 我々は,LBGMの収束挙動を解析的に特徴付け,通信貯蓄とモデル性能のトレードオフの性質を明らかにする。 LBGMは,既存の分散モデルトレーニングのためのスペーシフィケーション技術の上に,スタンドアロンあるいは積み重ねて使用可能な汎用的なプラグアンドプレイアルゴリズムであることを示す。
  論文  参考訳（メタデータ） (2022-02-01T09:05:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。