論文の概要: Geminio: Language-Guided Gradient Inversion Attacks in Federated Learning

• arxiv url: http://arxiv.org/abs/2411.14937v2
• Date: Sat, 02 Aug 2025 08:52:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-05 20:32:48.53396
• Title: Geminio: Language-Guided Gradient Inversion Attacks in Federated Learning
• Title（参考訳）: Geminio: フェデレートラーニングにおける言語指向のグラディエントインバージョンアタック
• Authors: Junjie Shan, Ziqi Zhao, Jialin Lu, Rui Zhang, Siu Ming Yiu, Ka-Ho Chow,
• Abstract要約: 視覚言語モデル(VLM)は、連邦学習(FL)における勾配反転攻撃(GIA)を強化するために武器化することができる。 我々は、GAAを意味論的に意味のある標的攻撃に変換する最初のアプローチであるGeminioを提案する。 攻撃者は自然言語で、彼らが価値と考えるデータを記述でき、Geminioはそれらの高価値なサンプルにフォーカスするために再構築を優先する。
• 参考スコア（独自算出の注目度）: 18.326636715274372
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Foundation models that bridge vision and language have made significant progress. While they have inspired many life-enriching applications, their potential for abuse in creating new threats remains largely unexplored. In this paper, we reveal that vision-language models (VLMs) can be weaponized to enhance gradient inversion attacks (GIAs) in federated learning (FL), where an FL server attempts to reconstruct private data samples from gradients shared by victim clients. Despite recent advances, existing GIAs struggle to reconstruct high-resolution images when the victim has a large local data batch. One promising direction is to focus reconstruction on valuable samples rather than the entire batch, but current methods lack the flexibility to target specific data of interest. To address this gap, we propose Geminio, the first approach to transform GIAs into semantically meaningful, targeted attacks. It enables a brand new privacy attack experience: attackers can describe, in natural language, the data they consider valuable, and Geminio will prioritize reconstruction to focus on those high-value samples. This is achieved by leveraging a pretrained VLM to guide the optimization of a malicious global model that, when shared with and optimized by a victim, retains only gradients of samples that match the attacker-specified query. Geminio can be launched at any FL round and has no impact on normal training (i.e., the FL server can steal clients' data while still producing a high-utility ML model as in benign scenarios). Extensive experiments demonstrate its effectiveness in pinpointing and reconstructing targeted samples, with high success rates across complex datasets and large batch sizes with resilience against defenses.
• Abstract（参考訳）: ビジョンと言語を橋渡しする基盤モデルは大きな進歩を遂げた。 彼らは多くの生命に富むアプリケーションにインスピレーションを与えてきたが、新しい脅威を生み出すための悪用の可能性はほとんど解明されていない。 本稿では,視覚言語モデル (VLM) を武器として, FLサーバが, 被害者が共有する勾配から個人データサンプルを再構成しようとする, 統合学習(FL)における勾配反転攻撃(GIA)を強化することを明らかにする。 近年の進歩にもかかわらず、既存のGIAは、被害者が大規模なローカルデータバッチを持つ場合、高解像度画像の再構築に苦労している。 有望な方向性の1つは、バッチ全体ではなく、貴重なサンプルに再構築を集中させることであるが、現在の手法では、特定の興味のあるデータをターゲットにする柔軟性が欠如している。 このギャップに対処するため,我々はGAAを意味論的に意味のある標的攻撃に変換する最初のアプローチであるGeminioを提案する。 攻撃者は自然言語で、彼らが価値と考えるデータを記述でき、Geminioはそれらの高価値なサンプルにフォーカスするために再構築を優先する。 これは、トレーニング済みのVLMを活用して、悪意のあるグローバルモデルの最適化を導くことで実現される。 Geminioは任意のFLラウンドで起動でき、通常のトレーニングに影響を与えない(FLサーバはクライアントのデータを盗みながら、良質なシナリオのように高ユーティリティのMLモデルを生成することができる)。 大規模な実験は、複雑なデータセットをまたいだ高い成功率と、防御に対するレジリエンスを備えた大規模なバッチサイズで、ターゲットサンプルをピンポイントし、再構成する効果を実証している。

関連論文リスト

• Cutting Through Privacy: A Hyperplane-Based Data Reconstruction Attack in Federated Learning [10.145100498980346]
  フェデレートラーニング(FL)は、生データを共有せずに、分散クライアント間で機械学習モデルの協調トレーニングを可能にする。 近年の研究ではFLの重大な脆弱性が明らかにされており、悪意のある中央サーバがモデルの更新を操作してクライアントのプライベートデータを再構築できることが示されている。 これらの制約を克服する新たなデータ再構成攻撃を導入する。
  論文  参考訳（メタデータ） (2025-05-15T13:16:32Z)
• Attribute Inference Attacks for Federated Regression Tasks [14.152503562997662]
  フェデレートラーニング(FL)は、クライアントがデータをローカライズしながら、グローバルな機械学習モデルを協調的にトレーニングすることを可能にする。 近年の研究では、FLの訓練段階が再建攻撃に弱いことが判明している。 FL環境における回帰タスクに特化したモデルベースAIAを提案する。
  論文  参考訳（メタデータ） (2024-11-19T18:06:06Z)
• GI-SMN: Gradient Inversion Attack against Federated Learning without Prior Knowledge [4.839514405631815]
  フェデレートラーニング(FL)は、プライバシ保護機械学習アプローチとして登場した。 勾配反転攻撃はFLの勾配を利用して元のユーザデータを再現する。 スタイルマイグレーションネットワーク(GI-SMN)に基づく新しいグラディエント・インバージョン・アタックを提案する。
  論文  参考訳（メタデータ） (2024-05-06T14:29:24Z)
• Model Stealing Attack against Graph Classification with Authenticity, Uncertainty and Diversity [80.16488817177182]
  GNNは、クエリ許可を通じてターゲットモデルを複製するための悪行であるモデル盗難攻撃に対して脆弱である。 異なるシナリオに対応するために,3つのモデルステルス攻撃を導入する。
  論文  参考訳（メタデータ） (2023-12-18T05:42:31Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• Towards General Visual-Linguistic Face Forgery Detection [95.73987327101143]
  ディープフェイクは現実的な顔操作であり、セキュリティ、プライバシー、信頼に深刻な脅威をもたらす可能性がある。 既存の方法は、このタスクを、デジタルラベルまたはマスク信号を使用して検出モデルをトレーニングするバイナリ分類として扱う。 本稿では, 微粒な文レベルのプロンプトをアノテーションとして用いた, VLFFD (Visual-Linguistic Face Forgery Detection) という新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-07-31T10:22:33Z)
• On Evaluating Adversarial Robustness of Large Vision-Language Models [64.66104342002882]
  大規模視覚言語モデル(VLM)のロバスト性を,最も現実的で高リスクな環境で評価する。 特に,CLIP や BLIP などの事前学習モデルに対して,まず攻撃対象のサンプルを作成する。 これらのVLM上のブラックボックスクエリは、ターゲットの回避の効果をさらに向上させることができる。
  論文  参考訳（メタデータ） (2023-05-26T13:49:44Z)
• Pseudo Label-Guided Model Inversion Attack via Conditional Generative Adversarial Network [102.21368201494909]
  モデル反転(MI)攻撃はプライバシーに対する懸念を高めている。 近年のMI攻撃では,探索空間を狭める前にGAN(Generative Adversarial Network)を画像として活用している。 我々は条件付きGAN(cGAN)による擬似ラベル誘導MI(PLG-MI)攻撃を提案する。
  論文  参考訳（メタデータ） (2023-02-20T07:29:34Z)
• Concealing Sensitive Samples against Gradient Leakage in Federated Learning [41.43099791763444]
  Federated Learning(FL)は、クライアントが生のプライベートデータをサーバと共有する必要をなくし、ユーザのプライバシを高める分散学習パラダイムである。 近年の研究では、FLの脆弱性が逆攻撃のモデルとなり、敵は共有勾配情報に基づく盗聴によって個人データを再構築している。 我々は,機密データの勾配を隠蔽標本で曖昧にする,シンプルで効果的な防衛戦略を提案する。
  論文  参考訳（メタデータ） (2022-09-13T04:19:35Z)
• Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
  フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。 モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。 本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
  論文  参考訳（メタデータ） (2022-02-14T18:33:12Z)
• Fishing for User Data in Large-Batch Federated Learning via Gradient Magnification [65.33308059737506]
  フェデレートラーニング(FL)は、プライバシーと効率性の約束により急速に人気が高まっている。 これまでの作業では、勾配更新からユーザデータを復元することで、FLパイプラインのプライバシの脆弱性が露呈されていた。 我々は、任意のサイズのバッチで運用するために、既存の攻撃を劇的に高める新しい戦略を導入する。
  論文  参考訳（メタデータ） (2022-02-01T17:26:11Z)
• A Novel Attribute Reconstruction Attack in Federated Learning [7.426857207652392]
  フェデレーテッド・ラーニング(FL)は、多数の参加者がプライベートトレーニングデータを公開することなく、共同MLモデルを構築することが可能な、有望な学習パラダイムとして登場した。 既存のFL設計では、システム内外の敵がデータプライバシーを侵害するために悪用できる脆弱性が示されている。 トレーニングデータ属性を再構築するためのcos-matchingと呼ばれる,より効率的で効率的な勾配マッチング手法を開発した。
  論文  参考訳（メタデータ） (2021-08-16T05:57:01Z)
• Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
  モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。 本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。 実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
  論文  参考訳（メタデータ） (2020-10-08T16:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。