Fugu-MT 論文翻訳(概要): FISGuard: Defending Against Membership Inference via Fixed Input Subspaces

論文の概要: FISGuard: Defending Against Membership Inference via Fixed Input Subspaces

arxiv url: http://arxiv.org/abs/2608.27836v1
Date: Fri, 28 Aug 2026 02:06:37 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-31 17:16:04.180768
Title: FISGuard: Defending Against Membership Inference via Fixed Input Subspaces
Title（参考訳）: FISGuard: 固定入力サブスペースによるメンバシップ推論の回避
Abstract要約: FISGuardは、メンバーシップ推論攻撃に対する軽量な防御である。独立な公開データを用いて低次元の表現部分空間を修正する。これにより、ほとんどの設定において、ProjRes攻撃のAUCは、ランダムゲスティングレベル0.5に近づいた。
参考スコア（独自算出の注目度）: 5.930798548700099
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: As large language models are increasingly adopted in federated learning, protecting user privacy while performing parameter-efficient fine-tuning on distributed private data has become an important challenge. Although clients only share gradients instead of directly uploading raw data, the shared gradients may still leak membership information about training samples. ProjRes (S&P, 2026) further increases this risk: with less information and without accessing model outputs, an attacker can effectively distinguish members from non-members solely based on the projection residual between a candidate representation and the subspace induced by server-observable gradients. Existing defenses against membership inference mostly rely on gradient perturbation or regularization, which can not only degrade model utility but also fail to effectively defend against the membership inference attack introduced by ProjRes, which exploits the geometric structure of gradients. To address this issue, we propose FISGuard, a lightweight defense. Its key idea is to construct and fix a low-dimensional representation subspace using independent public data, thereby restricting the space through which private representations are exposed via gradients while preserving the primary information required for downstream tasks. This substantially reduces the projection-residual discrepancy between members and non-members. We evaluate FISGuard against five representative defense methods across three NLP datasets, two LLMs, and two fine-tuning strategies, Adapter and LoRA. The results show that FISGuard reduces the ProjRes attack AUC to near the random-guessing level of 0.5 in most settings, while maintaining downstream task performance close to that of the undefended model and introducing only limited computational overhead, thereby achieving a favorable privacy--utility trade-off.
Abstract（参考訳）: 大規模な言語モデルがフェデレート学習に採用されるにつれて、分散プライベートデータのパラメータ効率の高い微調整をしながら、ユーザのプライバシを保護することが重要な課題となっている。クライアントは生データを直接アップロードするのではなく、勾配を共有する。 ProjRes (S&P, 2026) はさらにこのリスクを増大させる: 情報が少なく、モデル出力にアクセスせずに、攻撃者は、候補表現とサーバ可観測勾配によって誘導される部分空間の間の射影残差のみに基づいて、メンバーと非メンバーを効果的に区別することができる。既存のメンバシップ推論に対する防御は主に勾配摂動や正規化に依存しており、モデルユーティリティを劣化させるだけでなく、勾配の幾何学的構造を利用するProjResによって導入されたメンバシップ推論攻撃に対して効果的に防御することができない。この問題に対処するため,我々は軽量防衛システムであるFISGuardを提案する。その鍵となる考え方は、独立な公開データを用いて低次元の表現部分空間を構築し、固定することであり、それによって、下流のタスクに必要な一次情報を保持しながら、プライベートな表現が勾配を通して露出する空間を制限することである。これにより、メンバーと非メンバー間の投影残差が大幅に減少する。我々は,FISGuardを3つのNLPデータセット,2つのLLM,および2つの微調整戦略であるAdapterとLoRAの5つの代表的防御手法に対して評価した。その結果、FISGuardは、ProjRes攻撃AUCをほとんどの設定において0.5に近いランダムゲスティングレベルに削減し、ダウンストリームタスク性能を未定義モデルに近いものに維持し、限られた計算オーバーヘッドしか導入せず、良好なプライバシとユーティリティのトレードオフを達成できることを示した。

関連論文リスト

LightSplit: Practical Privacy-Preserving Split Learning via Orthogonal Projections [54.51153206716027]
Split Learning(SL)は、ニューラルネットワークをクライアントと中央サーバに分割することで、協調的なトレーニングを可能にする。カット層に軽量な固定ランダムプロジェクションを適用することにより,情報露出を制限し,通信オーバーヘッドを低減するLightSplitを提案する。提案手法は, 伝送次元の最大32倍の精度で, 95%以上の精度を維持できることを示した。
論文参考訳（メタデータ） (2026-05-13T09:45:49Z)
Toward Efficient Membership Inference Attacks against Federated Large Language Models: A Projection Residual Approach [44.738736515079346]
Federated Large Language Models (FedLLMs) は、複数のパーティが生データを共有することなく、協調的にLLMを微調整することができる。 FedLLMsの特異な性質、すなわち、巨大なパラメータスケール、急速な収束、スパースな非直交勾配は、既存のMIAsを非効率にする。提案するProjResは,FedLLMsに適したプロジェクション残差型受動MIAである。
論文参考訳（メタデータ） (2026-04-23T01:44:04Z)
G-Drift MIA: Membership Inference via Gradient-Induced Feature Drift in LLMs [1.8986796884429726]
メンバーシップ推論攻撃(MIA)は、トレーニング中に特定の例が使用されたかどうかを判断することを目的としている。 G-Drift MIAは,勾配誘起特徴量ドリフトに基づくホワイトボックスメンバシップ推論手法である。 G-Driftは信頼性ベース、パープレキシティベース、参照ベースアタックを大きく上回る。
論文参考訳（メタデータ） (2026-04-01T03:01:27Z)
Teleportation-Based Defenses for Privacy in Approximate Machine Unlearning [8.735490611482364]
近似マシンアンラーニングは、訓練されたモデルから特定のデータポイントの影響を効率的に除去することを目的としている。事前学習モデルと後学習モデルにアクセスできる敵は、メンバーシップ推論やデータ再構成に彼らの違いを利用することができる。これらの脆弱性は2つの要因から生じることが示される: 忘れられたサンプルの大きな勾配ノルムと、未学習パラメータが元のモデルに近づいたこと。
論文参考訳（メタデータ） (2025-11-29T01:50:33Z)
FL-PLAS: Federated Learning with Partial Layer Aggregation for Backdoor Defense Against High-Ratio Malicious Clients [7.1383449614815415]
フェデレートラーニング(FL)は、新たなコラボレーティブ機械学習アプローチとして注目を集めている。 FLの基本アルゴリズムであるFederated Averaging (FedAvg)は、バックドア攻撃の影響を受けやすい。バックドア攻撃からローカルモデルを効果的に保護できる新しい防御アルゴリズムFL-PLASを提案する。
論文参考訳（メタデータ） (2025-05-17T14:16:47Z)
CENSOR: Defense Against Gradient Inversion via Orthogonal Subspace Bayesian Sampling [63.07948989346385]
フェデレーション学習は、グローバルサーバ上でニューラルネットワークを協調的にトレーニングする。各ローカルクライアントは、現在のグローバルモデルウェイトを受信し、そのローカルプライベートデータに基づいてパラメータ更新(グラディエント)を返送する。既存の勾配反転攻撃は、クライアントの勾配ベクトルからプライベートトレーニングインスタンスを復元するためにこの脆弱性を利用することができる。本稿では,大規模ニューラルネットワークモデルに適した新しい防衛手法を提案する。
論文参考訳（メタデータ） (2025-01-27T01:06:23Z)
Understanding Deep Gradient Leakage via Inversion Influence Functions [53.1839233598743]
Deep Gradient Leakage (DGL)は、勾配ベクトルからプライベートトレーニングイメージを復元する非常に効果的な攻撃である。得られた画像とプライベート勾配との間の閉形式接続を確立する新しいインバージョンインフルエンス関数(I$2$F)を提案する。 I$2$Fは、一般的に異なるモデルアーキテクチャ、データセット、アタック実装、摂動に基づく防御に基づいてDGLを効果的に近似したことを実証的に実証した。
論文参考訳（メタデータ） (2023-09-22T17:26:24Z)
GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization [52.55628139825667]
Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。 textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
論文参考訳（メタデータ） (2023-08-09T04:34:21Z)
Subspace based Federated Unlearning [75.90552823500633]
フェデレート・アンラーニング(FL)は、ユーザが忘れられる権利を満たすために、特定のターゲットクライアントのFLへの貢献を取り除くことを目的としている。既存のフェデレートされた未学習アルゴリズムでは、パラメータの更新履歴をサーバに格納する必要がある。そこで我々は,SFUと呼ばれる,単純なyet効率のサブスペースに基づくフェデレーションアンラーニング手法を提案する。
論文参考訳（メタデータ） (2023-02-24T04:29:44Z)
Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
論文参考訳（メタデータ） (2022-10-05T13:13:35Z)
Concealing Sensitive Samples against Gradient Leakage in Federated Learning [41.43099791763444]
Federated Learning(FL)は、クライアントが生のプライベートデータをサーバと共有する必要をなくし、ユーザのプライバシを高める分散学習パラダイムである。近年の研究では、FLの脆弱性が逆攻撃のモデルとなり、敵は共有勾配情報に基づく盗聴によって個人データを再構築している。我々は,機密データの勾配を隠蔽標本で曖昧にする,シンプルで効果的な防衛戦略を提案する。
論文参考訳（メタデータ） (2022-09-13T04:19:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。