論文の概要: Taming Noise-Induced Prototype Degradation for Privacy-Preserving Personalized Federated Fine-Tuning

• arxiv url: http://arxiv.org/abs/2604.27833v1
• Date: Thu, 30 Apr 2026 13:20:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:54.103247
• Title: Taming Noise-Induced Prototype Degradation for Privacy-Preserving Personalized Federated Fine-Tuning
• Title（参考訳）: プライバシ保護型個人化ファインタニングのためのノイズによるプロトタイプ劣化のテーピング
• Authors: Yuhua Wang, Qinnan Zhang, Xiaodong Li, Huan Zhang, Yifan Sun, Wangjie Qiu, Hainan Zhang, Yongxin Tong, Zhiming Zheng,
• Abstract要約: Prototype-based Personalized Federated Learning (ProtoPFL) は、コンパクトクラスプロトタイプを通信することで、効率的なマルチドメイン適応を実現する。 一般的な防御策としては、プロトタイプをバインドして感度を制限し、その後に局所微分プライバシーを強制する等方的ノイズが伴う。 本稿では,既存のProtoPFLにシームレスに統合されたクライアント側のプライバシプラグインであるVPDRを提案する。
• 参考スコア（独自算出の注目度）: 21.950552296952623
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prototype-based Personalized Federated Learning (ProtoPFL) enables efficient multi-domain adaptation by communicating compact class prototypes, but directly sharing them poses privacy risks. A common defense involves per-example $\ell_2$ clipping before prototype computation to bound sensitivity, followed by isotropic Gaussian noise to enforce Local Differential Privacy (LDP). However, Isotropic Gaussian Prototype Perturbation (IGPP) typically over-perturbs discriminative dimensions and struggles to balance the clipping threshold with representation fidelity. In this paper, we propose VPDR, a client-side privacy plug-in that seamlessly integrates into existing ProtoPFLs. Motivated by the observation that dimension-wise class variance reflects discriminability, we introduce Variance-adaptive Prototype Perturbation (VPP), which allocates less noise to discriminative subspaces, preserving semantic separability while ensuring privacy. We further develop Distillation-guided Clipping Regularization (DCR), which enables feature norms to adaptively concentrate near the predefined clipping threshold while maintaining prediction consistency. Theoretical analysis shows that our groupwise mechanism provides privacy guarantees no weaker than the isotropic baseline under the same privacy constraints. Extensive experiments on multi-domain benchmarks demonstrate that VPDR achieves a superior privacy-utility trade-off, outperforming IGPP in personalized federated fine-tuning without sacrificing robustness against realistic attacks.
• Abstract（参考訳）: Prototype-based Personalized Federated Learning (ProtoPFL) は、コンパクトクラスプロトタイプを通信することで効率的なマルチドメイン適応を実現するが、直接共有することでプライバシー上のリスクが生じる。 一般的な防御策は、プロトタイプの計算をバウンド感度に戻す前に、サンプルあたり$\ell_2$クリッピングを行い、続いて、局所微分プライバシー(LDP)を強制する等方的ガウスノイズを発生させる。 しかし、Isotropic Gaussian Prototype Perturbation (IGPP) は典型的には超摂動の差別次元であり、クリッピング閾値と表現の忠実さのバランスをとるのに苦労する。 本稿では,既存のProtoPFLにシームレスに統合されたクライアント側のプライバシプラグインであるVPDRを提案する。 そこで我々は, 識別可能な部分空間に低ノイズを割り当て, セマンティックセパビリティを保ちながら, プライバシーを確保できる可変適応型プロトタイプ摂動(VPP)を導入する。 さらにDCR(Distillation-Guided Clipping Regularization)を開発し、予測整合性を維持しつつ、予め定義されたクリッピング閾値付近で特徴ノルムを適応的に集中させることができる。 理論的分析によると、我々のグループワイドメカニズムは、同じプライバシー制約の下での等方性ベースラインよりも弱いことが保証されている。 マルチドメインベンチマークに関する大規模な実験により、VPDRは、現実的な攻撃に対して堅牢性を犠牲にすることなく、パーソナライズされたファインチューニングにおいてIGPPよりも優れたプライバシーユーティリティトレードオフを実現していることが示された。

関連論文リスト

• PAC-DP: Personalized Adaptive Clipping for Differentially Private Federated Learning [16.9867659381048]
  PAC-DPは、連邦学習のためのパーソナライズされたAdaptive Clippingフレームワークである。 我々は,PAC-DPが,プライバシー予算に適合する従来の固定閾値アプローチを超越していることを示す。
  論文  参考訳（メタデータ） (2026-03-25T07:06:33Z)
• Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions [89.52532304099522]
  フェデレートラーニング(FL)は、クライアントが生データを集中せずに共有モデルを共同でトレーニングすることを可能にし、固有のプライバシーレベルを提供する。 グラデーションとモデル更新は機密情報を漏洩する可能性があるが、悪意のあるサーバはビザンティン操作のような敵攻撃をマウントする可能性がある。 これらの脆弱性は、統合されたフレームワーク内の差分プライバシー(DP)とビザンチンの堅牢性に対処する必要性を強調している。 Byz-Clip21-SGD2Mを提案する。
  論文  参考訳（メタデータ） (2026-03-24T17:39:09Z)
• Machine Learning with Privacy for Protected Attributes [56.44253915927481]
  差分プライバシー(DP)の定義を洗練し、機能差分プライバシー(FDP)と呼ばれるより汎用的で柔軟なフレームワークを作成する。 私たちの定義はシミュレーションに基づいており、プライバシの追加/削除と置き換えの両方が可能で、保護された機能と非保護された機能の任意の分離を処理できます。 各種機械学習タスクにフレームワークを適用し,パブリック機能が利用可能であればDP学習モデルの実用性を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2025-06-24T17:53:28Z)
• ImprovDML: Improved Trade-off in Private Byzantine-Resilient Distributed Machine Learning [22.85986751447643]
  一般的な戦略は、Byzantine-Resilientアグリゲーションルールと差分プライバシーメカニズムの統合である。 そこで我々は,プライバシ保護を同時に確保しつつ,モデルの精度を向上する ImprovDML を提案する。 モデル精度と差分プライバシーの間のトレードオフを改善することを実証する。
  論文  参考訳（メタデータ） (2025-06-18T06:53:52Z)
• Privacy-preserving Prompt Personalization in Federated Learning for Multimodal Large Language Models [12.406403248205285]
  フェデレート・プロンプト・パーソナライゼーション(FPP)は、データの均一性と局所的なオーバーフィッティングに対処するために開発された。 我々は、パーソナライゼーションとプライバシ保証を調和させるセキュアなFPPプロトコルSecFPPを提案する。 SecFPPは、プライバシ保護ベースラインと非プライバシ保護ベースラインの両方で著しく優れています。
  論文  参考訳（メタデータ） (2025-05-28T15:09:56Z)
• DPZV: Elevating the Tradeoff between Privacy and Utility in Zeroth-Order Vertical Federated Learning [9.302691218735406]
  本稿では,VFL(Vertical Federated Learning)の最初のZO最適化フレームワークであるDPZVを提案する。 我々は,DPZVが1次最適化手法の収束率と一致し,形式的な(epsilon, delta$)-DP保証を満たすことを示す包括的な理論的解析を行う。 画像および言語ベンチマークの実験では、DPZVは幅広いプライバシー制約の下での精度において、いくつかのベースラインを上回っている。
  論文  参考訳（メタデータ） (2025-02-27T22:07:16Z)
• Defending Membership Inference Attacks via Privacy-aware Sparsity Tuning [9.39508697970812]
  本稿では,異なるパラメータに対する適応的なペナルティを用いることで,L1正規化の簡単な修正を提案する。 PASTの背後にある重要な考え方は、プライバシーの漏洩に大きく貢献するパラメータの分散を促進することです。 PASTを使用すると、ネットワークはメンバーと非メンバーの間の損失ギャップを縮小し、プライバシー攻撃に対する強い抵抗をもたらす。
  論文  参考訳（メタデータ） (2024-10-09T12:13:49Z)
• Convergent Differential Privacy Analysis for General Federated Learning: the $f$-DP Perspective [57.35402286842029]
  フェデレートラーニング(Federated Learning, FL)は、ローカルプライバシを重視した効率的な協調トレーニングパラダイムである。 ディファレンシャルプライバシ(DP)は、私的保護の信頼性を捕捉し、保証するための古典的なアプローチである。
  論文  参考訳（メタデータ） (2024-08-28T08:22:21Z)
• Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
  我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。 従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。 本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
  論文  参考訳（メタデータ） (2022-10-05T13:13:35Z)
• RDP-GAN: A R\'enyi-Differential Privacy based Generative Adversarial Network [75.81653258081435]
  GAN(Generative Adversarial Network)は,プライバシ保護の高い現実的なサンプルを生成する能力によって,近年注目を集めている。 しかし、医療記録や財務記録などの機密・私的な訓練例にGANを適用すると、個人の機密・私的な情報を漏らしかねない。 本稿では、学習中の損失関数の値にランダムノイズを慎重に付加することにより、GAN内の差分プライバシー(DP)を実現するR'enyi-differentially private-GAN(RDP-GAN)を提案する。
  論文  参考訳（メタデータ） (2020-07-04T09:51:02Z)
• Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
  フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。 敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。 差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
  論文  参考訳（メタデータ） (2020-05-01T04:28:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。