論文の概要: An Accuracy-Lossless Perturbation Method for Defending Privacy Attacks
in Federated Learning
- arxiv url: http://arxiv.org/abs/2002.09843v5
- Date: Sun, 15 Aug 2021 16:48:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-29 09:01:07.532548
- Title: An Accuracy-Lossless Perturbation Method for Defending Privacy Attacks
in Federated Learning
- Title（参考訳）: フェデレーション学習におけるプライバシ攻撃防止のための高精度無障害摂動法
- Authors: Xue Yang, Yan Feng, Weijun Fang, Jun Shao, Xiaohu Tang, Shu-Tao Xia,
Rongxing Lu
- Abstract要約: フェデレーション学習は、生データではなく、局所的な勾配やパラメータを交換することで、トレーニングデータのプライバシを改善する。
敵は、局所勾配とパラメータを利用して、再構築とメンバーシップ推論攻撃を起動することで、局所的なトレーニングデータを取得することができる。
このようなプライバシ攻撃を防御するために、多くのノイズ摂動法が広く設計されている。
- 参考スコア（独自算出の注目度）: 82.80836918594231
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although federated learning improves privacy of training data by exchanging
local gradients or parameters rather than raw data, the adversary still can
leverage local gradients and parameters to obtain local training data by
launching reconstruction and membership inference attacks. To defend such
privacy attacks, many noises perturbation methods (like differential privacy or
CountSketch matrix) have been widely designed. However, the strong defence
ability and high learning accuracy of these schemes cannot be ensured at the
same time, which will impede the wide application of FL in practice (especially
for medical or financial institutions that require both high accuracy and
strong privacy guarantee). To overcome this issue, in this paper, we propose
\emph{an efficient model perturbation method for federated learning} to defend
reconstruction and membership inference attacks launched by curious clients. On
the one hand, similar to the differential privacy, our method also selects
random numbers as perturbed noises added to the global model parameters, and
thus it is very efficient and easy to be integrated in practice. Meanwhile, the
random selected noises are positive real numbers and the corresponding value
can be arbitrarily large, and thus the strong defence ability can be ensured.
On the other hand, unlike differential privacy or other perturbation methods
that cannot eliminate the added noises, our method allows the server to recover
the true gradients by eliminating the added noises. Therefore, our method does
not hinder learning accuracy at all.
- Abstract（参考訳）: フェデレーテッド・ラーニングは、生データではなく局所勾配やパラメータを交換することで、トレーニングデータのプライバシーを向上するが、対戦相手は依然としてローカル勾配やパラメータを活用して、再構築とメンバーシップ推論攻撃を起動することで、ローカルトレーニングデータを取得することができる。
このようなプライバシー攻撃を保護するため、多くのノイズ摂動法(差分プライバシーやCountSketch行列など)が広く設計されている。
しかし、これらのスキームの強力な防御能力と高い学習精度を同時に保証することはできないため、実際にはflの広範な適用を妨げることになる(特に、高い正確性と強力なプライバシー保証を必要とする医療・金融機関の場合)。
そこで,本稿では,フェデレーション学習のための効率的なモデル摂動手法として,好奇心の強いクライアントが立ち上げたリコンストラクションとメンバシップ推論攻撃を防御する手法を提案する。
一方、差分プライバシーと同様、本手法では、大域的モデルパラメータに付加される摂動雑音として乱数を選択するため、実際に組み込むのが非常に効率的で容易である。
一方、ランダム選択された雑音は正の実数であり、対応する値を任意に大きくすることができ、強い防御能力を確保できる。
一方、付加雑音を除去できない差分プライバシーや他の摂動法とは異なり、本手法では付加雑音を除去して真の勾配を復元することができる。
したがって,本手法が学習精度を損なうことはない。
関連論文リスト
- Pseudo-Probability Unlearning: Towards Efficient and Privacy-Preserving Machine Unlearning [59.29849532966454]
本稿では,PseudoProbability Unlearning (PPU)を提案する。
提案手法は,最先端の手法に比べて20%以上の誤りを忘れる改善を実現している。
論文 参考訳（メタデータ） (2024-11-04T21:27:06Z) - FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated
Learning [66.56240101249803]
我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。
本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。
競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
論文 参考訳（メタデータ） (2022-10-23T22:24:03Z) - Decorrelative Network Architecture for Robust Electrocardiogram
Classification [4.808817930937323]
すべてのシナリオで正確であるネットワークをトレーニングすることはできない。
深層学習法は不確実性を推定するためにモデルパラメータ空間をサンプリングする。
これらのパラメータは、しばしば、敵の攻撃によって悪用される、同じ脆弱性にさらされる。
本稿では,特徴デコレーションとフーリエ分割に基づく新たなアンサンブル手法を提案する。
論文 参考訳（メタデータ） (2022-07-19T02:36:36Z) - Defense Against Gradient Leakage Attacks via Learning to Obscure Data [48.67836599050032]
フェデレートラーニングは、効果的なプライバシー保護学習メカニズムと考えられている。
本稿では,不明瞭なデータに学習することで,クライアントのデータ保護のための新しい防御手法を提案する。
論文 参考訳（メタデータ） (2022-06-01T21:03:28Z) - Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。
モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。
本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
論文 参考訳（メタデータ） (2022-02-14T18:33:12Z) - Gradient Leakage Attack Resilient Deep Learning [7.893378392969824]
勾配の漏洩攻撃は ディープラーニングで最も悪質な プライバシーの脅威の1つだ
差分プライバシーを持つディープラーニングは、差分プライバシーを保証するディープラーニングモデルを公開するためのデファクトスタンダードである。
本稿では,差分プライバシーを用いた勾配リーク耐性深層学習の代替手法について検討する。
論文 参考訳（メタデータ） (2021-12-25T03:33:02Z) - A Shuffling Framework for Local Differential Privacy [40.92785300658643]
ldpデプロイメントは、敵がノイズ応答をアイデンティティにリンクできるため、推論攻撃に対して脆弱である。
別のモデルであるシャッフルDPは、ノイズ応答をランダムにシャッフルすることでこれを防止している。
雑音応答の体系的なシャッフルは、意味のあるデータ学習性を維持しつつ、特定の推論攻撃を抑えることができることを示す。
論文 参考訳（メタデータ） (2021-06-11T20:36:23Z) - Federated Learning in Adversarial Settings [0.8701566919381224]
フェデレートされた学習スキームは、堅牢性、プライバシ、帯域幅効率、モデルの精度の異なるトレードオフを提供します。
この拡張は、厳格なプライバシー要件があっても、プライベートではないがロバストなスキームと同じくらい効率的に機能することを示す。
これは差別化プライバシとロバストネスの基本的なトレードオフの可能性を示している。
論文 参考訳（メタデータ） (2020-10-15T14:57:02Z) - Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。
敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。
差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
論文 参考訳（メタデータ） (2020-05-01T04:28:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。