論文の概要: OLIVE: Oblivious and Differentially Private Federated Learning on
Trusted Execution Environment
- arxiv url: http://arxiv.org/abs/2202.07165v1
- Date: Tue, 15 Feb 2022 03:23:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-17 07:12:46.544483
- Title: OLIVE: Oblivious and Differentially Private Federated Learning on
Trusted Execution Environment
- Title（参考訳）: OLIVE:信頼された実行環境におけるオープンで差別的なフェデレーション学習
- Authors: Fumiyuki Kato, Yang Cao, Masatoshi Yoshikawa
- Abstract要約: LDPが達成するにつれてサーバの信頼性を損なうことなく、CDPの恩恵を受けることができるシステムであるOLIVEを提案する。
OLIVEは、特権サーバ上でもTEEの集約中に発生するプライバシーリスクを最小限に抑える、効率的なデータ監視アルゴリズムを提供する。
- 参考スコア（独自算出の注目度）: 22.579050671255846
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: By combining Federated Learning with Differential Privacy, it has become
possible to train deep models while taking privacy into account. Using Local
Differential Privacy (LDP) does not require trust in the server, but its
utility is limited due to strong gradient perturbations. On the other hand,
client-level Central Differential Privacy (CDP) provides a good balance between
the privacy and utility of the trained model, but requires trust in the central
server since they have to share raw gradients. We propose OLIVE, a system that
can benefit from CDP while eliminating the need for trust in the server as LDP
achieves, by using Trusted Execution Environment (TEE), which has attracted
much attention in recent years. In particular, OLIVE provides an efficient data
oblivious algorithm to minimize the privacy risk that can occur during
aggregation in a TEE even on a privileged untrusted server. In this work,
firstly, we design an inference attack to leak training data privacy from index
information of gradients which can be obtained by side channels in a sparsified
gradients setting, and demonstrate the attack's effectiveness on real world
dataset. Secondly, we propose a fully-oblivious but efficient algorithm that
keeps the memory access patterns completely uniform and secure to protect
privacy against the designed attack. We also demonstrate that our method works
practically by various empirical experiments. Our experimental results show our
proposed algorithm is more efficient compared to state-of-the-art
general-purpose Oblivious RAM, and can be a practical method in the real-world
scales.
- Abstract（参考訳）: フェデレーション学習とディファレンシャルプライバシを組み合わせることで、プライバシを考慮した深いモデルのトレーニングが可能になる。
ローカルディファレンシャルプライバシ(ldp)を使用するには、サーバへの信頼は必要ないが、強い勾配摂動のため、その有用性は限られている。
一方、クライアントレベルの中央微分プライバシー(CDP)は、トレーニングされたモデルのプライバシとユーティリティのバランスが良好だが、生の勾配を共有する必要があるため、中央サーバを信頼する必要がある。
本稿では,近年注目されているtrusted execution environment(tee)を用いて,ldpが実現しているように,サーバへの信頼の必要をなくし,cdpのメリットを享受できるシステムであるoliveを提案する。
特にOLIVEは、権限のないサーバでも、TEE内の集約中に発生するプライバシーリスクを最小限に抑える、効率的なデータ監視アルゴリズムを提供する。
本研究では、まず、偏りのある勾配設定においてサイドチャネルが得る勾配の指標情報からトレーニングデータのプライバシーを漏洩させる推論攻撃を設計し、実世界のデータセットにおける攻撃の有効性を実証する。
第2に,メモリアクセスパターンを完全に均一かつセキュアに保ち,設計した攻撃からプライバシを保護するアルゴリズムを提案する。
また,本手法は様々な実験実験によって実際に動作することを示す。
実験の結果,提案アルゴリズムは最先端汎用Oblivious RAMと比較して効率が良く,実世界のスケールでは実用的な方法であることがわかった。
関連論文リスト
- Gradients Stand-in for Defending Deep Leakage in Federated Learning [0.0]
本研究は, AdaDefense という勾配漏洩防止を目的とした, 効率的かつ効率的な手法を提案する。
提案手法は, 勾配リークを効果的に防止するだけでなく, モデル全体の性能に大きな影響を与えないことを保証する。
論文 参考訳（メタデータ） (2024-10-11T11:44:13Z) - Privacy-Preserving Distributed Learning for Residential Short-Term Load
Forecasting [11.185176107646956]
電力システムの負荷データは、住宅ユーザの日常のルーチンを不注意に明らかにし、彼らの財産のセキュリティにリスクを及ぼす可能性がある。
我々はマルコフスイッチ方式の分散学習フレームワークを導入し、その収束は厳密な理論的解析によって実証される。
実世界の電力系統負荷データを用いたケーススタディにより,提案アルゴリズムの有効性を検証した。
論文 参考訳（メタデータ） (2024-02-02T16:39:08Z) - Privacy-preserving Federated Primal-dual Learning for Non-convex and Non-smooth Problems with Model Sparsification [51.04894019092156]
FL(Federated Learning)は,FLオーケストレーション(PS)の下でクライアント上でモデルをトレーニングする,急速に成長する領域として認識されている。
本稿では,非滑らかなFL問題に対して,新しい一次分離アルゴリズムを提案し,保証する。
その独特な洞察力のある性質とその分析も提示される。
論文 参考訳（メタデータ） (2023-10-30T14:15:47Z) - Enabling Quartile-based Estimated-Mean Gradient Aggregation As Baseline
for Federated Image Classifications [5.5099914877576985]
Federated Learning(FL)は、機密データを保護し、モデルパフォーマンスを改善しながら、分散コラボレーションを可能にすることによって、ディープニューラルネットワークのトレーニング方法に革命をもたらした。
本稿では,これらの課題に対処するだけでなく,FLシステムにおける高度な集約技術に対して$mathsfbaseline$として基本的な参照ポイントを提供する,Estimated Mean Aggregation (EMA) という革新的なソリューションを紹介する。
論文 参考訳（メタデータ） (2023-09-21T17:17:28Z) - A Safe Genetic Algorithm Approach for Energy Efficient Federated
Learning in Wireless Communication Networks [53.561797148529664]
フェデレートラーニング(FL)は、従来の集中型アプローチとは対照的に、デバイスが協調的にモデルトレーニングを行う分散技術として登場した。
FLの既存の取り組みにもかかわらず、その環境影響は、無線ネットワークへの適用性に関するいくつかの重要な課題が特定されているため、まだ調査中である。
現在の研究は遺伝的アルゴリズム(GA)アプローチを提案しており、FLプロセス全体のエネルギー消費と不要な資源利用の両方を最小化することを目標としている。
論文 参考訳（メタデータ） (2023-06-25T13:10:38Z) - WW-FL: Secure and Private Large-Scale Federated Learning [15.412475066687723]
Federated Learning(FL)は、クライアントデバイス上でトレーニングデータを保持することによって、データのプライバシを保証する、大規模分散機械学習の効率的なアプローチである。
最近の研究でFLの脆弱性が発見され、毒殺攻撃によってセキュリティとプライバシーの両方に影響を及ぼした。
データとグローバルモデルのプライバシを保証するために,セキュアなマルチパーティ計算と階層的なFLを組み合わせた,革新的なフレームワークであるWW-FLを提案する。
論文 参考訳（メタデータ） (2023-02-20T11:02:55Z) - Reliable Federated Disentangling Network for Non-IID Domain Feature [62.73267904147804]
本稿では、RFedDisと呼ばれる新しい信頼性のあるフェデレーション・ディエンタングリング・ネットワークを提案する。
我々の知る限り、提案するRFedDisは、明らかな不確実性と特徴の混在に基づくFLアプローチを開発する最初の試みである。
提案するRFedDisは,他の最先端FL手法と比較して信頼性の高い優れた性能を提供する。
論文 参考訳（メタデータ） (2023-01-30T11:46:34Z) - Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。
モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。
本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
論文 参考訳（メタデータ） (2022-02-14T18:33:12Z) - Local Learning Matters: Rethinking Data Heterogeneity in Federated
Learning [61.488646649045215]
フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
論文 参考訳（メタデータ） (2021-11-28T19:03:39Z) - Federated Robustness Propagation: Sharing Adversarial Robustness in
Federated Learning [98.05061014090913]
フェデレートラーニング(FL)は、生データを共有することなく、参加するユーザのセットから学習する、人気のある分散ラーニングスキーマとして登場した。
敵対的トレーニング(AT)は集中学習のための健全なソリューションを提供する。
既存のFL技術では,非IDユーザ間の対向的ロバスト性を効果的に広めることができないことを示す。
本稿では, バッチ正規化統計量を用いてロバスト性を伝達する, 単純かつ効果的な伝搬法を提案する。
論文 参考訳（メタデータ） (2021-06-18T15:52:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。