論文の概要: Efficient Verifiable Differential Privacy with Input Authenticity in the Local and Shuffle Model

• arxiv url: http://arxiv.org/abs/2406.18940v1
• Date: Thu, 27 Jun 2024 07:12:28 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-28 14:57:01.169641
• Title: Efficient Verifiable Differential Privacy with Input Authenticity in the Local and Shuffle Model
• Title（参考訳）: 局所およびシャッフルモデルにおける入力正当性を考慮した効率よく検証可能な微分プライバシー
• Authors: Tariq Bontekoe, Hassan Jameel Asghar, Fatih Turkmen,
• Abstract要約: ローカルディファレンシャルプライバシ(LDP)は、集約統計を同時にリリースしながら、クライアントの機密データにプライバシを提供するための効率的なソリューションである。 LDPは、入力と出力の両方を操作できる悪意のあるクライアントに対して脆弱であることが示されている。 悪意あるクライアントが LDP スキームを妥協するのを防ぐ方法を示す。
• 参考スコア（独自算出の注目度）: 3.208888890455612
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Local differential privacy (LDP) is an efficient solution for providing privacy to client's sensitive data while simultaneously releasing aggregate statistics without relying on a trusted central server (aggregator) as in the central model of differential privacy. The shuffle model with LDP provides an additional layer of privacy, by disconnecting the link between clients and the aggregator, further improving the utility of LDP. However, LDP has been shown to be vulnerable to malicious clients who can perform both input and output manipulation attacks, i.e., before and after applying the LDP mechanism, to skew the aggregator's results. In this work, we show how to prevent malicious clients from compromising LDP schemes. Specifically, we give efficient constructions to prevent both input \'and output manipulation attacks from malicious clients for generic LDP algorithms. Our proposed schemes for verifiable LDP (VLDP), completely protect from output manipulation attacks, and prevent input attacks using signed data, requiring only one-time interaction between client and server, unlike existing alternatives [28, 33]. Most importantly, we are the first to provide an efficient scheme for VLDP in the shuffle model. We describe and prove secure, two schemes for VLDP in the regular model, and one in the shuffle model. We show that all schemes are highly practical, with client runtimes of < 2 seconds, and server runtimes of 5-7 milliseconds per client.
• Abstract（参考訳）: ローカルディファレンシャルプライバシ(LDP)は、クライアントのセンシティブなデータにプライバシを提供する上で、信頼性の高い中央サーバ(アグリゲータ)を依存せずに、統計データを同時にリリースする効率的なソリューションである。 LDPによるシャッフルモデルは、クライアントとアグリゲータの間のリンクを切断し、LCPの有用性をさらに改善することで、さらなるプライバシー層を提供する。 しかし、LPPは入力操作と出力操作の両方を実行できる悪意のあるクライアントに対して脆弱であることが示されている。 本研究では,悪意あるクライアントが LDP スキームを損なうのを防ぐ方法について述べる。 具体的には、汎用LDPアルゴリズムにおいて、悪意のあるクライアントからの入力 \' および出力操作攻撃の両方を防止するための効率的な構成を提供する。 提案手法は,クライアントとサーバ間のワンタイムインタラクションを必要とせず,出力操作攻撃を完全に防止し,署名されたデータによる入力攻撃を防止する。 最も重要なことは、私たちはシャッフルモデルでVLDPの効率的なスキームを最初に提供したことです。 我々は,正則モデルにおけるVLDPとシャッフルモデルにおけるVLDPの2つのスキームを記述し,証明する。 クライアントランタイムは2秒以内で、サーバランタイムは1クライアントあたり5～7ミリ秒である。

関連論文リスト

• SafeSplit: A Novel Defense Against Client-Side Backdoor Attacks in Split Learning [53.16528046390881]
  Split Learning(SL)は、複数のクライアントとサーバが共同で学習し、共有ディープラーニング(DNN)上で推論できる分散ディープラーニングアプローチである。 本稿では,split Learning(SL)におけるクライアント側のバックドア攻撃に対する最初の防御であるSafeSplitについて述べる。 クライアントが引き起こした変更を特定し、有毒なモデルを検出するために、2倍の分析を使用する。
  論文  参考訳（メタデータ） (2025-01-11T22:20:20Z)
• Lightweight Federated Learning with Differential Privacy and Straggler Resilience [19.94124499453864]
  フェデレートラーニング(FL)は、生データの代わりにモデルパラメータ交換を通じて協調的なモデルトレーニングを可能にする。 パラメータ交換による潜在的な推論攻撃を避けるため、差分プライバシー(DP)は様々な攻撃に対して厳格な保証を提供する。 提案するLightDP-FLは,信頼できないピアやサーバに対して,証明可能なDPを保証する,新しい軽量なスキームである。
  論文  参考訳（メタデータ） (2024-12-09T00:54:00Z)
• DMM: Distributed Matrix Mechanism for Differentially-Private Federated Learning using Packed Secret Sharing [51.336015600778396]
  フェデレーテッド・ラーニング(FL)は最近、産業とアカデミックの両方で多くの注目を集めています。 FLでは、機械学習モデルは、複数のラウンドにまたがって委員会に配置されたさまざまなエンドユーザのデータを使用して訓練される。 このようなデータは、しばしばセンシティブであるため、FLの主な課題は、モデルの実用性を維持しながらプライバシを提供することである。
  論文  参考訳（メタデータ） (2024-10-21T16:25:14Z)
• Camel: Communication-Efficient and Maliciously Secure Federated Learning in the Shuffle Model of Differential Privacy [9.100955087185811]
  フェデレートラーニング(FL)は、複数のクライアントが集約のための勾配更新のみを共有することで、モデルを共同でトレーニングすることを可能にする、急速に魅力的なパラダイムになっています。 プライバシーに敏感なグラデーションアップデートを保護するため、ローカルな差分プライバシーメカニズムの研究が続けられている。 我々は,DP のシャッフルモデルにおいて,コミュニケーション効率が高く,かつ悪意のある FL フレームワークである Camel を提示する。
  論文  参考訳（メタデータ） (2024-10-04T13:13:44Z)
• DP-DyLoRA: Fine-Tuning Transformer-Based Models On-Device under Differentially Private Federated Learning using Dynamic Low-Rank Adaptation [15.023077875990614]
  フェデレートラーニング(FL)は、クライアントがローカルデータをサーバと共有することなく、グローバルモデルを協調的にトレーニングすることを可能にする。 差分プライバシ(DP)は、クライアントのコントリビューションにランダム性を加えるメカニズムを備えた、正式なプライバシ保証を提供することによって、そのようなリークに対処する。 差分プライバシーと組み合わせてDP-DyLoRAと呼ぶ適応手法を提案する。
  論文  参考訳（メタデータ） (2024-05-10T10:10:37Z)
• Client-specific Property Inference against Secure Aggregation in Federated Learning [52.8564467292226]
  フェデレートラーニングは、さまざまな参加者の間で共通のモデルを協調的に訓練するための、広く使われているパラダイムとなっている。 多くの攻撃は、メンバーシップ、資産、または参加者データの完全な再構築のような機密情報を推測することは依然として可能であることを示した。 単純な線形モデルでは、集約されたモデル更新からクライアント固有のプロパティを効果的にキャプチャできることが示される。
  論文  参考訳（メタデータ） (2023-03-07T14:11:01Z)
• Just Fine-tune Twice: Selective Differential Privacy for Large Language Models [69.66654761324702]
  本稿では,大規模なトランスフォーマーベース言語モデルのためのSDPを実現するための,シンプルで効果的なジャストファイントゥンツースプライバシ機構を提案する。 実験により, カナリア挿入攻撃に対して頑健でありながら, 高い性能が得られた。
  論文  参考訳（メタデータ） (2022-04-15T22:36:55Z)
• Lossless Compression of Efficient Private Local Randomizers [55.657133416044104]
  Locally Differentially Private (LDP) Reportsは、フェデレーション設定における統計と機械学習の収集に一般的に使用されます。 多くの場合、最もよく知られたldpアルゴリズムは、クライアントデバイスからサーバに強制的に大きなメッセージを送信する必要がある。 これにより、LDPアルゴリズムの通信コストの削減に大きく貢献しています。
  論文  参考訳（メタデータ） (2021-02-24T07:04:30Z)
• PRICURE: Privacy-Preserving Collaborative Inference in a Multi-Party Setting [3.822543555265593]
  本稿では,セキュアなマルチパーティ計算とディファレンシャルプライバシの補完的強みを組み合わせたシステムpricureを提案する。 PRICUREは、複数のモデルオーナー間のプライバシー保護共同予測を可能にします。 ベンチマーク医療画像分類データセットを含む4つのデータセットのニューラルネットワーク上でPRICUREを評価する。
  論文  参考訳（メタデータ） (2021-02-19T05:55:53Z)
• Towards Differentially Private Text Representations [52.64048365919954]
  信頼できないサーバ環境下で新しいディープラーニングフレームワークを開発する。 乱数化モジュールに対して、プライバシーパラメータ$epsilon$の精度への影響を低減するために、新しいローカル微分プライベート(LDP)プロトコルを提案する。 分析と実験により、我々のフレームワークは、非プライベートなフレームワークや既存のLDPプロトコルと同等またはそれ以上のパフォーマンスを提供することが示された。
  論文  参考訳（メタデータ） (2020-06-25T04:42:18Z)
• LDP-Fed: Federated Learning with Local Differential Privacy [14.723892247530234]
  ローカルディファレンシャルプライバシ(LDP)を用いた正式なプライバシ保証を備えた新しいフェデレーション学習システム LDP-Fed を提案する。 既存のLPPプロトコルは、主に単一の数値またはカテゴリ値の収集におけるデータのプライバシを確保するために開発されている。 連合学習モデルでは、各参加者からパラメータの更新を反復的に収集する。
  論文  参考訳（メタデータ） (2020-06-05T19:15:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。