論文の概要: Defense against Poisoning Attacks under Shuffle-DP

• arxiv url: http://arxiv.org/abs/2605.00625v1
• Date: Fri, 01 May 2026 12:55:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 17:43:28.952554
• Title: Defense against Poisoning Attacks under Shuffle-DP
• Title（参考訳）: Shuffle-DP による毒殺対策
• Authors: Siyi Wang, Qiyao Luo, Yihua Hu, Lixu Wang, Quanqing Xu, Chuanhui Yang, Zhan Qin, Kui Ren, Wei Dong,
• Abstract要約: 差分プライバシー(DP)は、データ分析における個人のプライバシーを保護するための金の標準となっている。 我々は,すべてのシャッフルDPプロトコルを毒攻撃に耐性のあるバージョンに変換することのできる,すべてのユニオン保存クエリに対する最初の汎用防御フレームワークを提案する。 元のshuffle-DPプロトコルと比較すると、攻撃のない設定で等価なエラーを保持し、攻撃者が一定数存在する場合、エラーの多元的増加しか発生しない。
• 参考スコア（独自算出の注目度）: 44.41503870217386
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Differential Privacy (DP) has become the gold standard for protecting individual privacy in data analytics, and the shuffle-DP model has attracted significant attention from both academia and industry due to its favorable balance between privacy and utility. However, existing shuffle-DP protocols rely on a strong assumption: all users behave honestly. In real-world scenarios, adversarial users can exploit this vulnerability through poisoning attacks, compromising both privacy guarantees and the utility of analytical results. While defending against poisoning attacks in the shuffle-DP model has recently gained interest, existing solutions are limited to frequency estimation tasks. To address this issue, we propose the first general defense framework for all union-preserving queries, capable of transforming any shuffle-DP protocol into a version resilient to poisoning attacks. Beyond robust defense against poisoning attacks, our framework achieves high utility of analytical results. Compared to the original shuffle-DP protocol, it retains asymptotically equivalent error in attack-free settings and incurs only a polylogarithmic increase in error when a constant number of attackers are present. We demonstrate the generality of our framework on several common queries, including summation, frequency estimation, and range counting. Experimental results confirm that our approach effectively defends against poisoning attacks while maintaining strong utility and communication efficiency.
• Abstract（参考訳）: 差別化プライバシ(DP)は、データ分析において個人のプライバシを保護するためのゴールドスタンダードとなり、シャッフルDPモデルは、プライバシとユーティリティのバランスが良好であることから、学術と産業の両方から大きな注目を集めている。 しかし、既存のシャッフルDPプロトコルは強い仮定に依存している。 現実のシナリオでは、敵のユーザはこの脆弱性を攻撃によって悪用し、プライバシー保証と分析結果の有用性の両方を妥協する。 近年,シャッフルDPモデルによる毒殺対策が注目されているが,既存の手法は周波数推定に限られている。 そこで本研究では,任意のシャッフルDPプロトコルを有毒攻撃に耐性のあるバージョンに変換することのできる,すべてのユニオン保存クエリに対する最初の汎用防御フレームワークを提案する。 毒性攻撃に対する堅牢な防御に加えて,本フレームワークは分析結果の有効性も高い。 元のshuffle-DPプロトコルと比較すると、攻撃のない設定では漸近的に等価なエラーを保持し、攻撃者が一定数存在する場合、エラーの多元的増加しか発生しない。 本稿では,要約,周波数推定,範囲カウントなど,いくつかの一般的なクエリに対して,フレームワークの汎用性を実証する。 実験の結果,本手法は高い有効性と通信効率を維持しつつ,殺毒攻撃を効果的に防ぐことが確認された。

関連論文リスト

• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• RAIN: Secure and Robust Aggregation under Shuffle Model of Differential Privacy [46.52109845749167]
  本稿では,Shuffle-DPの下でのプライバシー,堅牢性,検証性を両立するフレームワークである騒音のロバスト集約について述べる。 RAINは、アップデートの一貫性を堅牢に測定し、ノイズや匿名化の下で悪意のある影響を制限するために、サインスペースアグリゲーションを採用している。 本研究は,Shuffle-DPの下では強力なプライバシー保証を保ち,精度と収束性において無視できない劣化を伴う攻撃に対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2026-03-03T15:41:54Z)
• Beyond the Worst Case: Extending Differential Privacy Guarantees to Realistic Adversaries [17.780319275883127]
  差別化プライバシ(differial Privacy)は、メカニズムの最悪のプライバシー漏洩に結びつく定義のファミリーである。 この研究は、現実のプライバシーリスクを代表する攻撃者の成功について、DPの最悪の保証がどんな意味を持つのかを浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-07-10T20:36:31Z)
• PPFPL: Cross-silo Privacy-preserving Federated Prototype Learning Against Data Poisoning Attacks [16.603029614862432]
  プライバシ保護フェデレーションラーニング(PPFL)は、複数のクライアントが秘密のモデル更新を送信することで、協力的にモデルをトレーニングすることを可能にする。 PPFLは、クロスサイロシナリオにおける分散トレーニングパラダイムのため、データ中毒攻撃に対して脆弱である。 既存のソリューションは、有毒な非独立分散(Non-IID)データの下でPPFLの性能を改善するのに苦労している。
  論文  参考訳（メタデータ） (2025-04-04T05:05:24Z)
• Bayes-Nash Generative Privacy Against Membership Inference Attacks [24.330984323956173]
  本稿では, プライバシ保護をゲーム理論でモデル化する枠組みを, ディフェンダーとアタッカーのベイズゲームとして提案する。 戦略的複雑さに対処するため、私たちは、プライベートデータセットを公開表現にマッピングするニューラルネットワークジェネレータとして、ディフェンダーの混合戦略を表現します。 当社のアプローチは,より強力な攻撃を発生させ,より優れたプライバシ・ユーティリティ・トレードオフを実現することによって,最先端の手法を著しく上回ります。
  論文  参考訳（メタデータ） (2024-10-09T20:29:04Z)
• Data Poisoning Attacks to Locally Differentially Private Frequent Itemset Mining Protocols [13.31395140464466]
  ローカルディファレンシャルプライバシ(LDP)は、信頼できないデータコレクタが、プライバシに違反することなく、ユーザのデータを集約する方法を提供する。 周波数推定、頻繁なアイテムセットマイニング、機械学習など、LDPの保護の下で、さまざまなプライバシー保護データ分析タスクが研究されている。 最近の研究は、データ中毒攻撃に対する特定のLDPプロトコルの脆弱性を実証している。
  論文  参考訳（メタデータ） (2024-06-27T18:11:19Z)
• From Mean to Extreme: Formal Differential Privacy Bounds on the Success of Real-World Data Reconstruction Attacks [54.25638567385662]
  機械学習における微分プライバシーは、しばしばメンバーシップ推論に対する保証として解釈される。 DP予算を定量的な保護に翻訳することで、データ再構築の脅威を悪化させることは、依然として困難な課題である。 本稿では、実証された"ゼロスクラッチ"攻撃のメカニズムに合わせた、最初の公式なプライバシー境界を導出することで、臨界ギャップを埋める。
  論文  参考訳（メタデータ） (2024-02-20T09:52:30Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Is Vertical Logistic Regression Privacy-Preserving? A Comprehensive Privacy Analysis and Beyond [57.10914865054868]
  垂直ロジスティック回帰(VLR)をミニバッチ降下勾配で訓練した。 我々は、オープンソースのフェデレーション学習フレームワークのクラスにおいて、VLRの包括的で厳密なプライバシー分析を提供する。
  論文  参考訳（メタデータ） (2022-07-19T05:47:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。