論文の概要: Bridging Privacy and Robustness for Trustworthy Machine Learning

• arxiv url: http://arxiv.org/abs/2403.16591v4
• Date: Mon, 26 May 2025 08:31:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:41.340119
• Title: Bridging Privacy and Robustness for Trustworthy Machine Learning
• Title（参考訳）: 信頼できる機械学習のためのブリッジングプライバシとロバストネス
• Authors: Xiaojin Zhang, Wei Chen,
• Abstract要約: 機械学習の出現は、さまざまな領域に変革をもたらしたが、データの繊細な性質は、プライバシとセキュリティに関する懸念を引き起こす。 近年の研究では、敵のベイジアン推論の視点に沿ったプライバシー概念が提案されている。 本稿では, LDP, ABP, MBPの複雑な関係と, そのアルゴリズム的堅牢性への影響について考察する。
• 参考スコア（独自算出の注目度）: 6.318638597489423
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The advent of machine learning has led to transformative changes across various domains, but the sensitive nature of data raises concerns about privacy and security. While Local Differential Privacy (LDP) has been a cornerstone in addressing these concerns, recent research has proposed privacy concepts aligned with the Bayesian inference perspective of an adversary, such as Average Bayesian Privacy (ABP) and Maximum Bayesian Privacy (MBP). This paper explores the intricate relationships between LDP, ABP, and MBP, and their implications for algorithmic robustness. We establish theoretical connections between these privacy notions, proving that LDP implies MBP and vice versa under certain conditions, and deriving bounds connecting MBP and ABP. We also investigate the relationship between PAC robust learning and privacy preservation, demonstrating how to derive PAC robustness from privacy-preserving algorithms and construct privacy-preserving algorithms from PAC robust ones. Our findings provide valuable insights for constructing privacy-preserving and robust machine learning algorithms.
• Abstract（参考訳）: 機械学習の出現は、さまざまな領域に変革をもたらしたが、データの繊細な性質は、プライバシとセキュリティに関する懸念を引き起こす。 ローカル微分プライバシー(LDP)はこれらの懸念に対処するための基盤となっているが、最近の研究では、平均ベイズプライバシー(ABP)や最大ベイズプライバシー(MBP)といった敵のベイズ推論の視点に沿ったプライバシー概念が提案されている。 本稿では, LDP, ABP, MBPの複雑な関係と, そのアルゴリズム的堅牢性への影響について考察する。 我々は、これらのプライバシー概念間の理論的関係を確立し、LCPがMBPを意味することを証明し、その逆を条件として、MBPとAPPを接続する境界を導出する。 また,PAC堅牢性学習とプライバシ保護の関係について検討し,プライバシ保護アルゴリズムからPAC堅牢性を引き出す方法,PAC堅牢性学習からプライバシ保護アルゴリズムを構築する方法を示す。 我々の発見は、プライバシー保護と堅牢な機械学習アルゴリズムを構築する上で貴重な洞察を提供する。

関連論文リスト

• Comparing privacy notions for protection against reconstruction attacks in machine learning [10.466570297146953]
  機械学習コミュニティでは、再構築攻撃が主要な関心事であり、統合学習(FL)においても特定されている。 これらの脅威に対して、プライバシーコミュニティは、DP-SGDと呼ばれる勾配降下アルゴリズムにおける差分プライバシー(DP)の使用を推奨している。 本稿では,プライバシ保証の異なる概念とメカニズムを比較するための基礎的枠組みを構築した。
  論文  参考訳（メタデータ） (2025-02-06T13:04:25Z)
• Enhancing Feature-Specific Data Protection via Bayesian Coordinate Differential Privacy [55.357715095623554]
  ローカル微分プライバシー(LDP)は、ユーザーが外部の関係者を信頼することなく、強力なプライバシー保証を提供する。 本稿では,ベイジアン・フレームワークであるベイジアン・コーディネート・ディファレンシャル・プライバシ(BCDP)を提案する。
  論文  参考訳（メタデータ） (2024-10-24T03:39:55Z)
• Masked Differential Privacy [64.32494202656801]
  本稿では,差分プライバシーを適用した機密領域を制御できる「マスク型差分プライバシー(DP)」という効果的なアプローチを提案する。 提案手法はデータに基づいて選択的に動作し,DPアプリケーションや差分プライバシーをデータサンプル内の他のプライバシー技術と組み合わせることなく,非感性時間領域を定義できる。
  論文  参考訳（メタデータ） (2024-10-22T15:22:53Z)
• Convergent Differential Privacy Analysis for General Federated Learning: the $f$-DP Perspective [57.35402286842029]
  フェデレートラーニング(Federated Learning, FL)は、ローカルプライバシを重視した効率的な協調トレーニングパラダイムである。 ディファレンシャルプライバシ(DP)は、私的保護の信頼性を捕捉し、保証するための古典的なアプローチである。
  論文  参考訳（メタデータ） (2024-08-28T08:22:21Z)
• Rethinking Disclosure Prevention with Pointwise Maximal Leakage [36.3895452861944]
  本稿では,秘密の$X$の低エントロピー機能の価値を開示し,実用性を実現するユーティリティとプライバシの一般モデルを提案する。 我々は、大衆の意見に反して、有意義な推論によるプライバシー保証を提供することを証明している。 PMLベースのプライバシは互換性があることを示し、差分プライバシーのような既存の概念に対する洞察を提供する。
  論文  参考訳（メタデータ） (2023-03-14T10:47:40Z)
• On Differentially Private Federated Linear Contextual Bandits [9.51828574518325]
  我々は、差分プライバシーの下で、クロスサイロフェデレーション線形文脈帯域問題(LCB)を考える。 現状の3つの課題は, (i) 主張されたプライバシ保護の失敗, (ii) ノイズの計算ミスによる不正確な後悔,である。 我々は,信頼されたサーバを使わずに,アルゴリズムがほぼ最適であることを示す。
  論文  参考訳（メタデータ） (2023-02-27T16:47:49Z)
• Breaking the Communication-Privacy-Accuracy Tradeoff with $f$-Differential Privacy [51.11280118806893]
  サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。 有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。 より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
  論文  参考訳（メタデータ） (2023-02-19T16:58:53Z)
• Privacy Amplification via Shuffling for Linear Contextual Bandits [51.94904361874446]
  ディファレンシャルプライバシ(DP)を用いた文脈線形バンディット問題について検討する。 プライバシのシャッフルモデルを利用して,JDP と LDP のプライバシ/ユーティリティトレードオフを実現することができることを示す。 以上の結果から,ローカルプライバシを保ちながらシャッフルモデルを活用することで,JDPとDPのトレードオフを得ることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2021-12-11T15:23:28Z)
• Local Differential Privacy for Regret Minimization in Reinforcement Learning [33.679678503441565]
  有限水平マルコフ決定過程(MDP)の文脈におけるプライバシーの研究 ローカルディファレンシャルプライバシ(LDP)フレームワークを活用することで、RLのプライバシの概念を定式化する。 本稿では,$varepsilon$-LDP要求を満たす楽観的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-10-15T14:13:26Z)
• Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
  エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。 まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。 そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-09-18T20:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。