論文の概要: Bridging Privacy and Robustness for Trustworthy Machine Learning

• arxiv url: http://arxiv.org/abs/2403.16591v4
• Date: Mon, 26 May 2025 08:31:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:41.340119
• Title: Bridging Privacy and Robustness for Trustworthy Machine Learning
• Title（参考訳）: 信頼できる機械学習のためのブリッジングプライバシとロバストネス
• Authors: Xiaojin Zhang, Wei Chen,
• Abstract要約: 機械学習の出現は、さまざまな領域に変革をもたらしたが、データの繊細な性質は、プライバシとセキュリティに関する懸念を引き起こす。 近年の研究では、敵のベイジアン推論の視点に沿ったプライバシー概念が提案されている。 本稿では, LDP, ABP, MBPの複雑な関係と, そのアルゴリズム的堅牢性への影響について考察する。
• 参考スコア（独自算出の注目度）: 6.318638597489423
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The advent of machine learning has led to transformative changes across various domains, but the sensitive nature of data raises concerns about privacy and security. While Local Differential Privacy (LDP) has been a cornerstone in addressing these concerns, recent research has proposed privacy concepts aligned with the Bayesian inference perspective of an adversary, such as Average Bayesian Privacy (ABP) and Maximum Bayesian Privacy (MBP). This paper explores the intricate relationships between LDP, ABP, and MBP, and their implications for algorithmic robustness. We establish theoretical connections between these privacy notions, proving that LDP implies MBP and vice versa under certain conditions, and deriving bounds connecting MBP and ABP. We also investigate the relationship between PAC robust learning and privacy preservation, demonstrating how to derive PAC robustness from privacy-preserving algorithms and construct privacy-preserving algorithms from PAC robust ones. Our findings provide valuable insights for constructing privacy-preserving and robust machine learning algorithms.
• Abstract（参考訳）: 機械学習の出現は、さまざまな領域に変革をもたらしたが、データの繊細な性質は、プライバシとセキュリティに関する懸念を引き起こす。 ローカル微分プライバシー(LDP)はこれらの懸念に対処するための基盤となっているが、最近の研究では、平均ベイズプライバシー(ABP)や最大ベイズプライバシー(MBP)といった敵のベイズ推論の視点に沿ったプライバシー概念が提案されている。 本稿では, LDP, ABP, MBPの複雑な関係と, そのアルゴリズム的堅牢性への影響について考察する。 我々は、これらのプライバシー概念間の理論的関係を確立し、LCPがMBPを意味することを証明し、その逆を条件として、MBPとAPPを接続する境界を導出する。 また,PAC堅牢性学習とプライバシ保護の関係について検討し,プライバシ保護アルゴリズムからPAC堅牢性を引き出す方法,PAC堅牢性学習からプライバシ保護アルゴリズムを構築する方法を示す。 我々の発見は、プライバシー保護と堅牢な機械学習アルゴリズムを構築する上で貴重な洞察を提供する。

関連論文リスト

• Breaking the Gaussian Barrier: Residual-PAC Privacy for Automatic Privatization [25.387857775660855]
  本稿では,逆推定後に残るプライバシを定量化する f-divergence ベースの尺度である Residual PAC Privacy を紹介する。 また,最適な雑音分布を選択するゲーム理論であるRPACプライバシーのための,Stackelberg Residual-PAC(SR-PAC)の民営化機構を提案する。
  論文  参考訳（メタデータ） (2025-06-06T20:52:47Z)
• Urania: Differentially Private Insights into AI Use [104.7449031243196]
  $Urania$は、クラスタリング、パーティション選択、ヒストグラムベースの要約といったDPツールを活用することによって、エンドツーエンドのプライバシ保護を提供する。 結果は、厳密なユーザのプライバシを維持しながら、意味のある会話の洞察を抽出するフレームワークの能力を示している。
  論文  参考訳（メタデータ） (2025-06-05T07:00:31Z)
• Comparing privacy notions for protection against reconstruction attacks in machine learning [10.466570297146953]
  機械学習コミュニティでは、再構築攻撃が主要な関心事であり、統合学習(FL)においても特定されている。 これらの脅威に対して、プライバシーコミュニティは、DP-SGDと呼ばれる勾配降下アルゴリズムにおける差分プライバシー(DP)の使用を推奨している。 本稿では,プライバシ保証の異なる概念とメカニズムを比較するための基礎的枠組みを構築した。
  論文  参考訳（メタデータ） (2025-02-06T13:04:25Z)
• Enhancing Feature-Specific Data Protection via Bayesian Coordinate Differential Privacy [55.357715095623554]
  ローカル微分プライバシー(LDP)は、ユーザーが外部の関係者を信頼することなく、強力なプライバシー保証を提供する。 本稿では,ベイジアン・フレームワークであるベイジアン・コーディネート・ディファレンシャル・プライバシ(BCDP)を提案する。
  論文  参考訳（メタデータ） (2024-10-24T03:39:55Z)
• Masked Differential Privacy [64.32494202656801]
  本稿では,差分プライバシーを適用した機密領域を制御できる「マスク型差分プライバシー(DP)」という効果的なアプローチを提案する。 提案手法はデータに基づいて選択的に動作し,DPアプリケーションや差分プライバシーをデータサンプル内の他のプライバシー技術と組み合わせることなく,非感性時間領域を定義できる。
  論文  参考訳（メタデータ） (2024-10-22T15:22:53Z)
• Convergent Differential Privacy Analysis for General Federated Learning: the $f$-DP Perspective [57.35402286842029]
  フェデレートラーニング(Federated Learning, FL)は、ローカルプライバシを重視した効率的な協調トレーニングパラダイムである。 ディファレンシャルプライバシ(DP)は、私的保護の信頼性を捕捉し、保証するための古典的なアプローチである。
  論文  参考訳（メタデータ） (2024-08-28T08:22:21Z)
• Universally Harmonizing Differential Privacy Mechanisms for Federated Learning: Boosting Accuracy and Convergence [22.946928984205588]
  ディファレンシャル・プライベート・フェデレーション・ラーニング(DP-FL)は協調モデルトレーニングにおいて有望な手法である。 本稿では,任意のランダム化機構を普遍的に調和させる最初のDP-FLフレームワーク(UDP-FL)を提案する。 その結果,UDP-FLは異なる推論攻撃に対して強い耐性を示すことがわかった。
  論文  参考訳（メタデータ） (2024-07-20T00:11:59Z)
• A Unified Learn-to-Distort-Data Framework for Privacy-Utility Trade-off in Trustworthy Federated Learning [5.622065847054885]
  プライバシとユーティリティの均衡をナビゲートするための原則的アプローチを提供するTextitLearn-to-Distort-Dataフレームワークを提案する。 データ歪みに基づく様々なプライバシー保護機構への我々のフレームワークの適用性を実証する。
  論文  参考訳（メタデータ） (2024-07-05T08:15:09Z)
• Theoretically Principled Federated Learning for Balancing Privacy and Utility [61.03993520243198]
  モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。 フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
  論文  参考訳（メタデータ） (2023-05-24T13:44:02Z)
• Rethinking Disclosure Prevention with Pointwise Maximal Leakage [36.3895452861944]
  本稿では,秘密の$X$の低エントロピー機能の価値を開示し,実用性を実現するユーティリティとプライバシの一般モデルを提案する。 我々は、大衆の意見に反して、有意義な推論によるプライバシー保証を提供することを証明している。 PMLベースのプライバシは互換性があることを示し、差分プライバシーのような既存の概念に対する洞察を提供する。
  論文  参考訳（メタデータ） (2023-03-14T10:47:40Z)
• On Differentially Private Federated Linear Contextual Bandits [9.51828574518325]
  我々は、差分プライバシーの下で、クロスサイロフェデレーション線形文脈帯域問題(LCB)を考える。 現状の3つの課題は, (i) 主張されたプライバシ保護の失敗, (ii) ノイズの計算ミスによる不正確な後悔,である。 我々は,信頼されたサーバを使わずに,アルゴリズムがほぼ最適であることを示す。
  論文  参考訳（メタデータ） (2023-02-27T16:47:49Z)
• Breaking the Communication-Privacy-Accuracy Tradeoff with $f$-Differential Privacy [51.11280118806893]
  サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。 有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。 より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
  論文  参考訳（メタデータ） (2023-02-19T16:58:53Z)
• Provable Membership Inference Privacy [31.08016816475564]
  差別化プライバシ(DP)は、証明可能なプライバシの標準標準のひとつとして登場した。 本稿では,これらの課題に対処するために,新たなプライバシー概念である会員推測プライバシ(MIP)を提案する。 MIP は DP の保証に要する量よりもランダム性の少ない量で実現可能であることを示す。
  論文  参考訳（メタデータ） (2022-11-12T06:13:00Z)
• Is Vertical Logistic Regression Privacy-Preserving? A Comprehensive Privacy Analysis and Beyond [57.10914865054868]
  垂直ロジスティック回帰(VLR)をミニバッチ降下勾配で訓練した。 我々は、オープンソースのフェデレーション学習フレームワークのクラスにおいて、VLRの包括的で厳密なプライバシー分析を提供する。
  論文  参考訳（メタデータ） (2022-07-19T05:47:30Z)
• Privacy Amplification via Shuffling for Linear Contextual Bandits [51.94904361874446]
  ディファレンシャルプライバシ(DP)を用いた文脈線形バンディット問題について検討する。 プライバシのシャッフルモデルを利用して,JDP と LDP のプライバシ/ユーティリティトレードオフを実現することができることを示す。 以上の結果から,ローカルプライバシを保ちながらシャッフルモデルを活用することで,JDPとDPのトレードオフを得ることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2021-12-11T15:23:28Z)
• Federated Deep Learning with Bayesian Privacy [28.99404058773532]
  フェデレートラーニング(FL)は、ユーザ間でプライベートデータを共有せずにモデルを協調的に学習することで、データのプライバシを保護することを目的としている。 ホモモルフィック暗号化(HE)ベースの手法は、セキュアなプライバシ保護を提供するが、非常に高い計算と通信のオーバーヘッドに悩まされる。 差分プライバシ(DP)を用いたディープラーニングは,複雑な管理コストで実践的な学習アルゴリズムとして実装された。
  論文  参考訳（メタデータ） (2021-09-27T12:48:40Z)
• Local Differential Privacy for Regret Minimization in Reinforcement Learning [33.679678503441565]
  有限水平マルコフ決定過程(MDP)の文脈におけるプライバシーの研究 ローカルディファレンシャルプライバシ(LDP)フレームワークを活用することで、RLのプライバシの概念を定式化する。 本稿では,$varepsilon$-LDP要求を満たす楽観的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-10-15T14:13:26Z)
• Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
  エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。 まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。 そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-09-18T20:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。