論文の概要: Combining Homomorphic Encryption and Differential Privacy in Federated Learning for Model Inspection and Availability
- arxiv url: http://arxiv.org/abs/2610.01650v1
- Date: Thu, 01 Oct 2026 13:13:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.146457
- Title: Combining Homomorphic Encryption and Differential Privacy in Federated Learning for Model Inspection and Availability
- Title（参考訳）: モデル検査と可用性のためのフェデレーション学習における同型暗号化と微分プライバシーの組み合わせ
- Abstract要約: 本稿では、同型暗号化に基づくトレーニングと差分プライバシーに基づくモデル検査とリリースを組み合わせたプライバシー保護フェデレーション学習フレームワークを提案する。
トレーニングの終わりまでに、我々の方法は、差分プライバシーのみのアプローチで2.37ドルに対して、テスト損失が1.09ドルに達する。
- 参考スコア（独自算出の注目度）: 1.0499611180329802
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The increasing prevalence of decentralized data has led to a growing interest in federated learning, which enables collaborative model training without clients sharing their sensitive local data. However, FL alone does not sufficiently protect sensitive training data and is generally coupled with privacy-preserving techniques, such as differential privacy and homomorphic encryption. Although powerful, these techniques address separate concerns via different mechanisms, so relying on just one might prove insufficient or impractical for addressing challenges associated with federated learning. In this work, we propose a privacy-preserving federated learning framework that combines homomorphic encryption-based training with differential privacy-based model inspection and release. We adopt a Markov chain Monte Carlo-based Bayesian privacy estimation method to estimate the privacy of our proposed framework. Our results show that this method improves both model utility and estimated privacy over the baseline method that relies solely on differential privacy for training. In our experiments with the FEMNIST dataset, by the end of training, our method reaches a test loss of $1.09$, compared to $2.37$ for the differential privacy-only approach, while providing stronger estimated privacy protection, with the estimated posterior mean of the privacy parameter $ε$ of $4.32$, compared to $7.26$ for the differential privacy-only approach. We also show that intermittent model monitoring can preserve the encrypted training trajectory while, under our evaluated experimental setting, providing estimated privacy comparable to or stronger than the differential privacy-only approach.
- Abstract（参考訳）: 分散データの普及により、クライアントが機密データを共有することなく協調的なモデルトレーニングを可能にするフェデレーション学習への関心が高まっている。
しかし、FL単独では、センシティブなトレーニングデータを十分に保護することができず、一般的には、差分プライバシーや同型暗号化といったプライバシー保護技術と結合している。
これらの手法は強力ではあるが、異なるメカニズムを通じて異なる関心事に対処するので、1つだけに頼ることは、連合学習に関連する課題に対処するには不十分または非現実的であることを証明できるかもしれない。
本研究では、同型暗号化に基づくトレーニングと差分プライバシーに基づくモデル検査とリリースを組み合わせたプライバシー保護フェデレーション学習フレームワークを提案する。
提案するフレームワークのプライバシを推定するために,マルコフ連鎖モンテカルロに基づくベイズプライバシー推定手法を採用した。
本手法は,学習における差分プライバシのみに依存するベースライン法よりも,モデルユーティリティと推定プライバシの両方を改善した。
FEMNISTデータセットを用いた我々の実験では、我々の方法は、差分プライバシーのみのアプローチでは2.37ドル、差分プライバシーのみのアプローチでは7.26ドル、プライバシーパラメータの推定推定平均は4.32ドル、差分プライバシーのみのアプローチでは7.26ドルであるのに対し、テスト損失が1.09ドルに達する。
また、間欠的なモデル監視は、評価された実験環境下では、暗号化されたトレーニング軌跡を保存でき、差分プライバシーのみのアプローチに匹敵する、あるいは強いプライバシを提供することを示す。
関連論文リスト
- Privacy Preserving Machine Learning Workflow: from Anonymization to Personalized Differential Privacy Budgets in Federated Learning [0.0]
フェデレーション学習は、分散データをモデルトレーニングすることで、共有と集中を防ぐ。
本稿では、匿名化や差分プライバシー技術を含むセンシティブなデータのための包括的プライバシー保護フェデレーション学習ワークフローを提案する。
本研究では,グローバルディファレンシャルプライバシと固定プライバシ予算を含むアーキテクチャと比較して,パーソナライズされた予算に基づくアプローチが,2つのエラーメトリクスの観点からモデル性能の向上を実現していることを示す。
論文 参考訳（メタデータ） (2026-05-04T09:15:10Z) - Tackling Privacy Heterogeneity in Differentially Private Federated Learning [33.2985262258717]
微分プライベート・フェデレーション・ラーニング(DP-FL)におけるプライバシ・アウェア・クライアント選択に関する最初の体系的研究について述べる。
本稿では,選択確率を適応的に調整し,トレーニングエラーを最小限に抑える,凸最適化問題として定式化されたプライバシ対応クライアント選択戦略を提案する。
提案手法は,ベンチマークデータセットにおけるテスト精度を最大10%向上させる。
論文 参考訳（メタデータ） (2026-02-26T05:20:37Z) - Federated Learning with Differential Privacy: An Utility-Enhanced Approach [12.614480013684759]
フェデレーション学習は、クライアントのデータを共有する必要性をなくすことによって、データのプライバシを保護するための魅力的なアプローチとして現れている。
最近の研究では、フェデレートされた学習だけではプライバシーが保証されないことが示されている。
本稿では,これらのバニラ微分プライベートアルゴリズムを,ハールウェーブレット変換ステップとノイズの分散を著しく低減する新しいノイズ注入方式に基づいて修正する。
論文 参考訳（メタデータ） (2025-03-27T04:48:29Z) - Activity Recognition on Avatar-Anonymized Datasets with Masked Differential Privacy [64.32494202656801]
プライバシを保存するコンピュータビジョンは、機械学習と人工知能において重要な問題である。
本稿では,ビデオデータセット中の感性のある被験者を文脈内の合成アバターに置き換える匿名化パイプラインを提案する。
また、匿名化されていないがプライバシーに敏感な背景情報を保護するため、MaskDPを提案する。
論文 参考訳（メタデータ） (2024-10-22T15:22:53Z) - Federated Transfer Learning with Differential Privacy [21.50525027559563]
フェデレートラーニングは分散データを分析するための強力なフレームワークとして登場した。
本稿では,複数の異種ソースデータセットからの情報を活用することで,対象データセットの学習を向上させることを目的とする。
私たちは、データセットごとにプライバシーを保証するフェデレーションされた差分プライバシーの概念を厳格に定式化します。
論文 参考訳（メタデータ） (2024-03-17T21:04:48Z) - Differentially Private Deep Model-Based Reinforcement Learning [47.651861502104715]
形式的な差分プライバシー保証を備えたモデルベースRLアルゴリズムであるPriMORLを紹介する。
PriMORLはオフラインデータから環境の軌道レベルのDPモデルのアンサンブルを学習する。
論文 参考訳（メタデータ） (2024-02-08T10:05:11Z) - Breaking the Communication-Privacy-Accuracy Tradeoff with
$f$-Differential Privacy [51.11280118806893]
サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。
有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。
より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
論文 参考訳（メタデータ） (2023-02-19T16:58:53Z) - Individual Privacy Accounting for Differentially Private Stochastic Gradient Descent [69.14164921515949]
DP-SGDで訓練されたモデルをリリースする際の個々の事例に対するプライバシー保証を特徴付ける。
ほとんどの例では、最悪のケースよりも強力なプライバシー保証を享受しています。
これは、モデルユーティリティの観点からは守られないグループが同時に、より弱いプライバシー保証を経験することを意味する。
論文 参考訳（メタデータ） (2022-06-06T13:49:37Z) - Robustness Threats of Differential Privacy [70.818129585404]
我々は、いくつかの設定で差分プライバシーをトレーニングしたネットワークが、非プライベートバージョンに比べてさらに脆弱であることを実験的に実証した。
本研究では,勾配クリッピングや雑音付加などのニューラルネットワークトレーニングの主成分が,モデルの堅牢性に与える影響について検討する。
論文 参考訳（メタデータ） (2020-12-14T18:59:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。