論文の概要: Differentially Private Model Merging
- arxiv url: http://arxiv.org/abs/2604.20985v1
- Date: Wed, 22 Apr 2026 18:13:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-24 14:40:06.1239
- Title: Differentially Private Model Merging
- Title(参考訳): 微分プライベートモデルマージ
- Authors: Qichuan Yin, Manzil Zaheer, Tian Li,
- Abstract要約: 新たなトレーニングステップなしで、ターゲットの差分プライバシー(DP)要件を満たすためのモデルの規模を生成します。
本稿では,任意のプライバシパラメータに対する最終プライベートモデルを出力するために,ランダム選択と線形結合という2つのポスト処理手法を提案する。
- 参考スコア(独自算出の注目度): 23.141132405899096
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In machine learning applications, privacy requirements during inference or deployment time could change constantly due to varying policies, regulations, or user experience. In this work, we aim to generate a magnitude of models to satisfy any target differential privacy (DP) requirement without additional training steps, given a set of existing models trained on the same dataset with different privacy/utility tradeoffs. We propose two post processing techniques, namely random selection and linear combination, to output a final private model for any target privacy parameter. We provide privacy accounting of these approaches from the lens of R'enyi DP and privacy loss distributions for general problems. In a case study on private mean estimation, we fully characterize the privacy/utility results and theoretically establish the superiority of linear combination over random selection. Empirically, we validate our approach and analyses on several models and both synthetic and real-world datasets.
- Abstract(参考訳): マシンラーニングアプリケーションでは、さまざまなポリシや規制、ユーザエクスペリエンスによって、推論やデプロイメント時間のプライバシ要件が常に変更される可能性がある。
この研究では、異なるプライバシ/ユーティリティトレードオフを持つ同じデータセット上でトレーニングされた既存のモデルのセットを考えると、追加のトレーニングステップなしで、ターゲットの差分プライバシー(DP)要件を満たすための規模のモデルを生成することを目的としています。
本稿では,任意のプライバシパラメータに対する最終プライベートモデルを出力するために,ランダム選択と線形結合という2つのポスト処理手法を提案する。
本稿では,R'enyi DPのレンズと一般問題に対するプライバシ損失分布から,これらのアプローチのプライバシ説明を行う。
個人平均推定のケーススタディでは、プライバシ/ユーティリティの結果を完全に特徴付け、理論的にはランダム選択よりも線形結合の優位性を確立する。
経験的に、我々はいくつかのモデルと合成および実世界のデータセットのアプローチと分析を検証した。
関連論文リスト
- Tackling Privacy Heterogeneity in Differentially Private Federated Learning [33.2985262258717]
微分プライベート・フェデレーション・ラーニング(DP-FL)におけるプライバシ・アウェア・クライアント選択に関する最初の体系的研究について述べる。
本稿では,選択確率を適応的に調整し,トレーニングエラーを最小限に抑える,凸最適化問題として定式化されたプライバシ対応クライアント選択戦略を提案する。
提案手法は,ベンチマークデータセットにおけるテスト精度を最大10%向上させる。
論文 参考訳(メタデータ) (2026-02-26T05:20:37Z) - Few-shot Steerable Alignment: Adapting Rewards and LLM Policies with Neural Processes [50.544186914115045]
大きな言語モデル(LLM)は、日々のアプリケーションにますます組み込まれています。
個人ユーザの多様な嗜好との整合性を確保することは、重要な課題となっている。
数発のステアライメントのための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-18T16:14:59Z) - Differentially Private Random Feature Model [47.35176457481132]
プライバシを保存するカーネルマシンに対して,差分的にプライベートな特徴モデルを作成する。
本手法は,プライバシを保護し,一般化誤差を導出する。
論文 参考訳(メタデータ) (2024-12-06T05:31:08Z) - Differentially Private Deep Model-Based Reinforcement Learning [47.651861502104715]
形式的な差分プライバシー保証を備えたモデルベースRLアルゴリズムであるPriMORLを紹介する。
PriMORLはオフラインデータから環境の軌道レベルのDPモデルのアンサンブルを学習する。
論文 参考訳(メタデータ) (2024-02-08T10:05:11Z) - Private Set Generation with Discriminative Information [63.851085173614]
異なるプライベートなデータ生成は、データプライバシの課題に対する有望な解決策である。
既存のプライベートな生成モデルは、合成サンプルの有用性に苦慮している。
我々は,最先端アプローチのサンプルユーティリティを大幅に改善する,シンプルで効果的な手法を提案する。
論文 参考訳(メタデータ) (2022-11-07T10:02:55Z) - Personalized PATE: Differential Privacy for Machine Learning with
Individual Privacy Guarantees [1.2691047660244335]
トレーニングデータ内に、パーソナライズされたプライバシ保証の異なるMLモデルのトレーニングを支援する3つの新しい方法を提案する。
実験により, 個人化されたプライバシ手法は, 非個人化されたベースラインよりも高い精度のモデルが得られることがわかった。
論文 参考訳(メタデータ) (2022-02-21T20:16:27Z) - Don't Generate Me: Training Differentially Private Generative Models
with Sinkhorn Divergence [73.14373832423156]
そこで我々はDP-Sinkhornを提案する。DP-Sinkhornは個人データからデータ分布を差分プライバシで学習するための新しいトランスポートベース生成手法である。
差分的にプライベートな生成モデルを訓練するための既存のアプローチとは異なり、我々は敵の目的に頼らない。
論文 参考訳(メタデータ) (2021-11-01T18:10:21Z) - PEARL: Data Synthesis via Private Embeddings and Adversarial
Reconstruction Learning [1.8692254863855962]
本稿では, 深層生成モデルを用いたデータ・フレームワークを, 差分的にプライベートな方法で提案する。
当社のフレームワークでは、センシティブなデータは、厳格なプライバシ保証をワンショットで行うことで衛生化されています。
提案手法は理論的に性能が保証され,複数のデータセットに対する経験的評価により,提案手法が適切なプライバシーレベルで他の手法よりも優れていることが示された。
論文 参考訳(メタデータ) (2021-06-08T18:00:01Z) - MACE: A Flexible Framework for Membership Privacy Estimation in
Generative Models [14.290199072565162]
生成モデルにおけるメンバシッププライバシ推定のための最初の公式なフレームワークを提案する。
これまでの作業と比較すると、私たちのフレームワークはより現実的で柔軟な仮定をします。
論文 参考訳(メタデータ) (2020-09-11T23:15:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。