論文の概要: Privacy Amplification for BandMF via $b$-Min-Sep Subsampling
- arxiv url: http://arxiv.org/abs/2602.09338v1
- Date: Tue, 10 Feb 2026 02:10:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-11 20:17:43.328581
- Title: Privacy Amplification for BandMF via $b$-Min-Sep Subsampling
- Title(参考訳): $b$-Min-SepサブサンプリングによるBandMFのプライバシ増幅
- Authors: Andy Dong, Arun Ganesh,
- Abstract要約: 我々はモンテカルロ会計を用いてほぼ正確なプライバシー分析を行う。
高騒音下でのサイクリックサブサンプリングに$b$-min-sepが一致し,中低騒音下での保証が厳格に向上したことを示す。
これまでのBandMFサブサンプリングとは違って、当社の$b$-min-sepサブサンプリングは、当然、マルチ属性のユーザレベルのプライバシ設定に拡張されます。
- 参考スコア(独自算出の注目度): 6.843595664167079
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study privacy amplification for BandMF, i.e., DP-SGD with correlated noise across iterations via a banded correlation matrix. We propose $b$-min-sep subsampling, a new subsampling scheme that generalizes Poisson and balls-in-bins subsampling, extends prior practical batching strategies for BandMF, and enables stronger privacy amplification than cyclic Poisson while preserving the structural properties needed for analysis. We give a near-exact privacy analysis using Monte Carlo accounting, based on a dynamic program that leverages the Markovian structure in the subsampling procedure. We show that $b$-min-sep matches cyclic Poisson subsampling in the high noise regime and achieves strictly better guarantees in the mid-to-low noise regime, with experimental results that bolster our claims. We further show that unlike previous BandMF subsampling schemes, our $b$-min-sep subsampling naturally extends to the multi-attribution user-level privacy setting.
- Abstract(参考訳): 我々は,BandMF,すなわちDP-SGDの帯域相関行列を用いて,繰り返し間の相関雑音によるプライバシー増幅について検討した。
我々は,Poisson と Balls-in-bins のサブサンプリングを一般化した新しいサブサンプリング手法である $b$-min-sep サブサンプリングを提案し,BandMF の実践的なバッチ化戦略を拡張し,解析に必要な構造特性を保ちながら,循環型 Poisson よりも強いプライバシー増幅を可能にする。
我々は,モンテカルロ会計を用いて,サブサンプリング手順におけるマルコフ構造を利用する動的プログラムに基づいて,ほぼ正確なプライバシ解析を行う。
我々は,高騒音下でのサイクリック・ポアソン・サブサンプリングと$b$-min-sepが一致し,中低騒音下での保証が厳格に向上し,我々の主張を裏付ける実験結果が得られた。
さらに、以前のBandMFサブサンプリング方式とは異なり、当社の$b$-min-sepサブサンプリングは、自然にマルチ属性のユーザレベルのプライバシー設定にまで拡張されていることも示しています。
関連論文リスト
- LoRA and Privacy: When Random Projections Help (and When They Don't) [55.65932772290123]
我々は、$S mapto M f(S)$ with $M sim W_d (1/r I_d, r)$という形のランダムマップである(ウィッシュアート)プロジェクション機構を導入し、その差分プライバシー特性について検討する。
ベクトル値が$f$の場合、付加雑音のない非漸近DP保証を証明し、ウィッシュアートのランダム性だけで十分であることを示す。
しかし,行列値クエリでは,ノイズフリーな環境では,そのメカニズムはDPではなく,その脆弱性を実証する。
論文 参考訳(メタデータ) (2026-01-29T13:43:37Z) - Revisiting Weighted Strategy for Non-stationary Parametric Bandits and MDPs [56.246783503873225]
本稿では,非定常パラメトリックバンディットの重み付け戦略を再考する。
本稿では,ウィンドウ/リスタートベースアルゴリズムと同様に,より単純な重みに基づくアルゴリズムを提案する。
我々のフレームワークは、他のパラメトリックバンディットの後悔の限界を改善するのに使える。
論文 参考訳(メタデータ) (2026-01-03T04:50:21Z) - MARS-Sep: Multimodal-Aligned Reinforced Sound Separation [72.85468563236005]
MARS-Sepは音分離のための強化学習フレームワークである。
クリッピングされた信頼領域サロゲートによって最適化された、ファクタライズされたベータマスクポリシを学ぶ。
複数のベンチマークの実験は、テキスト、オーディオ、イメージ-キュード分離において一貫した利得を示している。
論文 参考訳(メタデータ) (2025-10-12T09:05:28Z) - Scalable DP-SGD: Shuffling vs. Poisson Subsampling [61.19794019914523]
バッチサンプリングをシャッフルしたマルチエポック適応線形クエリ(ABLQ)機構のプライバシ保証に対する新たな下位境界を提供する。
ポアソンのサブサンプリングと比較すると大きな差がみられ, 以前の分析は1つのエポックに限られていた。
本稿では,大規模な並列計算を用いて,Poissonサブサンプリングを大規模に実装する実践的手法を提案する。
論文 参考訳(メタデータ) (2024-11-06T19:06:16Z) - Scaling up the Banded Matrix Factorization Mechanism for Differentially Private ML [3.5534933448684134]
近縁ノイズメカニズムは、大規模エポジロン小エピック訓練体制におけるDP-SGDの効果的な代替手段であることが証明されている。
現在の最先端のアプローチはDP-BandMFで、プライバシーの増幅とノイズ相関の利点を最適にバランスさせる。
論文 参考訳(メタデータ) (2024-05-24T20:19:15Z) - How Private are DP-SGD Implementations? [61.19794019914523]
2種類のバッチサンプリングを使用する場合、プライバシ分析の間に大きなギャップがあることが示される。
その結果,2種類のバッチサンプリングでは,プライバシ分析の間に大きなギャップがあることが判明した。
論文 参考訳(メタデータ) (2024-03-26T13:02:43Z) - Enhancing Trade-offs in Privacy, Utility, and Computational Efficiency through MUltistage Sampling Technique (MUST) [3.0939420223851446]
プライバシ・アンプリフィケーション(PA)のためのサブサンプリング手法のクラスを提案する。
本研究は2段階MUST法におけるPA効果と実用性について包括的に解析する。
MUSTの繰り返し適用に関するプライバシー損失構成分析を行う。
論文 参考訳(メタデータ) (2023-12-20T19:38:29Z) - Privacy Amplification for Matrix Mechanisms [18.13715687378337]
MMCCは、一般的な行列機構のサンプリングにより、プライバシの増幅を分析する最初のアルゴリズムである。
標準ベンチマークにおけるDP-FTRLアルゴリズムのプライバシ・ユーティリティトレードオフが大幅に改善されることを示す。
論文 参考訳(メタデータ) (2023-10-24T05:16:52Z) - Hiding Among the Clones: A Simple and Nearly Optimal Analysis of Privacy
Amplification by Shuffling [49.43288037509783]
ランダムシャッフルは、局所的ランダム化データの差分プライバシー保証を増幅する。
私たちの結果は、以前の作業よりも単純で、ほぼ同じ保証で差分プライバシーに拡張された新しいアプローチに基づいています。
論文 参考訳(メタデータ) (2020-12-23T17:07:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。