論文の概要: Sampling-Free Privacy Accounting for Matrix Mechanisms under Random Allocation
- arxiv url: http://arxiv.org/abs/2601.21636v1
- Date: Thu, 29 Jan 2026 12:40:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-30 16:22:49.814419
- Title: Sampling-Free Privacy Accounting for Matrix Mechanisms under Random Allocation
- Title(参考訳): ランダム配置によるマトリックス機構のサンプリングフリープライバシ会計
- Authors: Jan Schuchardt, Nikita Kalinin,
- Abstract要約: 本研究では,行列係数化を用いた差分プライベートモデル学習におけるランダムアロケーション下でのプライバシの増幅について検討する。
我々のフレームワークは任意のバンド化および非バンド化行列に適用できる。
- 参考スコア(独自算出の注目度): 6.087515951830486
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study privacy amplification for differentially private model training with matrix factorization under random allocation (also known as the balls-in-bins model). Recent work by Choquette-Choo et al. (2025) proposes a sampling-based Monte Carlo approach to compute amplification parameters in this setting. However, their guarantees either only hold with some high probability or require random abstention by the mechanism. Furthermore, the required number of samples for ensuring $(ε,δ)$-DP is inversely proportional to $δ$. In contrast, we develop sampling-free bounds based on Rényi divergence and conditional composition. The former is facilitated by a dynamic programming formulation to efficiently compute the bounds. The latter complements it by offering stronger privacy guarantees for small $ε$, where Rényi divergence bounds inherently lead to an over-approximation. Our framework applies to arbitrary banded and non-banded matrices. Through numerical comparisons, we demonstrate the efficacy of our approach across a broad range of matrix mechanisms used in research and practice.
- Abstract(参考訳): 本研究では,ランダムアロケーション(バルズ・イン・ビンス・モデルとしても知られる)の下で,行列係数化を用いた差分プライベートモデルトレーニングのためのプライバシ増幅について検討する。
Choquette-Choo et al (2025) による最近の研究は、この設定で増幅パラメータを計算するためにサンプリングベースのモンテカルロアプローチを提案する。
しかしながら、それらの保証は高い確率でのみ保持するか、あるいはメカニズムによるランダムな棄権を必要とする。
さらに、$(ε,δ)$-DPを保証するために必要なサンプル数は、逆比例$δ$である。
対照的に、Rényiの発散と条件構成に基づくサンプリング自由境界を開発する。
前者は動的プログラミングの定式化によって促進され、境界を効率的に計算する。
後者は、Rényiの発散バウンダリが本質的に過度な近似につながる小さなε$に対して、より強力なプライバシー保証を提供することで、これを補完する。
我々のフレームワークは任意のバンド化および非バンド化行列に適用できる。
数値的な比較を通じて,研究や実践に使用される行列機構の幅広い範囲にわたるアプローチの有効性を実証する。
関連論文リスト
- LoRA and Privacy: When Random Projections Help (and When They Don't) [55.65932772290123]
我々は、$S mapto M f(S)$ with $M sim W_d (1/r I_d, r)$という形のランダムマップである(ウィッシュアート)プロジェクション機構を導入し、その差分プライバシー特性について検討する。
ベクトル値が$f$の場合、付加雑音のない非漸近DP保証を証明し、ウィッシュアートのランダム性だけで十分であることを示す。
しかし,行列値クエリでは,ノイズフリーな環境では,そのメカニズムはDPではなく,その脆弱性を実証する。
論文 参考訳(メタデータ) (2026-01-29T13:43:37Z) - Beyond Covariance Matrix: The Statistical Complexity of Private Linear Regression [66.93988594607842]
プライバシー制約の下では、プライベート線形回帰の複雑さは通常の共分散行列によって捉えられる。
最適率を達成するための情報重み付け回帰手法を提案する。
特に、我々の結果は、共同プライバシーは追加費用がほとんどないことを示している。
論文 参考訳(メタデータ) (2025-02-18T18:35:24Z) - Privacy amplification by random allocation [18.231854497751137]
我々は,ユーザのデータがランダムに選択された$k$ステップにおいて,$t$ステップのシーケンス(あるいはセット)から一様に選択されるサンプリングスキームのプライバシアンプリフィケーション特性について考察する。
このスキームの既存の分析は、シャッフルによるプライバシーの増幅に頼り、過度に保守的な境界を導いたり、モンテカルロシミュレーションを必要とする。
特に、ランダムな$k$-out-of-t$アロケーションのプライバシ保証は、よく研究されている独立性(あるいはPoisson)サブサンプリングのプライバシー保証によって上限づけられることを示す。
論文 参考訳(メタデータ) (2025-02-12T08:32:10Z) - Model-free Low-Rank Reinforcement Learning via Leveraged Entry-wise Matrix Estimation [48.92318828548911]
政策改善と政策評価の段階を交互に行うモデルフリー学習アルゴリズムであるLoRa-PI(Low-Rank Policy Iteration)を提案する。
LoRa-PIは$widetildeO(S+Aover mathrmpoly (1-gamma)varepsilon2)$サンプルを使用して$varepsilon$-optimal Policyを学習する。
論文 参考訳(メタデータ) (2024-10-30T20:22:17Z) - Optimal Multi-Distribution Learning [88.3008613028333]
マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。
本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-08T16:06:29Z) - Simulation-based, Finite-sample Inference for Privatized Data [14.218697973204065]
本稿では,統計的に有効な信頼区間と仮説テストを生成するためのシミュレーションベースの"repro sample"手法を提案する。
本手法は様々な個人推論問題に適用可能であることを示す。
論文 参考訳(メタデータ) (2023-03-09T15:19:31Z) - Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。
提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文 参考訳(メタデータ) (2020-06-24T17:53:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。