論文の概要: Quadratic Objective Perturbation: Curvature-Based Differential Privacy

• arxiv url: http://arxiv.org/abs/2605.05905v1
• Date: Thu, 07 May 2026 09:16:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.656409
• Title: Quadratic Objective Perturbation: Curvature-Based Differential Privacy
• Title（参考訳）: 擬似目的摂動 : 曲率に基づく微分プライバシー
• Authors: Daniel Cortild, Coralia Cartis,
• Abstract要約: 擬似目的摂動(QOP)を導入し、ランダムな二次形式で目的を摂動する。 この摂動は強い凸性をもたらし、曲率によって問題の安定性を強制する。 この分析を近似解に拡張し、不正確な解決の下でプライバシ保証が保存されていることを示す。
• 参考スコア（独自算出の注目度）: 0.14323566945483496
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Objective perturbation is a standard mechanism in differentially private empirical risk minimization. In particular, Linear Objective Perturbation (LOP) enforces privacy by adding a random linear term, while strong convexity and stability are ensured by an additional deterministic quadratic term. However, this approach requires the strong assumption of bounded gradients of the loss function, which excludes many modern machine learning models. In this work, we introduce Quadratic Objective Perturbation (QOP), which perturbs the objective with a random quadratic form. This perturbation induces strong convexity and enforces stability of the problem through curvature, thereby enabling privacy and allowing sensitivity to be controlled through spectral properties of the perturbation rather than assumptions on the gradients. As a result, we obtain $(\varepsilon, δ)$-differential privacy under weaker assumptions, in the interpolation regime. Furthermore, we extend the analysis to account for approximate solutions, showing that privacy guarantees are preserved under inexact solves. Additionally, we derive utility guarantees in terms of empirical excess risk, and provide a theoretical and numerical comparison to LOP, highlighting the advantages of curvature-based perturbations. Finally, we discuss algorithmic aspects and show that the resulting problems can be solved efficiently using modern splitting schemes.
• Abstract（参考訳）: 客観的摂動(Objective perturbation)は、個人の経験的リスク最小化において標準的なメカニズムである。 特に、線形目的摂動(LOP)は、ランダムな線形項を追加することによってプライバシーを強制するが、強い凸性と安定性は、さらに決定論的二次項によって保証される。 しかし、このアプローチは、多くの現代の機械学習モデルを排除する損失関数の有界勾配の強い仮定を必要とする。 本研究では, 擬似目的摂動(QOP)を導入し, ランダムな二次形式で目的を摂動する。 この摂動は強い凸性をもたらし、曲率によって問題の安定性を強制し、プライバシーを許容し、勾配の仮定よりも摂動のスペクトル特性によって感度を制御できるようにする。 その結果、補間体制において、弱い仮定の下で$(\varepsilon, δ)$-差分プライバシーを得る。 さらに、この分析を近似解に拡張し、不正確な解決の下でプライバシ保証が保存されていることを示す。 さらに, 有効性保証を経験的過剰リスクの観点から導き, LOPと理論的, 数値的に比較し, 曲率に基づく摂動の利点を浮き彫りにした。 最後に,アルゴリズム的な側面を議論し,現代の分割方式を用いて効率よく解けることを示す。

関連論文リスト

• Derivative-Free Sequential Quadratic Programming for Equality-Constrained Stochastic Optimization [3.2489082010225485]
  我々は、客観的で決定論的な等式制約で非線形最適化問題を解くことを検討する。 本稿では,DF-SSQP法を提案する。 標準仮定では,提案したDF-SSQP法を大域的にほぼ収束させる。
  論文  参考訳（メタデータ） (2025-10-25T23:51:20Z)
• Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
  乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。 以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2025-10-22T19:06:39Z)
• Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models [57.52124921268249]
  本稿では,1次と2次の両方の定常点を見つけるための信頼逐次準計画法を提案する。 本手法は, 1次定常点に収束するため, 対象対象の近似を最小化して定義された各イテレーションの勾配ステップを計算する。 2階定常点に収束するため,本手法は負曲率を減少するヘッセン行列を探索する固有ステップも計算する。
  論文  参考訳（メタデータ） (2024-09-24T04:39:47Z)
• Randomized algorithms and PAC bounds for inverse reinforcement learning in continuous spaces [47.907236421762626]
  本研究は、連続状態と作用空間を持つ離散時間割引マルコフ決定過程を研究する。 まず、専門家の政策全体にアクセスでき、逆問題に対する解決策の集合を特徴づけるケースについて考察する。
  論文  参考訳（メタデータ） (2024-05-24T12:53:07Z)
• Privacy Risk for anisotropic Langevin dynamics using relative entropy bounds [1.911678487931003]
  異方性ノイズが、より優れたプライバシーと精度のトレードオフにつながることを示す。 異方性ノイズが、より優れたプライバシーと精度のトレードオフにつながることを示す。
  論文  参考訳（メタデータ） (2023-02-01T21:32:22Z)
• Distributed Stochastic Optimization under a General Variance Condition [13.911633636387059]
  分散最適化は最近、大規模な機械学習問題の解決に効果があるとして、大きな注目を集めている。 我々は、古典的フェデレーション平均化(Avg)を再考し、滑らかな非対象関数に対して、緩やかな分散しか持たない収束結果を確立する。 ほぼ1つの定常収束点も勾配条件の下で成立する。
  論文  参考訳（メタデータ） (2023-01-30T05:48:09Z)
• Differentially Private Stochastic Gradient Descent with Low-Noise [49.981789906200035]
  現代の機械学習アルゴリズムは、データからきめ細かい情報を抽出して正確な予測を提供することを目的としており、プライバシー保護の目標と矛盾することが多い。 本稿では、プライバシを保ちながら優れたパフォーマンスを確保するために、プライバシを保存する機械学習アルゴリズムを開発することの実践的および理論的重要性について論じる。
  論文  参考訳（メタデータ） (2022-09-09T08:54:13Z)
• Inference on Strongly Identified Functionals of Weakly Identified Functions [71.42652863687117]
  本研究では,ニュアンス関数が存在しない場合でも,関数を強く識別するための新しい条件について検討する。 本稿では,プライマリおよびデバイアスのニュアンス関数に対するペナル化ミニマックス推定器を提案する。
  論文  参考訳（メタデータ） (2022-08-17T13:38:31Z)
• Improving Generalization via Uncertainty Driven Perturbations [107.45752065285821]
  トレーニングデータポイントの不確実性による摂動について考察する。 損失駆動摂動とは異なり、不確実性誘導摂動は決定境界を越えてはならない。 線形モデルにおいて,UDPがロバスト性マージン決定を達成することが保証されていることを示す。
  論文  参考訳（メタデータ） (2022-02-11T16:22:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。