論文の概要: Differentially private Riemannian optimization

• arxiv url: http://arxiv.org/abs/2205.09494v1
• Date: Thu, 19 May 2022 12:04:15 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-20 14:15:38.469312
• Title: Differentially private Riemannian optimization
• Title（参考訳）: 微分プライベートリーマン最適化
• Authors: Andi Han, Bamdev Mishra, Pratik Jawanpuria, Junbin Gao
• Abstract要約: 微分プライベートの枠組みを導入する。 現実的なリスクの問題です。 パラメータは a に制約される。 ロックフェラー多様体。 提案手法の有効性をいくつかの応用例で示す。
• 参考スコア（独自算出の注目度）: 40.23168342389821
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we study the differentially private empirical risk minimization problem where the parameter is constrained to a Riemannian manifold. We introduce a framework of differentially private Riemannian optimization by adding noise to the Riemannian gradient on the tangent space. The noise follows a Gaussian distribution intrinsically defined with respect to the Riemannian metric. We adapt the Gaussian mechanism from the Euclidean space to the tangent space compatible to such generalized Gaussian distribution. We show that this strategy presents a simple analysis as compared to directly adding noise on the manifold. We further show privacy guarantees of the proposed differentially private Riemannian (stochastic) gradient descent using an extension of the moments accountant technique. Additionally, we prove utility guarantees under geodesic (strongly) convex, general nonconvex objectives as well as under the Riemannian Polyak-{\L}ojasiewicz condition. We show the efficacy of the proposed framework in several applications.
• Abstract（参考訳）: 本稿では、パラメータがリーマン多様体に制約される微分プライベートな経験的リスク最小化問題について検討する。 接空間上のリーマン勾配に雑音を加えることにより、微分プライベートリーマン最適化の枠組みを導入する。 このノイズは本質的にリーマン計量に関して定義されるガウス分布に従う。 ユークリッド空間からそのような一般化されたガウス分布に相反する接空間にガウスの機構を適用する。 この戦略は、多様体に直接雑音を加えるよりも単純な解析であることを示す。 さらに,モーメント・アカウンタラント手法の拡張を用いて,提案する微分的リーマン(確率的)勾配降下のプライバシー保証を示す。 さらに、測地的(強)凸、一般非凸目的、およびリーマン的ポリアック-{\L}ojasiewicz条件の下で有効性を保証する。 いくつかのアプリケーションで提案手法の有効性を示す。

関連論文リスト

• Streamlining in the Riemannian Realm: Efficient Riemannian Optimization with Loopless Variance Reduction [4.578425862931332]
  本研究はユークリッドとリーマンの設定の両方で用いられる決定的な還元機構に焦点を当てる。 ユークリッド法により動機付け, コインフリップによって引き起こされる計算で外ループを置換するR法を導入する。 フレームワークとしてR-を用いることで、様々な重要な設定に適用可能であることを示す。
  論文  参考訳（メタデータ） (2024-03-11T12:49:37Z)
• Gaussian Differential Privacy on Riemannian Manifolds [10.296090438643132]
  この研究は、一般リーマン多様体に対応するためにGDPフレームワークを拡張する最初の事例である。 一次元多様体上でのプライバシ予算を$mu$で評価するための簡単なアルゴリズムを提供する。 我々はまた、任意のリーマン多様体上で一定の曲率を持つ$mu$を計算するために、多元的マルコフ・チェイン・モンテカルロ(MCMC)ベースのアルゴリズムも導入する。
  論文  参考訳（メタデータ） (2023-11-09T04:46:27Z)
• Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
  本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。 これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
  論文  参考訳（メタデータ） (2023-11-08T15:17:13Z)
• Riemannian stochastic optimization methods avoid strict saddle points [68.80251170757647]
  研究中のポリシーは、確率 1 の厳密なサドル点/部分多様体を避けていることを示す。 この結果は、アルゴリズムの極限状態が局所最小値にしかならないことを示すため、重要な正当性チェックを提供する。
  論文  参考訳（メタデータ） (2023-11-04T11:12:24Z)
• Curvature-Independent Last-Iterate Convergence for Games on Riemannian Manifolds [77.4346324549323]
  本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。 我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• First-Order Algorithms for Min-Max Optimization in Geodesic Metric Spaces [93.35384756718868]
  min-maxアルゴリズムはユークリッド設定で解析されている。 指数関数法 (RCEG) が線形速度で最終収束を補正したことを証明した。
  論文  参考訳（メタデータ） (2022-06-04T18:53:44Z)
• A Riemannian smoothing steepest descent method for non-Lipschitz optimization on submanifolds [15.994495285950293]
  部分多様体上の非Lipschitz関数を最小化するスムースな急降下法を提案する。 滑らか化関数によって生成される列の任意の点が元の非リプシッツ問題の極限点であることを証明する。 提案手法の効率性を示すために, 数値実験を行った。
  論文  参考訳（メタデータ） (2021-04-09T05:38:28Z)
• Stochastic Zeroth-order Riemannian Derivative Estimation and Optimization [15.78743548731191]
  多様体非線型性の非線型性の難しさを克服するために、ガウス滑らか化関数のオラクル版を提案する。 ニューラルネットワークに対するロボティクスとブラックボックス攻撃に対するブラックボックス剛性制御における,結果によるアルゴリズムの適用性と実世界の応用を実証する。
  論文  参考訳（メタデータ） (2020-03-25T06:58:19Z)
• From Nesterov's Estimate Sequence to Riemannian Acceleration [52.99237600875452]
  我々は、Nesterov氏の推定シーケンス手法の代替解析を開発し、これも独立性を持つ可能性がある。 そして、この解析をリーマン集合に拡張し、非ユークリッド構造による鍵的困難をある計量歪みに局所化する」。
  論文  参考訳（メタデータ） (2020-01-24T04:17:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。