論文の概要: Near Instance-Optimality in Differential Privacy
- arxiv url: http://arxiv.org/abs/2005.10630v1
- Date: Sat, 16 May 2020 04:53:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-02 13:15:31.997965
- Title: Near Instance-Optimality in Differential Privacy
- Title(参考訳): 微分プライバシーにおけるニアインスタンス最適性
- Authors: Hilal Asi, John C. Duchi
- Abstract要約: 古典統計理論に着想を得た差分プライバシーにおけるインスタンス最適性の概念を考案する。
また、大規模な推定値に対してインスタンス最適(もしくはほぼインスタンス最適)な逆感度機構も開発する。
- 参考スコア(独自算出の注目度): 38.8726789833284
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop two notions of instance optimality in differential privacy,
inspired by classical statistical theory: one by defining a local minimax risk
and the other by considering unbiased mechanisms and analogizing the Cramer-Rao
bound, and we show that the local modulus of continuity of the estimand of
interest completely determines these quantities. We also develop a
complementary collection mechanisms, which we term the inverse sensitivity
mechanisms, which are instance optimal (or nearly instance optimal) for a large
class of estimands. Moreover, these mechanisms uniformly outperform the smooth
sensitivity framework on each instance for several function classes of
interest, including real-valued continuous functions. We carefully present two
instantiations of the mechanisms for median and robust regression estimation
with corresponding experiments.
- Abstract(参考訳): 古典的統計理論に触発された,微分プライバシーにおけるインスタンス最適性の2つの概念を考案する。一つは局所的ミニマックスリスクを定義し,もう一つは偏りのないメカニズムを考慮し,クラー・ラオ境界を類推することで,利害関係の連続性の局所的モジュラーがこれらの量を完全に決定することを示す。
我々はまた、大規模な推定値に対して、例最適(もしくはほぼインスタンス最適)な逆感度機構と呼ばれる相補的な収集機構を開発する。
さらに、これらのメカニズムは、実数値連続関数を含むいくつかの関数クラスにおいて、各インスタンス上の滑らかな感度フレームワークを均一に上回る。
中央値およびロバスト回帰推定機構の2つのインスタンス化を,対応する実験で慎重に提示する。
関連論文リスト
- A phase transition between positional and semantic learning in a solvable model of dot-product attention [30.96921029675713]
学習可能な,低次元の問合せとキーデータを備えた非次元自己注意層として,高次モデルドット積注意法について検討した。
位置注意機構(それぞれの位置に基づくトークンを含む)と意味注意機構(それぞれの意味に基づいて互いに結びついているトークンを含む)と、サンプルの複雑さが増大する前者から後者への遷移が示される。
論文 参考訳(メタデータ) (2024-02-06T11:13:54Z) - On the Optimization and Generalization of Multi-head Attention [28.33164313549433]
マルチアテンションヘッドを用いた場合の潜在的な最適化と一般化の利点について検討する。
単層多層自己アテンションモデルの勾配差学習における収束と一般化の保証を導出する。
論文 参考訳(メタデータ) (2023-10-19T12:18:24Z) - Causality-oriented robustness: exploiting general additive interventions [3.871660145364189]
本稿では因果性指向のロバスト性に着目し,不変勾配(DRIG)を用いた分布ロバスト性を提案する。
線形環境では、DRIGがデータ依存の分布シフトのクラスの中で頑健な予測を得られることを証明している。
我々は、予測性能をさらに向上させるために、半教師付きドメイン適応設定にアプローチを拡張した。
論文 参考訳(メタデータ) (2023-07-18T16:22:50Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z) - The Skellam Mechanism for Differentially Private Federated Learning [28.623090760737075]
2つの独立なポアソン確率変数の差に基づく離散微分プライバシー機構である多次元スケラム機構を導入する。
本研究では,2つのシフトしたSkellam分布間のR'enyi分散を,数値評価により解析し,シャープな境界を与える。
集中型プライバシアプリケーションと分散型プライバシアプリケーションの両方で有用であるが、フェデレーション学習の文脈でどのように適用できるかを検討する。
論文 参考訳(メタデータ) (2021-10-11T04:28:11Z) - An automatic differentiation system for the age of differential privacy [65.35244647521989]
Tritiumは、微分プライベート(DP)機械学習(ML)のための自動微分ベース感度分析フレームワークである
我々は、微分プライベート(DP)機械学習(ML)のための自動微分に基づく感度分析フレームワークTritiumを紹介する。
論文 参考訳(メタデータ) (2021-09-22T08:07:42Z) - Reinforcement Learning of Sequential Price Mechanisms [24.302600030585275]
本稿では、間接的なメカニズムに強化学習を導入し、既存のシーケンシャルな価格体系のクラスで作業する。
提案手法は,複数の実験環境において最適あるいは準最適メカニズムを学習可能であることを示す。
論文 参考訳(メタデータ) (2020-10-02T19:57:25Z) - A general framework for defining and optimizing robustness [74.67016173858497]
分類器の様々な種類の堅牢性を定義するための厳密でフレキシブルなフレームワークを提案する。
我々の概念は、分類器の堅牢性は正確性とは無関係な性質と考えるべきであるという仮定に基づいている。
我々は,任意の分類モデルに適用可能な,非常に一般的なロバスト性フレームワークを開発する。
論文 参考訳(メタデータ) (2020-06-19T13:24:20Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z) - VCG Mechanism Design with Unknown Agent Values under Stochastic Bandit
Feedback [104.06766271716774]
本研究では,エージェントが自己の価値を知らない場合に,マルチラウンドの福祉最大化機構設計問題について検討する。
まず、福祉に対する後悔の3つの概念、各エージェントの個々のユーティリティ、メカニズムの3つの概念を定義します。
当社のフレームワークは価格体系を柔軟に制御し、エージェントと販売者の後悔のトレードオフを可能にする。
論文 参考訳(メタデータ) (2020-04-19T18:00:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。