論文の概要: Complex-valued deep learning with differential privacy
- arxiv url: http://arxiv.org/abs/2110.03478v1
- Date: Thu, 7 Oct 2021 14:03:00 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-08 23:46:22.705572
- Title: Complex-valued deep learning with differential privacy
- Title(参考訳): 差分プライバシーを用いた複雑評価深層学習
- Authors: Alexander Ziller, Dmitrii Usynin, Moritz Knolle, Kerstin Hammernik,
Daniel Rueckert, Georgios Kaissis
- Abstract要約: 複素数値関数に対する差分プライバシー(DP)の拡張である$zeta$-DPを提示する。
3つの複雑なタスクに対して$zeta$-DP-SGDを実験的に評価した。
我々の実験は、厳密なプライバシー保証と優れた実用性によって、複雑に評価されたニューラルネットワークのDPトレーニングが可能であることを実証した。
- 参考スコア(独自算出の注目度): 61.95268687559429
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present $\zeta$-DP, an extension of differential privacy (DP) to
complex-valued functions. After introducing the complex Gaussian mechanism,
whose properties we characterise in terms of $(\varepsilon, \delta)$-DP and
R\'enyi-DP, we present $\zeta$-DP stochastic gradient descent ($\zeta$-DP-SGD),
a variant of DP-SGD for training complex-valued neural networks. We
experimentally evaluate $\zeta$-DP-SGD on three complex-valued tasks, i.e.
electrocardiogram classification, speech classification and magnetic resonance
imaging (MRI) reconstruction. Moreover, we provide $\zeta$-DP-SGD benchmarks
for a large variety of complex-valued activation functions and on a
complex-valued variant of the MNIST dataset. Our experiments demonstrate that
DP training of complex-valued neural networks is possible with rigorous privacy
guarantees and excellent utility.
- Abstract(参考訳): 複素数値関数に対する差分プライバシー(DP)の拡張である$\zeta$-DPを提示する。
複素ガウス機構を導入し、その性質を$(\varepsilon, \delta)$-DPとR\'enyi-DPで表すと、複素数値ニューラルネットワークの訓練のためのDP-SGDの変種である$\zeta$-DP確率勾配降下(\zeta$-DP-SGD)を示す。
心電図分類,音声分類,磁気共鳴画像(MRI)再構成の3つの複雑な課題に対して,$\zeta$-DP-SGDを実験的に評価した。
さらに、多種多様な複素値アクティベーション関数とmnistデータセットの複素値変種に対して$\zeta$-dp-sgdベンチマークを提供する。
本実験では,複雑なニューラルネットワークのdpトレーニングが,厳密なプライバシー保証と優れた実用性によって可能であることを実証する。
関連論文リスト
- Higher Order Gauge Equivariant CNNs on Riemannian Manifolds and
Applications [7.322121417864824]
我々はゲージ同変畳み込み(GEVNet)と呼ばれるゲージ同変畳み込みの高次一般化を導入する。
これにより、空間的に拡張された非線形相互作用を、大域的等距離と等値性を維持しながら、与えられた場内でモデル化することができる。
神経画像データ実験では、結果として生じる2部構造を用いて、拡散磁気共鳴画像(dMRI)からLewy Body Disease(DLB)、Alzheimer's Disease(AD)、Parkinson's Disease(PD)を自動判別する。
論文 参考訳(メタデータ) (2023-05-26T06:02:31Z) - High-Dimensional Smoothed Entropy Estimation via Dimensionality
Reduction [14.53979700025531]
微分エントロピー$h(X+Z)$を独立に$n$で推定し、同じ分散サンプルを$X$とする。
絶対誤差損失では、上記の問題はパラメータ推定率$fraccDsqrtn$である。
我々は、エントロピー推定の前に主成分分析(PCA)を通して低次元空間に$X$を投影することで、この指数的なサンプル複雑性を克服する。
論文 参考訳(メタデータ) (2023-05-08T13:51:48Z) - Differentially Private Coordinate Descent for Composite Empirical Risk
Minimization [13.742100810492014]
機械学習モデルは、トレーニングに使用されるデータに関する情報をリークすることができる。
Differentially Private (DP) のGradient Descent (DP-SGD) のような最適化アルゴリズムは、これを緩和するために設計されている。
差分的私的リスク最小化法(DP-ERM: Differentially Private Coordinate Descent:DP-CD)を提案する。
論文 参考訳(メタデータ) (2021-10-22T10:22:48Z) - On Reward-Free RL with Kernel and Neural Function Approximations:
Single-Agent MDP and Markov Game [140.19656665344917]
エージェントが事前に特定された報酬関数を使わずに環境を徹底的に探索することを目的とした報酬のないRL問題について検討する。
関数近似の文脈でこの問題に取り組み、強力な関数近似器を活用する。
我々は、カーネルとニューラルファンクション近似器を用いた、証明可能な効率の良い報酬なしRLアルゴリズムを確立した。
論文 参考訳(メタデータ) (2021-10-19T07:26:33Z) - Reward-Free Model-Based Reinforcement Learning with Linear Function
Approximation [92.99933928528797]
エピソードマルコフ決定過程(MDP)に対する線形関数近似を用いたモデルに基づく無報酬強化学習について検討する。
計画段階では、特定の報酬関数が与えられ、探索フェーズから収集したサンプルを使用して良い政策を学ぶ。
任意の報酬関数に対して$epsilon$-optimal Policyを得るには,最大$tilde O(H4d(H + d)epsilon-2)$ episodesをサンプリングする必要がある。
論文 参考訳(メタデータ) (2021-10-12T23:03:58Z) - Differentially private training of neural networks with Langevin
dynamics forcalibrated predictive uncertainty [58.730520380312676]
その結果,DP-SGD(差分偏差勾配勾配勾配勾配勾配)は,低校正・過信深層学習モデルが得られることがわかった。
これは、医療診断など、安全クリティカルな応用にとって深刻な問題である。
論文 参考訳(メタデータ) (2021-07-09T08:14:45Z) - Brain Image Synthesis with Unsupervised Multivariate Canonical
CSC$\ell_4$Net [122.8907826672382]
我々は,新しいCSC$ell_4$Netを用いて,イントレとイントラモーダルの両方にまたがる専用特徴を学習することを提案する。
論文 参考訳(メタデータ) (2021-03-22T05:19:40Z) - Deep Representational Similarity Learning for analyzing neural
signatures in task-based fMRI dataset [81.02949933048332]
本稿では、表現類似度分析(RSA)の深部拡張であるDRSL(Deep Representational similarity Learning)を開発する。
DRSLは、多数の被験者を持つfMRIデータセットにおける様々な認知タスク間の類似性を分析するのに適している。
論文 参考訳(メタデータ) (2020-09-28T18:30:14Z) - Analysis of Deep Complex-Valued Convolutional Neural Networks for MRI
Reconstruction [9.55767753037496]
本研究では、2チャネル実数値ネットワークの代わりに画像再構成のための終端複素値畳み込みニューラルネットワークについて検討する。
複雑な値の畳み込みを持つ複素値CNNは、トレーニング可能なパラメータの数が同じ実値の畳み込みよりも優れた再構成を提供することがわかった。
論文 参考訳(メタデータ) (2020-04-03T19:00:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。