論文の概要: Deep Data Density Estimation through Donsker-Varadhan Representation

• arxiv url: http://arxiv.org/abs/2104.06612v1
• Date: Wed, 14 Apr 2021 03:38:32 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-15 22:32:06.817162
• Title: Deep Data Density Estimation through Donsker-Varadhan Representation
• Title（参考訳）: donsker-varadhan表現による深部データ密度推定
• Authors: Seonho Park, Panos M. Pardalos
• Abstract要約: 我々は,深層ニューラルネットワークとドンスカー・バラダン変分法を用いて,KL偏差に基づくデータ密度を簡易かつ効果的に推定する手法を提案する。 本研究では,ドンスカー・バラダン表現におけるデータと一様分布の発散に関する最適批判関数が,データ密度を推定できることを示した。
• 参考スコア（独自算出の注目度）: 5.276937617129594
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Estimating the data density is one of the challenging problems in deep learning. In this paper, we present a simple yet effective method for estimating the data density using a deep neural network and the Donsker-Varadhan variational lower bound on the KL divergence. We show that the optimal critic function associated with the Donsker-Varadhan representation on the KL divergence between the data and the uniform distribution can estimate the data density. We also present the deep neural network-based modeling and its stochastic learning. The experimental results and possible applications of the proposed method demonstrate that it is competitive with the previous methods and has a lot of possibilities in applied to various applications.
• Abstract（参考訳）: データ密度の推定は、ディープラーニングの難しい問題のひとつだ。 本稿では,深層ニューラルネットワークとkl分岐におけるdonsker-varadhan変分下限を用いて,簡易かつ効果的なデータ密度推定法を提案する。 データと均一分布のKL分散に関するDonsker-Varadhan表現に付随する最適批判関数がデータ密度を推定可能であることを示す。 また,深層ニューラルネットワークに基づくモデリングとその確率的学習について述べる。 提案手法の実験結果と応用の可能性は, 従来の手法と競合し, 様々な用途に適用できる可能性が高いことを示している。

関連論文リスト

• Score Approximation, Estimation and Distribution Recovery of Diffusion Models on Low-Dimensional Data [68.62134204367668]
  本稿では,未知の低次元線形部分空間上でデータをサポートする場合の拡散モデルのスコア近似,推定,分布回復について検討する。 適切に選択されたニューラルネットワークアーキテクチャでは、スコア関数を正確に近似し、効率的に推定することができる。 推定スコア関数に基づいて生成された分布は、データ幾何学構造を捕捉し、データ分布の近傍に収束する。
  論文  参考訳（メタデータ） (2023-02-14T17:02:35Z)
• Copula Density Neural Estimation [4.86067125387358]
  我々はコプラの概念を利用して、観測データに関連する確率密度関数を推定する。 その結果,新しい学習手法は複雑な分布をモデル化することができ,相互情報推定やデータ生成にも適用可能であることがわかった。
  論文  参考訳（メタデータ） (2022-11-25T10:53:27Z)
• Invariance Learning in Deep Neural Networks with Differentiable Laplace Approximations [76.82124752950148]
  我々はデータ拡張を選択するための便利な勾配法を開発した。 我々はKronecker-factored Laplace近似を我々の目的とする限界確率に近似する。
  論文  参考訳（メタデータ） (2022-02-22T02:51:11Z)
• Robust Learning via Ensemble Density Propagation in Deep Neural Networks [6.0122901245834015]
  本稿では,ディープニューラルネットワーク(DNN)の層を通した密度伝搬の問題を定式化し,それをエンサンブル密度伝搬法を用いて解く。 MNISTとCIFAR-10データセットを用いた実験は、ランダムノイズや敵攻撃に対するトレーニングモデルの堅牢性を大幅に改善したことを示している。
  論文  参考訳（メタデータ） (2021-11-10T21:26:08Z)
• Efficient training of lightweight neural networks using Online Self-Acquired Knowledge Distillation [51.66271681532262]
  オンライン自己獲得知識蒸留(OSAKD)は、ディープニューラルネットワークの性能をオンライン的に向上することを目的としている。 出力特徴空間におけるデータサンプルの未知確率分布を推定するために、k-nnノンパラメトリック密度推定手法を用いる。
  論文  参考訳（メタデータ） (2021-08-26T14:01:04Z)
• Influence Estimation and Maximization via Neural Mean-Field Dynamics [60.91291234832546]
  本稿では,ニューラル平均場(NMF)ダイナミクスを用いた新しい学習フレームワークを提案する。 我々のフレームワークは拡散ネットワークの構造とノード感染確率の進化を同時に学習することができる。
  論文  参考訳（メタデータ） (2021-06-03T00:02:05Z)
• Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
  本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。 本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。 我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
  論文  参考訳（メタデータ） (2020-06-16T18:45:20Z)
• Roundtrip: A Deep Generative Neural Density Estimator [6.704101978104295]
  本研究では,深部生成モデルに基づく汎用神経密度推定器として,ラウンドトリップを提案する。 一連の実験において、ラウンドトリップは様々な密度推定タスクにおいて最先端の性能を達成する。
  論文  参考訳（メタデータ） (2020-04-20T01:47:00Z)
• Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
  本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。 我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
  論文  参考訳（メタデータ） (2020-03-04T12:27:36Z)
• Learning Generative Models using Denoising Density Estimators [29.068491722778827]
  縮退密度推定器(DDE)に基づく新しい生成モデルを提案する。 我々の主な貢献は、KL分割を直接最小化することで生成モデルを得る新しい技術である。 実験結果から, 生成モデル学習における密度推定と競争性能が大幅に向上した。
  論文  参考訳（メタデータ） (2020-01-08T20:30:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。