論文の概要: A Unified View on Learning Unnormalized Distributions via Noise-Contrastive Estimation
- arxiv url: http://arxiv.org/abs/2409.18209v1
- Date: Thu, 26 Sep 2024 18:41:19 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-06 15:21:45.181225
- Title: A Unified View on Learning Unnormalized Distributions via Noise-Contrastive Estimation
- Title(参考訳): ノイズコントラスト推定による非正規分布学習の一考察
- Authors: J. Jon Ryu, Abhin Shah, Gregory W. Wornell,
- Abstract要約: 本稿では,非正規分布学習のためのノイズコントラスト推定(NCE)に基づく推定器群について検討する。
指数族に対しては、一連の正則性仮定の下で提案された推定器の有限サンプル収束率を確立する。
- 参考スコア(独自算出の注目度): 16.884217502333463
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper studies a family of estimators based on noise-contrastive estimation (NCE) for learning unnormalized distributions. The main contribution of this work is to provide a unified perspective on various methods for learning unnormalized distributions, which have been independently proposed and studied in separate research communities, through the lens of NCE. This unified view offers new insights into existing estimators. Specifically, for exponential families, we establish the finite-sample convergence rates of the proposed estimators under a set of regularity assumptions, most of which are new.
- Abstract(参考訳): 本稿では,非正規分布学習のためのノイズコントラスト推定(NCE)に基づく推定器群について検討する。
この研究の主な貢献は、NCEのレンズを通して独立した研究コミュニティで提案され研究されている、正規化されていない分布を学習するための様々な方法に関する統一的な視点を提供することである。
この統合されたビューは、既存の推定値に対する新たな洞察を提供する。
具体的には指数族に対して、提案された推定器の有限サンプル収束速度を正則性の仮定の集合の下で確立するが、そのほとんどは新しいものである。
関連論文リスト
- Aggregation Weighting of Federated Learning via Generalization Bound
Estimation [65.8630966842025]
フェデレートラーニング(FL)は通常、サンプル比率によって決定される重み付けアプローチを使用して、クライアントモデルパラメータを集約する。
上記の重み付け法を,各局所モデルの一般化境界を考慮した新しい戦略に置き換える。
論文 参考訳(メタデータ) (2023-11-10T08:50:28Z) - Sample-efficient estimation of entanglement entropy through supervised
learning [0.0]
我々は,ネットワーク推定の不確実性の推定に特に焦点をあてた。
基準線法が正しい推定値を与えるのに失敗するサンプルサイズ体制における収束を観察する。
量子シミュレーション実験において,本手法のさらなる応用として,非単体進化のための量子相互情報を推定する。
論文 参考訳(メタデータ) (2023-09-14T09:38:14Z) - Beyond Normal: On the Evaluation of Mutual Information Estimators [52.85079110699378]
そこで本研究では,既知の地道的相互情報を用いて,多種多様な分布群を構築する方法について述べる。
本稿では,問題の難易度に適応した適切な推定器の選択方法について,実践者のためのガイドラインを提供する。
論文 参考訳(メタデータ) (2023-06-19T17:26:34Z) - Diverse Projection Ensembles for Distributional Reinforcement Learning [6.754994171490016]
この研究は、分布的アンサンブルにおけるいくつかの異なる射影と表現の組み合わせを研究する。
我々は、平均1ドル=ワッサーシュタイン距離で測定されるアンサンブル不一致を、深層探査のボーナスとして利用するアルゴリズムを導出する。
論文 参考訳(メタデータ) (2023-06-12T13:59:48Z) - Improved Policy Evaluation for Randomized Trials of Algorithmic Resource
Allocation [54.72195809248172]
提案する新しい概念を応用した新しい推定器を提案する。
我々は,このような推定器が,サンプル手段に基づく一般的な推定器よりも精度が高いことを理論的に証明した。
論文 参考訳(メタデータ) (2023-02-06T05:17:22Z) - Excess risk analysis for epistemic uncertainty with application to
variational inference [110.4676591819618]
我々は、未知の分布からデータが生成される頻繁なセッティングにおいて、新しいEU分析を提示する。
一般化能力と、予測分布の分散やエントロピーなど、広く使用されているEUの測定値との関係を示す。
本研究では,PAC-ベイジアン理論に基づく予測とEU評価性能を直接制御する新しい変分推論を提案する。
論文 参考訳(メタデータ) (2022-06-02T12:12:24Z) - A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。
ブレグマン最小化の発散の観点から一般的な枠組みを開発する。
我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文 参考訳(メタデータ) (2021-12-07T01:23:20Z) - Estimating Potential Outcome Distributions with Collaborating Causal
Networks [0.0]
多くの因果推論アプローチは、潜在的治療による個人の結果の変化を特定することに重点を置いている。
提案手法は,正解分布を推定するために,協調因果ネットワーク (CCN) を提案する。
論文 参考訳(メタデータ) (2021-10-04T19:02:24Z) - Differentially private inference via noisy optimization [3.015622397986615]
本研究では, 雑音勾配降下法や雑音の強いニュートン法と併用して, 最適な個人推定値が得られることを示す。
シミュレーションにおける小サンプル実験性能の向上につながるバイアス補正の有効性を実証する。
論文 参考訳(メタデータ) (2021-03-19T19:55:55Z) - A Brief Introduction to Generative Models [8.031257560764336]
我々は、機械学習の中心課題として生成モデリングを導入し、動機づける。
KL-発散の最小化としてどのように解釈できるかを概説する。
本稿では,推定分布と実データ分布の差異を考察する代替逆アプローチを検討する。
論文 参考訳(メタデータ) (2021-02-27T16:49:41Z) - Distributional Reinforcement Learning via Moment Matching [54.16108052278444]
ニューラルネットワークを用いて各戻り分布から統計量の有限集合を学習する手法を定式化する。
我々の手法は、戻り分布とベルマン目標の間のモーメントの全ての順序を暗黙的に一致させるものとして解釈できる。
Atariゲームスイートの実験により,本手法は標準分布RLベースラインよりも優れていることが示された。
論文 参考訳(メタデータ) (2020-07-24T05:18:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。