論文の概要: Nonparametric Score Estimators
- arxiv url: http://arxiv.org/abs/2005.10099v2
- Date: Tue, 30 Jun 2020 06:41:58 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 04:55:46.458181
- Title: Nonparametric Score Estimators
- Title(参考訳): 非パラメトリックスコア推定器
- Authors: Yuhao Zhou, Jiaxin Shi, Jun Zhu
- Abstract要約: 未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
- 参考スコア(独自算出の注目度): 49.42469547970041
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Estimating the score, i.e., the gradient of log density function, from a set
of samples generated by an unknown distribution is a fundamental task in
inference and learning of probabilistic models that involve flexible yet
intractable densities. Kernel estimators based on Stein's methods or score
matching have shown promise, however their theoretical properties and
relationships have not been fully-understood. We provide a unifying view of
these estimators under the framework of regularized nonparametric regression.
It allows us to analyse existing estimators and construct new ones with
desirable properties by choosing different hypothesis spaces and regularizers.
A unified convergence analysis is provided for such estimators. Finally, we
propose score estimators based on iterative regularization that enjoy
computational benefits from curl-free kernels and fast convergence.
- Abstract(参考訳): 未知分布によって生成されたサンプルの集合からログ密度関数の勾配を推定することは、柔軟で難解な密度を含む確率モデルの推論と学習における基本的なタスクである。
スタインの方法やスコアマッチングに基づくカーネル推定器は約束を示しているが、その理論的性質と関係は完全には理解されていない。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
これにより、異なる仮説空間と正規化子を選択することで、既存の推定子を分析し、望ましい性質を持つ新しいものを構築することができます。
そのような推定器には統一収束解析が提供される。
最後に,カールフリーカーネルと高速収束による計算便益を享受する反復正規化に基づくスコア推定器を提案する。
関連論文リスト
- Debiased Regression for Root-N-Consistent Conditional Mean Estimation [10.470114319701576]
本稿では,高次元および非パラメトリック回帰推定器を含む回帰推定器のデバイアス化手法を提案する。
理論解析により,提案した推定器は,緩やかな収束率条件下で$sqrtn$-consistencyと正規性を達成することを示した。
提案手法は,推定精度の向上や信頼区間の簡易化など,いくつかの利点を提供する。
論文 参考訳(メタデータ) (2024-11-18T17:25:06Z) - Semiparametric conformal prediction [79.6147286161434]
リスクに敏感なアプリケーションは、複数の、潜在的に相関したターゲット変数に対して、よく校正された予測セットを必要とする。
スコアをランダムなベクトルとして扱い、それらの連接関係構造を考慮した予測セットを構築することを目的とする。
実世界のレグレッション問題に対して,所望のカバレッジと競争効率について報告する。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - On diffusion-based generative models and their error bounds: The log-concave case with full convergence estimates [5.13323375365494]
我々は,強い対数対数データの下での拡散に基づく生成モデルの収束挙動を理論的に保証する。
スコア推定に使用される関数のクラスは、スコア関数上のリプシッツネスの仮定を避けるために、リプシッツ連続関数からなる。
この手法はサンプリングアルゴリズムにおいて最もよく知られた収束率をもたらす。
論文 参考訳(メタデータ) (2023-11-22T18:40:45Z) - Statistical Barriers to Affine-equivariant Estimation [10.077727846124633]
本研究では,ロバスト平均推定のためのアフィン同変推定器の定量的性能について検討する。
古典的推定器は定量的に準最適であるか、あるいは量的保証が欠如していることが分かる。
我々は、下界にほぼ一致する新しいアフィン同変推定器を構築する。
論文 参考訳(メタデータ) (2023-10-16T18:42:00Z) - Bayesian Hierarchical Models for Counterfactual Estimation [12.159830463756341]
本稿では,多種多様なカウンターファクトの集合を推定する確率的パラダイムを提案する。
摂動を事前分布関数によるランダム変数として扱う。
収束特性の優れた勾配ベースサンプリング器は、後方サンプルを効率的に計算する。
論文 参考訳(メタデータ) (2023-01-21T00:21:11Z) - Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。
これらの結果はサンプル状態と有限状態の両方で定式化する。
論文 参考訳(メタデータ) (2022-10-03T06:09:01Z) - A Stochastic Newton Algorithm for Distributed Convex Optimization [62.20732134991661]
均質な分散凸最適化のためのNewtonアルゴリズムを解析し、各マシンが同じ人口目標の勾配を計算する。
提案手法は,既存の手法と比較して,性能を損なうことなく,必要な通信ラウンドの数,頻度を低減できることを示す。
論文 参考訳(メタデータ) (2021-10-07T17:51:10Z) - Estimating Gradients for Discrete Random Variables by Sampling without
Replacement [93.09326095997336]
我々は、置換のないサンプリングに基づいて、離散確率変数に対する期待値の偏りのない推定器を導出する。
推定器は3つの異なる推定器のラオ・ブラックウェル化として導出可能であることを示す。
論文 参考訳(メタデータ) (2020-02-14T14:15:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。