論文の概要: Transformer-based Parameter Estimation in Statistics
- arxiv url: http://arxiv.org/abs/2403.00019v1
- Date: Wed, 28 Feb 2024 04:30:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-05 23:18:10.183170
- Title: Transformer-based Parameter Estimation in Statistics
- Title(参考訳): 統計学における変圧器に基づくパラメータ推定
- Authors: Xiaoxin Yin and David S. Yin
- Abstract要約: パラメータ推定のための変換器に基づく手法を提案する。
数値法で必要とされる確率密度関数を知る必要さえない。
提案手法は,平均二乗誤差で測定した手法と類似あるいは良好な精度を達成できることが示されている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Parameter estimation is one of the most important tasks in statistics, and is
key to helping people understand the distribution behind a sample of
observations. Traditionally parameter estimation is done either by closed-form
solutions (e.g., maximum likelihood estimation for Gaussian distribution), or
by iterative numerical methods such as Newton-Raphson method when closed-form
solution does not exist (e.g., for Beta distribution).
In this paper we propose a transformer-based approach to parameter
estimation. Compared with existing solutions, our approach does not require a
closed-form solution or any mathematical derivations. It does not even require
knowing the probability density function, which is needed by numerical methods.
After the transformer model is trained, only a single inference is needed to
estimate the parameters of the underlying distribution based on a sample of
observations. In the empirical study we compared our approach with maximum
likelihood estimation on commonly used distributions such as normal
distribution, exponential distribution and beta distribution. It is shown that
our approach achieves similar or better accuracy as measured by
mean-square-errors.
- Abstract(参考訳): パラメータ推定は統計学において最も重要なタスクの1つであり、観測サンプルの背後にある分布を理解するのに役立つ。
伝統的にパラメータ推定は閉形式解(例えばガウス分布の最大推定)または閉形式解が存在しなければニュートン・ラフソン法のような反復的な数値法(例えばベータ分布)によって行われる。
本稿では,パラメータ推定のためのトランスベース手法を提案する。
既存の解と比較して、我々の手法は閉形式解や数学的導出を必要としない。
数値的な方法によって必要となる確率密度関数を知る必要もない。
トランスモデルがトレーニングされた後、観測サンプルに基づいて基礎となる分布のパラメータを見積もるためには、単一の推論のみが必要である。
実験的検討では, 正規分布, 指数分布, ベータ分布などの一般的な分布について, 最大推定値と比較した。
その結果,本手法は平均2乗誤差で測定した手法と同様の精度あるいは精度が得られた。
関連論文リスト
- Sourcerer: Sample-based Maximum Entropy Source Distribution Estimation [5.390514665166601]
本稿では,最大エントロピー分布,すなわち可能な限り不確実性を維持することを優先する手法を提案する。
提案手法は,Sliced-Wasserstein距離を利用して,データセットとシミュレーションの差分を測定する。
提案手法の有用性を実証するために,何千もの測定値を持つ実験データセットから,ホジキン・ホクスリーニューロンモデルのパラメータのソース分布を推定する。
論文 参考訳(メタデータ) (2024-02-12T17:13:02Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Positive definite nonparametric regression using an evolutionary
algorithm with application to covariance function estimation [0.0]
定常過程の共分散関数を推定するための新しい非パラメトリック回帰フレームワークを提案する。
提案手法は, 正定性, 等方性, 単調性を推定者に課すことができる。
提案手法は,長距離依存に対する信頼性の高い推定値を提供する。
論文 参考訳(メタデータ) (2023-04-25T22:01:14Z) - Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。
これらの結果はサンプル状態と有限状態の両方で定式化する。
論文 参考訳(メタデータ) (2022-10-03T06:09:01Z) - Nonparametric Conditional Local Independence Testing [69.31200003384122]
条件付き局所独立は、連続的な時間プロセス間の独立関係である。
条件付き地域独立の非パラメトリックテストは行われていない。
二重機械学習に基づく非パラメトリックテストを提案する。
論文 参考訳(メタデータ) (2022-03-25T10:31:02Z) - Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。
これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文 参考訳(メタデータ) (2021-10-20T12:25:22Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳(メタデータ) (2021-06-07T17:44:49Z) - On a Variational Approximation based Empirical Likelihood ABC Method [1.5293427903448025]
本稿では,ABC法を提案する。
対象の対数姿勢は、期待される関節対数類似度とデータ生成密度の差分エントロピーの和として近似できることを示す。
論文 参考訳(メタデータ) (2020-11-12T21:24:26Z) - Characterizations of non-normalized discrete probability distributions
and their application in statistics [0.0]
これらの分布を識別する離散確率法則の質量関数について明示的な式を導出する。
我々の特徴づけ、従ってそれらの上に構築された応用は、確率法則の正規化定数に関する知識を一切必要としない。
論文 参考訳(メタデータ) (2020-11-09T12:08:12Z) - Estimation of Accurate and Calibrated Uncertainties in Deterministic
models [0.8702432681310401]
我々は,決定論的予測を確率論的予測に変換する手法を考案した。
そのためには,そのようなモデルの精度と信頼性(校正)を損なう必要がある。
隠れたノイズを正確に回収できる合成データと、大規模な実世界のデータセットの両方について、いくつかの例を示す。
論文 参考訳(メタデータ) (2020-03-11T04:02:56Z) - Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。
与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文 参考訳(メタデータ) (2020-03-02T09:10:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。