論文の概要: Particle swarm optimization with Applications to Maximum Likelihood Estimation and Penalized Negative Binomial Regression
- arxiv url: http://arxiv.org/abs/2405.12386v1
- Date: Mon, 20 May 2024 21:42:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-22 14:47:55.574135
- Title: Particle swarm optimization with Applications to Maximum Likelihood Estimation and Penalized Negative Binomial Regression
- Title（参考訳）: 粒子群最適化と最大近似と負の負二項回帰への応用
- Authors: Sisi Shao, Junhyung Park, Weng Kee Wong,
- Abstract要約: 本稿では、統計学で使われている多くのアルゴリズムの代替として、Particle Swarm Optimization (PSO)を提案する。
PSOは上記のルーチンと同じ結果を再現できるだけでなく、より最適な結果や、他のルーチンが収束できない結果も生成できる。
- 参考スコア（独自算出の注目度）: 5.591074369497795
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: General purpose optimization routines such as nlminb, optim (R) or nlmixed (SAS) are frequently used to estimate model parameters in nonstandard distributions. This paper presents Particle Swarm Optimization (PSO), as an alternative to many of the current algorithms used in statistics. We find that PSO can not only reproduce the same results as the above routines, it can also produce results that are more optimal or when others cannot converge. In the latter case, it can also identify the source of the problem or problems. We highlight advantages of using PSO using four examples, where: (1) some parameters in a generalized distribution are unidentified using PSO when it is not apparent or computationally manifested using routines in R or SAS; (2) PSO can produce estimation results for the log-binomial regressions when current routines may not; (3) PSO provides flexibility in the link function for binomial regression with LASSO penalty, which is unsupported by standard packages like GLM and GENMOD in Stata and SAS, respectively, and (4) PSO provides superior MLE estimates for an EE-IW distribution compared with those from the traditional statistical methods that rely on moments.
- Abstract（参考訳）: nlminb, optim (R) や nlmixed (SAS) などの汎用最適化ルーチンは、非標準分布のモデルパラメータを推定するために頻繁に使用される。
本稿では、統計学で使われている多くのアルゴリズムの代替として、Particle Swarm Optimization (PSO)を提案する。
PSOは上記のルーチンと同じ結果を再現できるだけでなく、より最適な結果や、他のルーチンが収束できない結果も生成できる。
後者の場合、問題や問題の原因を特定することもできる。
一般化分布のいくつかのパラメータは、(RまたはSASのルーチンを用いて明らかにまたは計算的に表されていない場合)PSOを用いて未同定され、(2)PSOは、現在のルーチンがそうでない場合の対数二項回帰の予測結果を生成することができる、(3)PSOは、それぞれGLMやGENMODなどの標準パッケージによって支持されるLASSOペナルティによる二項回帰のリンク関数に柔軟性を提供する、(4)PSOは、モーメントに依存する従来の統計手法と比較して、EE-IW分布の優れたMLE推定を提供する、という4つの例を用いてPSOを使用する利点を強調した。
関連論文リスト
- Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。
これらの結果はサンプル状態と有限状態の両方で定式化する。
論文 参考訳（メタデータ） (2022-10-03T06:09:01Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳（メタデータ） (2022-09-27T07:58:25Z) - BR-SNIS: Bias Reduced Self-Normalized Importance Sampling [11.150337082767862]
重要サンプリング(Importance Smpling、IS)とは、提案分布と関連する重要度から独立したサンプルを用いて、目標分布下での期待を近似する手法である。
本稿では,SNISの複雑さが本質的に同じであり,分散を増大させることなくバイアスを大幅に低減するBR-SNISを提案する。
提案アルゴリズムには、新しいバイアス、分散、高確率境界を含む厳密な理論的結果を与える。
論文 参考訳（メタデータ） (2022-07-13T17:14:10Z) - Maximum Likelihood Estimation in Gaussian Process Regression is
Ill-Posed [7.018149356115115]
最大極大推定が適切である状況を確立することは、依然として未解決の問題である。
本稿は、最大可能性推定器が正しく提示されないシナリオを特定する。
最大推定の失敗はガウス過程の民俗学の一部ではあるが、これらの厳密な理論的な結果はそれらの種類の最初のものと思われる。
論文 参考訳（メタデータ） (2022-03-17T09:00:39Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳（メタデータ） (2021-10-24T10:23:51Z) - SLOE: A Faster Method for Statistical Inference in High-Dimensional
Logistic Regression [68.66245730450915]
実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。
私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
論文 参考訳（メタデータ） (2021-03-23T17:48:56Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳（メタデータ） (2020-10-24T07:01:24Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳（メタデータ） (2020-04-01T11:49:30Z) - Generalized Sliced Distances for Probability Distributions [47.543990188697734]
我々は、一般化スライス確率測定(GSPM)と呼ばれる、幅広い確率測定値の族を紹介する。
GSPMは一般化されたラドン変換に根付いており、ユニークな幾何学的解釈を持つ。
GSPMに基づく勾配流を生成モデル応用に適用し、軽度な仮定の下では、勾配流が大域的最適に収束することを示す。
論文 参考訳（メタデータ） (2020-02-28T04:18:00Z) - On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。
また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2019-04-18T02:56:00Z) - Double/Debiased Machine Learning for Treatment and Causal Parameters [5.405360145866329]
MLツールを介して補助予測問題を解くことにより、正規化バイアスを除去する方法を示す。
この手法は、一次および補助的予測モデルの推定に依存するため、「二重ML」と呼ばれることができる。
これにより、補助的および主予測問題の解決に、非常に広い範囲のML予測手法を使用することができる。
論文 参考訳（メタデータ） (2016-07-30T01:58:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。