論文の概要: Robust Multi-Modal Density Estimation
- arxiv url: http://arxiv.org/abs/2401.10566v1
- Date: Fri, 19 Jan 2024 09:10:58 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-22 16:36:52.491047
- Title: Robust Multi-Modal Density Estimation
- Title(参考訳): ロバストなマルチモーダル密度推定
- Authors: Anna M\'esz\'aros, Julian F. Schumann, Javier Alonso-Mora, Arkady
Zgonnikov, Jens Kober
- Abstract要約: 密度推定のための非パラメトリック手法であるRObust Multi-modal density Estimatorを提案する。
ROMEはマルチモーダル分布、非正規分布、高相関分布の推定という課題に対処する。
以上の結果から,ROMEは,他の推定者による過度な適合性や過度なスムース化の問題を克服できることが示唆された。
- 参考スコア(独自算出の注目度): 15.710668205424446
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Development of multi-modal, probabilistic prediction models has lead to a
need for comprehensive evaluation metrics. While several metrics can
characterize the accuracy of machine-learned models (e.g., negative
log-likelihood, Jensen-Shannon divergence), these metrics typically operate on
probability densities. Applying them to purely sample-based prediction models
thus requires that the underlying density function is estimated. However,
common methods such as kernel density estimation (KDE) have been demonstrated
to lack robustness, while more complex methods have not been evaluated in
multi-modal estimation problems. In this paper, we present ROME (RObust
Multi-modal density Estimator), a non-parametric approach for density
estimation which addresses the challenge of estimating multi-modal, non-normal,
and highly correlated distributions. ROME utilizes clustering to segment a
multi-modal set of samples into multiple uni-modal ones and then combines
simple KDE estimates obtained for individual clusters in a single multi-modal
estimate. We compared our approach to state-of-the-art methods for density
estimation as well as ablations of ROME, showing that it not only outperforms
established methods but is also more robust to a variety of distributions. Our
results demonstrate that ROME can overcome the issues of over-fitting and
over-smoothing exhibited by other estimators, promising a more robust
evaluation of probabilistic machine learning models.
- Abstract(参考訳): マルチモーダル確率予測モデルの開発は、包括的な評価指標の必要性を招いた。
いくつかの指標は機械学習モデルの精度を特徴付けることができる(例えば、負のlog-likelihood、jensen-shannon divergence)が、これらの指標は一般に確率密度で作用する。
純粋なサンプルベースの予測モデルに適用するには、基礎となる密度関数を推定する必要がある。
しかし、カーネル密度推定(KDE)のような一般的な手法はロバスト性を欠いていることが証明されている一方、より複雑な手法はマルチモーダル推定では評価されていない。
本稿では,マルチモーダル分布,非正規分布,高相関分布を推定するための非パラメトリック手法であるrobust multi-modal density estimator(robust multi-modal density estimator)を提案する。
ROMEはクラスタリングを利用して、サンプルのマルチモーダルセットを複数のユニモーダルに分割し、単一のマルチモーダル推定で個々のクラスタに対して得られた単純なKDE推定を結合する。
提案手法を,密度推定法やROMEの短縮法と比較したところ,確立した手法に勝るだけでなく,様々な分布に対してより堅牢であることがわかった。
その結果,ローマは,他の推定者が提示する過剰フィッティングや過剰スムーシングの問題を克服でき,確率的機械学習モデルのより堅牢な評価が期待できることがわかった。
関連論文リスト
- Estimation of multiple mean vectors in high dimension [4.2466572124753]
我々は,独立標本に基づいて,共通空間上の様々な確率分布の多次元的手段を推定する。
我々のアプローチは、これらのサンプルから得られた経験的手段の凸結合による推定器の形成である。
論文 参考訳(メタデータ) (2024-03-22T08:42:41Z) - Kernel Density Estimation for Multiclass Quantification [52.419589623702336]
量子化は、クラス有病率の正確な予測値を取得することに関する教師付き機械学習タスクである。
分散マッチング(DM)アプローチは、これまでの文献で提案されている定量化手法の中で、最も重要なファミリーの1つである。
カーネル密度推定(KDE)によりモデル化した多変量密度に基づく新しい表現機構を提案する。
論文 参考訳(メタデータ) (2023-12-31T13:19:27Z) - A Multivariate Unimodality Test Harnessing the Dip Statistic of Mahalanobis Distances Over Random Projections [0.18416014644193066]
線形ランダムプロジェクションとポイント・ツー・ポイント・ディスタンシングにより、一次元の一様性原理を多次元空間に拡張する。
我々の手法は$alpha$-unimodalityの仮定に根ざし、泥ッドと呼ばれる新しい一様性試験を提示する。
理論的および実証的研究は,多次元データセットの一様性評価における本手法の有効性を確認した。
論文 参考訳(メタデータ) (2023-11-28T09:11:02Z) - A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。
ブレグマン最小化の発散の観点から一般的な枠組みを開発する。
我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文 参考訳(メタデータ) (2021-12-07T01:23:20Z) - Density Ratio Estimation via Infinitesimal Classification [85.08255198145304]
そこで我々は, DRE-inftyを提案する。 DRE-inftyは, 密度比推定(DRE)を, より簡単なサブプロブレムに還元する手法である。
モンテカルロ法にインスパイアされ、中間ブリッジ分布の無限連続体を介して2つの分布の間を滑らかに補間する。
提案手法は,複雑な高次元データセット上での相互情報推定やエネルギーベースモデリングなどの下流タスクにおいて良好に動作することを示す。
論文 参考訳(メタデータ) (2021-11-22T06:26:29Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z) - Meta-Learning for Relative Density-Ratio Estimation [59.75321498170363]
相対密度比推定(DRE)の既存の方法は、両方の密度から多くのインスタンスを必要とする。
本稿では,関係データセットの知識を用いて,相対密度比を数例から推定する,相対DREのメタラーニング手法を提案する。
提案手法の有効性を,相対的DRE,データセット比較,外乱検出の3つの問題を用いて実証的に実証した。
論文 参考訳(メタデータ) (2021-07-02T02:13:45Z) - Multivariate Density Estimation with Deep Neural Mixture Models [0.0]
ディープニューラルネットワーク(DNN)は密度推定にはほとんど適用されていない。
本稿では,ニューラルミクチャー密度(NMM)に関するこれまでの研究を拡張した。
深部NMM(Deep NMM)を推定するための最大形アルゴリズム(ML)が配される。
DNMMを通して任意の精度でモデル化できる確率密度関数のクラスが正式に定義される。
論文 参考訳(メタデータ) (2020-12-06T23:03:48Z) - Nonparametric Density Estimation from Markov Chains [68.8204255655161]
我々はマルコフ・チェインにインスパイアされた新しい非パラメトリック密度推定器を導入し、よく知られたケルネル密度推定器を一般化する。
我々の推定器は, 通常のものに対していくつかの利点を示し, 全密度アルゴリズムの基盤として容易に利用できる。
論文 参考訳(メタデータ) (2020-09-08T18:33:42Z) - Robust Kernel Density Estimation with Median-of-Means principle [0.0]
一般的なカーネル密度推定法と中間平均原理(MoM-KDE)を組み合わせたロバストな非パラメトリック密度推定器を導入する。
この推定器は, 対向汚染の場合であっても, 任意の異常データに対して頑健性を達成することが示されている。
論文 参考訳(メタデータ) (2020-06-30T08:01:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。