論文の概要: Analyzing Relevance Vector Machines using a single penalty approach
- arxiv url: http://arxiv.org/abs/2107.02085v1
- Date: Mon, 5 Jul 2021 15:26:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-06 15:07:37.474669
- Title: Analyzing Relevance Vector Machines using a single penalty approach
- Title(参考訳): 単一ペナルティアプローチによる関連ベクトルマシンの解析
- Authors: Anand Dixit and Vivekananda Roy
- Abstract要約: RVMの複数のペナルティパラメータに想定される不適切な先行は、不適切な後部につながる可能性があることが示されている。
本稿では,複数のペナルティパラメータを1つのペナルティに置き換える単一ペナルティ関連ベクトルマシン(SPRVM)モデルを提案する。
RVMとSPRVMの予測性能は、3つの実生活データセットを分析して比較する。
- 参考スコア(独自算出の注目度): 2.762375415060299
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Relevance vector machine (RVM) is a popular sparse Bayesian learning model
typically used for prediction. Recently it has been shown that improper priors
assumed on multiple penalty parameters in RVM may lead to an improper
posterior. Currently in the literature, the sufficient conditions for posterior
propriety of RVM do not allow improper priors over the multiple penalty
parameters. In this article, we propose a single penalty relevance vector
machine (SPRVM) model in which multiple penalty parameters are replaced by a
single penalty and we consider a semi Bayesian approach for fitting the SPRVM.
The necessary and sufficient conditions for posterior propriety of SPRVM are
more liberal than those of RVM and allow for several improper priors over the
penalty parameter. Additionally, we also prove the geometric ergodicity of the
Gibbs sampler used to analyze the SPRVM model and hence can estimate the
asymptotic standard errors associated with the Monte Carlo estimate of the
means of the posterior predictive distribution. Such a Monte Carlo standard
error cannot be computed in the case of RVM, since the rate of convergence of
the Gibbs sampler used to analyze RVM is not known. The predictive performance
of RVM and SPRVM is compared by analyzing three real life datasets.
- Abstract(参考訳): 関連ベクトルマシン(RVM)は、一般的に予測に使用されるスパースベイズ学習モデルである。
近年、RVMの複数のペナルティパラメータに想定される不適切な先行が、不適切な後肢につながる可能性があることが示されている。
現在、文献では、RVMの後方優位性のための十分な条件は、複数のペナルティパラメータに対する不適切な先行を許さない。
本稿では,複数のペナルティパラメータを単一ペナルティに置き換える単一ペナルティ関連ベクトルマシン(SPRVM)モデルを提案する。
SPRVMの後処理に必要かつ十分な条件は、RVMよりもリベラルであり、ペナルティパラメータに対するいくつかの不適切な事前処理を可能にする。
さらに,sprvmモデルの解析に用いたgibbsサンプリング器の幾何学的エルゴディクティを証明し,モンテカルロ推定に付随する漸近的標準誤差を後方予測分布の手段として推定する。
このようなモンテカルロ標準誤差は、RVMの分析に用いられるギブスサンプリング器の収束率が不明であるため、RVMでは計算できない。
RVMとSPRVMの予測性能は、3つの実生活データセットを分析して比較する。
関連論文リスト
- Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Sparse Horseshoe Estimation via Expectation-Maximisation [2.1485350418225244]
パラメータのMAP推定を計算するための新しい予測最大化(EM)手法を提案する。
我々のアプローチの特に強みは、M-ステップは前者の形式にのみ依存し、それは可能性の形式とは独立であるということである。
シミュレーションおよび実データを用いて行った実験では、我々の手法は最先端のスパース推定法に匹敵する、あるいは優れている。
論文 参考訳(メタデータ) (2022-11-07T00:43:26Z) - Estimating Average Treatment Effects with Support Vector Machines [77.34726150561087]
サポートベクターマシン(SVM)は、機械学習文献で最も人気のある分類アルゴリズムの1つです。
我々はsvmをカーネルベースの重み付け手順として適用し,治療群と制御群の最大平均差を最小化する。
このトレードオフから生じる因果効果推定のバイアスを特徴づけ、提案されたSVM手順と既存のカーネルバランシング手法を結びつけます。
論文 参考訳(メタデータ) (2021-02-23T20:22:56Z) - Online nonparametric regression with Sobolev kernels [99.12817345416846]
我々は、ソボレフ空間のクラス上の後悔の上限を$W_pbeta(mathcalX)$, $pgeq 2, beta>fracdp$ とする。
上界は minimax regret analysis で支えられ、$beta> fracd2$ または $p=infty$ の場合、これらの値は(本質的に)最適である。
論文 参考訳(メタデータ) (2021-02-06T15:05:14Z) - When to Impute? Imputation before and during cross-validation [0.0]
クロスバリデーション (CV) は予測モデルの一般化誤差を推定する手法である。
パイプライン全体の外部テストセットへの適用を模倣するために、CVの複製毎に全ステップを実行することが推奨されている。
論文 参考訳(メタデータ) (2020-10-01T23:04:16Z) - On Mean Absolute Error for Deep Neural Network Based Vector-to-Vector
Regression [79.86233860519621]
我々は,ディープニューラルネットワーク(DNN)に基づくベクトル-ベクトル回帰の損失関数として,平均絶対誤差(MAE)の特性を利用する。
我々は,MAEをラプラシアン分布によってモデル化された誤差として解釈できることを示す。
論文 参考訳(メタデータ) (2020-08-12T22:41:26Z) - Fully Bayesian Analysis of the Relevance Vector Machine Classification
for Imbalanced Data [0.0]
本稿では、RVM分類に対するジェネリック・ベイズ的アプローチを提案する。
提案アルゴリズムは,従来のRVM分類アルゴリズムの非収束推定値と比較し,関心量の収束推定値を求める。
RVM分類のための階層的ハイパープライア構造を持つ完全ベイズ的手法を提案し、特に不均衡なデータ問題において、分類性能を改善する。
論文 参考訳(メタデータ) (2020-07-26T14:53:36Z) - Convex Nonparanormal Regression [8.497456090408084]
後部条件分布を推定する条件付き非正規回帰法であるConvex Nonparanormal Regression (CNR)を導入する。
ピースワイズ線形辞書の特殊だが強力な場合、後進平均の閉形式を提供する。
合成および実世界のデータを用いた古典的競合相手に対するCNRの利点を実証する。
論文 参考訳(メタデータ) (2020-04-21T19:42:43Z) - Censored Quantile Regression Forest [81.9098291337097]
我々は、検閲に適応し、データが検閲を示さないときに量子スコアをもたらす新しい推定方程式を開発する。
提案手法は, パラメトリックなモデリング仮定を使わずに, 時間単位の定量を推定することができる。
論文 参考訳(メタデータ) (2020-01-08T23:20:23Z) - On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。
また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2019-04-18T02:56:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。