論文の概要: Uncertainty Quantification in SVM prediction
- arxiv url: http://arxiv.org/abs/2505.15429v1
- Date: Wed, 21 May 2025 12:11:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-22 15:42:59.621686
- Title: Uncertainty Quantification in SVM prediction
- Title(参考訳): SVM予測における不確かさの定量化
- Authors: Pritam Anand,
- Abstract要約: ニューラルネットワークとは異なり、SVMソリューションは一般的により安定で、スパースで、最適で、解釈可能である。
スパースサポートベクトル量子回帰(SSVQR)モデルを提案する。
我々は、テストセットの保証が有限であるより安定した予測セットを得るために、コンフォーマル回帰設定でSVMモデルを拡張します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper explores Uncertainty Quantification (UQ) in SVM predictions, particularly for regression and forecasting tasks. Unlike the Neural Network, the SVM solutions are typically more stable, sparse, optimal and interpretable. However, there are only few literature which addresses the UQ in SVM prediction. At first, we provide a comprehensive summary of existing Prediction Interval (PI) estimation and probabilistic forecasting methods developed in the SVM framework and evaluate them against the key properties expected from an ideal PI model. We find that none of the existing SVM PI models achieves a sparse solution. To introduce sparsity in SVM model, we propose the Sparse Support Vector Quantile Regression (SSVQR) model, which constructs PIs and probabilistic forecasts by solving a pair of linear programs. Further, we develop a feature selection algorithm for PI estimation using SSVQR that effectively eliminates a significant number of features while improving PI quality in case of high-dimensional dataset. Finally we extend the SVM models in Conformal Regression setting for obtaining more stable prediction set with finite test set guarantees. Extensive experiments on artificial, real-world benchmark datasets compare the different characteristics of both existing and proposed SVM-based PI estimation methods and also highlight the advantages of the feature selection in PI estimation. Furthermore, we compare both, the existing and proposed SVM-based PI estimation models, with modern deep learning models for probabilistic forecasting tasks on benchmark datasets. Furthermore, SVM models show comparable or superior performance to modern complex deep learning models for probabilistic forecasting task in our experiments.
- Abstract(参考訳): 本稿では,SVM予測における不確実性定量化(UQ)について検討する。
ニューラルネットワークとは異なり、SVMソリューションは一般的により安定で、スパースで、最適で、解釈可能である。
しかし、SVM予測におけるUQに対処する文献は少ない。
まず、SVMフレームワークで開発された予測区間推定および確率予測手法を概説し、理想的なPIモデルから期待される重要な特性に対して評価する。
既存のSVM PIモデルはいずれもスパースソリューションを達成していない。
線形プログラムのペアを解くことでPIと確率予測を構成するスパースサポートベクトル量子回帰(SSVQR)モデルを提案する。
さらに,SSVQRを用いたPI推定のための特徴選択アルゴリズムを開発した。
最後に、テストセットの保証が有限であるより安定した予測セットを得るために、コンフォーマル回帰設定でSVMモデルを拡張します。
人工的な実世界のベンチマークデータセットに対する大規模な実験は、既存のSVMおよび提案したPI推定手法の異なる特性を比較し、PI推定における特徴選択の利点を強調している。
さらに、既存のSVMベースのPI推定モデルと、ベンチマークデータセット上の確率的予測タスクのための最新のディープラーニングモデルを比較した。
さらに、SVMモデルは、我々の実験における確率予測タスクにおいて、現代の複雑なディープラーニングモデルに匹敵する、あるいは優れた性能を示す。
関連論文リスト
- Scalable Random Feature Latent Variable Models [8.816134440622696]
ブロック座標降下変動推論(BCD-VI)と呼ばれる明示的なPDFと新しいVBIアルゴリズムを得るために,ディリクレプロセス(DP)のスティック破断構成を導入する。
これにより、RFLVMのスケーラブルバージョン、あるいは略してSRFLVMの開発が可能になる。
論文 参考訳(メタデータ) (2024-10-23T09:22:43Z) - A Probabilistic Perspective on Unlearning and Alignment for Large Language Models [48.96686419141881]
大規模言語モデル(LLM)のための最初の形式的確率的評価フレームワークを紹介する。
すなわち,モデルの出力分布に関する確率保証の高い新しい指標を提案する。
私たちのメトリクスはアプリケーションに依存しないので、デプロイ前にモデル機能についてより信頼性の高い見積を行うことができます。
論文 参考訳(メタデータ) (2024-10-04T15:44:23Z) - Does Vector Quantization Fail in Spatio-Temporal Forecasting? Exploring a Differentiable Sparse Soft-Vector Quantization Approach [22.070533429289334]
Sparse Soft- Quantization (SVQ) は、時間的予測を強化するための最初のVQ手法である。
SVQはスパースノイズの低減とバランスを取り、完全性を提供し、スパースレグレッションの強固な基盤を提供する。
このアプローチでは,スパース回帰プロセスの合理化のために,2層データセットと広範なコードブックを用いる。
論文 参考訳(メタデータ) (2023-12-06T10:42:40Z) - Cost-sensitive probabilistic predictions for support vector machines [1.743685428161914]
サポートベクターマシン(SVM)は広く使われており、最もよく検討され使用されている機械学習モデルの一つである。
本稿では,SVMの確率的出力を生成する新しい手法を提案する。
論文 参考訳(メタデータ) (2023-10-09T11:00:17Z) - Probabilistic MIMO U-Net: Efficient and Accurate Uncertainty Estimation
for Pixel-wise Regression [1.4528189330418977]
機械学習における不確実性推定は、予測モデルの信頼性と解釈可能性を高めるための最重要課題である。
画素ワイド回帰タスクに対するMIMO(Multiple-Input Multiple-Output)フレームワークの適応について述べる。
論文 参考訳(メタデータ) (2023-08-14T22:08:28Z) - Probabilistic Gradient Boosting Machines for Large-Scale Probabilistic
Regression [51.770998056563094]
PGBM(Probabilistic Gradient Boosting Machines)は、確率的予測を生成する手法である。
既存の最先端手法と比較してPGBMの利点を実証的に示す。
論文 参考訳(メタデータ) (2021-06-03T08:32:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。