論文の概要: Semi-supervised Variational Autoencoder for Regression: Application on
Soft Sensors
- arxiv url: http://arxiv.org/abs/2211.05979v1
- Date: Fri, 11 Nov 2022 02:54:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-14 16:41:03.227896
- Title: Semi-supervised Variational Autoencoder for Regression: Application on
Soft Sensors
- Title(参考訳): 回帰のための半教師付き変分オートエンコーダ:ソフトセンサへの応用
- Authors: Yilin Zhuang, Zhuobin Zhou, Burak Alakent, Mehmet Mercangoz
- Abstract要約: 我々は,プロセス品質変数が他のプロセス変数と同じ頻度で収集されないという事実を考慮して,半教師付き学習の利用を動機付けている。
教師付き学習法に基づく品質変動予測のトレーニングには,これらの不正な記録は使用できない。
我々は、回帰のための教師付きVAE(SVAER)のこのアプローチを拡張して、回帰のための半教師付きVAE(SSVAER)につながる非ラベルデータから学習できるようにする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present the development of a semi-supervised regression method using
variational autoencoders (VAE), which is customized for use in soft sensing
applications. We motivate the use of semi-supervised learning considering the
fact that process quality variables are not collected at the same frequency as
other process variables leading to many unlabelled records in operational
datasets. These unlabelled records are not possible to use for training quality
variable predictions based on supervised learning methods. Use of VAEs for
unsupervised learning is well established and recently they were used for
regression applications based on variational inference procedures. We extend
this approach of supervised VAEs for regression (SVAER) to make it learn from
unlabelled data leading to semi-supervised VAEs for regression (SSVAER), then
we make further modifications to their architecture using additional
regularization components to make SSVAER well suited for learning from both
labelled and unlabelled process data. The probabilistic regressor resulting
from the variational approach makes it possible to estimate the variance of the
predictions simultaneously, which provides an uncertainty quantification along
with the generated predictions. We provide an extensive comparative study of
SSVAER with other publicly available semi-supervised and supervised learning
methods on two benchmark problems using fixed-size datasets, where we vary the
percentage of labelled data available for training. In these experiments,
SSVAER achieves the lowest test errors in 11 of the 20 studied cases, compared
to other methods where the second best gets 4 lowest test errors out of the 20.
- Abstract(参考訳): 本稿では,ソフトセンシングアプリケーション用にカスタマイズされた変分オートエンコーダ(vae)を用いた半教師あり回帰法の開発について述べる。
我々は、プロセス品質変数が他のプロセス変数と同じ頻度で収集されないという事実を考慮して、セミ教師あり学習の使用を動機付けている。
これらのラベルなし記録は教師付き学習法に基づく品質変数予測の訓練には使用できない。
教師なし学習におけるVAEの使用は十分に確立されており、近年は変分推論法に基づく回帰アプリケーションに使われている。
我々は、回帰のための教師付きVAE(SVAER)のアプローチを拡張して、回帰のための半教師付きVAE(SSVAER)につながる非ラベル付きデータから学習できるようにする。
変動的アプローチによる確率的回帰器は、予測のばらつきを同時に推定することができ、生成した予測とともに不確実な定量化を提供する。
我々は,ssvaerを,固定サイズのデータセットを用いた2つのベンチマーク問題に対する,一般の半教師付きおよび教師付き学習法と比較検討した。
これらの実験では、SSVAERは、20のケースのうち11のケースにおいて、第2のベストが20のうち4の低いテストエラーを得る他の方法と比較して、最も低いテストエラーを達成する。
関連論文リスト
- Enhancing Consistency and Mitigating Bias: A Data Replay Approach for
Incremental Learning [100.7407460674153]
ディープラーニングシステムは、一連のタスクから学ぶとき、破滅的な忘れがちだ。
問題を緩和するため、新しいタスクを学ぶ際に経験豊富なタスクのデータを再生する手法が提案されている。
しかし、メモリ制約やデータプライバシーの問題を考慮すると、実際には期待できない。
代替として、分類モデルからサンプルを反転させることにより、データフリーなデータ再生法を提案する。
論文 参考訳(メタデータ) (2024-01-12T12:51:12Z) - Uncertainty Voting Ensemble for Imbalanced Deep Regression [20.176217123752465]
本稿では,不均衡なデータから学習するUVOTEを紹介する。
従来の回帰損失を負の対数類似度に置き換え、サンプルワイドのアレタリックな不確実性も予測する。
UVOTEは先行技術より一貫して優れており、同時に精度のよい不確実性評価が得られている。
論文 参考訳(メタデータ) (2023-05-24T14:12:21Z) - ASPEST: Bridging the Gap Between Active Learning and Selective
Prediction [56.001808843574395]
選択予測は、不確実な場合の予測を棄却する信頼性のあるモデルを学ぶことを目的としている。
アクティブラーニングは、最も有意義な例を問うことで、ラベリングの全体、すなわち人間の依存度を下げることを目的としている。
本研究では,移動対象領域からより情報のあるサンプルを検索することを目的とした,新たな学習パラダイムである能動的選択予測を導入する。
論文 参考訳(メタデータ) (2023-04-07T23:51:07Z) - Adaptive Negative Evidential Deep Learning for Open-set Semi-supervised Learning [69.81438976273866]
オープンセット半教師付き学習(Open-set SSL)は、ラベル付きデータ(inliers)で観測されない新しいカテゴリ(outliers)を含むラベル付きデータとテストデータを含む、より実践的なシナリオである。
本研究では,様々な不確かさを定量化するための外乱検出器として顕在的深層学習(EDL)を導入し,自己学習と推論のための異なる不確実性指標を設計する。
Inlierとoutlierの両方を含むラベルなしデータセットに適合するように、新しい適応的負の最適化戦略を提案する。
論文 参考訳(メタデータ) (2023-03-21T09:07:15Z) - Semi-Supervised Deep Regression with Uncertainty Consistency and
Variational Model Ensembling via Bayesian Neural Networks [31.67508478764597]
我々は,半教師付き回帰,すなわち不確実連続変分モデル組立(UCVME)に対する新しいアプローチを提案する。
整合性損失は不確実性評価を著しく改善し,不整合回帰の下では,高品質な擬似ラベルをより重要視することができる。
実験の結果,本手法は様々なタスクにおける最先端の代替手段よりも優れており,フルラベルを用いた教師付き手法と競合する可能性が示唆された。
論文 参考訳(メタデータ) (2023-02-15T10:40:51Z) - Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。
本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。
本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
論文 参考訳(メタデータ) (2022-01-11T23:01:12Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Variation-Incentive Loss Re-weighting for Regression Analysis on Biased
Data [8.115323786541078]
モデルトレーニング中のデータ歪/バイアスに対処することで回帰分析の精度を向上させることを目的としている。
回帰分析のための勾配降下モデルトレーニングを最適化するために,変分集中損失再重み付け法(VILoss)を提案する。
論文 参考訳(メタデータ) (2021-09-14T10:22:21Z) - Enhanced Doubly Robust Learning for Debiasing Post-click Conversion Rate
Estimation [29.27760413892272]
クリック後の変換は、ユーザの好みを示す強いシグナルであり、レコメンデーションシステムを構築する上で有益である。
現在、ほとんどの既存の手法は、対実学習を利用してレコメンデーションシステムを破壊している。
本稿では,MRDR推定のための新しい二重学習手法を提案し,誤差計算を一般的なCVR推定に変換する。
論文 参考訳(メタデータ) (2021-05-28T06:59:49Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z) - Stable Prediction with Model Misspecification and Agnostic Distribution
Shift [41.26323389341987]
機械学習アルゴリズムでは、2つの主要な仮定が性能を保証するために必要である。
1つは、トレーニングデータと同じ分布からテストデータが引き出され、もう1つは、モデルが正しく指定されていることである。
モデルのミススペクテーションの下では、トレーニングデータとテストデータの間の分布シフトは、パラメータ推定の不正確さと未知のテストデータ間の予測の不安定性をもたらす。
可変デコリレーション正規化器と重み付き回帰モデルとを協調的に最適化する新しいDecororrelated Weighting Regression (DWR)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-01-31T08:56:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。