論文の概要: Improving importance estimation in covariate shift for providing accurate prediction error

• arxiv url: http://arxiv.org/abs/2402.01450v1
• Date: Fri, 2 Feb 2024 14:39:39 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-05 14:49:22.768726
• Title: Improving importance estimation in covariate shift for providing accurate prediction error
• Title（参考訳）: 高精度な予測誤差を提供する共変量シフトの重要度推定の改善
• Authors: Laura Fdez-D\'iaz, Sara Gonz\'alez Tomillo, Elena Monta\~n\'es, Jos\'e Ram\'on Quevedo
• Abstract要約: Kullback-Leibler Importance Estimation(KLIEP)は、有望な方法で重要度を推定できる。 本稿では,重要度計算における対象情報を考慮した場合の性能改善の可能性について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In traditional Machine Learning, the algorithms predictions are based on the assumption that the data follows the same distribution in both the training and the test datasets. However, in real world data this condition does not hold and, for instance, the distribution of the covariates changes whereas the conditional distribution of the targets remains unchanged. This situation is called covariate shift problem where standard error estimation may be no longer accurate. In this context, the importance is a measure commonly used to alleviate the influence of covariate shift on error estimations. The main drawback is that it is not easy to compute. The Kullback-Leibler Importance Estimation Procedure (KLIEP) is capable of estimating importance in a promising way. Despite its good performance, it fails to ignore target information, since it only includes the covariates information for computing the importance. In this direction, this paper explores the potential performance improvement if target information is considered in the computation of the importance. Then, a redefinition of the importance arises in order to be generalized in this way. Besides the potential improvement in performance, including target information make possible the application to a real application about plankton classification that motivates this research and characterized by its great dimensionality, since considering targets rather than covariates reduces the computation and the noise in the covariates. The impact of taking target information is also explored when Logistic Regression (LR), Kernel Mean Matching (KMM), Ensemble Kernel Mean Matching (EKMM) and the naive predecessor of KLIEP called Kernel Density Estimation (KDE) methods estimate the importance. The experimental results lead to a more accurate error estimation using target information, especially in case of the more promising method KLIEP.
• Abstract（参考訳）: 従来の機械学習では、アルゴリズムの予測は、データがトレーニングとテストデータセットの両方で同じ分布に従うという仮定に基づいている。 しかし、現実のデータでは、この条件は保持されておらず、例えば、共変量の分布は変化するが、対象の条件分布は変わらない。 この状況は、標準誤差推定がもはや正確でないかもしれない共変シフト問題と呼ばれる。 この文脈での重要性は、共変量シフトが誤差推定に与える影響を緩和するために一般的に用いられる尺度である。 主な欠点は計算が簡単でないことである。 Kullback-Leibler Importance Estimation(KLIEP)は、将来的な方法で重要度を推定できる。 その優れた性能にもかかわらず、重要度を計算するための共変量情報のみを含むため、ターゲット情報を無視しない。 本稿では,重要度計算における対象情報を考慮した場合の性能改善の可能性について検討する。 そして、このように一般化するために重要性を再定義する。 対象情報を含む潜在的な性能改善の他に、コ変量よりも対象を考慮すれば、コ変量内の計算とノイズを減少させるため、この研究を動機付け、その大きな次元性によって特徴付けられるプランクトン分類の実際の応用への応用が可能である。 対象情報を取得することの影響は、ロジスティック回帰(LR)、ケルネル平均マッチング(KMM)、エンサンブルケルネル平均マッチング(EKMM)、およびケルネル密度推定(KDE)法と呼ばれるKLIEPの前駆的な手法が重要度を推定する際にも検討される。 実験結果から,特にKLIEPを用いた場合,ターゲット情報を用いた精度の高い誤差推定が得られた。

関連論文リスト

• Generative Principal Component Regression via Variational Inference [2.4415762506639944]
  適切な操作を設計するための1つのアプローチは、予測モデルの重要な特徴をターゲットとすることである。 我々は,そのような情報を潜在空間で表現する,教師付き変分オートエンコーダ(SVAE)に基づく新しい目的を開発する。 シミュレーションでは,gPCRは通常のPCRやSVAEと比較して,操作時のターゲット選択を劇的に改善することを示した。
  論文  参考訳（メタデータ） (2024-09-03T22:38:55Z)
• Uncertainty Estimation by Fisher Information-based Evidential Deep Learning [61.94125052118442]
  不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。 漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。 特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
  論文  参考訳（メタデータ） (2023-03-03T16:12:59Z)
• Model Optimization in Imbalanced Regression [2.580765958706854]
  不均衡なドメイン学習は、あまり表現されていないがドメインにとって最も重要であるインスタンスを予測するための正確なモデルを作成することを目的としている。 主な理由の1つは、極端な(まれな)値の誤差を最小限に抑えることができる損失関数の欠如である。 最近、評価指標が導入された: 正方形誤差関連領域(SERA) このメトリクスは、極端な値で犯したエラーに重点を置いていると同時に、ターゲット変数全体のパフォーマンスも考慮している。
  論文  参考訳（メタデータ） (2022-06-20T20:23:56Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Robust Importance Sampling for Error Estimation in the Context of Optimal Bayesian Transfer Learning [13.760785726194591]
  最適ベイズ移動学習のための最小平均二乗誤差推定器(MMSE)を新たに導入する。 提案した推定器を用いて,多様な学習能力にまたがる幅広い分類器の分類精度を評価する。 合成データと実世界のRNAシークエンシング(RNA-seq)データの両方に基づく実験結果から,提案したOBTL誤差推定手法が標準誤差推定器より明らかに優れていることが示された。
  論文  参考訳（メタデータ） (2021-09-05T19:11:33Z)
• KL Guided Domain Adaptation [88.19298405363452]
  ドメイン適応は重要な問題であり、現実世界のアプリケーションにしばしば必要である。 ドメイン適応文学における一般的なアプローチは、ソースとターゲットドメインに同じ分布を持つ入力の表現を学ぶことである。 確率的表現ネットワークにより、KL項はミニバッチサンプルにより効率的に推定できることを示す。
  論文  参考訳（メタデータ） (2021-06-14T22:24:23Z)
• A new framework for experimental design using Bayesian Evidential Learning: the case of wellhead protection area [0.0]
  我々は、少数の追跡実験(予測器)から、油圧導電率(K)の分布に影響を及ぼすウェルヘッド保護領域(WHPA)の形状と範囲を予測した。 最初の目標は、マシンラーニングを使用して予測者とターゲット間の直接的な関係を見つけることを目的とした、ベイズ式Evidential Learningフレームワーク内のWHPAの予測を行うことです。 第2の目的は、whpaの後方の不確かさを最小限に抑えるデータソースロケーションの最適設計をベルに拡張することである。
  論文  参考訳（メタデータ） (2021-05-12T09:40:28Z)
• Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
  階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。 本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
  論文  参考訳（メタデータ） (2021-04-11T09:50:24Z)
• Estimating and Evaluating Regression Predictive Uncertainty in Deep Object Detectors [9.273998041238224]
  負の対数確率(nll)を持つトレーニング分散ネットワークは、高いエントロピー予測分布をもたらす可能性がある。 我々は,エネルギースコアを非局所的適切なスコアリングルールとして使用し,トレーニングに使用すると,エネルギースコアがより校正され,エントロピーの予測分布が低くなることを示す。
  論文  参考訳（メタデータ） (2021-01-13T12:53:54Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)
• Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
  我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。 予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。 この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
  論文  参考訳（メタデータ） (2020-06-19T05:08:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。