論文の概要: Predictability Analysis of Regression Problems via Conditional Entropy Estimations
- arxiv url: http://arxiv.org/abs/2406.03824v1
- Date: Thu, 6 Jun 2024 07:59:19 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-07 15:59:34.044040
- Title: Predictability Analysis of Regression Problems via Conditional Entropy Estimations
- Title(参考訳): 条件付きエントロピー推定による回帰問題の予測可能性解析
- Authors: Yu-Hsueh Fang, Chia-Yen Lee,
- Abstract要約: 回帰問題の予測可能性を評価するために,条件付きエントロピー推定器を開発した。
合成および実世界のデータセットの実験は、これらの推定器の堅牢性と有用性を示している。
- 参考スコア(独自算出の注目度): 1.8913544072080544
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the field of machine learning, regression problems are pivotal due to their ability to predict continuous outcomes. Traditional error metrics like mean squared error, mean absolute error, and coefficient of determination measure model accuracy. The model accuracy is the consequence of the selected model and the features, which blurs the analysis of contribution. Predictability, in the other hand, focus on the predictable level of a target variable given a set of features. This study introduces conditional entropy estimators to assess predictability in regression problems, bridging this gap. We enhance and develop reliable conditional entropy estimators, particularly the KNIFE-P estimator and LMC-P estimator, which offer under- and over-estimation, providing a practical framework for predictability analysis. Extensive experiments on synthesized and real-world datasets demonstrate the robustness and utility of these estimators. Additionally, we extend the analysis to the coefficient of determination \(R^2 \), enhancing the interpretability of predictability. The results highlight the effectiveness of KNIFE-P and LMC-P in capturing the achievable performance and limitations of feature sets, providing valuable tools in the development of regression models. These indicators offer a robust framework for assessing the predictability for regression problems.
- Abstract(参考訳): 機械学習の分野では、回帰問題は連続的な結果を予測する能力のために重要な問題である。
平均二乗誤差、平均絶対誤差、決定測度モデル精度の係数のような伝統的な誤差メトリクス。
モデル精度は、選択されたモデルと特徴の結果であり、コントリビューションの分析を曖昧にする。
一方、予測可能性(Predictability)は、一連の機能を考慮して、ターゲット変数の予測可能なレベルに焦点を当てる。
本研究では、回帰問題における予測可能性を評価する条件付きエントロピー推定器を導入し、このギャップを埋める。
我々は信頼性の高い条件エントロピー推定器(特にKNIFE-P推定器とLCC-P推定器)を改良・開発し、予測可能性分析のための実用的な枠組みを提供する。
合成および実世界のデータセットに関する大規模な実験は、これらの推定器の堅牢性と有用性を示している。
さらに,解析結果を決定係数(R^2 \)まで拡張し,予測可能性の解釈可能性を高める。
その結果,KNIFE-P と LMC-P が達成可能な性能と特徴セットの限界を捉え,回帰モデルの開発に有用なツールを提供することができた。
これらの指標は回帰問題の予測可能性を評価するための堅牢なフレームワークを提供する。
関連論文リスト
- Average Causal Effect Estimation in DAGs with Hidden Variables: Extensions of Back-Door and Front-Door Criteria [3.0232957374216953]
隠れ変数を持つ有向パラメトリックグラフ(DAG)のクラスに対して,一段階補正プラグインと最小損失に基づく因果効果推定器を開発する。
機械学習を利用してモデリングの仮定を最小化するとともに、線形原始性、二重ロバスト性、効率性、および対象パラメータ空間の境界内に留まるといった重要な統計特性を保証します。
論文 参考訳(メタデータ) (2024-09-06T01:07:29Z) - Errors-in-variables Fr\'echet Regression with Low-rank Covariate
Approximation [2.1756081703276]
Fr'echet回帰は、非ユークリッド応答変数を含む回帰分析のための有望なアプローチとして登場した。
提案手法は,大域的Fr'echet回帰と主成分回帰の概念を組み合わせて,回帰推定器の効率と精度を向上させることを目的とする。
論文 参考訳(メタデータ) (2023-05-16T08:37:54Z) - The Implicit Delta Method [61.36121543728134]
本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。
有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
論文 参考訳(メタデータ) (2022-11-11T19:34:17Z) - Uncertainty estimation of pedestrian future trajectory using Bayesian
approximation [137.00426219455116]
動的トラフィックシナリオでは、決定論的予測に基づく計画は信頼できない。
著者らは、決定論的アプローチが捉えられない近似を用いて予測中の不確実性を定量化する。
将来の状態の不確実性に対する降雨重量と長期予測の影響について検討した。
論文 参考訳(メタデータ) (2022-05-04T04:23:38Z) - Forecast Evaluation in Large Cross-Sections of Realized Volatility [0.0]
我々は,実効ボラティリティの予測において,拡張断面に基づくモデルの予測精度を評価する。
測定誤差補正と断面ジャンプ成分測定を組み込んだモデル仕様に対する予測の感度について検討した。
論文 参考訳(メタデータ) (2021-12-09T13:19:09Z) - Causality and Generalizability: Identifiability and Learning Methods [0.0]
この論文は、因果効果の推定、因果構造学習、および分布的に堅牢な予測方法に関する研究領域に寄与する。
本稿では,データ依存平均二乗予測誤差正規化を用いた機器変数設定における線形・非線形因果関係推定器について述べる。
本稿では,介入誘起分布に関する分布ロバスト性に関する一般的な枠組みを提案する。
論文 参考訳(メタデータ) (2021-10-04T13:12:11Z) - When in Doubt: Neural Non-Parametric Uncertainty Quantification for
Epidemic Forecasting [70.54920804222031]
既存の予測モデルは不確実な定量化を無視し、誤校正予測をもたらす。
不確実性を考慮した時系列予測のためのディープニューラルネットワークの最近の研究にもいくつかの制限がある。
本稿では,予測タスクを確率的生成過程としてモデル化し,EPIFNPと呼ばれる機能的ニューラルプロセスモデルを提案する。
論文 参考訳(メタデータ) (2021-06-07T18:31:47Z) - SLOE: A Faster Method for Statistical Inference in High-Dimensional
Logistic Regression [68.66245730450915]
実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。
私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
論文 参考訳(メタデータ) (2021-03-23T17:48:56Z) - Support estimation in high-dimensional heteroscedastic mean regression [2.28438857884398]
ランダムな設計と、潜在的にヘテロセダスティックで重み付きエラーを伴う線形平均回帰モデルを考える。
我々は,問題のパラメータに依存するチューニングパラメータを備えた,厳密な凸・滑らかなHuber損失関数の変種を用いる。
得られた推定器に対して、$ell_infty$ノルムにおける符号一貫性と最適収束率を示す。
論文 参考訳(メタデータ) (2020-11-03T09:46:31Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Machine learning for causal inference: on the use of cross-fit
estimators [77.34726150561087]
より優れた統計特性を得るために、二重ローバストなクロスフィット推定器が提案されている。
平均因果効果(ACE)に対する複数の推定器の性能評価のためのシミュレーション研究を行った。
機械学習で使用する場合、二重確率のクロスフィット推定器は、バイアス、分散、信頼区間のカバレッジで他のすべての推定器よりも大幅に優れていた。
論文 参考訳(メタデータ) (2020-04-21T23:09:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。