論文の概要: On the benefits of maximum likelihood estimation for Regression and
Forecasting
- arxiv url: http://arxiv.org/abs/2106.10370v1
- Date: Fri, 18 Jun 2021 22:10:43 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-22 16:05:27.750808
- Title: On the benefits of maximum likelihood estimation for Regression and
Forecasting
- Title(参考訳): 回帰予測における最大推定値の利点について
- Authors: Pranjal Awasthi, Abhimanyu Das, Rajat Sen, Ananda Theertha Suresh
- Abstract要約: 我々は回帰と予測のためのMLE(Maximum Likelihood Estimation)の実践的アプローチを提唱する。
このアプローチは、データセットの事前ドメイン知識のような誘導バイアスをキャプチャするのに適しています。
提案手法は, 提案手法を設計した汎用混合型ファミリーでインスタンス化することにより, 経験的リスク最小化よりも優れた性能が得られることを実証的に実証した。
- 参考スコア(独自算出の注目度): 35.386189585135334
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We advocate for a practical Maximum Likelihood Estimation (MLE) approach for
regression and forecasting, as an alternative to the typical approach of
Empirical Risk Minimization (ERM) for a specific target metric. This approach
is better suited to capture inductive biases such as prior domain knowledge in
datasets, and can output post-hoc estimators at inference time that can
optimize different types of target metrics. We present theoretical results to
demonstrate that our approach is always competitive with any estimator for the
target metric under some general conditions, and in many practical settings
(such as Poisson Regression) can actually be much superior to ERM. We
demonstrate empirically that our method instantiated with a well-designed
general purpose mixture likelihood family can obtain superior performance over
ERM for a variety of tasks across time-series forecasting and regression
datasets with different data distributions.
- Abstract(参考訳): 我々は、特定の目標指標に対する経験的リスク最小化(ERM)の典型的なアプローチの代替として、回帰と予測のための実用的最大様相推定(MLE)アプローチを提唱する。
このアプローチは、データセット内の事前ドメイン知識のような帰納的バイアスを捉えるのに適しており、様々なタイプのターゲットメトリクスを最適化できる推論時間にポストホックな推定子を出力することができる。
提案手法は, 一般条件下での目標距離の推定値と常に競合するものであり, ポアソン回帰(Poisson Regression)のような多くの実践的条件下では, ERMよりもはるかに優れていることを示す。
提案手法は,データ分布の異なる時系列予測と回帰データセットの多種多様なタスクにおいて,ERMよりも優れた性能が得られることを実証的に実証した。
関連論文リスト
- Forecasting with Deep Learning: Beyond Average of Average of Average Performance [0.393259574660092]
予測モデルの評価と比較の現在のプラクティスは、パフォーマンスを1つのスコアにまとめることに集中しています。
複数の視点からモデルを評価するための新しいフレームワークを提案する。
このフレームワークの利点は、最先端のディープラーニングアプローチと古典的な予測手法を比較して示す。
論文 参考訳(メタデータ) (2024-06-24T12:28:22Z) - Metric-aware LLM inference for regression and scoring [52.764328080398805]
大規模言語モデル(LLM)は、様々なNLPタスクに対して強い結果を示してきた。
我々は,この推論戦略が,様々な回帰・スコアリングタスクや関連する評価指標に最適であることを示す。
我々は、カスタム回帰を最適化し、推定時にメトリクスをスコアリングする決定論的アプローチである、意識的距離 LLM 推論を提案する。
論文 参考訳(メタデータ) (2024-03-07T03:24:34Z) - Bayesian Nonparametrics Meets Data-Driven Distributionally Robust Optimization [29.24821214671497]
機械学習と統計モデルのトレーニングは、しばしばデータ駆動型リスク基準の最適化を伴う。
ベイズ的非パラメトリック(ディリクレ過程)理論と、スムーズなあいまいさ-逆選好の最近の決定論的モデルを組み合わせた、新しいロバストな基準を提案する。
実用的な実装として、よく知られたディリクレプロセスの表現に基づいて、評価基準の抽出可能な近似を提案し、研究する。
論文 参考訳(メタデータ) (2024-01-28T21:19:15Z) - Prediction-Oriented Bayesian Active Learning [51.426960808684655]
予測情報ゲイン(EPIG)は、パラメータではなく予測空間における情報ゲインを測定する。
EPIGは、さまざまなデータセットやモデルにわたるBALDと比較して、予測パフォーマンスが向上する。
論文 参考訳(メタデータ) (2023-04-17T10:59:57Z) - Probable Domain Generalization via Quantile Risk Minimization [90.15831047587302]
ドメインの一般化は、目に見えないテスト分布でうまく機能する予測子を求める。
我々はDGのための新しい確率的フレームワークを提案し、高い確率でよく動作する予測器を学習することを目指している。
論文 参考訳(メタデータ) (2022-07-20T14:41:09Z) - Statistical Learning for Individualized Asset Allocation [22.053470518472356]
我々は,連続行動の効果をモデル化するための離散化手法を開発した。
一般化された凹凸ペナルティを用いた推定器は望ましい理論的特性を享受できることを示す。
その結果, 個人化された最適戦略は, 個人財政の健全性を向上し, ベンチマーク戦略を超越していることが示唆された。
論文 参考訳(メタデータ) (2022-01-20T04:40:03Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z) - An Extended Multi-Model Regression Approach for Compressive Strength
Prediction and Optimization of a Concrete Mixture [0.0]
コンクリートの圧縮強度のモデルに基づく評価は, 強度予測と混合最適化の両方のために高い値である。
複数の回帰手法の重み付け組み合わせにより予測モデルの精度を向上させるためのさらなる一歩を踏み出す。
得られた多回帰モデルに基づいてGAに基づく混合最適化を提案する。
論文 参考訳(メタデータ) (2021-06-13T16:10:32Z) - Approximate Cross-validated Mean Estimates for Bayesian Hierarchical
Regression Models [7.455546102930911]
本稿では,ベイズ階層回帰モデルに対するクロスバリデーション予測手法を提案する。
理論的な結果を提供し、その効果を公開データやシミュレーションで実証する。
論文 参考訳(メタデータ) (2020-11-29T00:00:20Z) - Combining Task Predictors via Enhancing Joint Predictability [53.46348489300652]
そこで本研究では,目標予測能力に基づいて参照の関連性を測定し,その関連性を高めるための新しい予測器組合せアルゴリズムを提案する。
提案アルゴリズムはベイズフレームワークを用いて,すべての参照の関連性について共同で評価する。
視覚属性ランキングとマルチクラス分類シナリオから得られた実世界の7つのデータセットの実験に基づいて,本アルゴリズムが性能向上に寄与し,既存の予測器の組み合わせアプローチの適用範囲を広くすることを示した。
論文 参考訳(メタデータ) (2020-07-15T21:58:39Z) - Machine learning for causal inference: on the use of cross-fit
estimators [77.34726150561087]
より優れた統計特性を得るために、二重ローバストなクロスフィット推定器が提案されている。
平均因果効果(ACE)に対する複数の推定器の性能評価のためのシミュレーション研究を行った。
機械学習で使用する場合、二重確率のクロスフィット推定器は、バイアス、分散、信頼区間のカバレッジで他のすべての推定器よりも大幅に優れていた。
論文 参考訳(メタデータ) (2020-04-21T23:09:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。