Fugu-MT 論文翻訳(概要): Impact of HPO on AutoML Forecasting Ensembles

論文の概要: Impact of HPO on AutoML Forecasting Ensembles

arxiv url: http://arxiv.org/abs/2311.04034v1
Date: Tue, 7 Nov 2023 14:38:18 GMT
ステータス: 処理完了
システム内更新日: 2023-11-08 15:09:14.173475
Title: Impact of HPO on AutoML Forecasting Ensembles
Title（参考訳）: HPOがAutoML予測アンサンブルに及ぼす影響
Authors: David Hoffmann
Abstract要約: 本稿では,追加のトレーニングコストと,異なる構成の精度向上とのトレードオフについて検討する。提案されたアンサンブル学習とHPOの組み合わせは、アート商用のAutoML予測ソリューションであるAmazon Forecastの状態を上回ります。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: A forecasting ensemble consisting of a diverse range of estimators for both local and global univariate forecasting, in particular MQ-CNN,DeepAR, Prophet, NPTS, ARIMA and ETS, can be used to make forecasts for a variety of problems. This paper delves into the aspect of adding different hyperparameter optimization strategies to the deep learning models in such a setup (DeepAR and MQ-CNN), exploring the trade-off between added training cost and the increase in accuracy for different configurations. It shows that in such a setup, adding hyperparameter optimization can lead to performance improvements, with the final setup having a 9.9 % percent accuracy improvement with respect to the avg-wQL over the baseline ensemble without HPO, accompanied by a 65.8 % increase in end-to-end ensemble latency. This improvement is based on an empirical analysis of combining the ensemble pipeline with different tuning strategies, namely Bayesian Optimisation and Hyperband and different configurations of those strategies. In the final configuration, the proposed combination of ensemble learning and HPO outperforms the state of the art commercial AutoML forecasting solution, Amazon Forecast, with a 3.5 % lower error and 16.0 % lower end-to-end ensemble latency.
Abstract（参考訳）: 特にMQ-CNN,DeepAR,Prophet,NPTS,ARIMA,ETSといった,局所的およびグローバルな一変量予測のための多様な推定器からなる予測アンサンブルを用いて,様々な問題の予測を行うことができる。本稿では、このようなセットアップ(DeepARとMQ-CNN)において、異なるハイパーパラメータ最適化戦略を深層学習モデルに追加し、追加のトレーニングコストと異なる構成の精度の向上とのトレードオフを探る。このような設定では、ハイパーパラメータの最適化がパフォーマンス向上につながり、最終設定では、hpoのないベースラインアンサンブル上でのavg-wqlに対する9.9パーセントの精度向上と、エンドツーエンドアンサンブルレイテンシの65.8%向上が見られた。この改善は、アンサンブルパイプラインと異なるチューニング戦略、すなわちベイズ最適化とハイパーバンドとそれらの戦略の異なる構成を組み合わせた経験的分析に基づいている。最終構成では、アンサンブル学習とhpoの組み合わせは、art商用automl予測ソリューションであるamazon forecastの状態を上回り、3.5 %低いエラーと16.0 %低いエンド・ツー・エンドアンサンブルレイテンシを持つ。

関連論文リスト

A Hybrid Sampling and Multi-Objective Optimization Approach for Enhanced Software Defect Prediction [3.407555189785573]
本稿では,ハイブリッドサンプリング技術と多目的最適化アルゴリズムを組み合わせた新しいSDPフレームワークを提案する。提案モデルは,多目的最適化による特徴融合を適用し,一般化能力と予測の安定性を両立させる。 NASAとPROMISEリポジトリのデータセットで実施された実験は、提案されたハイブリッドサンプリングと多目的最適化アプローチがデータのバランスを改善し、冗長な特徴を排除し、予測精度を高めることを示した。
論文参考訳（メタデータ） (2024-10-13T23:39:04Z)
Adaptive Conformal Inference for Multi-Step Ahead Time-Series Forecasting Online [0.0]
有限サンプルカバレッジ保証を実現するために適応型共形推論アルゴリズムの適応性を提案する。私たちの多段階のACI手続きは、これらの保証を各予測ステップで継承し、全体的なエラー率を保証します。
論文参考訳（メタデータ） (2024-09-23T08:07:49Z)
Controllable Prompt Tuning For Balancing Group Distributional Robustness [53.336515056479705]
グループ間で優れたパフォーマンスを実現するための最適化スキームを導入し、それらの性能を著しく犠牲にすることなく、全員に良い解決策を見出す。本稿では,制御可能なプロンプトチューニング(CPT)を提案する。突発的相関ベンチマークでは, 変換器と非変換器の両アーキテクチャ, および非モーダルおよびマルチモーダルデータにまたがって, 最先端の結果が得られた。
論文参考訳（メタデータ） (2024-03-05T06:23:55Z)
Regularized boosting with an increasing coefficient magnitude stop criterion as meta-learner in hyperparameter optimization stacking ensemble [0.0]
本稿ではHPOにおけるアンサンブルを積み重ねるためのメタラーナーについて検討する。マルチコリニアリティの効果を低減し,アンサンブル学習プロセスの一般化能力を考慮した。また、古典的なブースティング法における暗黙の正規化と、HPO用に特別に設計されたブースティングにのみ適する新しい非パラメトリックストップ基準を提案する。
論文参考訳（メタデータ） (2024-02-02T13:03:15Z)
Benchmarking PtO and PnO Methods in the Predictive Combinatorial Optimization Regime [59.27851754647913]
予測最適化(英: Predictive optimization)は、エネルギーコストを意識したスケジューリングや広告予算配分など、多くの現実世界のアプリケーションの正確なモデリングである。我々は,広告のための新しい産業データセットを含む8つの問題に対して,既存のPtO/PnOメソッド11をベンチマークするモジュラーフレームワークを開発した。本研究は,8ベンチマーク中7ベンチマークにおいて,PnOアプローチがPtOよりも優れていることを示すが,PnOの設計選択に銀の弾丸は見つからない。
論文参考訳（メタデータ） (2023-11-13T13:19:34Z)
Comparative Evaluation of Metaheuristic Algorithms for Hyperparameter Selection in Short-Term Weather Forecasting [0.0]
本稿では,遺伝的アルゴリズム (GA), 微分進化 (DE), 粒子群最適化 (PSO) のメタヒューリスティックアルゴリズムの適用について検討する。平均二乗誤差(MSE)や平均絶対パーセンテージ誤差(MAPE)といった指標に基づいて天気予報の性能を評価する。
論文参考訳（メタデータ） (2023-09-05T22:13:35Z)
Probabilistic Forecasting with Coherent Aggregation [42.215158938066054]
MQForecasterニューラルネットワークアーキテクチャを構築によりコヒーレンスを実現するための新しい深いガウス因子予測モデルで拡張する。最先端のコヒーレント予測手法と比較して、DeepCoFactorはスケールしたCRPS予測精度を大幅に改善し、平均利得は15%である。
論文参考訳（メタデータ） (2023-07-19T07:31:37Z)
Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文参考訳（メタデータ） (2023-05-01T20:04:46Z)
Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文参考訳（メタデータ） (2022-09-27T07:58:25Z)
Multi-objective hyperparameter optimization with performance uncertainty [62.997667081978825]
本稿では,機械学習アルゴリズムの評価における不確実性を考慮した多目的ハイパーパラメータ最適化の結果について述べる。木構造型Parzen Estimator(TPE)のサンプリング戦略と、ガウス過程回帰(GPR)と異種雑音の訓練後に得られたメタモデルを組み合わせる。 3つの解析的テスト関数と3つのML問題の実験結果は、多目的TPEとGPRよりも改善したことを示している。
論文参考訳（メタデータ） (2022-09-09T14:58:43Z)
Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文参考訳（メタデータ） (2022-05-26T12:51:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。