論文の概要: Inflation forecasting with attention based transformer neural networks
- arxiv url: http://arxiv.org/abs/2303.15364v2
- Date: Wed, 29 Mar 2023 08:08:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-30 17:20:33.068706
- Title: Inflation forecasting with attention based transformer neural networks
- Title(参考訳): 注意に基づくトランスニューラルネットワークによるインフレ予測
- Authors: Maximilian Tschuchnig and Petra Tschuchnig and Cornelia Ferner and
Michael Gadermayr
- Abstract要約: 本稿では,変圧器の深部ニューラルネットワークアーキテクチャが,異なるインフレ率を予測できる可能性について検討する。
適応型変圧器は平均して16実験中6実験でベースラインを上回っている。
- 参考スコア(独自算出の注目度): 1.6822770693792823
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Inflation is a major determinant for allocation decisions and its forecast is
a fundamental aim of governments and central banks. However, forecasting
inflation is not a trivial task, as its prediction relies on low frequency,
highly fluctuating data with unclear explanatory variables. While classical
models show some possibility of predicting inflation, reliably beating the
random walk benchmark remains difficult. Recently, (deep) neural networks have
shown impressive results in a multitude of applications, increasingly setting
the new state-of-the-art. This paper investigates the potential of the
transformer deep neural network architecture to forecast different inflation
rates. The results are compared to a study on classical time series and machine
learning models. We show that our adapted transformer, on average, outperforms
the baseline in 6 out of 16 experiments, showing best scores in two out of four
investigated inflation rates. Our results demonstrate that a transformer based
neural network can outperform classical regression and machine learning models
in certain inflation rates and forecasting horizons.
- Abstract(参考訳): インフレは割当決定の主要な決定要因であり、その予測は政府や中央銀行の基本的な目標である。
しかし、その予測は低周波で説明変数が不明な高度に変動するデータに依存するため、インフレ予測は簡単な作業ではない。
古典モデルはインフレーションを予測する可能性を示しているが、ランダムウォークベンチマークを確実に打ち負かすことは難しい。
近年、(深い)ニューラルネットワークは、多くのアプリケーションで印象的な結果を示しており、新しい最先端の設定がますます増えている。
本稿では,変圧器の深部ニューラルネットワークアーキテクチャが,異なるインフレ率を予測できる可能性について検討する。
その結果,古典的時系列モデルと機械学習モデルとの比較を行った。
適応型変圧器は、平均して16実験中6実験でベースラインを上回り、調査された4回のインフレ率のうち2回で最高のスコアを示した。
この結果から,変圧器をベースとしたニューラルネットワークは,あるインフレ率と予測地平線において,古典的回帰モデルや機械学習モデルより優れることが示された。
関連論文リスト
- GARCH-Informed Neural Networks for Volatility Prediction in Financial Markets [0.0]
マーケットのボラティリティを計測し、予測する新しいハイブリッドなDeep Learningモデルを提案する。
他の時系列モデルと比較すると、GINNは決定係数(R2$)、平均正方形誤差(MSE)、平均絶対誤差(MAE)の点で優れたサンプル外予測性能を示した。
論文 参考訳(メタデータ) (2024-09-30T23:53:54Z) - Interval Forecasts for Gas Prices in the Face of Structural Breaks -- Statistical Models vs. Neural Networks [0.0]
ニューラルネットワークのような現代の機械学習手法が、このような変化に対してより耐性があるかどうかを検討する。
衝撃期においては、ほとんどのモデルでは、余震期における分散を過大評価しながら、分散を過小評価している。
興味深いことに、広く使われている長短のニューラルネットワークは、競合他社よりも優れています。
論文 参考訳(メタデータ) (2024-07-23T11:34:13Z) - Bias in Pruned Vision Models: In-Depth Analysis and Countermeasures [93.17009514112702]
ニューラルネットワークのパラメータのかなりの部分集合をゼロに設定するプルーニングは、モデル圧縮の最も一般的な方法の1つである。
この現象の既存の証拠にもかかわらず、ニューラルネットワークのプルーニングと誘導バイアスの関係はよく理解されていない。
論文 参考訳(メタデータ) (2023-04-25T07:42:06Z) - Volatility forecasting using Deep Learning and sentiment analysis [0.0]
本稿では、市場ボラティリティを予測するための感情分析と深層学習を融合した複合モデルを提案する。
次に、過去の感情と前日の変動を利用して予測を行う合成予測モデル、Long-Short-Term-Memory Neural Network法について述べる。
論文 参考訳(メタデータ) (2022-10-22T14:54:33Z) - Multi-scale Feature Learning Dynamics: Insights for Double Descent [71.91871020059857]
一般化誤差の「二重降下」現象について検討する。
二重降下は、異なるスケールで学習される異なる特徴に起因する可能性がある。
論文 参考訳(メタデータ) (2021-12-06T18:17:08Z) - Bilinear Input Normalization for Neural Networks in Financial
Forecasting [101.89872650510074]
本稿では,高頻度金融時系列を扱うディープニューラルネットワークのための新しいデータ駆動正規化手法を提案する。
提案手法は,財務時系列のバイモーダル特性を考慮したものである。
我々の実験は最先端のニューラルネットワークと高周波データを用いて行われ、他の正規化技術よりも大幅に改善された。
論文 参考訳(メタデータ) (2021-09-01T07:52:03Z) - Towards an Understanding of Benign Overfitting in Neural Networks [104.2956323934544]
現代の機械学習モデルは、しばしば膨大な数のパラメータを使用し、通常、トレーニング損失がゼロになるように最適化されている。
ニューラルネットワークの2層構成において、これらの良質な過適合現象がどのように起こるかを検討する。
本稿では,2層型ReLUネットワーク補間器を極小最適学習率で実現可能であることを示す。
論文 参考訳(メタデータ) (2021-06-06T19:08:53Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - Neural networks in day-ahead electricity price forecasting: Single vs.
multiple outputs [0.0]
電力価格予測において、ニューラルネットワークは最も人気のある機械学習手法である。
本稿では、ディープニューラルネットワークを用いた2つの一般的な構造を包括的に比較する。
その結果、5つの異なる電力交換所のデータから、後者を使用することで、かなりの精度の利点が確認された。
論文 参考訳(メタデータ) (2020-08-18T16:20:31Z) - Vulnerability Under Adversarial Machine Learning: Bias or Variance? [77.30759061082085]
本研究では,機械学習が訓練された深層ニューラルネットワークのバイアスと分散に与える影響について検討する。
我々の分析は、ディープニューラルネットワークが対向的摂動下で性能が劣っている理由に光を当てている。
本稿では,計算処理の複雑さをよく知られた機械学習手法よりも低く抑えた,新しい逆機械学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-08-01T00:58:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。