論文の概要: Horizon Activation Mapping for Neural Networks in Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2601.02094v1
- Date: Mon, 05 Jan 2026 13:21:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-06 16:25:23.144965
- Title: Horizon Activation Mapping for Neural Networks in Time Series Forecasting
- Title(参考訳): 時系列予測におけるニューラルネットワークの水平活性化マッピング
- Authors: Hans Krupakar, V A Kandappan,
- Abstract要約: Horizon Activation Mapping (HAM)は、grad-CAMにインスパイアされた視覚的解釈可能性技術である。
Hamは、粒度のモデル選択、検証セットの選択、異なるニューラルネットワークモデルファミリ間の比較に使用することができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural networks for time series forecasting have relied on error metrics and architecture-specific interpretability approaches for model selection that don't apply across models of different families. To interpret forecasting models agnostic to the types of layers across state-of-the-art model families, we introduce Horizon Activation Mapping (HAM), a visual interpretability technique inspired by grad-CAM that uses gradient norm averages to study the horizon's subseries where grad-CAM studies attention maps over image data. We introduce causal and anti-causal modes to calculate gradient update norm averages across subseries at every timestep and lines of proportionality signifying uniform distributions of the norm averages. Optimization landscape studies with respect to changes in batch sizes, early stopping, train-val-test splits, univariate forecasting and dropouts are studied with respect to performances and subseries in HAM. Interestingly, batch size based differences in activities seem to indicate potential for existence of an exponential approximation across them per epoch relative to each other. Multivariate forecasting models including MLP-based CycleNet, N-Linear, N-HITS, self attention-based FEDformer, Pyraformer, SSM-based SpaceTime and diffusion-based Multi-Resolution DDPM over different horizon sizes trained over the ETTm2 dataset are used for HAM plots in this study. NHITS' neural approximation theorem and SpaceTime's exponential autoregressive activities have been attributed to trends in HAM plots over their training, validation and test sets. In general, HAM can be used for granular model selection, validation set choices and comparisons across different neural network model families.
- Abstract(参考訳): 時系列予測のためのニューラルネットワークは、異なる家系のモデルに適用できないモデル選択のためのエラーメトリクスとアーキテクチャ固有の解釈可能性アプローチに依存している。
最先端のモデルファミリにまたがる階層のタイプに依存しない予測モデルを解釈するために,勾配ノルム平均を用いた視覚的解釈可能性技術であるHorizon Activation Mapping (HAM)を導入する。
因果的および反因果的モードを導入し,標準値の均一分布を示す比例関係の列と,各時刻におけるサブセット間の勾配更新ノルム平均を計算する。
本研究では, バッチサイズ, 早期停止, 列車速度分割, 単変量予測, 降雨量に関する最適化ランドスケープスタディを, HAMにおける性能とサブシリーズについて検討した。
興味深いことに、バッチサイズに基づく活動の差異は、各時代ごとの指数的近似の存在の可能性を示しているように思われる。
本研究では,EMPベースのCycleNet,N-Linear,N-HITS,セルフアテンションベースのFEDformer,Piraformer,SSMベースのSpaceTime,拡散型マルチリゾリューションDDPMなどの多変量予測モデルを用いて,ETTm2データセット上でトレーニングされた異なる地平線サイズについて検討した。
NHITSの神経近似定理とSpaceTimeの指数的自己回帰活動は、トレーニング、検証、テストセットに関するHAMプロットの傾向に起因している。
一般的に、HAMは、粒度のモデル選択、検証セットの選択、異なるニューラルネットワークモデルファミリ間の比較に使用することができる。
関連論文リスト
- Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。
生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
論文 参考訳(メタデータ) (2025-10-16T03:37:16Z) - A Review of the Long Horizon Forecasting Problem in Time Series Analysis [0.0]
長い地平線予測(LHF)問題は、過去35年ほどにわたって時系列文献に現れてきた。
ディープラーニングには、トレンド、季節性、フーリエ変換、ウェーブレット変換、不特定バイアス低減、帯域通過フィルタのバリエーションが組み込まれている。
本稿では, 時系列分解技術, 入力データ前処理, および, 性能向上のためのデータセットのウィンドウ化手法について述べる。
論文 参考訳(メタデータ) (2025-06-15T10:49:50Z) - Temporal Difference Flows [82.24174052059352]
Geometric Horizon Models (GHMs) は、将来の状態を直接予測することで、魅力的な代替手段を提供する。
既存の手法は、列車時のブートストラップ予測や、長い地平線で高品質な予測を生成するのに苦慮している。
本稿では,従来の手法の水平長の5倍以上の精度で正確なGHMを学習するために,確率経路上の新しいベルマン方程式の構造を利用した時間差流(TD-Flow)を提案する。
論文 参考訳(メタデータ) (2025-03-12T20:30:07Z) - Amortizing intractable inference in diffusion models for vision, language, and control [89.65631572949702]
本稿では,p(mathbfx)$以前の拡散生成モデルとブラックボックス制約,あるいは関数$r(mathbfx)$からなるモデルにおいて,データ上の後部サンプルである $mathbfxsim prm post(mathbfx)propto p(mathbfx)r(mathbfx)$について検討する。
我々は,データフリー学習目標である相対軌道バランスの正しさを,サンプルから抽出した拡散モデルの訓練のために証明する。
論文 参考訳(メタデータ) (2024-05-31T16:18:46Z) - From Reactive to Proactive Volatility Modeling with Hemisphere Neural Networks [0.0]
我々は,新しいニューラルネットワークアーキテクチャを用いて,マクロ経済密度予測のための最大推定値(MLE)を再活性化する。
ヘミスフィアニューラルネットワーク(HNN)は、可能時の主指標に基づく積極的なボラティリティ予測と、必要時の過去の予測誤差の大きさに基づく反応性ボラティリティ予測を提供する。
論文 参考訳(メタデータ) (2023-11-27T21:37:50Z) - Insights into Closed-form IPM-GAN Discriminator Guidance for Diffusion Modeling [11.68361062474064]
本稿では,GAN判別器がLangevinに基づくサンプリングに与える影響を理論的に解析する枠組みを提案する。
提案手法は既存の加速拡散技術と組み合わせて潜在空間画像生成を改善することができることを示す。
論文 参考訳(メタデータ) (2023-06-02T16:24:07Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Dynamic Time Warping as a New Evaluation for Dst Forecast with Machine
Learning [0.0]
ニューラルネットワークをトレーニングして、発生時刻の暴風雨時指数を1時間から6時間まで予測する。
相関係数とRMSEによるモデルの結果の検査により,最新の論文に匹敵する性能を示した。
2つの時系列が互いに時間的にずれているかどうかを測定するために,新しい手法を提案する。
論文 参考訳(メタデータ) (2020-06-08T15:14:13Z) - A Multi-Channel Neural Graphical Event Model with Negative Evidence [76.51278722190607]
イベントデータセットは、タイムライン上で不規則に発生するさまざまなタイプのイベントのシーケンスである。
基礎となる強度関数を推定するために,非パラメトリックディープニューラルネットワーク手法を提案する。
論文 参考訳(メタデータ) (2020-02-21T23:10:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。