論文の概要: Learning to Forget: Bayesian Time Series Forecasting using Recurrent Sparse Spectrum Signature Gaussian Processes

• arxiv url: http://arxiv.org/abs/2412.19727v1
• Date: Fri, 27 Dec 2024 16:31:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-30 17:28:55.467512
• Title: Learning to Forget: Bayesian Time Series Forecasting using Recurrent Sparse Spectrum Signature Gaussian Processes
• Title（参考訳）: リカレントスパーススペクトル信号ガウス過程を用いたベイズ時系列予測の学習
• Authors: Csaba Tóth, Masaki Adachi, Michael A. Osborne, Harald Oberhauser,
• Abstract要約: 署名カーネルは任意の長さの時系列の間のカーネルである。 本稿では,シグネチャの新規な記憶機構を導入し,データ駆動方式を提案する。 これにより、モデルがコンテキスト長を動的に適応して、より最近の情報に集中することができる。
• 参考スコア（独自算出の注目度）: 27.884145970863287
• License:
• Abstract: The signature kernel is a kernel between time series of arbitrary length and comes with strong theoretical guarantees from stochastic analysis. It has found applications in machine learning such as covariance functions for Gaussian processes. A strength of the underlying signature features is that they provide a structured global description of a time series. However, this property can quickly become a curse when local information is essential and forgetting is required; so far this has only been addressed with ad-hoc methods such as slicing the time series into subsegments. To overcome this, we propose a principled, data-driven approach by introducing a novel forgetting mechanism for signatures. This allows the model to dynamically adapt its context length to focus on more recent information. To achieve this, we revisit the recently introduced Random Fourier Signature Features, and develop Random Fourier Decayed Signature Features (RFDSF) with Gaussian processes (GPs). This results in a Bayesian time series forecasting algorithm with variational inference, that offers a scalable probabilistic algorithm that processes and transforms a time series into a joint predictive distribution over time steps in one pass using recurrence. For example, processing a sequence of length $10^4$ steps in $\approx 10^{-2}$ seconds and in $< 1\text{GB}$ of GPU memory. We demonstrate that it outperforms other GP-based alternatives and competes with state-of-the-art probabilistic time series forecasting algorithms.
• Abstract（参考訳）: シグネチャカーネルは任意の長さの時系列の間のカーネルであり、確率解析から強い理論的保証が与えられる。 ガウス過程の共分散関数のような機械学習の応用を見出した。 基本となるシグネチャの特徴の強みは、時系列の構造化されたグローバルな記述を提供することである。 しかし、このプロパティは、ローカル情報が必須であり、忘れることが必要なときにすぐに呪いになり、これまでのところ、時系列をサブセグメントにスライスするといったアドホックな方法でのみ対処されている。 これを解決するために,シグネチャの新たな忘れ機構を導入し,データ駆動方式を提案する。 これにより、モデルがコンテキスト長を動的に適応して、より最近の情報に集中することができる。 そこで我々は,最近導入されたRandom Fourier Signature Featuresを再検討し,Gaussian Process (GP) を用いたRandom Fourier Decayed Signature Features (RFDSF) を開発した。 この結果、変分推論を伴うベイズ時系列予測アルゴリズムが実現し、このアルゴリズムは、繰り返しを用いた1回のパスにおいて、時系列を時間ステップによる共同予測分布として処理し、変換するスケーラブルな確率的アルゴリズムを提供する。 例えば、長さ10^4$のステップを$\approx 10^{-2}$秒、$<1\text{GB}$GPUメモリで処理する。 GPベースの他の選択肢よりも優れており、最先端の確率的時系列予測アルゴリズムと競合することを示す。

関連論文リスト

• Inference-Time Alignment in Diffusion Models with Reward-Guided Generation: Tutorial and Review [59.856222854472605]
  このチュートリアルは、拡散モデルにおける下流の報酬関数を最適化するための推論時ガイダンスとアライメント方法に関する詳細なガイドを提供する。 生物学のような分野における実践的な応用は、しばしば特定の指標を最大化するサンプル生成を必要とする。 本稿では,(1)推論時と組み合わせた微調整手法,(2)モンテカルロ木探索などの探索アルゴリズムに基づく推論時アルゴリズム,(3)言語モデルと拡散モデルにおける推論時アルゴリズムの接続について論じる。
  論文  参考訳（メタデータ） (2025-01-16T17:37:35Z)
• Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
  我々は時系列の統一予測のための生成変換器Timer-XLを提案する。 Timer-XLは、統一されたアプローチにより、挑戦的な予測ベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-10-07T07:27:39Z)
• Universal randomised signatures for generative time series modelling [1.8434042562191815]
  我々は、財務時系列データの生成モデルを導入するためにランダム化シグネチャを用いる。 具体的には、離散時間ランダム化シグネチャに基づく新しいワッサーシュタイン型距離を提案する。 次に、合成時系列データに対する非逆生成モデルにおける損失関数として、我々の測定値を用いる。
  論文  参考訳（メタデータ） (2024-06-14T17:49:29Z)
• Random Fourier Signature Features [8.766411351797885]
  代数はシグネチャカーネルと呼ばれる任意の長さの列の類似性の最も強力な尺度の1つを生み出す。 署名カーネルのスケールを、配列の長さと数で2次的に計算する以前のアルゴリズム。 本研究では,非ユークリッド領域に作用するシグネチャカーネルのランダムなフーリエ特徴量に基づくアクセラレーションを開発する。
  論文  参考訳（メタデータ） (2023-11-20T22:08:17Z)
• Gaussian processes based data augmentation and expected signature for time series classification [0.0]
  本稿では,期待されたシグネチャに基づいて構築された時系列の特徴抽出モデルを提案する。 主な特徴の1つは、モデルを使用する教師付きタスクを通じて最適な特徴抽出が学習されることである。
  論文  参考訳（メタデータ） (2023-10-16T21:18:51Z)
• BayOTIDE: Bayesian Online Multivariate Time series Imputation with functional decomposition [31.096125530322933]
  交通やエネルギーといった現実のシナリオでは、値やノイズが欠けている巨大な時系列データが広く観測され、不規則にサンプリングされる。 多くの計算法が提案されているが、そのほとんどは局所的な地平線で動作する。 ほとんど全ての手法は、観測は通常のタイムスタンプでサンプリングされ、複雑な不規則なサンプル時系列を扱うことができないと仮定する。
  論文  参考訳（メタデータ） (2023-08-28T21:17:12Z)
• HyperTime: Implicit Neural Representation for Time Series [131.57172578210256]
  暗黙の神経表現(INR)は、データの正確で解像度に依存しないエンコーディングを提供する強力なツールとして最近登場した。 本稿では、INRを用いて時系列の表現を分析し、再構成精度とトレーニング収束速度の点で異なるアクティベーション関数を比較した。 本稿では,INRを利用して時系列データセット全体の圧縮潜在表現を学習するハイパーネットワークアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2022-08-11T14:05:51Z)
• Complex Event Forecasting with Prediction Suffix Trees: Extended Technical Report [70.7321040534471]
  複合イベント認識(CER)システムは、イベントのリアルタイムストリーム上のパターンを"即時"検出する能力によって、過去20年間に人気が高まっている。 このような現象が実際にCERエンジンによって検出される前に、パターンがいつ発生するかを予測する方法が不足している。 複雑なイベント予測の問題に対処しようとする形式的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-01T09:52:31Z)
• A Polynomial Time Algorithm for Learning Halfspaces with Tsybakov Noise [55.45544638410858]
  本研究では,Tsybakovノイズの存在下でのPAC学習の相同性半空間の問題について検討する。 我々のアルゴリズムは、任意の精度$epsilon$で真のハーフスペースを学習する。
  論文  参考訳（メタデータ） (2020-10-04T22:19:06Z)
• Learned Factor Graphs for Inference from Stationary Time Sequences [107.63351413549992]
  定常時間列のためのモデルベースアルゴリズムとデータ駆動型MLツールを組み合わせたフレームワークを提案する。 ニューラルネットワークは、時系列の分布を記述する因子グラフの特定のコンポーネントを別々に学習するために開発された。 本稿では,学習された定常因子グラフに基づく推論アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-05T07:06:19Z)
• Scalable Hybrid HMM with Gaussian Process Emission for Sequential Time-series Data Clustering [13.845932997326571]
  隠れマルコフモデル(HMM)とガウス過程(GP)のエミッションを組み合わせることで、隠れた状態を効率的に推定することができる。 本稿では,HMM-GPSMのためのスケーラブルな学習法を提案する。
  論文  参考訳（メタデータ） (2020-01-07T07:28:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。