論文の概要: Mamba Hawkes Process

• arxiv url: http://arxiv.org/abs/2407.05302v1
• Date: Sun, 7 Jul 2024 08:37:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-09 20:17:13.071126
• Title: Mamba Hawkes Process
• Title（参考訳）: マンバホークスプロセス
• Authors: Anningzhe Gao, Shan Dai, Yan Hu,
• Abstract要約: 我々は,長距離依存関係と動的イベント相互作用をキャプチャするために,Mamba状態空間アーキテクチャを活用するMamba Hawkes Process(MHP)を紹介した。 また,予測能力を高めるために,マンバとトランスフォーマーモデルを組み合わせたマンバホークスプロセス拡張(MHP-E)を提案する。
• 参考スコア（独自算出の注目度）: 2.2070133073929963
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Irregular and asynchronous event sequences are prevalent in many domains, such as social media, finance, and healthcare. Traditional temporal point processes (TPPs), like Hawkes processes, often struggle to model mutual inhibition and nonlinearity effectively. While recent neural network models, including RNNs and Transformers, address some of these issues, they still face challenges with long-term dependencies and computational efficiency. In this paper, we introduce the Mamba Hawkes Process (MHP), which leverages the Mamba state space architecture to capture long-range dependencies and dynamic event interactions. Our results show that MHP outperforms existing models across various datasets. Additionally, we propose the Mamba Hawkes Process Extension (MHP-E), which combines Mamba and Transformer models to enhance predictive capabilities. We present the novel application of the Mamba architecture to Hawkes processes, a flexible and extensible model structure, and a theoretical analysis of the synergy between state space models and Hawkes processes. Experimental results demonstrate the superior performance of both MHP and MHP-E, advancing the field of temporal point process modeling.
• Abstract（参考訳）: 不規則で非同期なイベントシーケンスは、ソーシャルメディア、ファイナンス、ヘルスケアなど、多くのドメインで一般的である。 従来の時間的点過程(TPP)は、ホークス過程と同様に、相互阻害や非線形性を効果的にモデル化するのに苦労することが多い。 最近のニューラルネットワークモデル(RNNやTransformerなど)は、これらの問題の一部に対処する一方で、長期的な依存関係と計算効率に関する課題に直面している。 本稿では,MHP(Mamba Hawkes Process)を導入し,MHP(Mamba Hawkes Process)とMHP(Mamba Hawkes Process)について述べる。 以上の結果から,MHPは様々なデータセットにおいて既存モデルよりも優れていることがわかった。 さらに,マンバとトランスフォーマーモデルを組み合わせて予測能力を向上する,マンバホークスプロセス拡張(MHP-E)を提案する。 本稿では,HawkesプロセスへのMambaアーキテクチャの新たな応用,フレキシブルで拡張可能なモデル構造,および状態空間モデルとHawkesプロセス間の相乗効果の理論解析について述べる。 実験により, MHPとMHP-Eの双方の優れた性能を示し, 時間点プロセスモデリングの分野を推し進めた。

関連論文リスト

• State-space models are accurate and efficient neural operators for dynamical systems [23.59679792068364]
  物理インフォームド・機械学習(PIML)は、力学系を予測する古典的な手法の代替として期待されている。 リカレントニューラルネットワーク(RNN)、トランスフォーマー、ニューラル演算子など、既存のモデルでは、長時間の統合、長距離依存性、カオスダイナミクス、外挿といった課題に直面している。 本稿では,Mambaで実装された動的システム演算子学習のための状態空間モデルを提案する。
  論文  参考訳（メタデータ） (2024-09-05T03:57:28Z)
• Bidirectional Gated Mamba for Sequential Recommendation [56.85338055215429]
  最近の進歩であるMambaは、時系列予測において例外的なパフォーマンスを示した。 SIGMA(Selective Gated Mamba)と呼ばれる,シークエンシャルレコメンデーションのための新しいフレームワークを紹介する。 以上の結果から,SIGMAは5つの実世界のデータセットにおいて,現在のモデルよりも優れていたことが示唆された。
  論文  参考訳（メタデータ） (2024-08-21T09:12:59Z)
• MambaVT: Spatio-Temporal Contextual Modeling for robust RGB-T Tracking [51.28485682954006]
  本研究では,マンバをベースとした純フレームワーク(MambaVT)を提案する。 具体的には、長距離クロスフレーム統合コンポーネントを考案し、ターゲットの外観変化にグローバルに適応する。 実験では、RGB-TトラッキングのためのMambaのビジョンの可能性が示され、MambaVTは4つの主要なベンチマークで最先端のパフォーマンスを達成した。
  論文  参考訳（メタデータ） (2024-08-15T02:29:00Z)
• Mamba-Spike: Enhancing the Mamba Architecture with a Spiking Front-End for Efficient Temporal Data Processing [4.673285689826945]
  Mamba-Spikeは、スパイクするフロントエンドとMambaのバックボーンを統合して、効率的な時間的データ処理を実現する新しいニューロモルフィックアーキテクチャである。 このアーキテクチャは、最先端のベースラインを一貫して上回り、高い精度、低いレイテンシ、エネルギー効率の向上を実現している。
  論文  参考訳（メタデータ） (2024-08-04T14:10:33Z)
• CMamba: Channel Correlation Enhanced State Space Models for Multivariate Time Series Forecasting [18.50360049235537]
  ステートスペースモデルであるMambaは、堅牢なシーケンスと機能ミキシング機能を備えている。 チャネル間の依存関係のキャプチャは、時系列予測のパフォーマンス向上に不可欠である。 時系列予測に適した改良されたマンバ変種を導入する。
  論文  参考訳（メタデータ） (2024-06-08T01:32:44Z)
• Swin-UMamba: Mamba-based UNet with ImageNet-based pretraining [85.08169822181685]
  本稿では,医療画像のセグメンテーションに特化して設計された新しいマンバモデルSwin-UMambaを紹介する。 Swin-UMamba は CNN や ViT,最新の Mamba ベースのモデルと比較して,優れたパフォーマンスを示している。
  論文  参考訳（メタデータ） (2024-02-05T18:58:11Z)
• Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
  多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。 本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。 疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
  論文  参考訳（メタデータ） (2022-06-10T04:54:13Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• Learning Multivariate Hawkes Processes at Scale [17.17906360554892]
  提案手法は, 基礎となるネットワークの周囲次元とは無関係に, MHP の精度と勾配を計算可能であることを示す。 合成および実世界のデータセットについて、我々のモデルは最先端の予測結果を達成するだけでなく、実行時の性能を桁違いに改善することを示した。
  論文  参考訳（メタデータ） (2020-02-28T01:18:01Z)
• Transformer Hawkes Process [79.16290557505211]
  本稿では,長期的依存関係を捕捉する自己認識機構を利用したTransformer Hawkes Process (THP) モデルを提案する。 THPは、有意なマージンによる可能性と事象予測の精度の両方の観点から、既存のモデルより優れている。 本稿では、THPが関係情報を組み込む際に、複数の点過程を学習する際の予測性能の改善を実現する具体例を示す。
  論文  参考訳（メタデータ） (2020-02-21T13:48:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。