論文の概要: Continuous-time convolutions model of event sequences

• arxiv url: http://arxiv.org/abs/2302.06247v2
• Date: Tue, 3 Sep 2024 18:41:49 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-07 07:10:38.206611
• Title: Continuous-time convolutions model of event sequences
• Title（参考訳）: イベントシーケンスの連続時間畳み込みモデル
• Authors: Vladislav Zhuzhel, Vsevolod Grabar, Galina Boeva, Artem Zabolotnyi, Alexander Stepikin, Vladimir Zholobov, Maria Ivanova, Mikhail Orlov, Ivan Kireev, Evgeny Burnaev, Rodrigo Rivera-Castro, Alexey Zaytsev,
• Abstract要約: イベントシーケンスは不均一でスパースであり、従来のモデルは不適当である。 我々は、時間とともに一様でない事象の発生を処理するために設計された効率的な畳み込みニューラルネットワークに基づくCOTICを提案する。 COTICは、次のイベント時間とタイプを予測する際に既存のモデルよりも優れており、最も近いライバルの3.714と比較して平均1.5のランクに達している。
• 参考スコア（独自算出の注目度）: 46.3471121117337
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Event sequences often emerge in data mining. Modeling these sequences presents two main challenges: methodological and computational. Methodologically, event sequences are non-uniform and sparse, making traditional models unsuitable. Computationally, the vast amount of data and the significant length of each sequence necessitate complex and efficient models. Existing solutions, such as recurrent and transformer neural networks, rely on parametric intensity functions defined at each moment. These functions are either limited in their ability to represent complex event sequences or notably inefficient. We propose COTIC, a method based on an efficient convolution neural network designed to handle the non-uniform occurrence of events over time. Our paper introduces a continuous convolution layer, allowing a model to capture complex dependencies, including, e.g., the self-excitement effect, with little computational expense. COTIC outperforms existing models in predicting the next event time and type, achieving an average rank of 1.5 compared to 3.714 for the nearest competitor. Furthermore, COTIC`s ability to produce effective embeddings demonstrates its potential for various downstream tasks. Our code is open and available at: https://github.com/VladislavZh/COTIC.
• Abstract（参考訳）: イベントシーケンスは、しばしばデータマイニングに現れる。 これらのシーケンスをモデル化することは、方法論と計算の2つの主な課題を示す。 方法論的には、イベントシーケンスは一様でなくスパースであり、伝統的なモデルは不適当である。 計算上、大量のデータと各シーケンスのかなりの長さは複雑で効率的なモデルを必要とする。 リカレントやトランスフォーマーニューラルネットワークといった既存のソリューションは、各瞬間で定義されたパラメトリック強度関数に依存している。 これらの関数は、複雑なイベントシーケンスを表現する能力に制限があるか、特に非効率である。 我々は、時間とともに一様でない事象の発生を処理するために設計された効率的な畳み込みニューラルネットワークに基づくCOTICを提案する。 本稿では,モデルが計算コストの少ない自己引用効果を含む複雑な依存関係をキャプチャできる連続的畳み込み層を提案する。 COTICは、次のイベント時間とタイプを予測する際に既存のモデルよりも優れており、最も近いライバルの3.714と比較して平均1.5のランクに達している。 さらに、効果的な埋め込みを生成するCOTICの能力は、様々な下流タスクの可能性を示している。 私たちのコードは、https://github.com/VladislavZh/COTIC.comで公開されています。

関連論文リスト

• Scalable Event-by-event Processing of Neuromorphic Sensory Signals With Deep State-Space Models [2.551844666707809]
  イベントベースのセンサーはリアルタイム処理に適している。 現在の方法では、イベントをフレームに分解するか、イベントデータをイベント単位で直接処理する場合にスケールアップできない。
  論文  参考訳（メタデータ） (2024-04-29T08:50:27Z)
• TimeGraphs: Graph-based Temporal Reasoning [64.18083371645956]
  TimeGraphsは階層的時間グラフとして動的相互作用を特徴付ける新しいアプローチである。 提案手法は,コンパクトなグラフベース表現を用いて相互作用をモデル化し,多種多様な時間スケールでの適応推論を可能にする。 我々は,サッカーシミュレータ,抵抗ゲーム,MOMA人間活動データセットなど,複雑でダイナミックなエージェントインタラクションを持つ複数のデータセット上でTimeGraphsを評価する。
  論文  参考訳（メタデータ） (2024-01-06T06:26:49Z)
• Flexible Triggering Kernels for Hawkes Process Modeling [11.90725359131405]
  近年、ホークスプロセスのモデリングのためのエンコーダ・デコーダ構造は、トランスフォーマーにインスパイアされたアーキテクチャを用いている。 複雑な(多層化)アテンション構造をトリガーカーネルに置き換えることで、歴史的イベントシーケンスの効率的で汎用的なエンコーディングを導入する。
  論文  参考訳（メタデータ） (2022-02-03T22:02:22Z)
• SeDyT: A General Framework for Multi-Step Event Forecasting via Sequence Modeling on Dynamic Entity Embeddings [6.314274045636102]
  イベント予測は、時間的知識グラフ推論において重要で困難なタスクである。 本稿では,動的エンティティ埋め込み上でシーケンスモデリングを行う識別フレームワークであるSeDyTを提案する。 時間的グラフニューラルネットワークモデルとシーケンスモデルを組み合わせることで、SeDyTは平均2.4%のMRR改善を実現している。
  論文  参考訳（メタデータ） (2021-09-09T20:32:48Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• Synergetic Learning of Heterogeneous Temporal Sequences for Multi-Horizon Probabilistic Forecasting [48.8617204809538]
  本稿では,新しい条件生成モデルである変分相乗型マルチホライゾンネットワーク(VSMHN)を提案する。 不均一なシーケンス間で複雑な相関関係を学習するために、深部プロセスモデルと変動的リカレントニューラルネットワークの進歩を組み合わせるために、調整されたエンコーダが考案された。 我々のモデルは変動予測を用いて効果的に訓練でき、モンテカルロシミュレーションを用いて予測を生成することができる。
  論文  参考訳（メタデータ） (2021-01-31T11:00:55Z)
• Convolutional Tensor-Train LSTM for Spatio-temporal Learning [116.24172387469994]
  本稿では,ビデオシーケンスの長期相関を効率的に学習できる高次LSTMモデルを提案する。 これは、時間をかけて畳み込み特徴を組み合わせることによって予測を行う、新しいテンソルトレインモジュールによって達成される。 この結果は,幅広いアプリケーションやデータセットにおいて,最先端のパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2020-02-21T05:00:01Z)
• Supervised Learning for Non-Sequential Data: A Canonical Polyadic Decomposition Approach [85.12934750565971]
  特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。 この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。 表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
  論文  参考訳（メタデータ） (2020-01-27T22:38:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。