論文の概要: In-Context Learning of Temporal Point Processes with Foundation Inference Models
- arxiv url: http://arxiv.org/abs/2509.24762v1
- Date: Mon, 29 Sep 2025 13:28:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-30 22:32:20.004045
- Title: In-Context Learning of Temporal Point Processes with Foundation Inference Models
- Title(参考訳): 基礎推論モデルを用いた時間点過程の文脈学習
- Authors: David Berghaus, Patrick Seifner, Kostadin Cvejoski, César Ojeda, Ramsés J. Sánchez,
- Abstract要約: MTPP推論への現在のアプローチは、ターゲットシステムごとに個別に訓練された特殊なモデルに依存している。
我々は、イベントシーケンスの集合によって定義されたコンテキストから、イベント履歴の条件付き強度関数を推論するために、ディープニューラルネットワークを事前訓練する。
我々のアモータライズされたアプローチは、一般的なベンチマークデータセットをまたいだ次世代の予測において、特別なモデルのパフォーマンスと一致します。
- 参考スコア(独自算出の注目度): 12.037629169675938
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modeling event sequences of multiple event types with marked temporal point processes (MTPPs) provides a principled way to uncover governing dynamical rules and predict future events. Current neural network approaches to MTPP inference rely on training separate, specialized models for each target system. We pursue a radically different approach: drawing on amortized inference and in-context learning, we pretrain a deep neural network to infer, in-context, the conditional intensity functions of event histories from a context defined by sets of event sequences. Pretraining is performed on a large synthetic dataset of MTPPs sampled from a broad distribution of Hawkes processes. Once pretrained, our Foundation Inference Model for Point Processes (FIM-PP) can estimate MTPPs from real-world data without any additional training, or be rapidly finetuned to target systems. Experiments show that this amortized approach matches the performance of specialized models on next-event prediction across common benchmark datasets. Our pretrained model, repository and tutorials will soon be available online
- Abstract(参考訳): マークされた時間的ポイントプロセス(MTPP)を備えた複数のイベントタイプのイベントシーケンスをモデル化することは、動的ルールの制御を解明し、将来のイベントを予測するための原則化された方法を提供する。
MTPP推論への現在のニューラルネットワークアプローチは、ターゲットシステムごとに個別に訓練された特殊なモデルに依存している。
暗黙の推論とコンテキスト内学習に基づいて、深層ニューラルネットワークを事前訓練し、イベントシーケンスの集合によって定義されたコンテキストからイベント履歴の条件付き強度関数を推論する。
ホークス過程の広い分布から採取したMTPPの大規模な合成データセット上でプレトレーニングを行う。
事前トレーニングが完了すると、ファンデーション・推論・フォー・ポイント・プロセス(FIM-PP)は、追加のトレーニングなしで実世界のデータからMTPPを推定したり、ターゲットシステムに迅速に微調整することができる。
実験により、このアモータイズされたアプローチは、一般的なベンチマークデータセット間での次回の予測において、特別なモデルのパフォーマンスと一致していることが示された。
事前訓練されたモデル、リポジトリ、チュートリアルがまもなくオンラインで利用可能になる
関連論文リスト
- Transferable Post-training via Inverse Value Learning [83.75002867411263]
別個のニューラルネットワーク(すなわち値ネットワーク)を用いた後学習におけるロジットレベルのモデリング変更を提案する。
このネットワークをデモを使って小さなベースモデルでトレーニングした後、推論中に他のトレーニング済みモデルとシームレスに統合することができる。
得られた値ネットワークは、パラメータサイズの異なる事前学習されたモデル間で広い転送性を有することを示す。
論文 参考訳(メタデータ) (2024-10-28T13:48:43Z) - EventFlow: Forecasting Temporal Point Processes with Flow Matching [12.976042923229466]
機械学習では、ニューラルネットワークを使用して自己回帰的に時間点過程をモデル化することが一般的である。
本研究では,時間的ポイントプロセスのための非自己回帰生成モデルであるEventFlowを提案する。
論文 参考訳(メタデータ) (2024-10-09T20:57:00Z) - Cumulative Distribution Function based General Temporal Point Processes [49.758080415846884]
CuFunモデルは、累積分布関数(CDF)を中心に回転するTPPに対する新しいアプローチを表す
提案手法は従来のTPPモデリングに固有のいくつかの重要な問題に対処する。
コントリビューションには、先駆的なCDFベースのTPPモデルの導入、過去の事象情報を将来の事象予測に組み込む方法論の開発が含まれている。
論文 参考訳(メタデータ) (2024-02-01T07:21:30Z) - Interacting Diffusion Processes for Event Sequence Forecasting [20.380620709345898]
拡散生成モデルを組み込んだ新しい手法を提案する。
このモデルはシーケンス・ツー・シーケンスの予測を容易にし、過去のイベント・シーケンスに基づいた複数ステップの予測を可能にする。
提案手法は,TPPの長期予測において,最先端のベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-10-26T22:17:25Z) - Enhancing Asynchronous Time Series Forecasting with Contrastive
Relational Inference [21.51753838306655]
時間点プロセス(TPP)は、そのようなモデリングの標準的な方法である。
既存のTPPモデルは、イベントの相互作用を明示的にモデル化する代わりに、将来のイベントの条件分布に焦点を当てており、イベント予測の課題を示唆している。
本稿では,ニューラル推論(NRI)を利用して,観測データから動的パターンを同時に学習しながら,相互作用を推論するグラフを学習する手法を提案する。
論文 参考訳(メタデータ) (2023-09-06T09:47:03Z) - Continuous-time convolutions model of event sequences [46.3471121117337]
イベントシーケンスは不均一でスパースであり、従来のモデルは不適当である。
我々は、時間とともに一様でない事象の発生を処理するために設計された効率的な畳み込みニューラルネットワークに基づくCOTICを提案する。
COTICは、次のイベント時間とタイプを予測する際に既存のモデルよりも優れており、最も近いライバルの3.714と比較して平均1.5のランクに達している。
論文 参考訳(メタデータ) (2023-02-13T10:34:51Z) - Towards All-in-one Pre-training via Maximizing Multi-modal Mutual
Information [77.80071279597665]
マルチモーダル相互情報事前学習(M3I事前学習)を最大化するオールインワン単段階事前学習手法を提案する。
提案手法は,ImageNet分類,オブジェクト検出,LVIS長鎖オブジェクト検出,ADE20kセマンティックセマンティックセマンティックセマンティクスなど,様々なビジョンベンチマークにおける事前学習手法よりも優れた性能を実現する。
論文 参考訳(メタデータ) (2022-11-17T18:59:49Z) - Towards Out-of-Distribution Sequential Event Prediction: A Causal
Treatment [72.50906475214457]
シーケンシャルなイベント予測の目標は、一連の歴史的なイベントに基づいて次のイベントを見積もることである。
実際には、次のイベント予測モデルは、一度に収集されたシーケンシャルなデータで訓練される。
文脈固有の表現を学習するための階層的な分岐構造を持つフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-24T07:54:13Z) - A Multi-Channel Neural Graphical Event Model with Negative Evidence [76.51278722190607]
イベントデータセットは、タイムライン上で不規則に発生するさまざまなタイプのイベントのシーケンスである。
基礎となる強度関数を推定するために,非パラメトリックディープニューラルネットワーク手法を提案する。
論文 参考訳(メタデータ) (2020-02-21T23:10:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。