論文の概要: Foundation Models for Event Prediction Across Heterogeneous Event Logs
- arxiv url: http://arxiv.org/abs/2610.17503v1
- Date: Tue, 13 Oct 2026 00:00:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.481201
- Title: Foundation Models for Event Prediction Across Heterogeneous Event Logs
- Title(参考訳): 不均一イベントログ間のイベント予測のための基礎モデル
- Abstract要約: イベントログは、ビジネスプロセス、製造、医療、その他多くの運用システムを含む、現実世界のドメインにまたがる。
FEPはシンプルでスケーラブルなインコンテキストアーキテクチャで、学習されたイベントレベルの非推論を通じて次のイベント予測を実行する。
FEPはパラメータ適応のない新しいイベントシステムに効果的に一般化する。
- 参考スコア(独自算出の注目度): 12.568249964859852
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Event logs are ubiquitous across real-world domains, including business processes, manufacturing workflows, healthcare, and many other operational systems. Yet event logs can differ substantially in their event semantics, label spaces, interaction patterns, and temporal scales, making it difficult to build a single foundation model that generalizes directly to previously unseen systems. We address this challenge with the Foundation Event Predictor (FEP), a simple and scalable in-context architecture that performs next-event prediction through learned, event-level nonparametric inference. Causal self-attention encodes context and target histories into key and query representations, respectively, while the observed next context events are encoded as values. Cross-attention then performs learned, relevance-weighted aggregation of next-event outcomes over all context transitions, allowing the entire nonparametric prediction procedure to be expressed as standard attention operations and efficiently parallelized with modern kernels such as FlashAttention. To promote cross-system generalization, we introduce permutation-robust embedding learning and random fixed embeddings to decouple event IDs from persistent semantics, together with empirical quantile transforms and robust normalization to handle diverse temporal scales. We pretrain FEP on 696 real-world event datasets spanning heterogeneous event systems and evaluate it on 50 held-out datasets unseen during pretraining. Across these datasets, FEP generalizes effectively to new event systems without parameter adaptation, frequently approaching the performance of strong models trained separately on each target dataset while substantially outperforming existing foundation-model baselines, particularly on challenging prediction tasks.
- Abstract(参考訳): イベントログは、ビジネスプロセス、製造ワークフロー、ヘルスケア、その他多くの運用システムを含む、現実世界のドメインにまたがる。
しかし、イベントログはイベントセマンティクス、ラベル空間、インタラクションパターン、時間スケールで大きく異なる可能性があるため、以前は目に見えないシステムに直接一般化する単一の基盤モデルを構築するのは困難である。
この課題に対処するため、FEP(Foundation Event Predictor)は、学習されたイベントレベルの非パラメトリック推論を通じて、次のイベント予測を実行する、シンプルでスケーラブルなインコンテキストアーキテクチャである。
因果自己注意(Causal self-attention)はコンテキストとターゲット履歴をそれぞれキーとクエリ表現にエンコードし、観測された次のコンテキストイベントは値としてエンコードする。
クロスアテンションは、すべてのコンテキスト遷移に対して、学習された、関連性の重み付けされた次の結果の集約を実行し、非パラメトリック予測手順全体を標準アテンション操作として表現し、FlashAttentionのようなモダンカーネルと効率的に並列化できるようにする。
システム間の一般化を促進するために,イベントIDを永続的セマンティクスから切り離すために,置換ロバストな埋め込み学習とランダムな固定埋め込みを導入し,多種多様な時間スケールを扱うための経験的量子化変換と頑健な正規化を提案する。
我々は、異種イベントシステムにまたがる696の実世界のイベントデータセット上でFEPを事前トレーニングし、事前トレーニング中に見つからない50の保持されたデータセット上で評価する。
これらのデータセット全体で、FEPはパラメータ適応のない新しいイベントシステムに効果的に一般化し、ターゲットデータセットごとに個別にトレーニングされた強いモデルのパフォーマンスに頻繁にアプローチすると同時に、既存の基盤モデルベースライン、特に挑戦的な予測タスクを大幅に上回っている。
関連論文リスト
- World2TS: Real-World Event Context for Time-Series Forecasting [48.654733530663265]
時系列予測は、幅広い現実世界の応用において重要な役割を果たす。
World2TSはスケーラブルな構築フレームワークであり、リアルタイムイベントコンテキストによる時系列予測のための大規模データセットである。
我々はWorld2tsデータを構築し、このデータには6つのドメインにわたる31のデータセットが含まれており、4,179のシリーズ、97.100万の観測、1,159のイベント、56,846のイベントシリーズリンクが含まれている。
論文 参考訳(メタデータ) (2026-10-10T12:31:14Z) - Universal Multi-Modal Traceformer: Integrating Heterogeneous Context for Process Event Prediction [12.024544943645942]
イベントログはさまざまな現実世界のプロセスで発生し、イベントアクティビティだけでなく、マルチモーダルなコンテキスト情報もキャプチャする。
多くの時間的ポイントプロセスアプローチを含む既存のイベントシーケンスモデルは、主にイベントアクティビティとタイムスタンプをモデル化する。
異種プロセスコンテキストを次世代の予測に組み込む統一フレームワークであるUniversal Multi-Modal Traceformer (UMT)を提案する。
論文 参考訳(メタデータ) (2026-09-21T13:44:40Z) - In-Context Learning of Temporal Point Processes with Foundation Inference Models [12.037629169675938]
MTPP推論への現在のアプローチは、ターゲットシステムごとに個別に訓練された特殊なモデルに依存している。
我々は、イベントシーケンスの集合によって定義されたコンテキストから、イベント履歴の条件付き強度関数を推論するために、ディープニューラルネットワークを事前訓練する。
我々のアモータライズされたアプローチは、一般的なベンチマークデータセットをまたいだ次世代の予測において、特別なモデルのパフォーマンスと一致します。
論文 参考訳(メタデータ) (2025-09-29T13:28:06Z) - EventTSF: Event-Aware Non-Stationary Time Series Forecasting [73.54313384419792]
EventTSFは、過去の時系列とテキストイベントを統合し、その後の予測を行う自動回帰生成フレームワークである。
8つの合成および実世界のデータセットの実験によると、EventTSFは、さまざまなイベント対応の非定常時系列予測シナリオで12のベースラインを上回っている。
論文 参考訳(メタデータ) (2025-08-19T01:28:47Z) - XTSFormer: Cross-Temporal-Scale Transformer for Irregular-Time Event Prediction in Clinical Applications [23.946633955844423]
非安全ケアに関連する副作用は、米国での死因のトップ10に入る。
イベントデータは、連続するイベント間の時間間隔の不規則性、サイクルの存在、周期性、複数スケールのイベントインタラクション、長いイベントシーケンスに関連する高い計算コストなど、いくつかのユニークな課題を提起する。
本稿では,時間的不規則なイベントデータに特化して設計されたクロステンポラリスケールトランスフォーマー(XTSFormer)を提案する。
論文 参考訳(メタデータ) (2024-02-03T20:33:39Z) - Enhancing Asynchronous Time Series Forecasting with Contrastive
Relational Inference [21.51753838306655]
時間点プロセス(TPP)は、そのようなモデリングの標準的な方法である。
既存のTPPモデルは、イベントの相互作用を明示的にモデル化する代わりに、将来のイベントの条件分布に焦点を当てており、イベント予測の課題を示唆している。
本稿では,ニューラル推論(NRI)を利用して,観測データから動的パターンを同時に学習しながら,相互作用を推論するグラフを学習する手法を提案する。
論文 参考訳(メタデータ) (2023-09-06T09:47:03Z) - Continuous-time convolutions model of event sequences [46.3471121117337]
イベントシーケンスは不均一でスパースであり、従来のモデルは不適当である。
我々は、時間とともに一様でない事象の発生を処理するために設計された効率的な畳み込みニューラルネットワークに基づくCOTICを提案する。
COTICは、次のイベント時間とタイプを予測する際に既存のモデルよりも優れており、最も近いライバルの3.714と比較して平均1.5のランクに達している。
論文 参考訳(メタデータ) (2023-02-13T10:34:51Z) - Towards Out-of-Distribution Sequential Event Prediction: A Causal
Treatment [72.50906475214457]
シーケンシャルなイベント予測の目標は、一連の歴史的なイベントに基づいて次のイベントを見積もることである。
実際には、次のイベント予測モデルは、一度に収集されたシーケンシャルなデータで訓練される。
文脈固有の表現を学習するための階層的な分岐構造を持つフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-24T07:54:13Z) - Robust Event Classification Using Imperfect Real-world PMU Data [58.26737360525643]
本研究では,不完全な実世界のファサー計測単位(PMU)データを用いて,ロバストな事象分類について検討する。
我々は、堅牢なイベント分類器を訓練するための新しい機械学習フレームワークを開発する。
論文 参考訳(メタデータ) (2021-10-19T17:41:43Z) - A Multi-Channel Neural Graphical Event Model with Negative Evidence [76.51278722190607]
イベントデータセットは、タイムライン上で不規則に発生するさまざまなタイプのイベントのシーケンスである。
基礎となる強度関数を推定するために,非パラメトリックディープニューラルネットワーク手法を提案する。
論文 参考訳(メタデータ) (2020-02-21T23:10:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。