論文の概要: DES-JEPA: Learning a Shared Vocabulary for High-Dimensional Discrete Event Sequences
- arxiv url: http://arxiv.org/abs/2610.38445v1
- Date: Wed, 28 Oct 2026 08:24:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-01 01:32:09.975356
- Title: DES-JEPA: Learning a Shared Vocabulary for High-Dimensional Discrete Event Sequences
- Title（参考訳）: DES-JEPA:高次元離散イベントシーケンスのための共有語彙学習
- Abstract要約: 離散イベントシーケンス(DES)はドメイン固有のイベント語彙を持ち、ラベルはドメイン間で一貫した対応を欠いている。
現在のDESの基盤モデルは、少数の固定されたイベントタイプに限定されており、現実的で高次元のイベントストリームに適用性を制限する。
i)合成プロセスから学習する共有予測アーキテクチャであるDESJEPA,(ii)コンテキスト内次イベント予測の語彙を再利用する離散シーケンスネットワークであるDESFNの2つの補完モジュールを提案する。
- 参考スコア（独自算出の注目度）: 3.187405265543625
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Temporal foundation models such as Chronos and TimesFM generalize across domains through a shared numerical observation space. In contrast, discrete event sequences (DESs), including operational event logs or patient clinical-event trajectories, have domain-specific event vocabularies whose labels lack a consistent correspondence across domains. Beyond this lack of consistency, the number of distinct events in real-world settings is high enough to challenge both classical temporal point process modeling and current in-context foundation inference models such as FIM-PP. Critically, current foundation models for DESs are limited to a small, fixed number of event types, restricting their applicability to realistic, high-dimensional event streams. To address this, we propose two complementary modules: (i) DES-JEPA, a joint-embedding predictive architecture that learns a shared discrete vocabulary from synthetic stochastic processes with unaligned event vocabularies; and (ii) DES-PFN, a discrete event sequence prior-fitted network that reuses the learned vocabulary for in-context next-event prediction. Without task-specific fine-tuning, this framework achieves competitive zero-shot performance on eight unseen real-world datasets and scales up to 700 distinct event types.
- Abstract（参考訳）: ChronosやTimesFMのような時間的基礎モデルは、共有された数値的な観測空間を通じてドメイン全体に一般化される。
対照的に、個別のイベントシーケンス(DES)は、手術イベントログや患者の臨床イベントトラジェクトリを含むもので、ドメイン固有のイベント語彙を持ち、ラベルはドメイン間の一貫性に欠ける。
このような一貫性の欠如に加えて、現実世界の設定における異なるイベントの数は、古典的な時間的ポイントプロセスモデリングと、FIM-PPのような現在のコンテキスト内基盤推論モデルの両方に挑戦するのに十分である。
重要な点として、DESの現在の基礎モデルは、少数の固定数のイベントタイプに限定されており、現実的で高次元のイベントストリームに適用性を制限する。
これを解決するために,2つの相補的加群を提案する。
(i)DES-JEPAとは、イベント語彙が一致しない合成確率過程から共有離散語彙を学習する共同埋め込み予測アーキテクチャであり、かつ、
(ii)DES-PFNは、学習語彙を文脈内次イベント予測に再利用する離散イベントシーケンスプリフィットネットワークである。
タスク固有の微調整がなければ、このフレームワークは目に見えない8つの実世界のデータセット上で、競合するゼロショットのパフォーマンスを達成し、700の異なるイベントタイプまでスケールする。
関連論文リスト
- Foundation Models for Event Prediction Across Heterogeneous Event Logs [12.568249964859852]
イベントログは、ビジネスプロセス、製造、医療、その他多くの運用システムを含む、現実世界のドメインにまたがる。
FEPはシンプルでスケーラブルなインコンテキストアーキテクチャで、学習されたイベントレベルの非推論を通じて次のイベント予測を実行する。
FEPはパラメータ適応のない新しいイベントシステムに効果的に一般化する。
論文 参考訳（メタデータ） (2026-10-13T00:00:04Z) - Universal Multi-Modal Traceformer: Integrating Heterogeneous Context for Process Event Prediction [12.024544943645942]
イベントログはさまざまな現実世界のプロセスで発生し、イベントアクティビティだけでなく、マルチモーダルなコンテキスト情報もキャプチャする。
多くの時間的ポイントプロセスアプローチを含む既存のイベントシーケンスモデルは、主にイベントアクティビティとタイムスタンプをモデル化する。
異種プロセスコンテキストを次世代の予測に組み込む統一フレームワークであるUniversal Multi-Modal Traceformer (UMT)を提案する。
論文 参考訳（メタデータ） (2026-09-21T13:44:40Z) - A Multi-Domain and Multi-Task Generative Framework with Explicit Task and Domain Conditioning for Cross-Domain Event Extraction [4.169293754839175]
イベント抽出は、イベントトリガを特定し、イベントタイプを分類し、構造化されたイベント表現を構築するために引数を抽出することを目的としている。
単一モデル内で異種イベントスキーマをモデル化する統合型マルチドメイン・マルチタスクトレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-24T13:24:24Z) - EventTSF: Event-Aware Non-Stationary Time Series Forecasting [73.54313384419792]
EventTSFは、過去の時系列とテキストイベントを統合し、その後の予測を行う自動回帰生成フレームワークである。
8つの合成および実世界のデータセットの実験によると、EventTSFは、さまざまなイベント対応の非定常時系列予測シナリオで12のベースラインを上回っている。
論文 参考訳（メタデータ） (2025-08-19T01:28:47Z) - Retrieval of Temporal Event Sequences from Textual Descriptions [0.0]
TESRBenchはテキスト記述から時間的イベントシーケンスを検索するためのベンチマークである。
イベントシーケンスの埋め込みと検索のための新しいモデルであるTPP-Embeddingを提案する。
TPP-EmbeddingはTESRBenchデータセットのベースラインモデルよりも優れたパフォーマンスを示している。
論文 参考訳（メタデータ） (2024-10-17T21:35:55Z) - Grounding Partially-Defined Events in Multimodal Data [61.0063273919745]
部分定義イベントに対するマルチモーダル定式化を導入し、これらのイベントの抽出を3段階スパン検索タスクとしてキャストする。
このタスクのベンチマークであるMultiVENT-Gを提案し,22.8Kのラベル付きイベント中心エンティティを含む,14.5時間の高密度アノテーション付き現在のイベントビデオと1,168のテキストドキュメントからなる。
結果は、イベント理解の抽象的な課題を示し、イベント中心のビデオ言語システムにおける約束を実証する。
論文 参考訳（メタデータ） (2024-10-07T17:59:48Z) - Continuous-time convolutions model of event sequences [46.3471121117337]
イベントシーケンスは不均一でスパースであり、従来のモデルは不適当である。
我々は、時間とともに一様でない事象の発生を処理するために設計された効率的な畳み込みニューラルネットワークに基づくCOTICを提案する。
COTICは、次のイベント時間とタイプを予測する際に既存のモデルよりも優れており、最も近いライバルの3.714と比較して平均1.5のランクに達している。
論文 参考訳（メタデータ） (2023-02-13T10:34:51Z) - Joint Constrained Learning for Event-Event Relation Extraction [94.3499255880101]
本稿では,イベント・イベント関係をモデル化するための制約付き協調学習フレームワークを提案する。
具体的には、このフレームワークは、複数の時間的および部分的関係内の論理的制約を強制する。
我々は,共同学習手法が,共同ラベル付きデータの欠如を効果的に補うことを示す。
論文 参考訳（メタデータ） (2020-10-13T22:45:28Z) - Team RUC_AIM3 Technical Report at Activitynet 2020 Task 2: Exploring
Sequential Events Detection for Dense Video Captioning [63.91369308085091]
本稿では、イベントシーケンス生成のための新規でシンプルなモデルを提案し、ビデオ中のイベントシーケンスの時間的関係を探索する。
提案モデルでは,非効率な2段階提案生成を省略し,双方向時間依存性を条件としたイベント境界を直接生成する。
総合システムは、チャレンジテストセットの9.894 METEORスコアで、ビデオタスクにおける密封イベントの最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2020-06-14T13:21:37Z) - A Multi-Channel Neural Graphical Event Model with Negative Evidence [76.51278722190607]
イベントデータセットは、タイムライン上で不規則に発生するさまざまなタイプのイベントのシーケンスである。
基礎となる強度関数を推定するために,非パラメトリックディープニューラルネットワーク手法を提案する。
論文 参考訳（メタデータ） (2020-02-21T23:10:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。