論文の概要: COTODE: COntinuous Trajectory neural Ordinary Differential Equations for modelling event sequences
- arxiv url: http://arxiv.org/abs/2408.08055v1
- Date: Thu, 15 Aug 2024 09:49:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-16 14:16:19.042015
- Title: COTODE: COntinuous Trajectory neural Ordinary Differential Equations for modelling event sequences
- Title(参考訳): CoTODE: 事象列のモデル化のためのContinuous Trajectory Neural Ordinary Differential Equations
- Authors: Ilya Kuleshov, Galina Boeva, Vladislav Zhuzhel, Evgenia Romanenkova, Evgeni Vorsin, Alexey Zaytsev,
- Abstract要約: 我々は、イベントをスタンドアローンの現象ではなく、ガウス過程の観察として見る方法を採用し、それによって俳優のダイナミクスが支配される。
得られたダイナミクスを統合することにより,広範に成功したニューラルODEモデルの連続軌道修正を実現する。
実証研究により,ガウス過程と負のフィードバックを持つモデルが最先端性能を実現し,同様のアーキテクチャに対して最大20%のAUROCの改善が得られた。
- 参考スコア(独自算出の注目度): 2.2544703147182172
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Observation of the underlying actors that generate event sequences reveals that they often evolve continuously. Most modern methods, however, tend to model such processes through at most piecewise-continuous trajectories. To address this, we adopt a way of viewing events not as standalone phenomena but instead as observations of a Gaussian Process, which in turn governs the actor's dynamics. We propose integrating these obtained dynamics, resulting in a continuous-trajectory modification of the widely successful Neural ODE model. Through Gaussian Process theory, we were able to evaluate the uncertainty in an actor's representation, which arises from not observing them between events. This estimate led us to develop a novel, theoretically backed negative feedback mechanism. Empirical studies indicate that our model with Gaussian process interpolation and negative feedback achieves state-of-the-art performance, with improvements up to 20% AUROC against similar architectures.
- Abstract(参考訳): イベントシーケンスを生成するアクターを観察すると、それらがしばしば連続的に進化することが明らかになる。
しかし、現代のほとんどの手法は、ほとんどの断片的に連続した軌跡を通してそのようなプロセスをモデル化する傾向にある。
これを解決するために、我々は、イベントをスタンドアローンな現象ではなく、ガウス過程の観察として見る方法を採用し、それによって俳優のダイナミクスが支配される。
得られたダイナミクスを統合することにより,広範に成功したニューラルODEモデルの連続軌道修正を実現する。
ガウス過程理論を通じて、私たちはアクターの表現の不確実性を評価することができました。
この推定により、理論上は負のフィードバック機構が新たに開発された。
実証実験により,ガウス過程補間と負のフィードバックによるモデルが最先端性能を実現し,同様のアーキテクチャに対して最大20%のAUROCの改善が得られた。
関連論文リスト
- von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Data-Driven Model Selections of Second-Order Particle Dynamics via
Integrating Gaussian Processes with Low-Dimensional Interacting Structures [0.9821874476902972]
我々は、一般の2階粒子モデルにおけるデータ駆動的な発見に焦点を当てる。
本稿では、2つの実世界の魚の動きデータセットのモデリングへの応用について述べる。
論文 参考訳(メタデータ) (2023-11-01T23:45:15Z) - Multi-Response Heteroscedastic Gaussian Process Models and Their
Inference [1.52292571922932]
本稿ではヘテロセダスティック共分散関数のモデリングのための新しいフレームワークを提案する。
後部モデルに近似し, 後部予測モデルを容易にするために, 変分推論を用いる。
提案するフレームワークは,幅広いアプリケーションに対して,堅牢で汎用的なツールを提供する。
論文 参考訳(メタデータ) (2023-08-29T15:06:47Z) - Learning minimal representations of stochastic processes with
variational autoencoders [52.99137594502433]
プロセスを記述するのに必要なパラメータの最小セットを決定するために、教師なしの機械学習アプローチを導入する。
我々の手法はプロセスを記述する未知のパラメータの自律的な発見を可能にする。
論文 参考訳(メタデータ) (2023-07-21T14:25:06Z) - Score-based Data Assimilation [7.215767098253208]
軌道推定のためのスコアベースのデータ同化を導入する。
我々は、任意の長さの軌道のスコアを、短いセグメントにまたがって一連のスコアに分解できるというキーインサイトに基づいて、状態軌道のスコアに基づく生成モデルを学ぶ。
論文 参考訳(メタデータ) (2023-06-18T14:22:03Z) - The Past Does Matter: Correlation of Subsequent States in Trajectory
Predictions of Gaussian Process Models [0.7734726150561089]
モデルの出力と軌道分布の近似を考察する。
本研究では,不確実性伝播に関するこれまでの研究は,予測された軌道のその後の状態の間に独立性の仮定を誤って含んでいたことを示す。
論文 参考訳(メタデータ) (2022-11-20T22:19:39Z) - Likelihood-Free Inference in State-Space Models with Unknown Dynamics [71.94716503075645]
本研究では、状態空間モデルにおいて、観測をシミュレートすることしかできず、遷移ダイナミクスが不明な潜在状態の推測と予測を行う手法を提案する。
本研究では,限られた数のシミュレーションで状態予測と状態予測を行う手法を提案する。
論文 参考訳(メタデータ) (2021-11-02T12:33:42Z) - Variational Inference for Continuous-Time Switching Dynamical Systems [29.984955043675157]
従属拡散過程を変調したマルコフジャンプ過程に基づくモデルを提案する。
我々は,新しい連続時間変動推定アルゴリズムを開発した。
モデル仮定と実世界の実例に基づいて,我々のアルゴリズムを広範囲に評価する。
論文 参考訳(メタデータ) (2021-09-29T15:19:51Z) - On Contrastive Representations of Stochastic Processes [53.21653429290478]
プロセスの表現を学習することは、機械学習の新たな問題である。
本手法は,周期関数,3次元オブジェクト,動的プロセスの表現の学習に有効であることを示す。
論文 参考訳(メタデータ) (2021-06-18T11:00:24Z) - Social NCE: Contrastive Learning of Socially-aware Motion
Representations [87.82126838588279]
実験結果から, 提案手法は最近の軌道予測, 行動クローニング, 強化学習アルゴリズムの衝突速度を劇的に低減することがわかった。
本手法は,ニューラルネットワークの設計に関する仮定をほとんど示さないため,神経運動モデルのロバスト性を促進する汎用的手法として使用できる。
論文 参考訳(メタデータ) (2020-12-21T22:25:06Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。