論文の概要: Scalable Variational Bayes methods for Hawkes processes
- arxiv url: http://arxiv.org/abs/2212.00293v1
- Date: Thu, 1 Dec 2022 05:35:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-02 17:26:59.846107
- Title: Scalable Variational Bayes methods for Hawkes processes
- Title（参考訳）: ホークス過程のスケーラブルな変分ベイズ法
- Authors: Deborah Sulem, Vincent Rivoirard and Judith Rousseau
- Abstract要約: 非パラメトリックな設定では、ホークス過程の時間的依存構造を学習することは、しばしば計算的に高価な作業である。
グラフパラメータを選択するためのしきい値に基づく2段階のアルゴリズムを提案する。
- 参考スコア（独自算出の注目度）: 2.3848738964230023
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multivariate Hawkes processes are temporal point processes extensively
applied to model event data with dependence on past occurrences and interaction
phenomena. In the generalised nonlinear model, positive and negative
interactions between the components of the process are allowed, therefore
accounting for so-called excitation and inhibition effects. In the
nonparametric setting, learning the temporal dependence structure of Hawkes
processes is often a computationally expensive task, all the more with Bayesian
estimation methods. In general, the posterior distribution in the nonlinear
Hawkes model is non-conjugate and doubly intractable. Moreover, existing
Monte-Carlo Markov Chain methods are often slow and not scalable to
high-dimensional processes in practice. Recently, efficient algorithms
targeting a mean-field variational approximation of the posterior distribution
have been proposed. In this work, we unify existing variational Bayes inference
approaches under a general framework, that we theoretically analyse under
easily verifiable conditions on the prior, the variational class, and the
model. We notably apply our theory to a novel spike-and-slab variational class,
that can induce sparsity through the connectivity graph parameter of the
multivariate Hawkes model. Then, in the context of the popular sigmoid Hawkes
model, we leverage existing data augmentation technique and design adaptive and
sparsity-inducing mean-field variational methods. In particular, we propose a
two-step algorithm based on a thresholding heuristic to select the graph
parameter. Through an extensive set of numerical simulations, we demonstrate
that our approach enjoys several benefits: it is computationally efficient, can
reduce the dimensionality of the problem by selecting the graph parameter, and
is able to adapt to the smoothness of the underlying parameter.
- Abstract（参考訳）: 多変量ホークス過程は、過去の出来事や相互作用現象に依存する事象データをモデル化するための時間点過程である。
一般化非線形モデルでは、過程の成分間の正の相互作用と負の相互作用が許容されるため、いわゆる励起と抑制効果が考慮される。
非パラメトリックな設定では、ホークス過程の時間的依存構造を学習することは、しばしば計算にコストがかかる課題であり、ベイズ推定法でも同様である。
一般に、非線形ホークスモデルの後方分布は非共役であり、二重可算である。
さらに、既存のモンテカルロ・マルコフ連鎖法はしばしば遅く、実際は高次元プロセスには拡張性がない。
近年,後方分布の平均場変動近似を対象とする効率的なアルゴリズムが提案されている。
本研究では,既存の変分ベイズ推定手法を一般の枠組みで統一し,理論上,前者,変分クラス,およびモデル上で容易に検証可能な条件下で解析する。
特に,本理論を,多変量ホークスモデルの接続グラフパラメータを通じて空間性を誘導できる新しいスパイク・アンド・スラブ変分類に適用する。
次に,人気のあるsgmoid hawkesモデルの文脈において,既存のデータ拡張手法を活用し,適応的およびスパーシティ誘導平均場変分法を設計する。
特に,しきい値付きヒューリスティックに基づくグラフパラメータ選択のための二段階アルゴリズムを提案する。
計算効率が高く,グラフパラメータを選択することで問題の次元性を低減でき,基礎となるパラメータの滑らかさに適応できる。
関連論文リスト
- An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳（メタデータ） (2023-06-10T08:25:16Z) - Variational Gaussian Process Diffusion Processes [17.716059928867345]
拡散過程(英: Diffusion process)は、微分方程式(SDE)のクラスであり、表現的モデルの豊富な族を提供する。
非線型拡散過程が先行する潜在過程を持つ生成モデルの下での確率的推論と学習は難解な問題である。
本研究では, 線形拡散過程として後続過程を近似し, アプローチの病理を指摘する。
論文 参考訳（メタデータ） (2023-06-03T09:43:59Z) - Numerically Stable Sparse Gaussian Processes via Minimum Separation
using Cover Trees [57.67528738886731]
誘導点に基づくスケーラブルスパース近似の数値安定性について検討する。
地理空間モデリングなどの低次元タスクに対しては,これらの条件を満たす点を自動計算する手法を提案する。
論文 参考訳（メタデータ） (2022-10-14T15:20:17Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳（メタデータ） (2022-10-10T12:35:02Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳（メタデータ） (2021-11-26T06:33:29Z) - Compositional Modeling of Nonlinear Dynamical Systems with ODE-based
Random Features [0.0]
この問題に対処するための新しいドメインに依存しないアプローチを提案する。
我々は、通常の微分方程式から導かれる物理インフォームド・ランダムな特徴の合成を用いる。
提案手法は,ベンチマーク回帰タスクにおいて,他の多くの確率モデルに匹敵する性能を実現する。
論文 参考訳（メタデータ） (2021-06-10T17:55:13Z) - Nonlinear Hawkes Processes in Time-Varying System [37.80255010291703]
ホークス過程(英: Hawkes process)は、自己および相互興奮現象をモデル化する能力を持つ点過程のクラスである。
この研究は、状態プロセスが点プロセスと相互作用するために組み込まれているフレキシブルで非線形で非均一な変種を提案する。
推論には潜時変数拡張法を用いて2つの効率的なベイズ推論アルゴリズムを設計する。
論文 参考訳（メタデータ） (2021-06-09T07:06:05Z) - Nonlinear Hawkes Process with Gaussian Process Self Effects [3.441953136999684]
ホークスプロセスは、歴史に依存した時間-連続的な点プロセスのモデル化に使用される。
本稿では、自己影響が興奮型と抑制型の両方である拡張モデルを提案する。
我々は、ホークス過程に対するベイズ的推論の行程を継続し、我々のアプローチは、後方の分岐構造を推定する必要性を解消する。
論文 参考訳（メタデータ） (2021-05-20T09:20:35Z) - Statistical optimality and stability of tangent transform algorithms in
logit models [6.9827388859232045]
我々は,データ生成過程の条件として,ロジカルオプティマによって引き起こされるリスクに対して,非漸近上界を導出する。
特に,データ生成過程の仮定なしにアルゴリズムの局所的変動を確立する。
我々は,大域収束が得られる半直交設計を含む特別な場合について検討する。
論文 参考訳（メタデータ） (2020-10-25T05:15:13Z) - Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。
これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
論文 参考訳（メタデータ） (2020-09-01T19:12:11Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳（メタデータ） (2020-06-11T09:58:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。