論文の概要: Scalable and adaptive variational Bayes methods for Hawkes processes
- arxiv url: http://arxiv.org/abs/2212.00293v2
- Date: Fri, 1 Sep 2023 00:14:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-04 17:20:47.776450
- Title: Scalable and adaptive variational Bayes methods for Hawkes processes
- Title(参考訳): ホークス過程のスケーラブルで適応的な変分ベイズ法
- Authors: Deborah Sulem, Vincent Rivoirard and Judith Rousseau
- Abstract要約: 本稿では,スペーサ性誘導法を提案し,一般的なシグモイドホークスプロセスに対する適応平均場変動アルゴリズムを導出する。
我々のアルゴリズムは並列性があり、したがって高次元設定では計算効率がよい。
- 参考スコア(独自算出の注目度): 4.580983642743026
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hawkes processes are often applied to model dependence and interaction
phenomena in multivariate event data sets, such as neuronal spike trains,
social interactions, and financial transactions. In the nonparametric setting,
learning the temporal dependence structure of Hawkes processes is generally a
computationally expensive task, all the more with Bayesian estimation methods.
In particular, for generalised nonlinear Hawkes processes, Monte-Carlo Markov
Chain methods applied to compute the doubly intractable posterior distribution
are not scalable to high-dimensional processes in practice. Recently, efficient
algorithms targeting a mean-field variational approximation of the posterior
distribution have been proposed. In this work, we first unify existing
variational Bayes approaches under a general nonparametric inference framework,
and analyse the asymptotic properties of these methods under easily verifiable
conditions on the prior, the variational class, and the nonlinear model.
Secondly, we propose a novel sparsity-inducing procedure, and derive an
adaptive mean-field variational algorithm for the popular sigmoid Hawkes
processes. Our algorithm is parallelisable and therefore computationally
efficient in high-dimensional setting. Through an extensive set of numerical
simulations, we also demonstrate that our procedure is able to adapt to the
dimensionality of the parameter of the Hawkes process, and is partially robust
to some type of model mis-specification.
- Abstract(参考訳): ホークスプロセスは、神経スパイクトレイン、社会的相互作用、金融取引などの多変量事象データセットにおけるモデル依存や相互作用現象にしばしば適用される。
非パラメトリックな設定では、ホークスの過程の時間的依存構造を学習することは一般的に計算コストの高い作業であり、ベイズ推定法でも同様である。
特に、一般化された非線形ホークス過程に対して、二重可逆後角分布を計算するために適用されるモンテカルロマルコフ連鎖法は、実際には高次元過程にスケーラブルではない。
近年,後方分布の平均場変動近似を対象とする効率的なアルゴリズムが提案されている。
本研究では,従来の変分ベイズ手法を一般の非パラメトリック推論フレームワークの下で統一し,これらの手法の漸近特性を事前,変分類,非線形モデルで容易に検証可能な条件下で解析する。
第二に,新しいスパーシティ誘導法を提案し,人気のあるsgmoid hawkesプロセスに対する適応平均場変分アルゴリズムを導出する。
このアルゴリズムは並列性があり,高次元設定では計算効率が高い。
また,広範な数値シミュレーションを通じて,この手法がホークス過程のパラメータの次元に適応できることを示すとともに,ある種のモデルの誤特定に対して部分的に堅牢であることを示す。
関連論文リスト
- Variational Bayesian surrogate modelling with application to robust design optimisation [0.9626666671366836]
サロゲートモデルは複雑な計算モデルに対して素早く評価できる近似を提供する。
入力の不確かさと次元減少を伴う統計的代理を構築するためのベイズ推定について考察する。
論文 参考訳(メタデータ) (2024-04-23T09:22:35Z) - An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - Variational Gaussian Process Diffusion Processes [17.716059928867345]
拡散過程(英: Diffusion process)は、微分方程式(SDE)のクラスであり、表現的モデルの豊富な族を提供する。
非線型拡散過程が先行する潜在過程を持つ生成モデルの下での確率的推論と学習は難解な問題である。
本研究では, 線形拡散過程として後続過程を近似し, アプローチの病理を指摘する。
論文 参考訳(メタデータ) (2023-06-03T09:43:59Z) - Numerically Stable Sparse Gaussian Processes via Minimum Separation
using Cover Trees [57.67528738886731]
誘導点に基づくスケーラブルスパース近似の数値安定性について検討する。
地理空間モデリングなどの低次元タスクに対しては,これらの条件を満たす点を自動計算する手法を提案する。
論文 参考訳(メタデータ) (2022-10-14T15:20:17Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳(メタデータ) (2021-11-26T06:33:29Z) - Compositional Modeling of Nonlinear Dynamical Systems with ODE-based
Random Features [0.0]
この問題に対処するための新しいドメインに依存しないアプローチを提案する。
我々は、通常の微分方程式から導かれる物理インフォームド・ランダムな特徴の合成を用いる。
提案手法は,ベンチマーク回帰タスクにおいて,他の多くの確率モデルに匹敵する性能を実現する。
論文 参考訳(メタデータ) (2021-06-10T17:55:13Z) - Nonlinear Hawkes Processes in Time-Varying System [37.80255010291703]
ホークス過程(英: Hawkes process)は、自己および相互興奮現象をモデル化する能力を持つ点過程のクラスである。
この研究は、状態プロセスが点プロセスと相互作用するために組み込まれているフレキシブルで非線形で非均一な変種を提案する。
推論には潜時変数拡張法を用いて2つの効率的なベイズ推論アルゴリズムを設計する。
論文 参考訳(メタデータ) (2021-06-09T07:06:05Z) - Statistical optimality and stability of tangent transform algorithms in
logit models [6.9827388859232045]
我々は,データ生成過程の条件として,ロジカルオプティマによって引き起こされるリスクに対して,非漸近上界を導出する。
特に,データ生成過程の仮定なしにアルゴリズムの局所的変動を確立する。
我々は,大域収束が得られる半直交設計を含む特別な場合について検討する。
論文 参考訳(メタデータ) (2020-10-25T05:15:13Z) - Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。
これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
論文 参考訳(メタデータ) (2020-09-01T19:12:11Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。