Fugu-MT 論文翻訳(概要): Deep Fourier Kernel for Self-Attentive Point Processes

論文の概要: Deep Fourier Kernel for Self-Attentive Point Processes

arxiv url: http://arxiv.org/abs/2002.07281v5
Date: Sun, 21 Feb 2021 05:33:59 GMT
ステータス: 処理完了
システム内更新日: 2022-12-31 12:17:14.445666
Title: Deep Fourier Kernel for Self-Attentive Point Processes
Title（参考訳）: 自己着点過程に対する深いフーリエ核
Authors: Shixiang Zhu, Minghe Zhang, Ruyi Ding, Yao Xie
Abstract要約: 本稿では、複雑な非線形時間依存構造を捉えるために、離散イベントデータに対する注目に基づく新しいモデルを提案する。本稿では,ニューラルネットワークを用いてスペクトルを表現したFourierカーネル埋め込みを用いた新しいスコア関数を提案する。我々は、我々のアプローチの理論的特性を確立し、我々のアプローチの競争性能を、合成および実データのための最先端技術と比較して実証する。
参考スコア（独自算出の注目度）: 16.63706478353667
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We present a novel attention-based model for discrete event data to capture complex non-linear temporal dependence structures. We borrow the idea from the attention mechanism and incorporate it into the point processes' conditional intensity function. We further introduce a novel score function using Fourier kernel embedding, whose spectrum is represented using neural networks, which drastically differs from the traditional dot-product kernel and can capture a more complex similarity structure. We establish our approach's theoretical properties and demonstrate our approach's competitive performance compared to the state-of-the-art for synthetic and real data.
Abstract（参考訳）: 本稿では,複雑な非線形時間依存構造を捉えるために,離散イベントデータに対する注意に基づく新しいモデルを提案する。注意機構からアイデアを借用し,点過程の条件強度関数に組み込む。さらに、ニューラルネットワークを用いてスペクトルを表現し、従来のドット生成カーネルと大きく異なり、より複雑な類似構造を捉えることができるフーリエカーネル埋め込みを用いた新しいスコア関数を導入する。我々は,提案手法の理論的特性を確立し,合成データおよび実データに対する最先端技術と比較し,本手法の競合性能を実証する。

関連論文リスト

Nonstationary Sparse Spectral Permanental Process [24.10531062895964]
非定常カーネルのスパーススペクトル表現を利用した新しい手法を提案する。この手法はカーネルタイプと定常性の制約を緩和し、より柔軟なモデリングを可能にする。合成と実世界の両方のデータセットに対する実験結果から,本手法の有効性が示された。
論文参考訳（メタデータ） (2024-10-04T16:40:56Z)
Injecting Hamiltonian Architectural Bias into Deep Graph Networks for Long-Range Propagation [55.227976642410766]
グラフ内の情報拡散のダイナミクスは、グラフ表現学習に大きな影響を及ぼす重要なオープン問題である。そこで我々は(ポート-)Hamiltonian Deep Graph Networksを紹介した。我々は,非散逸的長距離伝播と非保守的行動の両方を,単一の理論的・実践的な枠組みで調整する。
論文参考訳（メタデータ） (2024-05-27T13:36:50Z)
Complex Recurrent Spectral Network [1.0499611180329806]
本稿では,複雑なリカレントスペクトルネットワーク(conplex Recurrent Spectral Network)(mathbbC$-RSN)の開発を通じて,人工知能(AI)を進化させる新しいアプローチを提案する。 $mathbbC$-RSNは、既存のニューラルネットワークモデルにおいて、生物学的ニューラルネットワークの複雑なプロセスをエミュレートできないという限界に対処するように設計されている。
論文参考訳（メタデータ） (2023-12-12T14:14:40Z)
Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文参考訳（メタデータ） (2023-04-08T07:55:36Z)
DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained Diffusion [66.21290235237808]
本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
論文参考訳（メタデータ） (2023-01-23T15:18:54Z)
Linear Self-Attention Approximation via Trainable Feedforward Kernel [77.34726150561087]
高速な計算を追求する中で、効率的なトランスフォーマーは印象的な様々なアプローチを実証している。我々は,トランスフォーマーアーキテクチャの自己保持機構を近似するために,トレーニング可能なカーネルメソッドのアイデアを拡張することを目指している。
論文参考訳（メタデータ） (2022-11-08T08:14:11Z)
Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文参考訳（メタデータ） (2022-01-25T17:13:56Z)
Neural Spectral Marked Point Processes [18.507050473968985]
本稿では、複雑な離散イベントを扱うための、ニューラルネットワークに基づく新規で汎用的な非定常影響カーネルを提案する。提案手法は, 合成および実データにおける最先端技術と比較して, 優れた性能を示す。
論文参考訳（メタデータ） (2021-06-20T23:00:37Z)
A Temporal Kernel Approach for Deep Learning with Continuous-time Information [18.204325860752768]
RNN、因果CNN、注意メカニズムなどのシーケンスディープラーニングモデルは、連続時間情報を容易に消費しません。時間的データの離散化は、単純な連続時間プロセスにおいても不整合を引き起こす。我々は,ディープラーニングツールを用いた連続時間システムの特徴付け手法を提案する。
論文参考訳（メタデータ） (2021-03-28T20:13:53Z)
UNIPoint: Universally Approximating Point Processes Intensities [125.08205865536577]
学習可能な関数のクラスが任意の有効な強度関数を普遍的に近似できることを示す。ニューラルポイントプロセスモデルであるUNIPointを実装し,各イベントの基底関数の和をパラメータ化するために,リカレントニューラルネットワークを用いた。
論文参考訳（メタデータ） (2020-07-28T09:31:56Z)
Convolutional Spectral Kernel Learning [21.595130250234646]
逆フーリエ変換に基づく解釈可能な畳み込みスペクトルカーネルネットワーク(textttCSKN)を構築する。一般化誤差境界を導出し、性能を改善するために2つの正規化器を導入する。実世界のデータセットを用いた実験は、学習フレームワークの有効性を検証する。
論文参考訳（メタデータ） (2020-02-28T14:35:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。