論文の概要: Modeling non-linear Effects with Neural Networks in Relational Event
Models
- arxiv url: http://arxiv.org/abs/2312.12357v1
- Date: Tue, 19 Dec 2023 17:38:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-20 14:39:04.316800
- Title: Modeling non-linear Effects with Neural Networks in Relational Event
Models
- Title(参考訳): 関係イベントモデルにおけるニューラルネットワークによる非線形効果のモデル化
- Authors: Edoardo Filippi-Mazzola and Ernst C. Wit
- Abstract要約: 本稿では,リレーショナルイベントモデル(REM)における非線形効果をモデル化した計算問題に対する解として,Deep Additive Model(DREAM)を紹介する。
REMは非線形効果をモデル化するためにニューラル付加モデルに依存しており、それぞれの効果を独立したニューラルネットワークによってキャプチャすることができる。
このアプローチは、動的ネットワークのモデリングと大規模ネットワークへのスケーリングにおけるDREAMの能力を示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dynamic networks offer an insight of how relational systems evolve. However,
modeling these networks efficiently remains a challenge, primarily due to
computational constraints, especially as the number of observed events grows.
This paper addresses this issue by introducing the Deep Relational Event
Additive Model (DREAM) as a solution to the computational challenges presented
by modeling non-linear effects in Relational Event Models (REMs). DREAM relies
on Neural Additive Models to model non-linear effects, allowing each effect to
be captured by an independent neural network. By strategically trading
computational complexity for improved memory management and leveraging the
computational capabilities of Graphic Processor Units (GPUs), DREAM efficiently
captures complex non-linear relationships within data. This approach
demonstrates the capability of DREAM in modeling dynamic networks and scaling
to larger networks. Comparisons with traditional REM approaches showcase DREAM
superior computational efficiency. The model potential is further demonstrated
by an examination of the patent citation network, which contains nearly 8
million nodes and 100 million events.
- Abstract(参考訳): 動的ネットワークはリレーショナルシステムの進化に関する洞察を提供する。
しかし、これらのネットワークを効率的にモデリングすることは、主に計算上の制約のため、特に観測されたイベントの数が増えるにつれて困難である。
本稿では,Relational Event Additive Model (DREAM) を導入し,Relational Event Models (REM) における非線形効果をモデル化した計算問題に対する解法を提案する。
ドリームは、非線形効果をモデル化するために神経添加モデルに依存しており、それぞれの効果を独立したニューラルネットワークで捉えることができる。
メモリ管理の改善とグラフィカルプロセッサユニット(GPU)の計算能力を活用するために計算複雑性を戦略的に交換することにより、DREAMはデータ内の複雑な非線形関係を効率的に捉える。
このアプローチは、動的ネットワークのモデリングと大規模ネットワークへのスケーリングにおけるDREAMの能力を示す。
従来のremアプローチと比較すると、ドリームの優れた計算効率を示す。
モデルポテンシャルは、800万近いノードと1億のイベントを含む特許引用ネットワークの検証によってさらに実証される。
関連論文リスト
- Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - Computational Tradeoffs of Optimization-Based Bound Tightening in ReLU
Networks [4.01907644010256]
ニューラルネットワークをRectified Linear Unit(ReLU)アクティベーションで表現するMILP(Mixed-Integer Linear Programming)モデルは、ここ10年で急速に普及している。
これにより、MILP技術を用いて、テストまたはストレス・サービヘイビアを行い、トレーニングを逆向きに改善し、予測力を活かした最適化モデルに組み込むことが可能になった。
ネットワーク構造、正規化、ラウンドリングの影響に基づき、これらのモデルを実装するためのガイドラインを提供する。
論文 参考訳(メタデータ) (2023-12-27T19:32:59Z) - Building a Graph-based Deep Learning network model from captured traffic
traces [4.671648049111933]
技術ネットワークモデルの現状は離散事象シミュレーション(DES)に基づいているか依存している
DESは非常に正確であり、計算コストも高く、並列化も困難であり、高性能ネットワークをシミュレートするには実用的ではない。
我々は,実際のネットワークシナリオの複雑さをより正確に捉えるために,グラフニューラルネットワーク(GNN)ベースのソリューションを提案する。
論文 参考訳(メタデータ) (2023-10-18T11:16:32Z) - A critical look at deep neural network for dynamic system modeling [0.0]
本稿では,入力出力データを用いた動的システムのモデリングにおける(深度)ニューラルネットワークの能力に疑問を呈する。
線形時間不変(LTI)力学系の同定には、2つの代表的なニューラルネットワークモデルを比較する。
LTIシステムでは、LSTMとCFNNはノイズのないケースでも一貫したモデルを提供できない。
論文 参考訳(メタデータ) (2023-01-27T09:03:05Z) - Physics guided neural networks for modelling of non-linear dynamics [0.0]
この研究は、ディープニューラルネットワークの中間層に部分的に既知の情報を注入することで、モデルの精度を向上し、モデルの不確実性を低減し、トレーニング中に収束性を向上させることを実証する。
これらの物理誘導ニューラルネットワークの価値は、非線形系理論においてよく知られた5つの方程式で表される様々な非線形力学系の力学を学習することによって証明されている。
論文 参考訳(メタデータ) (2022-05-13T19:06:36Z) - An advanced spatio-temporal convolutional recurrent neural network for
storm surge predictions [73.4962254843935]
本研究では, 人工ニューラルネットワークモデルを用いて, 嵐の軌跡/規模/強度履歴に基づいて, 強風をエミュレートする能力について検討する。
本研究では, 人工嵐シミュレーションのデータベースを用いて, 強風を予測できるニューラルネットワークモデルを提案する。
論文 参考訳(メタデータ) (2022-04-18T23:42:18Z) - Real-time Neural-MPC: Deep Learning Model Predictive Control for
Quadrotors and Agile Robotic Platforms [59.03426963238452]
モデル予測制御パイプライン内の動的モデルとして,大規模で複雑なニューラルネットワークアーキテクチャを効率的に統合するフレームワークであるReal-time Neural MPCを提案する。
ニューラルネットワークを使わずに、最先端のMPCアプローチと比較して、位置追跡誤差を最大82%削減することで、実世界の問題に対する我々のフレームワークの実現可能性を示す。
論文 参考訳(メタデータ) (2022-03-15T09:38:15Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Neural Closure Models for Dynamical Systems [35.000303827255024]
低忠実度モデルに対する非マルコフ閉閉パラメータ化を学習する新しい手法を開発した。
ニューラルクロージャモデル」はニューラル遅延微分方程式(nDDE)を用いた低忠実度モデルを強化する
非マルコヴィアンオーバーマルコヴィアンクロージャを使用することで、長期的精度が向上し、より小さなネットワークが必要であることを示した。
論文 参考訳(メタデータ) (2020-12-27T05:55:33Z) - Flexible Transmitter Network [84.90891046882213]
現在のニューラルネットワークはMPモデルに基づいて構築されており、通常はニューロンを他のニューロンから受信した信号の実際の重み付け集約上での活性化関数の実行として定式化する。
本稿では,フレキシブル・トランスミッタ(FT)モデルを提案する。
本稿では、最も一般的な完全接続型フィードフォワードアーキテクチャ上に構築された、フレキシブルトランスミッタネットワーク(FTNet)について述べる。
論文 参考訳(メタデータ) (2020-04-08T06:55:12Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。