論文の概要: Modeling non-linear Effects with Neural Networks in Relational Event
Models
- arxiv url: http://arxiv.org/abs/2312.12357v1
- Date: Tue, 19 Dec 2023 17:38:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-20 14:39:04.316800
- Title: Modeling non-linear Effects with Neural Networks in Relational Event
Models
- Title(参考訳): 関係イベントモデルにおけるニューラルネットワークによる非線形効果のモデル化
- Authors: Edoardo Filippi-Mazzola and Ernst C. Wit
- Abstract要約: 本稿では,リレーショナルイベントモデル(REM)における非線形効果をモデル化した計算問題に対する解として,Deep Additive Model(DREAM)を紹介する。
REMは非線形効果をモデル化するためにニューラル付加モデルに依存しており、それぞれの効果を独立したニューラルネットワークによってキャプチャすることができる。
このアプローチは、動的ネットワークのモデリングと大規模ネットワークへのスケーリングにおけるDREAMの能力を示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dynamic networks offer an insight of how relational systems evolve. However,
modeling these networks efficiently remains a challenge, primarily due to
computational constraints, especially as the number of observed events grows.
This paper addresses this issue by introducing the Deep Relational Event
Additive Model (DREAM) as a solution to the computational challenges presented
by modeling non-linear effects in Relational Event Models (REMs). DREAM relies
on Neural Additive Models to model non-linear effects, allowing each effect to
be captured by an independent neural network. By strategically trading
computational complexity for improved memory management and leveraging the
computational capabilities of Graphic Processor Units (GPUs), DREAM efficiently
captures complex non-linear relationships within data. This approach
demonstrates the capability of DREAM in modeling dynamic networks and scaling
to larger networks. Comparisons with traditional REM approaches showcase DREAM
superior computational efficiency. The model potential is further demonstrated
by an examination of the patent citation network, which contains nearly 8
million nodes and 100 million events.
- Abstract(参考訳): 動的ネットワークはリレーショナルシステムの進化に関する洞察を提供する。
しかし、これらのネットワークを効率的にモデリングすることは、主に計算上の制約のため、特に観測されたイベントの数が増えるにつれて困難である。
本稿では,Relational Event Additive Model (DREAM) を導入し,Relational Event Models (REM) における非線形効果をモデル化した計算問題に対する解法を提案する。
ドリームは、非線形効果をモデル化するために神経添加モデルに依存しており、それぞれの効果を独立したニューラルネットワークで捉えることができる。
メモリ管理の改善とグラフィカルプロセッサユニット(GPU)の計算能力を活用するために計算複雑性を戦略的に交換することにより、DREAMはデータ内の複雑な非線形関係を効率的に捉える。
このアプローチは、動的ネットワークのモデリングと大規模ネットワークへのスケーリングにおけるDREAMの能力を示す。
従来のremアプローチと比較すると、ドリームの優れた計算効率を示す。
モデルポテンシャルは、800万近いノードと1億のイベントを含む特許引用ネットワークの検証によってさらに実証される。
関連論文リスト
- The Importance of Being Scalable: Improving the Speed and Accuracy of Neural Network Interatomic Potentials Across Chemical Domains [4.340917737559795]
ニューラルネットワーク原子間ポテンシャル(NNIP)のスケーリングに関する研究
NNIPは、ab initio量子力学計算の代理モデルとして機能する。
我々は、スケーリング用に設計されたNNIPアーキテクチャを開発する: 効率よくスケールされた意識的原子間ポテンシャル(EScAIP)
論文 参考訳(メタデータ) (2024-10-31T17:35:57Z) - Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T19:02:54Z) - An Attempt to Devise a Pairwise Ising-Type Maximum Entropy Model Integrated Cost Function for Optimizing SNN Deployment [0.0]
スパイキングニューラルネットワーク(SNN)デプロイメントプロセスでは、ニューラルネットワークをニューロモルフィックハードウェア内の処理ユニットに分割することが多い。
最適配置方式を見つけることはNPハード問題である。
これらの目的には、ニューロンの活動パターンによって形成されるネットワークダイナミクスを考慮する必要がある。
本手法は,ハードウェアに依存しないネットワークダイナミクスに着目し,特定のハードウェア構成とは独立してモデル化できる。
論文 参考訳(メタデータ) (2024-07-09T16:33:43Z) - Diffusion-Based Neural Network Weights Generation [80.89706112736353]
D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。
本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。
我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
論文 参考訳(メタデータ) (2024-02-28T08:34:23Z) - Building a Graph-based Deep Learning network model from captured traffic
traces [4.671648049111933]
技術ネットワークモデルの現状は離散事象シミュレーション(DES)に基づいているか依存している
DESは非常に正確であり、計算コストも高く、並列化も困難であり、高性能ネットワークをシミュレートするには実用的ではない。
我々は,実際のネットワークシナリオの複雑さをより正確に捉えるために,グラフニューラルネットワーク(GNN)ベースのソリューションを提案する。
論文 参考訳(メタデータ) (2023-10-18T11:16:32Z) - Towards a Better Theoretical Understanding of Independent Subnetwork Training [56.24689348875711]
独立サブネットワークトレーニング(IST)の理論的考察
ISTは、上記の問題を解決するための、最近提案され、非常に効果的である。
圧縮通信を用いた分散手法など,ISTと代替手法の基本的な違いを同定する。
論文 参考訳(メタデータ) (2023-06-28T18:14:22Z) - A critical look at deep neural network for dynamic system modeling [0.0]
本稿では,入力出力データを用いた動的システムのモデリングにおける(深度)ニューラルネットワークの能力に疑問を呈する。
線形時間不変(LTI)力学系の同定には、2つの代表的なニューラルネットワークモデルを比較する。
LTIシステムでは、LSTMとCFNNはノイズのないケースでも一貫したモデルを提供できない。
論文 参考訳(メタデータ) (2023-01-27T09:03:05Z) - Real-time Neural-MPC: Deep Learning Model Predictive Control for
Quadrotors and Agile Robotic Platforms [59.03426963238452]
モデル予測制御パイプライン内の動的モデルとして,大規模で複雑なニューラルネットワークアーキテクチャを効率的に統合するフレームワークであるReal-time Neural MPCを提案する。
ニューラルネットワークを使わずに、最先端のMPCアプローチと比較して、位置追跡誤差を最大82%削減することで、実世界の問題に対する我々のフレームワークの実現可能性を示す。
論文 参考訳(メタデータ) (2022-03-15T09:38:15Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Neural Closure Models for Dynamical Systems [35.000303827255024]
低忠実度モデルに対する非マルコフ閉閉パラメータ化を学習する新しい手法を開発した。
ニューラルクロージャモデル」はニューラル遅延微分方程式(nDDE)を用いた低忠実度モデルを強化する
非マルコヴィアンオーバーマルコヴィアンクロージャを使用することで、長期的精度が向上し、より小さなネットワークが必要であることを示した。
論文 参考訳(メタデータ) (2020-12-27T05:55:33Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。