論文の概要: The Role of Isomorphism Classes in Multi-Relational Datasets
- arxiv url: http://arxiv.org/abs/2009.14593v1
- Date: Wed, 30 Sep 2020 12:15:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 23:09:24.119995
- Title: The Role of Isomorphism Classes in Multi-Relational Datasets
- Title(参考訳): 多関係データセットにおける同型クラスの役割
- Authors: Vijja Wichitwechkarn, Ben Day, Cristian Bodnar, Matthew Wales, Pietro
Li\`o
- Abstract要約: アイソモーフィックリークは,マルチリレーショナル推論の性能を過大評価することを示す。
モデル評価のためのアイソモーフィック・アウェア・シンセサイティング・ベンチマークを提案する。
また、同型類は単純な優先順位付けスキームによって利用することができることを示した。
- 参考スコア(独自算出の注目度): 6.419762264544509
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-interaction systems abound in nature, from colloidal suspensions to
gene regulatory circuits. These systems can produce complex dynamics and graph
neural networks have been proposed as a method to extract underlying
interactions and predict how systems will evolve. The current training and
evaluation procedures for these models through the use of synthetic
multi-relational datasets however are agnostic to interaction network
isomorphism classes, which produce identical dynamics up to initial conditions.
We extensively analyse how isomorphism class awareness affects these models,
focusing on neural relational inference (NRI) models, which are unique in
explicitly inferring interactions to predict dynamics in the unsupervised
setting. Specifically, we demonstrate that isomorphism leakage overestimates
performance in multi-relational inference and that sampling biases present in
the multi-interaction network generation process can impair generalisation. To
remedy this, we propose isomorphism-aware synthetic benchmarks for model
evaluation. We use these benchmarks to test generalisation abilities and
demonstrate the existence of a threshold sampling frequency of isomorphism
classes for successful learning. In addition, we demonstrate that isomorphism
classes can be utilised through a simple prioritisation scheme to improve model
performance, stability during training and reduce training time.
- Abstract(参考訳): コロイドサスペンションから遺伝子制御回路まで、自然界に存在する多相互作用系。
これらのシステムは複雑な力学を生み出し、基礎となる相互作用を抽出し、システムがどのように進化するかを予測する方法としてグラフニューラルネットワークが提案されている。
しかしながら、これらのモデルの現在のトレーニングおよび評価手順は、合成マルチリレーショナルデータセットを使用しており、相互作用ネットワークの同型クラスに非依存であり、初期条件まで同じダイナミクスを生成する。
我々は、同型クラス認識がこれらのモデルにどのように影響するかを広範囲に分析し、ニューラルネットワーク推論(NRI)モデルに焦点を当てた。
具体的には,マルチリレーショナル推論の性能を過大評価し,マルチインターアクションネットワーク生成プロセスに存在するサンプリングバイアスが一般化を損なうことを実証する。
そこで本研究では,モデル評価のための同型対応合成ベンチマークを提案する。
これらのベンチマークを用いて一般化能力のテストを行い、学習を成功させるために同型クラスのしきい値サンプリング周波数の存在を実証する。
さらに, モデル性能, トレーニング中の安定性, トレーニング時間を短縮するために, 単純な事前化スキームを用いて同型クラスを活用できることを実証する。
関連論文リスト
- Dynamic Post-Hoc Neural Ensemblers [55.15643209328513]
本研究では,ニューラルネットワークをアンサンブル手法として活用することを検討する。
低多様性のアンサンブルを学習するリスクを動機として,ベースモデル予測をランダムにドロップすることでモデルの正規化を提案する。
このアプローチはアンサンブル内の多様性を低くし、オーバーフィッティングを減らし、一般化能力を向上させる。
論文 参考訳(メタデータ) (2024-10-06T15:25:39Z) - Latent Variable Sequence Identification for Cognitive Models with Neural Bayes Estimation [7.7227297059345466]
本稿では,ニューラルベイズ推定を拡張して,実験データと対象変数空間との直接マッピングを学習する手法を提案する。
我々の研究は、リカレントニューラルネットワークとシミュレーションベースの推論を組み合わせることで、潜在変数配列を特定することで、研究者がより広範な認知モデルにアクセスできるようになることを強調している。
論文 参考訳(メタデータ) (2024-06-20T21:13:39Z) - Demolition and Reinforcement of Memories in Spin-Glass-like Neural
Networks [0.0]
この論文の目的は、連想記憶モデルと生成モデルの両方において、アンラーニングの有効性を理解することである。
構造化データの選択により、連想記憶モデルは、相当量のアトラクションを持つニューラルダイナミクスのアトラクションとしての概念を検索することができる。
Boltzmann Machinesの新しい正規化手法が提案され、データセットから隠れ確率分布を学習する以前に開発された手法より優れていることが証明された。
論文 参考訳(メタデータ) (2024-03-04T23:12:42Z) - Learning Latent Dynamics via Invariant Decomposition and
(Spatio-)Temporal Transformers [0.6767885381740952]
本研究では,高次元経験データから力学系を学習する手法を提案する。
我々は、システムの複数の異なるインスタンスからデータが利用できる設定に焦点を当てる。
我々は、単純な理論的分析と、合成および実世界のデータセットに関する広範な実験を通して行動を研究する。
論文 参考訳(メタデータ) (2023-06-21T07:52:07Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Decomposed Linear Dynamical Systems (dLDS) for learning the latent
components of neural dynamics [6.829711787905569]
本稿では,時系列データの非定常および非線形の複雑なダイナミクスを表現した新しい分解力学系モデルを提案する。
我々のモデルは辞書学習によって訓練され、最近の結果を利用してスパースベクトルを時間とともに追跡する。
連続時間と離散時間の両方の指導例において、我々のモデルは元のシステムによく近似できることを示した。
論文 参考訳(メタデータ) (2022-06-07T02:25:38Z) - Capturing Actionable Dynamics with Structured Latent Ordinary
Differential Equations [68.62843292346813]
本稿では,その潜在表現内でのシステム入力の変動をキャプチャする構造付き潜在ODEモデルを提案する。
静的変数仕様に基づいて,本モデルではシステムへの入力毎の変動要因を学習し,潜在空間におけるシステム入力の影響を分離する。
論文 参考訳(メタデータ) (2022-02-25T20:00:56Z) - Towards Robust and Adaptive Motion Forecasting: A Causal Representation
Perspective [72.55093886515824]
本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。
我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。
合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
論文 参考訳(メタデータ) (2021-11-29T18:59:09Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳(メタデータ) (2020-10-25T18:51:15Z) - Automated and Formal Synthesis of Neural Barrier Certificates for
Dynamical Models [70.70479436076238]
バリア証明書(BC)の自動的,形式的,反例に基づく合成手法を提案する。
このアプローチは、ニューラルネットワークとして構造化されたBCの候補を操作する誘導的フレームワークと、その候補の有効性を認証するか、反例を生成する音検証器によって支えられている。
その結果,音のBCsを最大2桁の速度で合成できることがわかった。
論文 参考訳(メタデータ) (2020-07-07T07:39:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。