論文の概要: Neural Relational Inference with Fast Modular Meta-learning
- arxiv url: http://arxiv.org/abs/2310.07015v1
- Date: Tue, 10 Oct 2023 21:05:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-13 01:18:05.166903
- Title: Neural Relational Inference with Fast Modular Meta-learning
- Title(参考訳): 高速モジュール型メタラーニングによるニューラルリレーショナル推論
- Authors: Ferran Alet, Erica Weng, Tom\'as Lozano P\'erez, Leslie Pack Kaelbling
- Abstract要約: グラフニューラルネットワーク(GNN)は、実体と関係からなる多くの力学系に対して有効なモデルである。
リレーショナル推論は、これらの相互作用を推測し、観測データからダイナミクスを学習する問題である。
関係推論は、多くの課題を解決するために、ニューラルネットワークモジュールをさまざまな方法で構成するように訓練する、テクティモジュラーなメタラーニング問題である。
- 参考スコア(独自算出の注目度): 25.313516707169498
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: \textit{Graph neural networks} (GNNs) are effective models for many dynamical
systems consisting of entities and relations. Although most GNN applications
assume a single type of entity and relation, many situations involve multiple
types of interactions. \textit{Relational inference} is the problem of
inferring these interactions and learning the dynamics from observational data.
We frame relational inference as a \textit{modular meta-learning} problem,
where neural modules are trained to be composed in different ways to solve many
tasks. This meta-learning framework allows us to implicitly encode time
invariance and infer relations in context of one another rather than
independently, which increases inference capacity. Framing inference as the
inner-loop optimization of meta-learning leads to a model-based approach that
is more data-efficient and capable of estimating the state of entities that we
do not observe directly, but whose existence can be inferred from their effect
on observed entities. To address the large search space of graph neural network
compositions, we meta-learn a \textit{proposal function} that speeds up the
inner-loop simulated annealing search within the modular meta-learning
algorithm, providing two orders of magnitude increase in the size of problems
that can be addressed.
- Abstract(参考訳): \textit{graph neural networks} (gnns) は、エンティティとリレーションからなる多くの動的システムにとって有効なモデルである。
ほとんどのGNNアプリケーションは単一タイプのエンティティとリレーションを前提としていますが、多くの状況では複数のタイプのインタラクションを伴います。
\textit{relational inference}は、これらの相互作用を推論し、観測データからダイナミクスを学ぶ問題である。
関係推論を \textit{modular meta-learning}問題として構成し、神経モジュールを様々な方法で構成して多くのタスクを解決するように訓練する。
このメタラーニングフレームワークは、時間不変性を暗黙的にエンコードし、相互関係を独立して推論することを可能にし、推論能力を高めます。
メタラーニングの内部ループ最適化としての推論は、データ効率が高く、直接観測しないエンティティの状態を予測することができるが、その存在が観測されたエンティティに与える影響から推測できるモデルベースアプローチへと繋がる。
グラフニューラルネットワークの大規模な探索空間に対処するため,モジュール型メタ学習アルゴリズムにおいて,内部ループをシミュレートしたアニーリング探索を高速化し,対処可能な問題の大きさを2桁に拡大する「textit{proposal function}」をメタラーニングする。
関連論文リスト
- Interaction Event Forecasting in Multi-Relational Recursive HyperGraphs: A Temporal Point Process Approach [12.142292322071299]
本研究は,マルチリレーショナル再帰的ハイパーグラフにおける高次相互作用事象の予測問題に対処する。
提案したモデルであるtextitRelational Recursive Hyperedge Temporal Point Process (RRHyperTPP) は,歴史的相互作用パターンに基づいて動的ノード表現を学習するエンコーダを使用する。
我々は,従来のインタラクション予測手法よりも優れた性能を示すことを示す。
論文 参考訳(メタデータ) (2024-04-27T15:46:54Z) - Jointly-Learned Exit and Inference for a Dynamic Neural Network : JEI-DNN [20.380620709345898]
早期排他的動的ニューラルネットワーク(EDNN)は、中間層(即ち早期排他)からの予測の一部をモデルが行うことを可能にする。
EDNNアーキテクチャのトレーニングは、初期出力決定を制御するゲーティング機構(GM)と中間表現からの推論を実行する中間推論モジュール(IM)の2つのコンポーネントで構成されるため、難しい。
本稿では,これら2つのモジュールを接続する新しいアーキテクチャを提案する。これにより分類データセットの性能が大幅に向上し,不確実性評価機能の向上が期待できる。
論文 参考訳(メタデータ) (2023-10-13T14:56:38Z) - Dynamic Latent Separation for Deep Learning [67.62190501599176]
機械学習の中核的な問題は、複雑なデータに対するモデル予測のための表現力のある潜在変数を学習することである。
本稿では,表現性を向上し,部分的解釈を提供し,特定のアプリケーションに限定されないアプローチを開発する。
論文 参考訳(メタデータ) (2022-10-07T17:56:53Z) - Dynamic Relation Discovery and Utilization in Multi-Entity Time Series
Forecasting [92.32415130188046]
多くの現実世界のシナリオでは、実体の間に決定的かつ暗黙的な関係が存在する可能性がある。
本稿では,自動グラフ学習(A2GNN)を用いたマルチグラフニューラルネットワークを提案する。
論文 参考訳(メタデータ) (2022-02-18T11:37:04Z) - Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。
我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。
コア最適化問題の実用的なパラメトリゼーションを提供する。
論文 参考訳(メタデータ) (2021-07-08T18:01:02Z) - Convolutions for Spatial Interaction Modeling [9.408751013132624]
自律走行車周辺におけるアクターの移動予測における空間相互作用モデリングの問題点について考察する。
我々は畳み込みを再検討し,低レイテンシで空間相互作用をモデル化する上で,グラフネットワークと同等のパフォーマンスを実証できることを示した。
論文 参考訳(メタデータ) (2021-04-15T00:41:30Z) - TrackMPNN: A Message Passing Graph Neural Architecture for Multi-Object
Tracking [8.791710193028903]
本研究は,グラフに基づくデータ構造を用いて問題をモデル化する多目的追跡(MOT)への多くの従来のアプローチに従う。
複数のタイムステップにまたがるデータ関連問題を表す動的無方向性グラフに基づくフレームワークを作成する。
また、メモリ効率が高く、リアルタイムなオンラインアルゴリズムを作成するために対処する必要がある計算問題に対するソリューションと提案も提供します。
論文 参考訳(メタデータ) (2021-01-11T21:52:25Z) - Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。
本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。
我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
論文 参考訳(メタデータ) (2020-06-16T18:45:20Z) - Connecting the Dots: Multivariate Time Series Forecasting with Graph
Neural Networks [91.65637773358347]
多変量時系列データに特化して設計された汎用グラフニューラルネットワークフレームワークを提案する。
グラフ学習モジュールを用いて,変数間の一方向関係を自動的に抽出する。
提案手法は,4つのベンチマークデータセットのうち3つにおいて,最先端のベースライン手法よりも優れている。
論文 参考訳(メタデータ) (2020-05-24T04:02:18Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳(メタデータ) (2020-03-13T13:11:35Z) - Relational State-Space Model for Stochastic Multi-Object Systems [24.234120525358456]
本稿では、逐次階層型潜在変数モデルであるリレーショナル状態空間モデル(R-SSM)を紹介する。
R-SSMはグラフニューラルネットワーク(GNN)を用いて、複数の相関オブジェクトの結合状態遷移をシミュレートする。
R-SSMの実用性は、合成および実時間時系列データセットで実証的に評価される。
論文 参考訳(メタデータ) (2020-01-13T03:45:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。