論文の概要: Differentiable Reasoning over Long Stories -- Assessing Systematic Generalisation in Neural Models

• arxiv url: http://arxiv.org/abs/2203.10620v1
• Date: Sun, 20 Mar 2022 18:34:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-22 13:40:11.073341
• Title: Differentiable Reasoning over Long Stories -- Assessing Systematic Generalisation in Neural Models
• Title（参考訳）: ロングストーリーに対する微分可能な推論 -ニューラルモデルにおける体系的一般化の評価
• Authors: Wanshui Li, Pasquale Minervini
• Abstract要約: グラフ構造化データを同時に処理し、エッジ属性を同時に考慮できるグラフベースのモデルである"E-GNN"と、グラフの線形化バージョンを処理できるシーケンスベースのモデルである"L-Graph"である。 その結果、修正されたリカレントニューラルネットワークは、グラフニューラルネットワークよりも優れた体系的な一般化タスク全体にわたって驚くほど正確な結果が得られることがわかった。
• 参考スコア（独自算出の注目度）: 12.479512369785082
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Contemporary neural networks have achieved a series of developments and successes in many aspects; however, when exposed to data outside the training distribution, they may fail to predict correct answers. In this work, we were concerned about this generalisation issue and thus analysed a broad set of models systematically and robustly over long stories. Related experiments were conducted based on the CLUTRR, which is a diagnostic benchmark suite that can analyse generalisation of natural language understanding (NLU) systems by training over small story graphs and testing on larger ones. In order to handle the multi-relational story graph, we consider two classes of neural models: "E-GNN", the graph-based models that can process graph-structured data and consider the edge attributes simultaneously; and "L-Graph", the sequence-based models which can process linearized version of the graphs. We performed an extensive empirical evaluation, and we found that the modified recurrent neural network yield surprisingly accurate results across every systematic generalisation tasks which outperform the modified graph neural network, while the latter produced more robust models.
• Abstract（参考訳）: 現代のニューラルネットワークは多くの面で一連の発展と成功を達成しているが、トレーニング分布外のデータに露出すると、正しい答えを予測できない可能性がある。 この研究では、この一般化問題を心配し、長いストーリーを体系的に、そして堅牢に、幅広いモデルを分析しました。 ClUTRRは,自然言語理解(NLU)システムの一般化を,小さなストーリグラフ上でのトレーニングと大規模システム上でのテストによって解析する,診断ベンチマークスイートである。 マルチリレーショナルストーリーグラフを扱うために,グラフ構造化データを処理し,エッジ属性を同時に考慮できるグラフベースモデルである"e-gnn"と,線形化バージョンのグラフを処理可能なシーケンスベースモデルである"l-graph"の2つのクラスを検討した。 その結果,修正再帰型ニューラルネットワークは,修正型グラフニューラルネットワークに匹敵するすべての体系的一般化タスクにおいて驚くほど正確な結果が得られ,後者の方が頑健なモデルが得られた。

関連論文リスト

• Do graph neural network states contain graph properties? [5.222978725954348]
  診断分類器を用いたグラフニューラルネットワーク(GNN)のモデル説明可能性パイプラインを提案する。 このパイプラインは、さまざまなアーキテクチャやデータセットにわたるGNNの学習した表現を探索し、解釈することを目的としている。
  論文  参考訳（メタデータ） (2024-11-04T15:26:07Z)
• Self-Supervised Graph Neural Networks for Enhanced Feature Extraction in Heterogeneous Information Networks [16.12856816023414]
  本稿では,インターネットの急速な発展に伴う複雑なグラフデータ処理におけるグラフニューラルネットワーク(GNN)の適用と課題について考察する。 自己監督機構を導入することにより、グラフデータの多様性と複雑さに対する既存モデルの適合性を向上させることが期待されている。
  論文  参考訳（メタデータ） (2024-10-23T07:14:37Z)
• Generalization of Graph Neural Networks is Robust to Model Mismatch [84.01980526069075]
  グラフニューラルネットワーク(GNN)は、その一般化能力によってサポートされている様々なタスクにおいて、その効果を実証している。 本稿では,多様体モデルから生成される幾何グラフで動作するGNNについて検討する。 本稿では,そのようなモデルミスマッチの存在下でのGNN一般化の堅牢性を明らかにする。
  論文  参考訳（メタデータ） (2024-08-25T16:00:44Z)
• Challenging the Myth of Graph Collaborative Filtering: a Reasoned and Reproducibility-driven Analysis [50.972595036856035]
  本稿では,6つの人気グラフと最近のグラフ推薦モデルの結果を再現するコードを提案する。 これらのグラフモデルと従来の協調フィルタリングモデルを比較する。 ユーザの近所からの情報フローを調べることにより,データセット構造における内在的特徴にどのようなモデルが影響するかを同定することを目的とする。
  論文  参考訳（メタデータ） (2023-08-01T09:31:44Z)
• GraphGLOW: Universal and Generalizable Structure Learning for Graph Neural Networks [72.01829954658889]
  本稿では,この新たな問題設定の数学的定義を紹介する。 一つのグラフ共有構造学習者と複数のグラフ固有GNNを協調する一般的なフレームワークを考案する。 十分に訓練された構造学習者は、微調整なしで、目に見えない対象グラフの適応的な構造を直接生成することができる。
  論文  参考訳（メタデータ） (2023-06-20T03:33:22Z)
• How neural networks learn to classify chaotic time series [77.34726150561087]
  本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。 入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
  論文  参考訳（メタデータ） (2023-06-04T08:53:27Z)
• GDBN: a Graph Neural Network Approach to Dynamic Bayesian Network [7.876789380671075]
  スパースDAGの学習を目的としたスコアに基づくグラフニューラルネットワーク手法を提案する。 グラフニューラルネットワークを用いた手法は,動的ベイジアンネットワーク推論を用いた他の最先端手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-01-28T02:49:13Z)
• Learning the Evolutionary and Multi-scale Graph Structure for Multivariate Time Series Forecasting [50.901984244738806]
  時系列の進化的・マルチスケール相互作用をモデル化する方法を示す。 特に、まず、拡張畳み込みと協調して、スケール固有の相関を捉える階層グラフ構造を提供する。 最終的な予測を得るために上記のコンポーネントを統合するために、統合ニューラルネットワークが提供される。
  論文  参考訳（メタデータ） (2022-06-28T08:11:12Z)
• Hyperbolic Graph Neural Networks: A Review of Methods and Applications [55.5502008501764]
  グラフニューラルネットワークは、従来のニューラルネットワークをグラフ構造化データに一般化する。 グラフ関連学習におけるユークリッドモデルの性能は、ユークリッド幾何学の表現能力によって依然として制限されている。 近年,木のような構造を持つグラフデータ処理や,ゆるい分布の処理において,双曲空間が人気が高まっている。
  論文  参考訳（メタデータ） (2022-02-28T15:08:48Z)
• Crime Prediction with Graph Neural Networks and Multivariate Normal Distributions [18.640610803366876]
  グラフ畳み込みネットワーク(GCN)のフレキシブルな構造を利用して,高分解能領域における疎結合問題に取り組む。 グラフ畳み込みGated Recurrent Units (Graph-ConvGRU) を用いてモデルを構築し,空間的・時間的・カテゴリー的関係を学習する。 モデルが生成性だけでなく,正確性も示しています。
  論文  参考訳（メタデータ） (2021-11-29T17:37:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。