論文の概要: Rule Based Learning with Dynamic (Graph) Neural Networks

• arxiv url: http://arxiv.org/abs/2406.09954v1
• Date: Fri, 14 Jun 2024 12:01:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-17 13:55:15.674387
• Title: Rule Based Learning with Dynamic (Graph) Neural Networks
• Title（参考訳）: 動的(グラフ)ニューラルネットワークを用いたルールベース学習
• Authors: Florian Seiffarth,
• Abstract要約: 本稿ではルールベースグラフニューラルネットワーク(RuleGNN)を提案する。 実験の結果,ルールGNNの予測性能は最先端のグラフ分類器に匹敵することがわかった。 専門家の知識をルールGNNに組み込む方法を示すために,新しいベンチマークグラフデータセットを導入する。
• 参考スコア（独自算出の注目度）: 0.8158530638728501
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A common problem of classical neural network architectures is that additional information or expert knowledge cannot be naturally integrated into the learning process. To overcome this limitation, we propose a two-step approach consisting of (1) generating rule functions from knowledge and (2) using these rules to define rule based layers -- a new type of dynamic neural network layer. The focus of this work is on the second step, i.e., rule based layers that are designed to dynamically arrange learnable parameters in the weight matrices and bias vectors depending on the input samples. Indeed, we prove that our approach generalizes classical feed-forward layers such as fully connected and convolutional layers by choosing appropriate rules. As a concrete application we present rule based graph neural networks (RuleGNNs) that overcome some limitations of ordinary graph neural networks. Our experiments show that the predictive performance of RuleGNNs is comparable to state-of-the-art graph classifiers using simple rules based on Weisfeiler-Leman labeling and pattern counting. Moreover, we introduce new synthetic benchmark graph datasets to show how to integrate expert knowledge into RuleGNNs making them more powerful than ordinary graph neural networks.
• Abstract（参考訳）: 古典的ニューラルネットワークアーキテクチャの一般的な問題は、学習プロセスに追加の情報や専門家の知識を自然に統合できないことである。 この制限を克服するために,(1)知識からルール関数を生成すること,(2)ルールを用いてルールベースの層を定義すること,という2段階のアプローチを提案する。 この研究の焦点は第2段階、すなわち、入力サンプルに依存する重み行列とバイアスベクトルの学習可能なパラメータを動的に配置するように設計されたルールベースの層である。 実際、本手法は、適切なルールを選択することで、完全連結層や畳み込み層のような古典的なフィードフォワード層を一般化することを証明している。 具体的な応用として、通常のグラフニューラルネットワークのいくつかの制限を克服するルールベースグラフニューラルネットワーク(RuleGNN)を提案する。 実験の結果,ルールGNNの予測性能はWeisfeiler-Lemanラベルとパターンカウントに基づく単純なルールを用いて,最先端のグラフ分類器に匹敵することがわかった。 さらに,新しいベンチマークグラフデータセットを導入し,専門家の知識をルールGNNに組み込むことによって,通常のグラフニューラルネットワークよりもパワフルになることを示す。

関連論文リスト

• Graph as a feature: improving node classification with non-neural graph-aware logistic regression [2.952177779219163]
  Graph-aware Logistic Regression (GLR) はノード分類タスク用に設計された非神経モデルである。 GNNにアクセスできる情報のごく一部しか使わない従来のグラフアルゴリズムとは異なり、提案モデルではノードの特徴とエンティティ間の関係を同時に活用する。
  論文  参考訳（メタデータ） (2024-11-19T08:32:14Z)
• Neural Symbolic Logical Rule Learner for Interpretable Learning [1.9526476410335776]
  ルールベースのニューラルネットワークは、予測と解釈の両方の論理ルールを学ぶことによって、解釈可能な分類を可能にする。 我々は、選択離散ニューラルネットワークを利用した正規形規則学習アルゴリズム(NFRL)を導入し、共役正規形(CNF)と共役正規形(DNF)の両方の規則を学習する。 11のデータセットに関する広範な実験を通じて、NFRLは12の最先端の代替品と比較して、優れた分類性能、学習ルールの品質、効率と解釈性を示す。
  論文  参考訳（メタデータ） (2024-08-21T18:09:12Z)
• Neuro-symbolic Rule Learning in Real-world Classification Tasks [75.0907310059298]
  pix2ruleのニューラルDNFモジュールを拡張し、実世界のマルチクラスおよびマルチラベル分類タスクにおけるルール学習をサポートする。 多クラス分類において相互排他性を強制するニューラルDNF-EO(Exactly One)と呼ばれる新しい拡張モデルを提案する。
  論文  参考訳（メタデータ） (2023-03-29T13:27:14Z)
• Knowledge Enhanced Neural Networks for relational domains [83.9217787335878]
  我々は、ニューラルネットワークに事前論理的知識を注入するニューラルネットワークアーキテクチャであるKENNに焦点を当てる。 本稿では,関係データに対するKENNの拡張を提案する。
  論文  参考訳（メタデータ） (2022-05-31T13:00:34Z)
• Meta-Learning Bidirectional Update Rules [14.397000142362337]
  ニューロンとシナプスが複数の状態を維持できる新しいタイプの一般化ニューラルネットワークを導入する。 ニューラルネットワークにおける古典的バックプロパゲーションは、ある状態がアクティベーションに、別の状態がグラデーションに、チェーンルールから更新ルールが派生した2状態ネットワークの特別なケースと見ることができる。
  論文  参考訳（メタデータ） (2021-04-10T00:56:35Z)
• Learning Accurate and Interpretable Decision Rule Sets from Neural Networks [5.280792199222362]
  本論文では,分類の解釈可能なモデルとして独立論理則の集合を解読正規形式で学習する新しいパラダイムを提案する。 我々は、ニューラルネットワークを特定の、しかし非常に単純な2層アーキテクチャでトレーニングすることとして、解釈可能な決定ルールセットを学ぶ問題を考える。
  論文  参考訳（メタデータ） (2021-03-04T04:10:19Z)
• Binary Graph Neural Networks [69.51765073772226]
  グラフニューラルネットワーク(gnns)は、不規則データに対する表現学習のための強力で柔軟なフレームワークとして登場した。 本稿では,グラフニューラルネットワークのバイナライゼーションのための異なる戦略を提示し,評価する。 モデルの慎重な設計とトレーニングプロセスの制御によって、バイナリグラフニューラルネットワークは、挑戦的なベンチマークの精度において、適度なコストでトレーニングできることを示しています。
  論文  参考訳（メタデータ） (2020-12-31T18:48:58Z)
• Connecting Weighted Automata, Tensor Networks and Recurrent Neural Networks through Spectral Learning [58.14930566993063]
  我々は、形式言語と言語学からの重み付き有限オートマトン(WFA)、機械学習で使用されるリカレントニューラルネットワーク、テンソルネットワークの3つのモデル間の接続を提示する。 本稿では,連続ベクトル入力の列上に定義された線形2-RNNに対する最初の証明可能な学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-10-19T15:28:00Z)
• Data-Driven Learning of Geometric Scattering Networks [74.3283600072357]
  最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。 我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
  論文  参考訳（メタデータ） (2020-10-06T01:20:27Z)
• Binarized Graph Neural Network [65.20589262811677]
  我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。 提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。 実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
  論文  参考訳（メタデータ） (2020-04-19T09:43:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。