論文の概要: Large Language Models Meet Graph Neural Networks for Text-Numeric Graph Reasoning
- arxiv url: http://arxiv.org/abs/2501.16361v1
- Date: Tue, 21 Jan 2025 00:29:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-02 07:52:45.023236
- Title: Large Language Models Meet Graph Neural Networks for Text-Numeric Graph Reasoning
- Title(参考訳): テキスト数値グラフ推論のためのグラフニューラルネットワークを用いた大規模言語モデル
- Authors: Haoran Song, Jiarui Feng, Guangfu Li, Michael Province, Philip Payne, Yixin Chen, Fuhai Li,
- Abstract要約: グラフエンティティとアソシエーションとして定義される新しいタイプのグラフ構造であるテキスト数値グラフ(TNG)を導入する。
TNGはグラフ推論による新しい科学的発見のための理想的なデータ構造モデルである。
本稿では,大規模言語モデル(LLM)とグラフニューラルネットワーク(GNN)を統合して,グラフ理解と推論のためのTNGの分析を行う。
- 参考スコア(独自算出の注目度): 5.956381819900483
- License:
- Abstract: In real-world scientific discovery, human beings always make use of the accumulated prior knowledge with imagination pick select one or a few most promising hypotheses from large and noisy data analysis results. In this study, we introduce a new type of graph structure, the text-numeric graph (TNG), which is defined as graph entities and associations have both text-attributed information and numeric information. The TNG is an ideal data structure model for novel scientific discovery via graph reasoning because it integrates human-understandable textual annotations or prior knowledge, with numeric values that represent the observed or activation levels of graph entities or associations in different samples. Together both the textual information and numeric values determine the importance of graph entities and associations in graph reasoning for novel scientific knowledge discovery. We further propose integrating large language models (LLMs) and graph neural networks (GNNs) to analyze the TNGs for graph understanding and reasoning. To demonstrate the utility, we generated the text-omic(numeric) signaling graphs (TOSG), as one type of TNGs, in which all graphs have the same entities, associations and annotations, but have sample-specific entity numeric (omic) values using single cell RNAseq (scRNAseq) datasets of different diseases. We proposed joint LLM-GNN models for key entity mining and signaling pathway mining on the TOSGs. The evaluation results showed the LLM-GNN and TNGs models significantly improve classification accuracy and network inference. In conclusion, the TNGs and joint LLM-GNN models are important approaches for scientific discovery.
- Abstract(参考訳): 現実世界の科学的発見では、人間が常に蓄積した事前知識を想像力で利用し、大きくノイズの多いデータ分析結果から最も有望な仮説を1つまたは数つ選択する。
本研究では,グラフエンティティとして定義された新しいタイプのグラフ構造であるテキスト数値グラフ(TNG)を導入し,その関連性は,テキスト分散情報と数値情報の両方を有する。
TNGは、人間の理解可能なテキストのアノテーションや事前知識を、異なるサンプルにおけるグラフエンティティや関連性の観測または活性化レベルを表す数値と統合するため、グラフ推論による新しい科学的発見のための理想的なデータ構造モデルである。
テキスト情報と数値の両方が、新しい科学的知識発見のためのグラフ推論におけるグラフ実体と関連性の重要性を決定する。
さらに,大規模言語モデル(LLM)とグラフニューラルネットワーク(GNN)を統合して,グラフ理解と推論のためのTNGの分析を行う。
この有用性を示すために、我々はテキストオミック(TOSG)シグナリンググラフを1種類のTNGとして生成し、全てのグラフが同一のエンティティ、アソシエーション、アノテーションを持つが、異なる疾患の単一セルRNAseq(scRNAseq)データセットを用いてサンプル固有のエンティティ(オミック)値を持つ。
我々は,TOSG上でのキーエンティティマイニングとシグナル伝達経路マイニングのための共同LLM-GNNモデルを提案した。
評価の結果,LLM-GNNとTNGsモデルでは分類精度とネットワーク推定が有意に向上した。
結論として、TNGと共同LLM-GNNモデルは科学的発見の重要なアプローチである。
関連論文リスト
- Learning From Graph-Structured Data: Addressing Design Issues and Exploring Practical Applications in Graph Representation Learning [2.492884361833709]
グラフ表現学習とグラフニューラルネットワーク(GNN)の最近の進歩を概観する。
グラフ構造化データを扱うように設計されたGNNは、複雑な関係情報から洞察と予測を引き出すのに長けている。
我々の研究は、GNNの能力を掘り下げ、その基礎設計と現実の課題に対処するための応用について調べている。
論文 参考訳(メタデータ) (2024-11-09T19:10:33Z) - GNNAnatomy: Systematic Generation and Evaluation of Multi-Level Explanations for Graph Neural Networks [20.05098366613674]
本稿では,グラフ分類タスクの多段階説明の生成と評価を目的とした視覚解析システムであるGNNAnatomyを紹介する。
GNNAnatomyは、グラフレット、原始グラフサブ構造を用いて、GNN予測とグラフレット周波数の相関を分析することにより、グラフクラスで最も重要なサブ構造を識別する。
社会学・生物学領域からの合成および実世界のグラフデータセットのケーススタディを通して,GNN解剖学の有効性を実証する。
論文 参考訳(メタデータ) (2024-06-06T23:09:54Z) - Parameter-Efficient Tuning Large Language Models for Graph Representation Learning [62.26278815157628]
Graph-awareを導入します。
GPEFT - グラフ表現学習のための新しい手法。
グラフニューラルネットワーク(GNN)を用いて、隣接するノードからグラフプロンプトに構造情報をエンコードする。
我々は8つの異なるテキストリッチグラフで実施した総合的な実験を通じて,リンク予測評価において hit@1 と Mean Reciprocal Rank (MRR) の平均 2% の改善を観察し,本手法の有効性を検証した。
論文 参考訳(メタデータ) (2024-04-28T18:36:59Z) - DGNN: Decoupled Graph Neural Networks with Structural Consistency
between Attribute and Graph Embedding Representations [62.04558318166396]
グラフニューラルネットワーク(GNN)は、複雑な構造を持つグラフ上での表現学習の堅牢性を示す。
ノードのより包括的な埋め込み表現を得るために、Decoupled Graph Neural Networks (DGNN)と呼ばれる新しいGNNフレームワークが導入された。
複数のグラフベンチマークデータセットを用いて、ノード分類タスクにおけるDGNNの優位性を検証した。
論文 参考訳(メタデータ) (2024-01-28T06:43:13Z) - SynHING: Synthetic Heterogeneous Information Network Generation for Graph Learning and Explanation [31.89877722246351]
合成不均一情報ネットワーク生成のための新しいフレームワークであるSynHingを紹介する。
SynHingは、ターゲットHINの主要なモチーフを体系的に識別し、クラスタ内およびクラスタ間マージモジュールによるボトムアップ生成プロセスを使用する。
GNN説明器モデルを評価するための基礎的なモチーフを提供し、説明可能な合成HIN生成のための新しい標準を設定する。
論文 参考訳(メタデータ) (2024-01-07T04:43:36Z) - Which Modality should I use -- Text, Motif, or Image? : Understanding Graphs with Large Language Models [14.251972223585765]
本稿では,テキスト,画像,モチーフなどの多様性を持つグラフを符号化する新たな手法を提案する。
また、グラフ構造解析において、LLM(Large Language Models)を評価するための新しいベンチマークであるGraphTMIも提示されている。
論文 参考訳(メタデータ) (2023-11-16T12:45:41Z) - A Systematic Review of Deep Graph Neural Networks: Challenges,
Classification, Architectures, Applications & Potential Utility in
Bioinformatics [0.0]
グラフニューラルネットワーク(GNN)は、グラフ依存を表現するためにグラフノード間のメッセージ送信を使用する。
GNNは、バイオインフォマティクス研究における幅広い生物学的課題を解決するための優れたツールとなる可能性がある。
論文 参考訳(メタデータ) (2023-11-03T10:25:47Z) - Discovering the Representation Bottleneck of Graph Neural Networks from
Multi-order Interactions [51.597480162777074]
グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。
最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。
科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
論文 参考訳(メタデータ) (2022-05-15T11:38:14Z) - Graph Neural Networks for Graphs with Heterophily: A Survey [98.45621222357397]
異種グラフに対するグラフニューラルネットワーク(GNN)の総合的なレビューを提供する。
具体的には,既存の異好性GNNモデルを本質的に支配する系統分類法を提案する。
グラフヘテロフィリーと様々なグラフ研究領域の相関を議論し、より効果的なGNNの開発を促進することを目的とした。
論文 参考訳(メタデータ) (2022-02-14T23:07:47Z) - A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。
本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。
UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
論文 参考訳(メタデータ) (2020-10-05T04:57:18Z) - Tensor Graph Convolutional Networks for Multi-relational and Robust
Learning [74.05478502080658]
本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。
提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
論文 参考訳(メタデータ) (2020-03-15T02:33:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。