論文の概要: TemporalGraphLLM: Temporal Graph Neural Networks with Large Language Models for Dynamic Text-Attributed Graphs
- arxiv url: http://arxiv.org/abs/2609.31881v1
- Date: Fri, 25 Sep 2026 18:18:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 05:00:42.438177
- Title: TemporalGraphLLM: Temporal Graph Neural Networks with Large Language Models for Dynamic Text-Attributed Graphs
- Title(参考訳): テンポラルグラフLLM:動的テキスト分散グラフのための大規模言語モデル付きテンポラルグラフニューラルネットワーク
- Abstract要約: DTAGの推論を向上するために,任意の時間的GNNをLLM(Large Language Models)と統合可能な新しいフレームワークであるTemporalGraphLLMを提案する。
グラフ時間対応命令チューニングと新しい時間的GNNインジェクションを併用して,専用トークンをグラフ埋め込みに置き換える手法を提案する。
- 参考スコア(独自算出の注目度): 10.536887577694891
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dynamic text-attributed graphs (DTAGs), where nodes, edges, and textual attributes evolve over time, are crucial in applications such as social networks, citation graphs, and knowledge graphs. However, existing approaches struggle to jointly model the temporal evolution of graph structures and the semantic richness of textual attributes. While Temporal Graph Neural Networks (TGNNs) capture evolving node relationships, they often lack contextual text reasoning. Conversely, Large Language Models (LLMs) excel in textual understanding but struggle with structured graph reasoning in temporal settings. To bridge this gap, we propose TemporalGraphLLM, a novel framework that can integrate any temporal GNN with an LLM for enhanced reasoning in DTAGs. Our approach fine-tunes LLMs using graph-time-aware instruction tuning and novel temporal GNNs injection to replace dedicated added tokens with graph embeddings. TemporalGraphLLM effectively leverages pretrained TGNNs within an LLM framework to achieve state-of-the-art performance on edge classification, link prediction, and edge-based text generation tasks. Extensive evaluation on real-world dynamic graph datasets demonstrates state-of-the-art performance. Our findings highlight the synergistic potential of LLMs and TGNNs, opening new directions for learning on evolving graphs.
- Abstract(参考訳): 動的テキスト分散グラフ(DTAG)では、ノード、エッジ、テキスト属性が時間とともに進化する。
しかし、既存のアプローチは、グラフ構造の時間的進化とテキスト属性のセマンティックリッチネスを共同でモデル化するのに苦労している。
TGNN(Temporal Graph Neural Networks)はノード関係の進化をキャプチャするが、文脈的テキスト推論を欠くことが多い。
逆に、Large Language Models (LLM) はテキスト理解では優れているが、時間的設定では構造化グラフ推論に苦労する。
このギャップを埋めるために、DTAGの推論を強化するために、任意の時間的GNNとLLMを統合する新しいフレームワークであるTemporalGraphLLMを提案する。
グラフ時間対応命令チューニングと新しい時間的GNNインジェクションを併用して,専用トークンをグラフ埋め込みに置き換える手法を提案する。
TemporalGraphLLMは、LLMフレームワーク内でトレーニング済みのTGNNを有効活用して、エッジ分類、リンク予測、エッジベースのテキスト生成タスクにおける最先端のパフォーマンスを実現する。
実世界の動的グラフデータセットの大規模な評価は、最先端の性能を示す。
本研究は,LLMとTGNNの相乗的ポテンシャルを浮き彫りにして,グラフの進化を学習するための新たな方向性を開拓するものである。
関連論文リスト
- GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - LLM as GNN: Graph Vocabulary Learning for Text-Attributed Graph Foundation Models [87.68057302738457]
Text-Attributed Graphs (TAG) は、現実のシナリオにおいてユビキタスである。
大規模言語モデル(LLMs)とグラフニューラルネットワーク(GNNs)をTAGsに統合する努力にもかかわらず、既存のアプローチは分離されたアーキテクチャに悩まされている。
本稿では,グラフ語彙学習に基づくTAGのための汎用GFMであるPromptGFMを提案する。
論文 参考訳(メタデータ) (2025-03-05T09:45:22Z) - LLM-driven Knowledge Distillation for Dynamic Text-Attributed Graphs [3.1897721055763024]
Dynamic Text-Attributed Graphs (DyTAGs) には、ソーシャル、コラボレーション、引用、コミュニケーション、レビューネットワークなど、多くの現実世界のアプリケーションがある。
これらのネットワークでは、ノードとエッジはしばしばテキスト記述を含み、グラフ構造は時間とともに進化する。
将来のリンク予測、エッジ分類、関係生成、その他のDyTAG上の下流タスクは、構造情報、時間情報、テキスト情報をエンコードする強力な表現を必要とする。
動的テキスト分散グラフ (LKD4DyTAG) のための知識蒸留法を提案する。
論文 参考訳(メタデータ) (2025-02-15T21:48:46Z) - Graph Learning in the Era of LLMs: A Survey from the Perspective of Data, Models, and Tasks [25.720233631885726]
グラフニューラルネットワーク(GNN)とLarge Language Models(LLM)の統合は、有望な技術パラダイムとして現れている。
データ品質を根本的に向上させるために、リッチなセマンティックコンテキストを持つグラフ記述テキストを活用します。
この研究は、グラフ学習方法論の進歩を目指す研究者や実践者にとって、基礎的な参考となる。
論文 参考訳(メタデータ) (2024-12-17T01:41:17Z) - Can LLMs Convert Graphs to Text-Attributed Graphs? [35.53046810556242]
既存のグラフをテキスト対応グラフに変換するために,Topology-Aware Node description Synthesis (TANS)を提案する。
我々はTANSをテキストリッチ,テキスト制限,テキストフリーのグラフで評価し,その適用性を示した。
論文 参考訳(メタデータ) (2024-12-13T13:32:59Z) - Parameter-Efficient Tuning Large Language Models for Graph Representation Learning [62.26278815157628]
Graph-awareを導入します。
GPEFT - グラフ表現学習のための新しい手法。
グラフニューラルネットワーク(GNN)を用いて、隣接するノードからグラフプロンプトに構造情報をエンコードする。
我々は8つの異なるテキストリッチグラフで実施した総合的な実験を通じて,リンク予測評価において hit@1 と Mean Reciprocal Rank (MRR) の平均 2% の改善を観察し,本手法の有効性を検証した。
論文 参考訳(メタデータ) (2024-04-28T18:36:59Z) - GraphGPT: Graph Instruction Tuning for Large Language Models [27.036935149004726]
グラフニューラルネットワーク(GNN)は、グラフ構造を理解するために進化してきた。
堅牢性を高めるために、自己教師付き学習(SSL)はデータ拡張の重要なツールとなっている。
本研究は,ゼロショット学習環境におけるグラフモデルの一般化を推し進めることによって,この問題に対処する。
論文 参考訳(メタデータ) (2023-10-19T06:17:46Z) - GraphFormers: GNN-nested Transformers for Representation Learning on
Textual Graph [53.70520466556453]
階層的にGNNコンポーネントを言語モデルのトランスフォーマーブロックと一緒にネストするGraphFormerを提案する。
提案したアーキテクチャでは、テキストエンコーディングとグラフ集約を反復的なワークフローに融合する。
さらに、プログレッシブ・ラーニング・ストラテジーを導入し、そのモデルが操作されたデータと元のデータに基づいて連続的に訓練され、グラフ上の情報を統合する能力を強化する。
論文 参考訳(メタデータ) (2021-05-06T12:20:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。