論文の概要: Unifying Text Semantics and Graph Structures for Temporal Text-attributed Graphs with Large Language Models

• arxiv url: http://arxiv.org/abs/2503.14411v1
• Date: Tue, 18 Mar 2025 16:50:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-19 14:17:59.128316
• Title: Unifying Text Semantics and Graph Structures for Temporal Text-attributed Graphs with Large Language Models
• Title（参考訳）: 大規模言語モデルを用いた時間的テキスト属性グラフのためのテキストセマンティックスとグラフ構造の統合
• Authors: Siwei Zhang, Yun Xiong, Yateng Tang, Xi Chen, Zian Jia, Zehao Gu, Jiarong Xu, Jiawei Zhang,
• Abstract要約: 時間グラフニューラルネットワーク(TGNN)は時間グラフモデリングにおいて顕著な性能を示した。 TTAGモデリングのための既存のTGNNをシームレスに拡張する新しいフレームワークである textbfCross を提案する。
• 参考スコア（独自算出の注目度）: 19.710059031046377
• License:
• Abstract: Temporal graph neural networks (TGNNs) have shown remarkable performance in temporal graph modeling. However, real-world temporal graphs often possess rich textual information, giving rise to temporal text-attributed graphs (TTAGs). Such combination of dynamic text semantics and evolving graph structures introduces heightened complexity. Existing TGNNs embed texts statically and rely heavily on encoding mechanisms that biasedly prioritize structural information, overlooking the temporal evolution of text semantics and the essential interplay between semantics and structures for synergistic reinforcement. To tackle these issues, we present \textbf{{Cross}}, a novel framework that seamlessly extends existing TGNNs for TTAG modeling. The key idea is to employ the advanced large language models (LLMs) to extract the dynamic semantics in text space and then generate expressive representations unifying both semantics and structures. Specifically, we propose a Temporal Semantics Extractor in the {Cross} framework, which empowers the LLM to offer the temporal semantic understanding of node's evolving contexts of textual neighborhoods, facilitating semantic dynamics. Subsequently, we introduce the Semantic-structural Co-encoder, which collaborates with the above Extractor for synthesizing illuminating representations by jointly considering both semantic and structural information while encouraging their mutual reinforcement. Extensive experimental results on four public datasets and one practical industrial dataset demonstrate {Cross}'s significant effectiveness and robustness.
• Abstract（参考訳）: 時間グラフニューラルネットワーク(TGNN)は時間グラフモデリングにおいて顕著な性能を示した。 しかし、現実世界の時間グラフはリッチなテキスト情報を持つことが多く、時間的テキスト属性グラフ(TTAG)が生まれる。 このような動的テキストセマンティクスと進化するグラフ構造の組み合わせは複雑さを増す。 既存のTGNNはテキストを静的に埋め込み、構造情報をバイアス的に優先順位付けするエンコーディング機構に強く依存し、テキスト意味論の時間的進化と、意味論と構造間の重要な相互作用を見極めている。 これらの問題に対処するために,既存のTTAGモデリング用TGNNをシームレスに拡張する新しいフレームワークであるtextbf{{Cross}}を提案する。 鍵となる考え方は、高度な大規模言語モデル(LLM)を使用してテキスト空間の動的意味論を抽出し、意味論と構造を統一した表現的表現を生成することである。 具体的には,<Cross} フレームワークにおける時間的意味論的外転子を提案する。これは LLM に,テキスト近傍におけるノードの進化する文脈の時間的意味的理解を提供し,意味論的ダイナミクスを促進するものである。 次に, セマンティック・構造的コエンコーダを紹介し, それらの相互強化を奨励しながら, セマンティック・構造的情報と構造的情報の両方を共同で考慮し, 照明表現を合成するエクストラクタについて紹介する。 4つの公開データセットと1つの実用的な産業データセットに関する大規模な実験結果は、Cross}の顕著な有効性と堅牢性を示している。

関連論文リスト

• LLM-driven Knowledge Distillation for Dynamic Text-Attributed Graphs [3.1897721055763024]
  Dynamic Text-Attributed Graphs (DyTAGs) には、ソーシャル、コラボレーション、引用、コミュニケーション、レビューネットワークなど、多くの現実世界のアプリケーションがある。 これらのネットワークでは、ノードとエッジはしばしばテキスト記述を含み、グラフ構造は時間とともに進化する。 将来のリンク予測、エッジ分類、関係生成、その他のDyTAG上の下流タスクは、構造情報、時間情報、テキスト情報をエンコードする強力な表現を必要とする。 動的テキスト分散グラフ (LKD4DyTAG) のための知識蒸留法を提案する。
  論文  参考訳（メタデータ） (2025-02-15T21:48:46Z)
• Improving vision-language alignment with graph spiking hybrid Networks [10.88584928028832]
  本稿では,細粒度のセマンティックな特徴を生成するために,パノプティックセマンティック・セマンティック・セマンティクスの活用を必要とする包括的ビジュアルセマンティクス表現モジュールを提案する。 視覚的セマンティック情報を符号化するために,SNNとGATの相補的な利点を統合したグラフスパイキングハイブリッドネットワーク(GSHN)を提案する。
  論文  参考訳（メタデータ） (2025-01-31T11:55:17Z)
• SE-GCL: An Event-Based Simple and Effective Graph Contrastive Learning for Text Representation [23.60337935010744]
  テキスト表現のためのイベントベース,シンプル,効果的なグラフコントラスト学習(SE-GCL)を提案する。 正確には、テキストからイベントブロックを抽出し、意味的相互接続を表す内部関係グラフを構築する。 特に、コア表現セマンティクスのためのイベントスケルトンの概念を導入し、典型的には複雑なデータ拡張テクニックを単純化する。
  論文  参考訳（メタデータ） (2024-12-16T10:53:24Z)
• Bridging Local Details and Global Context in Text-Attributed Graphs [62.522550655068336]
  GraphBridgeは、コンテキストテキスト情報を活用することで、ローカルおよびグローバルな視点をブリッジするフレームワークである。 提案手法は最先端性能を実現し,グラフ対応トークン削減モジュールは効率を大幅に向上し,スケーラビリティの問題を解消する。
  論文  参考訳（メタデータ） (2024-06-18T13:35:25Z)
• Unleashing the Potential of Text-attributed Graphs: Automatic Relation Decomposition via Large Language Models [31.443478448031886]
  RoSE (Relation-oriented Semantic Edge-Decomposition) は、生のテキスト属性を分析してグラフ構造を分解する新しいフレームワークである。 我々のフレームワークは、さまざまなデータセットのノード分類性能を大幅に向上させ、ウィスコンシンデータセットでは最大16%の改善を実現した。
  論文  参考訳（メタデータ） (2024-05-28T20:54:47Z)
• SemanticBoost: Elevating Motion Generation with Augmented Textual Cues [73.83255805408126]
  我々のフレームワークはセマンティック・エンハンスメント・モジュールとコンテキスト調整型モーション・デノイザ(CAMD)から構成されている。 CAMDアプローチは、高品質でセマンティックに一貫性のあるモーションシーケンスを生成するための全エンコンパスソリューションを提供する。 実験の結果,SemanticBoostは拡散法として自己回帰法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2023-10-31T09:58:11Z)
• Conversational Semantic Parsing using Dynamic Context Graphs [68.72121830563906]
  汎用知識グラフ(KG)を用いた会話意味解析の課題を,数百万のエンティティと数千のリレーショナルタイプで検討する。 ユーザ発話を実行可能な論理形式にインタラクティブにマッピングできるモデルに焦点を当てる。
  論文  参考訳（メタデータ） (2023-05-04T16:04:41Z)
• Variational Cross-Graph Reasoning and Adaptive Structured Semantics Learning for Compositional Temporal Grounding [143.5927158318524]
  テンポラルグラウンドティング(Temporal grounding)とは、クエリ文に従って、未編集のビデオから特定のセグメントを特定するタスクである。 新たに構成時間グラウンドタスクを導入し,2つの新しいデータセット分割を構築した。 ビデオや言語に内在する構造的意味論は、構成的一般化を実現する上で重要な要素である、と我々は主張する。
  論文  参考訳（メタデータ） (2023-01-22T08:02:23Z)
• TeKo: Text-Rich Graph Neural Networks with External Knowledge [75.91477450060808]
  外部知識を用いた新しいテキストリッチグラフニューラルネットワーク(TeKo)を提案する。 まず、高品質なエンティティを組み込んだフレキシブルな異種セマンティックネットワークを提案する。 次に、構造化三重項と非構造化実体記述という2種類の外部知識を導入する。
  論文  参考訳（メタデータ） (2022-06-15T02:33:10Z)
• GraphFormers: GNN-nested Transformers for Representation Learning on Textual Graph [53.70520466556453]
  階層的にGNNコンポーネントを言語モデルのトランスフォーマーブロックと一緒にネストするGraphFormerを提案する。 提案したアーキテクチャでは、テキストエンコーディングとグラフ集約を反復的なワークフローに融合する。 さらに、プログレッシブ・ラーニング・ストラテジーを導入し、そのモデルが操作されたデータと元のデータに基づいて連続的に訓練され、グラフ上の情報を統合する能力を強化する。
  論文  参考訳（メタデータ） (2021-05-06T12:20:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。