論文の概要: GraspLLM: Towards Zero-Shot Generalization on Text-Attributed Graphs with LLMs

• arxiv url: http://arxiv.org/abs/2606.11898v2
• Date: Thu, 11 Jun 2026 03:22:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 13:39:59.680838
• Title: GraspLLM: Towards Zero-Shot Generalization on Text-Attributed Graphs with LLMs
• Title（参考訳）: GraspLLM: LLMによるテキスト分散グラフのゼロショット一般化に向けて
• Authors: Hengyi Feng, Zeang Sheng, Meiyi Qiang, Li Yang, Wentao Zhang,
• Abstract要約: グラフ構造理解とLarge Language Models (LLM) の意味理解技術を組み合わせたフレームワークであるGraspLLMを導入し、クロスデータセットとクロスタスクの一般化性を向上させる。 実験の結果,GraspLLM は,特にゼロショットシナリオにおいて,従来の LLM ベースのTAG メソッドよりも一貫して優れていたことがわかった。
• 参考スコア（独自算出の注目度）: 11.267446729081412
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Research on Text-Attributed Graphs (TAGs) has gained significant attention recently due to its broad applications across various real-world data scenarios, such as citation networks, e-commerce platforms, social media, and web pages. Inspired by the remarkable semantic understanding ability of Large Language Models (LLMs), there have been numerous attempts to integrate LLMs into TAGs. However, existing methods still struggle to generalize across diverse graphs and tasks, and their ability to capture transferable graph structural patterns remains limited. To address this, we introduce the GraspLLM, a framework that combines Graph structural comprehension with semantic understanding prowess of LLMs to enhance the cross-dataset and cross-task generalizability. Specifically, we represent node texts from different graphs in a unified semantic space with a frozen general embedding model, on top of which we perform motif-aware contrastive learning across multiple motif-induced adjacency matrices to extract dataset-agnostic structural information. Then, with our proposed optimal contextual subgraph, we extract the most contextually relevant subgraph for each target node and align these subgraphs to the token space of LLM via an alignment projector. Extensive experiments on TAG benchmark datasets spanning diverse domains reveal that GraspLLM consistently outperforms previous LLM-based methods for TAGs, especially in zero-shot scenarios, highlighting its strong generalizability across different datasets and tasks. Our code is available at https://github.com/Heinz217/GraspLLM.
• Abstract（参考訳）: テキスト属性グラフ(TAGs)の研究は、引用ネットワーク、eコマースプラットフォーム、ソーシャルメディア、Webページなど、さまざまな実世界のデータシナリオにまたがる幅広い応用のために、最近大きな注目を集めている。 大規模言語モデル (LLM) の顕著な意味理解能力に触発されて, LLM をTAG に統合する試みが数多く行われている。 しかし、既存の手法は、様々なグラフやタスクをまたいだ一般化に苦慮しており、転送可能なグラフ構造パターンをキャプチャする能力は限定的のままである。 この問題を解決するために,グラフ構造理解とLLMのセマンティック理解能力を組み合わせたフレームワークであるGraspLLMを導入し,クロスデータセットとクロスタスクの一般化性を向上させる。 具体的には,異なるグラフからのノードテキストを,凍結した一般埋め込みモデルで統一的な意味空間で表現し,その上に複数のモチーフによって引き起こされる隣接行列をまたいだモチーフ認識のコントラスト学習を行い,データセットに依存しない構造情報を抽出する。 そこで,提案した最適文脈部分グラフを用いて,各ノードに対して最もコンテキストに関連のある部分グラフを抽出し,それらの部分グラフをアライメントプロジェクタを介してLCMのトークン空間にアライメントする。 さまざまなドメインにまたがるTAGベンチマークデータセットに関する大規模な実験によると、GraspLLMは、特にゼロショットシナリオにおいて、従来のLCMベースのTAGメソッドを一貫して上回り、さまざまなデータセットやタスクにまたがる強力な一般化性を強調している。 私たちのコードはhttps://github.com/Heinz217/GraspLLM.comで利用可能です。

関連論文リスト

• GaLoRA: Parameter-Efficient Graph-Aware LLMs for Node Classification [0.9685837672183748]
  テキスト分散グラフ(TAG)は,大規模言語モデル(LLM)をグラフニューラルネットワークと組み合わせてノード分類の性能を向上する,顕著な例である。 本稿では,構造情報をLLMに統合するフレームワークであるGaLoRAを紹介する。 GaLoRAは、TAGによるノード分類タスクの競合性能を示し、完全なLLM微調整で要求されるパラメータ数のわずか0.24%で最先端モデルと同等に動作する。
  論文  参考訳（メタデータ） (2026-03-11T00:45:57Z)
• Quantizing Text-attributed Graphs for Semantic-Structural Integration [6.721504414917793]
  テキスト分散グラフ(TAG)は、様々な領域にわたる複雑な関係をモデル化するための強力な表現として登場した。 大規模言語モデル(LLM)の台頭に伴い、グラフ学習に彼らの能力を活用することへの関心が高まっている。 凍結したコードブックを用いて,グラフ構造情報を離散トークンに直接量子化する,新たな自己教師型フレームワークSTAGを提案する。
  論文  参考訳（メタデータ） (2025-07-20T09:18:02Z)
• LLM as GNN: Graph Vocabulary Learning for Text-Attributed Graph Foundation Models [87.68057302738457]
  Text-Attributed Graphs (TAG) は、現実のシナリオにおいてユビキタスである。 大規模言語モデル(LLMs)とグラフニューラルネットワーク(GNNs)をTAGsに統合する努力にもかかわらず、既存のアプローチは分離されたアーキテクチャに悩まされている。 本稿では,グラフ語彙学習に基づくTAGのための汎用GFMであるPromptGFMを提案する。
  論文  参考訳（メタデータ） (2025-03-05T09:45:22Z)
• Graph Learning in the Era of LLMs: A Survey from the Perspective of Data, Models, and Tasks [25.720233631885726]
  グラフニューラルネットワーク(GNN)とLarge Language Models(LLM)の統合は、有望な技術パラダイムとして現れている。 データ品質を根本的に向上させるために、リッチなセマンティックコンテキストを持つグラフ記述テキストを活用します。 この研究は、グラフ学習方法論の進歩を目指す研究者や実践者にとって、基礎的な参考となる。
  論文  参考訳（メタデータ） (2024-12-17T01:41:17Z)
• Multi-View Empowered Structural Graph Wordification for Language Models [12.22063024099311]
  本稿では,LLM-graphアライメントのためのエンドツーエンドのモダリティアライメントフレームワークについて紹介する。 提案手法は LLM とのトークンレベルアライメントを容易にするために設計されており,グラフの内在的' を理解可能な自然言語に効果的に翻訳することができる。 我々のフレームワークは、LLMとGNN間のトークンレベルのアライメントを実現するための、有望な試みである、ある視覚的解釈可能性、効率、堅牢性を保証する。
  論文  参考訳（メタデータ） (2024-06-19T16:43:56Z)
• Leveraging Large Language Models for Node Generation in Few-Shot Learning on Text-Attributed Graphs [5.587264586806575]
  本稿では,Large Language Models (LLMs) を用いたノード生成によるテキスト分散グラフの強化のためのプラグイン・アンド・プレイ手法を提案する。 LLMはラベルから意味情報を抽出し、模範としてカテゴリに属するサンプルを生成する。 エッジ予測器を用いて、生のデータセットに固有の構造情報をキャプチャし、新たに生成されたサンプルを元のグラフに統合する。
  論文  参考訳（メタデータ） (2023-10-15T16:04:28Z)
• Harnessing Explanations: LLM-to-LM Interpreter for Enhanced Text-Attributed Graph Representation Learning [51.90524745663737]
  重要なイノベーションは、機能として説明を使用することで、下流タスクにおけるGNNのパフォーマンス向上に利用できます。 提案手法は、確立されたTAGデータセットの最先端結果を実現する。 本手法はトレーニングを著しく高速化し,ogbn-arxivのベースラインに最も近い2.88倍の改善を実現した。
  論文  参考訳（メタデータ） (2023-05-31T03:18:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。