論文の概要: A Unified Graph Language Model for Multi-Domain Multi-Task Graph Alignment Instruction Tuning

• arxiv url: http://arxiv.org/abs/2605.12197v1
• Date: Tue, 12 May 2026 14:37:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.929905
• Title: A Unified Graph Language Model for Multi-Domain Multi-Task Graph Alignment Instruction Tuning
• Title（参考訳）: マルチドメインマルチタスクグラフアライメントインストラクションチューニングのための統一グラフ言語モデル
• Authors: Haibo Chen, Xin Wang, Jiaheng Chao, Ling Feng, Wenwu Zhu,
• Abstract要約: グラフ言語モデル(GLM)は、大規模言語モデル(LLM)の一般化能力とグラフニューラルネットワーク(GNN)の構造モデリング能力を組み合わせたものである。 GNNをグラフエンコーダとして採用している既存のGLMは、ドメインやタスク間でGNN符号化表現をLLMトークン空間と整合させるという問題をほとんど見落としている。 マルチドメインのマルチタスクGNNエンコーダを組み込んだ統一グラフ言語モデルUniGraphLMを提案する。
• 参考スコア（独自算出の注目度）: 29.793113892968577
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Leveraging Graph Neural Networks (GNNs) as graph encoders and aligning the resulting representations with Large Language Models (LLMs) through alignment instruction tuning has become a mainstream paradigm for constructing Graph Language Models (GLMs), combining the generalization ability of LLMs with the structural modeling capacity of GNNs. However, existing GLMs that adopt GNNs as graph encoders largely overlook the problem of aligning GNN-encoded representations across domains and tasks with the LLM token space to obtain unified graph tokens, thereby limiting their ability to generalize across diverse graph data. To bridge this gap, we aim to incorporate a multi-domain, multi-task GNN encoder into GLMs and align its representations with LLMs to enable multi-domain, multi-task graph alignment instruction tuning. This alignment problem remains underexplored and poses two key challenges: 1) learning GNN-encoded representations that are simultaneously generalizable across domains and tasks and well aligned with textual semantics is difficult, due to substantial variations in graph structures, feature distributions, and supervision signals, together with the lack of textual-semantic alignment guidance in task-specific GNN training; 2) diverse graph data and task-specific instructions can exhibit different degrees of compatibility with the LLM token space during instruction tuning, leading to varying alignment difficulty and rendering a fixed alignment strategy suboptimal. To tackle these challenges, we propose UniGraphLM, a Unified Graph Language Model that incorporates a multi-domain, multi-task GNN encoder to learn generalizable graph representations aligned with textual semantics, and then adaptively aligns these representations with the LLM.
• Abstract（参考訳）: グラフエンコーダとしてのグラフニューラルネットワーク(GNN)の活用と、アライメント命令チューニングによる大言語モデル(LLM)との整合化は、LLMの一般化能力とGNNの構造モデリング能力を組み合わせたグラフ言語モデル(GLM)構築の主流パラダイムとなっている。 しかし、GNNをグラフエンコーダとして採用している既存のGLMは、GNN符号化された表現をLLMトークン空間と整合させて統一グラフトークンを得るという問題を大きく見落とし、様々なグラフデータにまたがる一般化能力を制限している。 このギャップを埋めるために、我々はマルチドメインのマルチタスクGNNエンコーダをGLMに組み込み、その表現をLLMと整列させ、マルチドメインのマルチタスクグラフアライメント命令チューニングを可能にすることを目指している。 このアライメント問題は未解決のままであり、2つの重要な課題を提起する。 1) 図形構造や特徴分布,監督信号の相違,タスク固有のGNN訓練におけるテキスト・セマンティックアライメントガイダンスの欠如などにより,ドメインやタスク間で同時に一般化し,テキストセマンティクスに整合したGNN符号化表現の学習は困難である。 2)多彩なグラフデータとタスク固有の命令は,命令チューニング中にLLMトークン空間と異なる整合性を示すことができ,アライメントの難しさや,固定アライメント戦略の準最適化につながる。 これらの課題に対処するために,マルチドメインのマルチタスクGNNエンコーダを組み込んだ統一グラフ言語モデルUniGraphLMを提案する。

関連論文リスト

• GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
  グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。 textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
  論文  参考訳（メタデータ） (2025-10-06T08:09:15Z)
• Masked Language Models are Good Heterogeneous Graph Generalizers [54.08788279971086]
  LLM4HGと呼ばれるマスケ言語モデリング手法 HGトークンの代わりにメタパスベースのシーケンスを使用して、構造的および意味的な情報を抽出する。
  論文  参考訳（メタデータ） (2025-06-06T15:21:24Z)
• Scalability Matters: Overcoming Challenges in InstructGLM with Similarity-Degree-Based Sampling [1.2805157669888096]
  提案するSDM-InstructGLMは,GNNに依存することなく,拡張性と効率を向上する命令調整グラフ言語モデル(InstructGLM)フレームワークである。 本手法では,ノード間類似度と次数集中度に基づいてグラフ情報を選択的にサンプリングし,符号化する,類似度に基づくバイアス付きランダムウォーク機構を提案する。 本結果は,LLMのみのグラフ処理の実現可能性を示し,命令ベースの微調整によって最適化されたスケーラブルかつ解釈可能なグラフ言語モデル(GLM)を実現する。
  論文  参考訳（メタデータ） (2025-05-02T06:08:21Z)
• LLM as GNN: Graph Vocabulary Learning for Text-Attributed Graph Foundation Models [87.68057302738457]
  Text-Attributed Graphs (TAG) は、現実のシナリオにおいてユビキタスである。 大規模言語モデル(LLMs)とグラフニューラルネットワーク(GNNs)をTAGsに統合する努力にもかかわらず、既存のアプローチは分離されたアーキテクチャに悩まされている。 本稿では,グラフ語彙学習に基づくTAGのための汎用GFMであるPromptGFMを提案する。
  論文  参考訳（メタデータ） (2025-03-05T09:45:22Z)
• GL-Fusion: Rethinking the Combination of Graph Neural Network and Large Language model [63.774726052837266]
  グラフニューラルネットワーク(GNN)とLarge Language Models(LLM)を深く統合した新しいアーキテクチャを導入する。 本稿では,(1)GNNのメッセージパッシング機能を直接LLMのトランスフォーマー層に組み込む構造対応トランスフォーマー,(2)グラフノードとエッジから圧縮されていない全テキストを処理するグラフテキストクロスアテンション,(3)GNN-LLMツインプレクタ,(3)GNN-LLMツインプレクタ,3)GNNのスケーラブルなワンパス予測とともに,LLMの柔軟な自己回帰生成を実現する。
  論文  参考訳（メタデータ） (2024-12-08T05:49:58Z)
• From Anchors to Answers: A Novel Node Tokenizer for Integrating Graph Structure into Large Language Models [27.353083085394008]
  グラフ表現のためのアンカーベース位置符号化方式を備えた新しいフレームワークNT-LLMを提案する。 提案手法では,アンカーとして参照ノードを戦略的に選択し,各ノードの位置をアンカーに対してエンコードし,既存の手法の計算負担を伴わずに重要なトポロジ情報を取得する。 NT-LLMは、位置符号化事前訓練のためのランク保存目的を実装することにより、基本構造解析から複雑な推論シナリオに至るまで、多種多様なグラフタスクにまたがる優れた性能を実現する。
  論文  参考訳（メタデータ） (2024-10-14T17:21:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。