論文の概要: Enhancing LLMs for Graph Tasks via Graph-aware LoRA Generation
- arxiv url: http://arxiv.org/abs/2606.22429v1
- Date: Sun, 21 Jun 2026 10:40:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 18:20:19.845874
- Title: Enhancing LLMs for Graph Tasks via Graph-aware LoRA Generation
- Title(参考訳): グラフ対応LoRA生成によるグラフタスクのためのLLMの強化
- Authors: Junshu Sun, Wanxing Chang, Qingming Huang, Shuhui Wang,
- Abstract要約: 言語モデル(LM)は、統一された入出力インタフェースを通じて柔軟に一般化し、最近のタスクにLMを適応させる試みを動機付けている。
本稿では,LMをグラフタスクに適用するための新しい重みレベル情報注入パラダイムを提案する。
本稿では,グラフ対応LoRA生成モデルであるGaRAについて紹介する。
- 参考スコア(独自算出の注目度): 80.56829418752513
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Graph neural networks (GNNs) tightly couple their input-output parameters to dataset-specific feature spaces and target sets, exhibiting limited transferability across different datasets. In contrast, language models (LMs) generalize flexibly via a unified input-output interface, motivating recent attempts to adapt LMs to graph tasks. However, existing methods struggle to encode whole-graph information, leading to potential information loss and suboptimal graph understanding. In this work, we propose a novel weight-level information injection paradigm for adapting LMs to graph tasks. This paradigm injects whole-graph information by generating task-specific weight updates that interact directly with hidden representations. Instantiating this paradigm following low-rank adaptation (LoRA), we introduce GaRA, a Graph-aware LoRA generation model. GaRA constructs low-rank weight updates conditioned on the original graph structures and constrains the norm of the generated updates, thus injecting whole-graph information and avoiding the optimization bias in the weight generation. Empirical studies demonstrate that GaRA consistently outperforms baselines on zero-shot graph learning tasks.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、入力出力パラメータをデータセット固有の特徴空間とターゲットセットに厳密に結合し、異なるデータセット間で限られた転送可能性を示す。
対照的に、言語モデル(LM)は、統一された入出力インタフェースを通じて柔軟に一般化し、最近のタスクにLMを適用する試みを動機付けている。
しかし、既存の手法では、全グラフ情報を符号化するのに苦労し、潜在的な情報損失と準最適グラフ理解につながる。
そこで本研究では,LMをグラフタスクに適用するためのウェイトレベル情報注入パラダイムを提案する。
このパラダイムは、隠れた表現と直接対話するタスク固有の重み更新を生成することで、全体グラフ情報を注入する。
低ランク適応(LoRA)に従ってこのパラダイムを実証し、グラフ対応のLoRA生成モデルであるGaRAを紹介する。
GaRAは、元のグラフ構造に規定された低ランクの重み更新を構築し、生成した更新のノルムを制約し、グラフ全体の情報を注入し、重み生成における最適化バイアスを回避する。
実証的研究は、GaRAがゼロショットグラフ学習タスクのベースラインを一貫して上回っていることを示している。
関連論文リスト
- LoReC: Rethinking Large Language Models for Graph Data Analysis [26.87818601972954]
大きな言語モデル(LLM)は、グラフとのインタラクションの方法を根本的に変え、GraphLLMと呼ばれる新しいパラダイムを生み出しました。
グラフデータに対するLLMの理解を3段階にわたって強化する,グラフLLMパラダイムの新規なプラグアンドプレイ法であるLoReCを提案する。
LoReCは、現在のGraphLLMメソッドよりも顕著に改善され、さまざまなデータセットでGNNベースのアプローチを上回っている。
論文 参考訳(メタデータ) (2026-04-20T07:16:29Z) - Semi-supervised Instruction Tuning for Large Language Models on Text-Attributed Graphs [62.544129365882014]
本稿では,SIT-Graph というグラフ学習用セミ教師付きインストラクションチューニングパイプラインを提案する。
SIT-Graphはモデルに依存しず、LSMを予測子として利用するグラフ命令チューニングメソッドにシームレスに統合することができる。
SIT-Graphは、最先端グラフチューニング手法に組み込むと、テキスト分散グラフベンチマークの性能を大幅に向上することを示した。
論文 参考訳(メタデータ) (2026-01-19T08:10:53Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Graph-oriented Instruction Tuning of Large Language Models for Generic Graph Mining [36.366468326267004]
MuseGraphはタスクとデータセットをまたいだグラフマイニングのためのフレームワークである。
グラフニューラルネットワーク(GNN)と大規模言語モデル(LLM)の長所をシームレスに統合する。
実験の結果,5つのグラフタスクと10のデータセットにおいて,大幅な改善が示された。
論文 参考訳(メタデータ) (2024-03-02T09:27:32Z) - LLaGA: Large Language and Graph Assistant [73.71990472543027]
大規模言語とグラフアシスタント(LLaGA)は、グラフ構造化データの複雑さを扱う革新的なモデルである。
LLaGAは汎用性、一般化性、解釈性に優れており、異なるデータセットやタスク間で一貫して動作する。
実験の結果,LLaGAは4つのデータセットと3つのタスクに1つの単一モデルを用いて優れた性能を提供することがわかった。
論文 参考訳(メタデータ) (2024-02-13T02:03:26Z) - GraphGPT: Graph Instruction Tuning for Large Language Models [27.036935149004726]
グラフニューラルネットワーク(GNN)は、グラフ構造を理解するために進化してきた。
堅牢性を高めるために、自己教師付き学習(SSL)はデータ拡張の重要なツールとなっている。
本研究は,ゼロショット学習環境におけるグラフモデルの一般化を推し進めることによって,この問題に対処する。
論文 参考訳(メタデータ) (2023-10-19T06:17:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。