論文の概要: Edge-Aware Curvature Modeling for Graph Understanding in Large Language Models

• arxiv url: http://arxiv.org/abs/2606.06073v1
• Date: Thu, 04 Jun 2026 12:12:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.774809
• Title: Edge-Aware Curvature Modeling for Graph Understanding in Large Language Models
• Title（参考訳）: 大規模言語モデルにおけるグラフ理解のためのエッジ対応曲率モデリング
• Authors: Zhenghong Lin, Zhibin Shi, Hongyang Dong, Xinjie Ye, Yuhong Chen, Shiping Wang,
• Abstract要約: グラフ対応大規模言語モデル(LLM)は、グラフ構造化データとテキスト情報を共同でモデル化する有望な機能を示している。 大規模言語モデルのための曲線拡張グラフ表現のCureLLMフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 22.713901071316915
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recently, graph-aware Large Language Models (LLMs) have shown promising capabilities in jointly modeling graph-structured data and textual information. Existing approaches typically employ a graph encoder and a frozen LLM to obtain node representations from graph and textual views, followed by node-level alignment to bridge the two modalities. However, such alignment mechanisms primarily focus on node information while overlooking edge-level structures, leading to suboptimal information propagation across views. In this work, we conduct a comprehensive theoretical analysis to uncover why node-level alignment is insufficient for aligning textual and graph representations. Specifically, we prove theoretically for the first time that neglecting edge information leads to suboptimal solutions and negatively curved edges induce bottlenecked information flow, giving rise to the over-squashing phenomenon between graph and textual views. To address the two challenges, we innovatively proposed a CureLLM framework of Curvature-enhanced Graph Representations for Large Language Model whose goal is to inject the signals of edge information into the existing LLMs. Specifically, CureLLM first introduces the training-free textual prompt mechanism to make the LLM model generate the output directly based on the edge-aware prompt without learnable parameter costs. Furthermore, a novel curvature-aware graph representation learning is designed to capture the edge structure information to enhance the downstream tasks, where the message passing between text and graph representations only depends on edges with positive curvature. Finally, we conduct evaluations with 20 different compared methods on 11 real world datasets from various domains and the experiment results demonstrate the superiority of our proposed CureLLM framework.
• Abstract（参考訳）: 近年,グラフ対応大規模言語モデル (LLM) は,グラフ構造化データとテキスト情報の共同モデリングにおいて有望な能力を示している。 既存のアプローチでは、グラフエンコーダと凍結LDMを使用してグラフとテキストビューからノード表現を取得し、続いてノードレベルのアライメントで2つのモードをブリッジする。 しかしながら、このようなアライメントメカニズムは、エッジレベルの構造を見下ろしながらノード情報に重点を置いており、ビューをまたいだ最適な情報伝達につながる。 本研究では,テキスト表現とグラフ表現の整合にノードレベルのアライメントが不十分な理由を明らかにするため,包括的な理論的解析を行う。 具体的には、エッジ情報の無視が最適以下の解となり、負の湾曲したエッジがボトルネック情報の流れを誘発し、グラフとテキストビューの間に過度な波及現象を引き起こすことを初めて理論的に証明する。 この2つの課題に対処するため,我々は,既存のLLMにエッジ情報の信号を注入することを目的とした,大規模言語モデルのためのグラフ表現のためのCureLLMフレームワークを革新的に提案した。 特に、CureLLMは、学習可能なパラメータコストを伴わずに、エッジ認識プロンプトに基づいて出力を直接LLMモデルに生成させる、トレーニング不要のテキストプロンプト機構を最初に導入する。 さらに、新たな曲率対応グラフ表現学習は、エッジ構造情報をキャプチャして下流タスクを強化するように設計されており、テキストとグラフ表現の間のメッセージパッシングは、正の曲率を持つエッジにのみ依存する。 最後に、各領域から11個の実世界のデータセットを比較した20種類の比較手法を用いて評価を行い、提案したCureLLMフレームワークの優位性を実証した。

関連論文リスト

• GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
  グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。 textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
  論文  参考訳（メタデータ） (2025-10-06T08:09:15Z)
• GMLM: Bridging Graph Neural Networks and Language Models for Heterophilic Node Classification [0.0]
  本稿では,事前学習したテキストエンコーダとグラフ畳み込みネットワーク(R-GCN)を効果的に融合するフレームワークを提案する。 5つのヘテロ親和性ベンチマークの実験により、我々の積分法は最先端の結果が得られることを示した。 これらの結果は,テキストリッチグラフ表現学習における融合戦略の有効性を浮き彫りにした。
  論文  参考訳（メタデータ） (2025-02-24T07:44:01Z)
• Parameter-Efficient Tuning Large Language Models for Graph Representation Learning [62.26278815157628]
  Graph-awareを導入します。 GPEFT - グラフ表現学習のための新しい手法。 グラフニューラルネットワーク(GNN)を用いて、隣接するノードからグラフプロンプトに構造情報をエンコードする。 我々は8つの異なるテキストリッチグラフで実施した総合的な実験を通じて,リンク予測評価において hit@1 と Mean Reciprocal Rank (MRR) の平均 2% の改善を観察し,本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2024-04-28T18:36:59Z)
• Revealing Decurve Flows for Generalized Graph Propagation [108.80758541147418]
  本研究は,有向グラフと重み付きグラフを用いて,m文を一般化した伝播を定義することによって,従来のメッセージパッシング(中心からグラフ学習)の限界に対処する。 この分野ではじめて、データセットにおける学習された伝播パターンの予備的な探索を含む。
  論文  参考訳（メタデータ） (2024-02-13T14:13:17Z)
• GraphGPT: Graph Instruction Tuning for Large Language Models [27.036935149004726]
  グラフニューラルネットワーク(GNN)は、グラフ構造を理解するために進化してきた。 堅牢性を高めるために、自己教師付き学習(SSL)はデータ拡張の重要なツールとなっている。 本研究は,ゼロショット学習環境におけるグラフモデルの一般化を推し進めることによって,この問題に対処する。
  論文  参考訳（メタデータ） (2023-10-19T06:17:46Z)
• Template based Graph Neural Network with Optimal Transport Distances [11.56532171513328]
  現在のグラフニューラルネットワーク(GNN)アーキテクチャは、2つの重要なコンポーネントに依存している。 本稿では,学習可能なグラフテンプレートとの距離をグラフ表現のコアに配置する新しい視点を提案する。 この距離埋め込みは、Fused Gromov-Wasserstein (FGW) 距離という最適な輸送距離によって構築される。
  論文  参考訳（メタデータ） (2022-05-31T12:24:01Z)
• Towards Graph Self-Supervised Learning with Contrastive Adjusted Zooming [48.99614465020678]
  本稿では,グラフコントラスト適応ズームによる自己教師付きグラフ表現学習アルゴリズムを提案する。 このメカニズムにより、G-Zoomはグラフから複数のスケールから自己超越信号を探索して抽出することができる。 我々は,実世界のデータセットに関する広範な実験を行い,提案したモデルが常に最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2021-11-20T22:45:53Z)
• Graph Information Bottleneck [77.21967740646784]
  グラフニューラルネットワーク(GNN)は、ネットワーク構造とノード機能から情報を融合する表現的な方法を提供する。 GIBは、一般的なInformation Bottleneck (IB) を継承し、与えられたタスクに対する最小限の表現を学習することを目的としている。 提案したモデルが最先端のグラフ防御モデルよりも堅牢であることを示す。
  論文  参考訳（メタデータ） (2020-10-24T07:13:00Z)
• Graph Representation Learning via Graphical Mutual Information Maximization [86.32278001019854]
  本稿では,入力グラフとハイレベルな隠蔽表現との相関を測る新しい概念であるGMIを提案する。 我々は,グラフニューラルエンコーダの入力と出力の間でGMIを最大化することで訓練された教師なし学習モデルを開発する。
  論文  参考訳（メタデータ） (2020-02-04T08:33:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。