論文の概要: DeKoR: Decomposed Knowledge Routing for Efficient GNN--LLM Fusion

• arxiv url: http://arxiv.org/abs/2610.14710v1
• Date: Sat, 10 Oct 2026 08:28:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 12:07:22.520973
• Title: DeKoR: Decomposed Knowledge Routing for Efficient GNN--LLM Fusion
• Title（参考訳）: DeKoR: 効率的なGNN-LLM融合のための分割知識ルーティング
• Abstract要約: DeKoRは、グラフニューラルネットワーク(GNN)と大規模言語モデル(LLM)の知識融合のための効率的なフレームワークである。 効率的な知識伝達を可能にするために、DeKoRはLLMの知識を補完的なローカルおよびグローバルなビューに分解する。 適応ルータは、選択的な知識融合を可能にするために、各ノードが専門家にどれだけ依存すべきかを学習する。
• 参考スコア（独自算出の注目度）: 26.083216744930112
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have shown strong potential for text-attributed graph learning by leveraging rich pre-trained knowledge and language understanding capabilities. Combining LLMs with Graph Neural Networks (GNNs) offers a promising paradigm for expanding the modeling capabilities of graph learning. However, LLMs and GNNs follow distinct learning paradigms, leading to a pronounced mismatch between their knowledge spaces. Such discrepancies make effective knowledge fusion nontrivial. Moreover, existing methods often incur substantial additional computation for only limited performance gains. To address these challenges, we propose DeKoR, an efficient framework for GNN and LLM knowledge fusion. To enable efficient knowledge transfer, DeKoR decomposes LLM knowledge into complementary local and global views and uses the LLM as an offline teacher to distill them into lightweight experts. To enable selective knowledge fusion, an adaptive router learns how much each node should rely on each expert. Extensive experiments on multiple benchmarks demonstrate that DeKoR outperforms existing baselines on both node and subgraph classification, achieving superior effectiveness and efficiency.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、豊富な事前学習された知識と言語理解能力を活用することで、テキスト分散グラフ学習の強力な可能性を示している。 LLMとグラフニューラルネットワーク(GNN)を組み合わせることで、グラフ学習のモデリング能力を拡張できる有望なパラダイムを提供する。 しかし、LLMとGNNは異なる学習パラダイムに従っており、それらの知識空間の間に明らかなミスマッチが生じている。 このような不一致は、効果的な知識融合を非自明にする。 さらに、既存の手法は、性能が限られた場合にのみ、かなりの計算量を得ることが多い。 これらの課題に対処するために,GNN と LLM の知識融合のための効率的なフレームワークである DeKoR を提案する。 効率的な知識伝達を可能にするために、DeKoRはLLMの知識を補完的なローカルおよびグローバルなビューに分解し、LLMをオフラインの教師として使用し、それらを軽量な専門家に抽出する。 適応ルータは、選択的な知識融合を可能にするために、各ノードが専門家にどれだけ依存すべきかを学習する。 複数のベンチマークでの大規模な実験により、DeKoRはノードとサブグラフの分類において既存のベースラインよりも優れており、優れた効率と効率を実現している。

関連論文リスト

• KaLM: Knowledge-aligned Autoregressive Language Modeling via Dual-view Knowledge Graph Contrastive Learning [74.21524111840652]
  本稿では、textitKnowledge-aligned Language Modeling アプローチである textbfKaLM を提案する。 明示的な知識アライメントと暗黙的な知識アライメントという共同目的を通じて、KG知識と整合するように、自己回帰的な大規模言語モデルを微調整する。 特に,本手法は知識駆動型タスクの評価において顕著な性能向上を実現している。
  論文  参考訳（メタデータ） (2024-12-06T11:08:24Z)
• All Against Some: Efficient Integration of Large Language Models for Message Passing in Graph Neural Networks [51.19110891434727]
  事前訓練された知識と強力なセマンティック理解能力を持つ大規模言語モデル(LLM)は、最近、視覚とテキストデータを使用してアプリケーションに恩恵をもたらす顕著な能力を示している。 E-LLaGNNは、グラフから限られたノード数を増やして、グラフ学習のメッセージパッシング手順を強化するオンデマンドLLMサービスを備えたフレームワークである。
  論文  参考訳（メタデータ） (2024-07-20T22:09:42Z)
• Large Language Model Meets Graph Neural Network in Knowledge Distillation [7.686812700685084]
  サービス指向アーキテクチャにおけるQoS(Quality of Service)を予測するための時間認識フレームワークを提案する。 提案するTOGCLフレームワークは,複数のメトリクスにわたって最先端のメソッドを著しく上回り,最大38.80%の改善を実現している。
  論文  参考訳（メタデータ） (2024-02-08T18:33:21Z)
• Exploring the Potential of Large Language Models (LLMs) in Learning on Graphs [59.74814230246034]
  大規模言語モデル(LLM)は、広範な共通知識と強力な意味理解能力を持つことが証明されている。 LLMs-as-EnhancersとLLMs-as-Predictorsの2つのパイプラインについて検討する。
  論文  参考訳（メタデータ） (2023-07-07T05:31:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。