論文の概要: HopRank: Self-Supervised LLM Preference-Tuning on Graphs for Few-Shot Node Classification
- arxiv url: http://arxiv.org/abs/2604.17271v1
- Date: Sun, 19 Apr 2026 05:58:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.42922
- Title: HopRank: Self-Supervised LLM Preference-Tuning on Graphs for Few-Shot Node Classification
- Title(参考訳): HopRank: Few-Shotノード分類のためのグラフ上での自己監督型LLM推論チューニング
- Authors: Ziqing Wang, Kaize Ding,
- Abstract要約: 本稿では,テキスト分散グラフ上でノード分類を行う完全自己教師型フレームワークHopRankを提案する。
本稿では,HopRankが完全に教師付きGNNと一致し,従来のグラフ-LLM法よりも大幅に優れていたことを示す。
- 参考スコア(独自算出の注目度): 34.92914341967866
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Node classification on text-attributed graphs (TAGs) is a fundamental task with broad applications in citation analysis, social networks, and recommendation systems. Current GNN-based approaches suffer from shallow text encoding and heavy dependence on labeled data, limiting their effectiveness in label-scarce settings. While large language models (LLMs) naturally address the text understanding gap with deep semantic reasoning, existing LLM-for-graph methods either still require abundant labels during training or fail to exploit the rich structural signals freely available in graph topology. Our key observation is that, in many real-world TAGs, edges predominantly connect similar nodes under the homophily principle, meaning graph topology inherently encodes class structure without any labels. Building on this insight, we reformulate node classification as a link prediction task and present HopRank, a fully self-supervised LLM-tuning framework for TAGs. HopRank constructs preference data via hierarchical hop-based sampling and employs adaptive preference learning to prioritize informative training signals without any class labels. At inference, nodes are classified by predicting their connection preferences to labeled anchors, with an adaptive early-exit voting scheme to improve efficiency. Experiments on three TAG benchmarks show that HopRank matches fully-supervised GNNs and substantially outperforms prior graph-LLM methods, despite using zero labeled training data.
- Abstract(参考訳): テキスト分散グラフ(TAG)上のノード分類は、引用分析、ソーシャルネットワーク、レコメンデーションシステムにおける幅広い応用のための基本的なタスクである。
現在のGNNベースのアプローチは、浅いテキストエンコーディングとラベル付きデータへの強い依存に悩まされており、ラベルスカース設定の有効性が制限されている。
大規模言語モデル(LLM)はテキスト理解のギャップと深い意味的推論に自然に対処するが、既存のLLM-for-graphメソッドはトレーニング中に豊富なラベルを必要とするか、グラフトポロジで自由に利用できるリッチな構造信号を利用することができない。
我々のキーとなる観察は、多くの現実世界のTAGにおいて、エッジはホモフィイ原理の下で類似したノードを主に接続する、つまりグラフトポロジーは本質的にラベルなしでクラス構造を符号化する、ということである。
この知見に基づいて、ノード分類をリンク予測タスクとして再構成し、TAGのための完全に自己教師付きLLMチューニングフレームワークであるHopRankを提示する。
HopRankは階層的なホップベースのサンプリングを通じて嗜好データを構築し、適応的な選好学習を用いて、クラスラベルなしで情報的トレーニング信号を優先順位付けする。
推定では、ノードはラベル付きアンカーへの接続優先を予測して分類され、適応的な早期投票方式により効率を向上する。
3つのTAGベンチマークでの実験では、HopRankは完全な教師付きGNNと一致し、ラベル付きトレーニングデータを使用しないにもかかわらず、従来のグラフ-LLM法よりも大幅に優れていた。
関連論文リスト
- DREAM: Dual-Standard Semantic Homogeneity with Dynamic Optimization for Graph Learning with Label Noise [53.55187452152358]
本稿では,ラベル付きグラフ上での信頼度,関係インフォームド最適化のためのDREAM(Dual-Standard Semantic Homogeneity with Dynamic Optimization)を提案する。
具体的には、グラフ内の各ラベル付きノードの信頼性を反復的に再評価するリレーショナルインフォームド動的最適化フレームワークを設計する。
論文 参考訳(メタデータ) (2026-01-24T12:54:18Z) - Semi-supervised Instruction Tuning for Large Language Models on Text-Attributed Graphs [62.544129365882014]
本稿では,SIT-Graph というグラフ学習用セミ教師付きインストラクションチューニングパイプラインを提案する。
SIT-Graphはモデルに依存しず、LSMを予測子として利用するグラフ命令チューニングメソッドにシームレスに統合することができる。
SIT-Graphは、最先端グラフチューニング手法に組み込むと、テキスト分散グラフベンチマークの性能を大幅に向上することを示した。
論文 参考訳(メタデータ) (2026-01-19T08:10:53Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Leveraging Large Language Models for Effective Label-free Node Classification in Text-Attributed Graphs [10.538099379851198]
Locleは、LLMによるラベルなしノード分類を費用対効果で行う、アクティブなセルフトレーニングフレームワークである。
これは、GNNを用いて少数の「クリティカル」サンプルを反復的に識別し、LLMとGNNの両方で情報的擬似ラベルを抽出する。
ラベルのないノード分類では、同じクエリ予算で最先端のメソッドをLLMに大幅に上回ります。
論文 参考訳(メタデータ) (2024-12-16T17:04:40Z) - Label-Enhanced Graph Neural Network for Semi-supervised Node
Classification [32.64730237473914]
グラフニューラルネットワーク(GNN)のためのラベル強化学習フレームワークを提案する。
まず、各ラベルをクラス内のノードの仮想センターとしてモデル化し、次にノードとラベルの両方の表現を共同で学習する。
提案手法は,同一クラスに属するノードの表現を円滑に行うだけでなく,ラベルセマンティクスをGNNの学習プロセスに明示的にエンコードする。
論文 参考訳(メタデータ) (2022-05-31T09:48:47Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳(メタデータ) (2022-03-03T09:53:53Z) - Hierarchical Heterogeneous Graph Representation Learning for Short Text
Classification [60.233529926965836]
短文分類のためのグラフニューラルネットワーク(GNN)に基づく ShiNE と呼ばれる新しい手法を提案する。
まず,短文データセットを単語レベル成分グラフからなる階層的不均一グラフとしてモデル化する。
そして、類似した短いテキスト間の効果的なラベル伝搬を容易にするショート文書グラフを動的に学習する。
論文 参考訳(メタデータ) (2021-10-30T05:33:05Z) - Adaptive Label Smoothing To Regularize Large-Scale Graph Training [46.00927775402987]
本研究では, 適応ラベル平滑化法 (ALS) を提案する。
ALSはノードラベルを伝播して、前処理ステップで近隣ラベルの分布を集約し、その後、最適なスムーズなラベルをオンラインで更新して、特定のグラフ構造に適合させる。
論文 参考訳(メタデータ) (2021-08-30T23:51:31Z) - Knowledge-Guided Multi-Label Few-Shot Learning for General Image
Recognition [75.44233392355711]
KGGRフレームワークは、ディープニューラルネットワークと統計ラベル相関の事前知識を利用する。
まず、統計ラベルの共起に基づいて異なるラベルを相関させる構造化知識グラフを構築する。
次に、ラベルセマンティクスを導入し、学習セマンティクス固有の特徴をガイドする。
グラフノードの相互作用を探索するためにグラフ伝搬ネットワークを利用する。
論文 参考訳(メタデータ) (2020-09-20T15:05:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。