論文の概要: Uncovering Semantic Hierarchies in Text-Attributed Graphs via Variational EM-based LLM-GNN Synergy
- arxiv url: http://arxiv.org/abs/2610.24624v1
- Date: Sat, 17 Oct 2026 10:59:00 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 11:42:56.225348
- Title: Uncovering Semantic Hierarchies in Text-Attributed Graphs via Variational EM-based LLM-GNN Synergy
- Title(参考訳): 変分EMに基づくLLM-GNN合成によるテキスト分散グラフのセマンティック階層の発見
- Abstract要約: 本稿では,LLM の推論能力と GNN の構造表現能力を相乗化する SHiFT を提案する。
E-stepでは、LSMを専門家の分類学者として活用し、明示的な意味木を誘導し、軽量なマッピングと診断戦略を導入する。
Mステップでは、クラスタリング分割、トポロジカルスケルトン、セマンティック概念などの相補的な視点から、GNNエンコーダをこの誘導階層と整合させる。
- 参考スコア(独自算出の注目度): 25.489256391415434
- License:
- Abstract: While hierarchical structures are intrinsic to organizing human knowledge, current representation learning on text-attributed graphs predominantly operates on flat semantic spaces, overlooking the rich coarse-to-fine granularity inherent in real-world data. To bridge this gap, we propose SHiFT, which synergizes the reasoning power of LLMs with the structural representation capability of GNNs within an Expectation-Maximization (EM) paradigm. In the E-step, we harness LLMs as expert taxonomists to induce an explicit semantic tree, introducing a lightweight Mapping & Diagnosis strategy that reduces inference costs by surgically updating the hierarchy only when anomalies are detected. In the M-step, we align the GNN encoder with this induced hierarchy from complementary perspectives, including clustering partition, topological skeleton, and semantic concepts. Theoretical analysis interprets SHiFT as a generalized Variational EM algorithm. Extensive experiments demonstrate that SHiFT not only achieves state-of-the-art performance but also uncovers high-quality, human-readable taxonomies. Our code can be found at https://github.com/Cloudy1225/SHiFT.
- Abstract(参考訳): 階層構造は人間の知識を整理するのに固有の構造であるが、テキスト対応グラフ上の現在の表現学習は、主に平らな意味空間で機能し、現実世界のデータに固有の粗い粒度を見渡す。
このギャップを埋めるために、SHiFTを提案する。これは、予測最大化(EM)パラダイムにおいて、LLMの推論能力とGNNの構造表現能力とを相乗化したものである。
E-stepでは、LSMを専門家の分類学者として活用して明示的な意味木を誘導し、異常が検出された場合にのみ階層を外科的に更新することで推論コストを削減する軽量なマッピングと診断戦略を導入する。
Mステップでは、クラスタリング分割、トポロジカルスケルトン、セマンティック概念などの相補的な視点から、GNNエンコーダをこの誘導階層と整合させる。
理論解析は、SHiFTを一般化された変分EMアルゴリズムとして解釈する。
大規模な実験により、SHiFTは最先端のパフォーマンスを達成するだけでなく、高品質で人間の読みやすい分類も明らかにする。
私たちのコードはhttps://github.com/Cloudy1225/SHiFTで参照できます。
関連論文リスト
- Rethinking Message Passing as Retrieval for Text-Attributed Graph Learning [63.602658976990874]
グラフニューラルネットワーク(GNN)は通常、メッセージパッシングニューラルネットワークとして概念化されている。
本稿では,GNNの検索拡張ビューについて述べる。各レイヤは,検索したグラフコンテキストの置換インサマリとともに,ノード表現に変分を適用して予測を行う。
この観点から、構造的メッセージパッシングをラベル認識検索と伝搬に置き換えるシンプルな集約ベースのフレームワークであるRTAを提案する。
論文 参考訳(メタデータ) (2026-08-27T07:25:44Z) - Learning Taxonomic Trees with Hierarchical Representation Regularization for Large Multimodal Models [47.868429337792314]
大規模なマルチモーダルモデル(LMM)は、しばしば分類学的な知識が欠如しており、階層的視覚認識(HVR)の一貫性が低い。
LMMにおける階層整合性を改善するシンプルなプラグアンドプレイ正規化器である階層表現正規化(HiR2$)を提案する。
HiR2$は、様々なLMMと微調整方法の分類構造を効果的にキャプチャする。
論文 参考訳(メタデータ) (2026-07-03T03:16:41Z) - HiSE: A Lightweight Hierarchical Semantic Explainer for Heterogeneous Graph Neural Networks [15.506128015180472]
不均一グラフニューラルネットワーク(HGNN)は複雑なデータのモデリングにおいて顕著な性能を示した。
既存の説明法には2つの大きな制限がある。
我々はHGNNのための軽量な特徴指向解釈モデルであるHiSEを提案する。
論文 参考訳(メタデータ) (2026-06-02T11:12:01Z) - Beyond the Aggregation Dilemma: Prior-Retaining Decoupled Learning for Multimodal Graphs [69.56407708794845]
MultimodalAttributed Graph Learning (MAGL)はグラフアグリゲーションを通じてノード属性と構造トポロジーを統合する。
事前訓練されたエンコーダがLarge Foundation Models (LFM) へと進化するにつれて、MAGLのランドスケープは根本的に変化していく。
高信頼のLFM先行の下では、強制集約は、識別シグナルを圧倒するトポロジカル固有のノイズを導入する。
本稿では、分離されたデュアルパスパラダイムであるSUPRA(Shared-Unique Prior-Retaining Architecture)を提案する。
SUPRAは、トポロジ・アグノシクスによるモーダリティ特異的な特徴を処理し、軽量共有GNNを介して構造相乗効果を捉え、補助的な深層監視対策の勾配飢餓を発生させる。
論文 参考訳(メタデータ) (2026-05-23T17:42:25Z) - GS-Quant: Granular Semantic and Generative Structural Quantization for Knowledge Graph Completion [11.195093774337204]
GS-Quantは、KGエンティティのセマンティックコヒーレントで構造的に階層化された離散コードを生成する新しいフレームワークである。
コードブックに階層的な知識を注入するグラニュラ・セマンティック・エンハンスメント・モジュールを導入する。
生成構造再構成モジュールは、コードシーケンスに因果依存性を課し、独立した独立したユニットを構造化セマンティック記述子に変換する。
論文 参考訳(メタデータ) (2026-04-23T13:13:37Z) - Improving LLM Reasoning with Homophily-aware Structural and Semantic Text-Attributed Graph Compression [55.51959317490934]
大規模言語モデル(LLM)は、テキスト分散グラフ(TAG)理解において有望な能力を示している。
グラフは本来、構造情報や意味情報を豊富に含むものであり、それらの有効利用はLLMの推論性能の潜在的な利益を解放する可能性があると論じる。
グラフホモフィリーの活用を目的としたフレームワーク LLMs (HS2C) のホモフィリー対応構造とセマンティック圧縮を提案する。
論文 参考訳(メタデータ) (2026-01-13T03:35:18Z) - GLOW: Graph-Language Co-Reasoning for Agentic Workflow Performance Prediction [51.83437071408662]
本稿では,AW性能予測のための統合フレームワークGLOWを提案する。
GLOWは、GNNのグラフ構造モデリング能力とLLMの推論能力を組み合わせる。
FLORA-Benchの実験では、GLOWは予測精度とランキングユーティリティにおいて最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2025-12-11T13:30:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。