論文の概要: GeoGNN: Quantifying and Mitigating Semantic Drift in Text-Attributed Graphs
- arxiv url: http://arxiv.org/abs/2511.09042v1
- Date: Thu, 13 Nov 2025 01:27:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-13 22:34:54.373174
- Title: GeoGNN: Quantifying and Mitigating Semantic Drift in Text-Attributed Graphs
- Title(参考訳): GeoGNN: テキスト分散グラフにおけるセマンティックドリフトの定量化と緩和
- Authors: Liangwei Yang, Jing Ma, Jianguo Zhang, Zhiwei Liu, Jielin Qiu, Shirley Kokane, Shiyu Wang, Haolin Chen, Rithesh Murthy, Ming Zhu, Huan Wang, Weiran Yao, Caiming Xiong, Shelby Heinecke,
- Abstract要約: テキスト分散グラフ(TAG)上のグラフニューラルネットワーク(GNN)は、事前訓練された言語モデル(PLM)を使用してノードテキストを符号化し、これらの埋め込みを線形近傍アグリゲーションを通じて伝播する。
本研究は,意味的ドリフトの度合いを計測する局所PCAベースの計量を導入し,異なる凝集機構が多様体構造にどのように影響するかを解析するための最初の定量的枠組みを提供する。
- 参考スコア(独自算出の注目度): 59.61242815508687
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph neural networks (GNNs) on text--attributed graphs (TAGs) typically encode node texts using pretrained language models (PLMs) and propagate these embeddings through linear neighborhood aggregation. However, the representation spaces of modern PLMs are highly non--linear and geometrically structured, where textual embeddings reside on curved semantic manifolds rather than flat Euclidean spaces. Linear aggregation on such manifolds inevitably distorts geometry and causes semantic drift--a phenomenon where aggregated representations deviate from the intrinsic manifold, losing semantic fidelity and expressive power. To quantitatively investigate this problem, this work introduces a local PCA--based metric that measures the degree of semantic drift and provides the first quantitative framework to analyze how different aggregation mechanisms affect manifold structure. Building upon these insights, we propose Geodesic Aggregation, a manifold--aware mechanism that aggregates neighbor information along geodesics via log--exp mappings on the unit sphere, ensuring that representations remain faithful to the semantic manifold during message passing. We further develop GeoGNN, a practical instantiation that integrates spherical attention with manifold interpolation. Extensive experiments across four benchmark datasets and multiple text encoders show that GeoGNN substantially mitigates semantic drift and consistently outperforms strong baselines, establishing the importance of manifold--aware aggregation in text--attributed graph learning.
- Abstract(参考訳): テキスト分散グラフ(TAG)上のグラフニューラルネットワーク(GNN)は、通常、事前訓練された言語モデル(PLM)を用いてノードテキストを符号化し、線形近傍アグリゲーションを通じてこれらの埋め込みを伝播する。
このような多様体上の線形アグリゲーションは、必然的に幾何学を歪め、意味的ドリフトを引き起こす。これは、集合表現が固有の多様体から逸脱し、意味的忠実性と表現力を失う現象である。この問題を定量的に研究するために、局所PCAベースの計量を導入し、意味的ドリフトの度合いを測定し、異なるアグリゲーション機構が多様体構造にどのように影響するかを分析するための最初の定量的フレームワークを提供する。
これらの知見に基づいて, 単位球面上の対数-exp写像を用いて近傍情報を集約し, メッセージパッシング中の意味多様体に表現が忠実であることを保証する, 多様体アグリゲーション(Geodesic Aggregation)を提案する。
我々はさらに、球面の注意と多様体補間を統合する実用的なインスタンス化であるGeoGNNを開発した。
4つのベンチマークデータセットと複数のテキストエンコーダによる大規模な実験により、GeoGNNは意味的ドリフトを大幅に軽減し、強いベースラインを一貫して上回り、テキスト分散グラフ学習における多様体認識集約の重要性を確立している。
関連論文リスト
- A Remedy for Over-Squashing in Graph Learning via Forman-Ricci Curvature based Graph-to-Hypergraph Structural Lifting [0.0]
本稿では,エッジベースのネットワーク特性を定義するForman-Ricci曲率を用いた構造昇降戦略を提案する。
曲線は、ネットワークのバックボーンのようなグラフの局所的および大域的特性を明らかにする。
我々のアプローチは、長距離を横断するメッセージパッシングやグラフボトルネックにおける情報歪みの問題に対処する手段を提供する。
論文 参考訳(メタデータ) (2025-08-15T10:46:27Z) - Geometry-Editable and Appearance-Preserving Object Compositon [67.98806888489385]
汎用オブジェクト合成(GOC)は、対象オブジェクトを望まれる幾何学的性質を持つ背景シーンにシームレスに統合することを目的としている。
近年のアプローチは意味的埋め込みを導出し、それらを高度な拡散モデルに統合し、幾何学的に編集可能な生成を可能にする。
本稿では,まずセマンティックな埋め込みを活用して,所望の幾何学的変換を暗黙的にキャプチャするDistangled Geometry-editable and Outearance-Preserving Diffusionモデルを提案する。
論文 参考訳(メタデータ) (2025-05-27T09:05:28Z) - Geometry-Aware Generative Autoencoders for Warped Riemannian Metric Learning and Generative Modeling on Data Manifolds [18.156807299614503]
本稿では,多様体学習と生成モデルを組み合わせた新しいフレームワークであるGeometry-Aware Generative Autoencoder (GAGA)を紹介する。
GAGAは、シミュレーションおよび実世界のデータセットにおける競合性能を示し、単一セルの集団レベルの軌道推定における最先端の手法よりも30%改善されている。
論文 参考訳(メタデータ) (2024-10-16T17:53:26Z) - Spatiotemporal Graph Learning with Direct Volumetric Information Passing and Feature Enhancement [62.91536661584656]
本稿では,CeFeGNN(CeFeGNN)とCell-embeddedとFeature-enhanced Graph Neural Networkを学習用として提案する。
学習可能なセル属性を共通ノードエッジメッセージパッシングプロセスに埋め込むことで,地域特性の空間依存性をよりよく把握する。
各種PDEシステムと1つの実世界のデータセットを用いた実験により、CeFeGNNは他のベースラインと比較して優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2024-09-26T16:22:08Z) - Improving embedding of graphs with missing data by soft manifolds [51.425411400683565]
グラフ埋め込みの信頼性は、連続空間の幾何がグラフ構造とどの程度一致しているかに依存する。
我々は、この問題を解決することができる、ソフト多様体と呼ばれる新しい多様体のクラスを導入する。
グラフ埋め込みにソフト多様体を用いることで、複雑なデータセット上のデータ解析における任意のタスクを追求するための連続空間を提供できる。
論文 参考訳(メタデータ) (2023-11-29T12:48:33Z) - FMGNN: Fused Manifold Graph Neural Network [102.61136611255593]
グラフ表現学習は、様々なグラフタスクにおいて広く研究され、効果が実証されている。
本稿では,異なるマニフォールドにグラフを埋め込む新しいGNNアーキテクチャであるFused Manifold Graph Neural Network (NN)を提案する。
提案実験により,NNはノード分類およびリンク予測タスクのベンチマークにおいて,強いベースラインよりも優れた性能が得られることを示した。
論文 参考訳(メタデータ) (2023-04-03T15:38:53Z) - Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。
本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
論文 参考訳(メタデータ) (2021-01-16T16:18:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。