論文の概要: Robustness of Graph Self-Supervised Learning to Real-World Noise: A Case Study on Text-Driven Biomedical Graphs

• arxiv url: http://arxiv.org/abs/2605.05463v1
• Date: Wed, 06 May 2026 21:38:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.422974
• Title: Robustness of Graph Self-Supervised Learning to Real-World Noise: A Case Study on Text-Driven Biomedical Graphs
• Title（参考訳）: 実世界の騒音に対するグラフ自己監督学習のロバスト性:テキスト駆動型バイオメディカルグラフを事例として
• Abstract要約: Graph Self-Supervised Learning (GSSL)はラベル付きデータなしでグラフ表現を学習するための強力なパラダイムを提供する。 NLPの最近の進歩は、テキストから知識グラフを大規模に抽出することを可能にする。 本稿では、教師なし項型付けのためのテキスト駆動グラフ上でのGSSL手法の総合評価について述べる。
• 参考スコア（独自算出の注目度）: 1.9307742024764771
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Graph Self-Supervised Learning (GSSL) offers a powerful paradigm for learning graph representations without labeled data. However, existing work assumes clean, manually curated graphs. Recent advances in NLP enable the large-scale automatic extraction of knowledge graphs from text, opening new opportunities for GSSL while introducing substantial real-world noise. This type of noise remains largely unexplored, as prior robustness studies typically rely on synthetic perturbations. To address this gap, we present the first comprehensive evaluation of GSSL methods on text-driven graphs for unsupervised term typing. We introduce Noise-Aware Text-Driven Graph GSSL (NATD-GSSL), a unified framework that combines automatic graph construction, graph refinement, and GSSL. Our evaluation follows a dual-graph protocol that contrasts a noisy graph derived from MedMentions with a clean Unified Medical Language System (UMLS) reference graph, aligned through a shared gold standard. Our results reveal variability in robustness across both pretext tasks and Graph Neural Network (GNN) architectures. Relation reconstruction is highly sensitive to noise and benefits from well-defined schemas, whereas feature reconstruction is considerably more robust, achieving performance comparable to clean-graph settings. Contrastive objectives are generally less affected by noise but depend strongly on alignment with downstream tasks. GNN architecture also plays a critical role: bidirectional relational message-passing designs are better suited to noisy, text-driven graphs, while unidirectional relational ones perform best on clean graphs. Overall, NATD-GSSL provides practical guidance for applying GSSL to real-world, noisy graphs and achieves up to a 7\% improvement over pretrained language model baselines. All code and benchmarks are publicly available at https://github.com/OthmaneKabal/MC2GAE.
• Abstract（参考訳）: Graph Self-Supervised Learning (GSSL)はラベル付きデータなしでグラフ表現を学習するための強力なパラダイムを提供する。 しかし、既存の作業はクリーンで手動でキュレートされたグラフを前提としている。 NLPの最近の進歩により、テキストから知識グラフを大規模に抽出し、現実的なノイズを伴いながら、GSSLの新たな機会を開くことができる。 従来の頑健性の研究は一般的に合成摂動に依存していたため、この種のノイズはほとんど探索されていない。 このギャップに対処するため、教師なし項型付けのためのテキスト駆動グラフ上でGSSL法を総合的に評価する。 本稿では,自動グラフ構築,グラフ精錬,GSSLを組み合わせた統合フレームワークであるNoss-Aware Text-Driven Graph GSSL(NATD-GSSL)を紹介する。 我々の評価は、MedMentionsから派生したノイズグラフと、共有金標準を通したクリーン統一医療言語システム(UMLS)参照グラフとを対比した二重グラフプロトコルに従う。 この結果から,プリテキストタスクとグラフニューラルネットワーク(GNN)アーキテクチャの両方におけるロバスト性の変化が明らかになった。 リレーショナルリコンストラクションは、ノイズや明確に定義されたスキーマの利点に非常に敏感であるが、機能リコンストラクションはより堅牢で、クリーングラフ設定に匹敵するパフォーマンスを実現している。 対照的な目的は一般的にノイズの影響を受けないが、下流のタスクとの整合性に強く依存する。 双方向リレーショナルメッセージパッシング設計は、ノイズの多いテキスト駆動グラフに適しており、一方、一方向リレーショナル設計はクリーングラフで最善を尽くす。 全体として、NATD-GSSLは、GSSLを実世界のノイズの多いグラフに適用するための実践的なガイダンスを提供し、事前訓練された言語モデルベースラインよりも最大7%改善する。 すべてのコードとベンチマークはhttps://github.com/OthmaneKabal/MC2GAEで公開されている。

関連論文リスト

• Graph Topology Information Enhanced Heterogeneous Graph Representation Learning [46.12931110810428]
  ヘテロジニアスグラフ表現学習フレームワーク(ToGRL)を提案する。 ToGRLはタスク関連潜在トポロジー情報を組み込むことで、下流タスクの高品質なグラフ構造と表現を学習する。 我々のToGRLは最先端の手法よりも大きなマージンで優れています。
  論文  参考訳（メタデータ） (2026-04-07T11:35:45Z)
• Semi-supervised Instruction Tuning for Large Language Models on Text-Attributed Graphs [62.544129365882014]
  本稿では,SIT-Graph というグラフ学習用セミ教師付きインストラクションチューニングパイプラインを提案する。 SIT-Graphはモデルに依存しず、LSMを予測子として利用するグラフ命令チューニングメソッドにシームレスに統合することができる。 SIT-Graphは、最先端グラフチューニング手法に組み込むと、テキスト分散グラフベンチマークの性能を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2026-01-19T08:10:53Z)
• GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
  グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。 textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
  論文  参考訳（メタデータ） (2025-10-06T08:09:15Z)
• Align-GRAG: Reasoning-Guided Dual Alignment for Graph Retrieval-Augmented Generation [79.75818239774952]
  大きな言語モデル(LLM)は目覚ましい能力を示しているが、幻覚や時代遅れの情報といった問題に苦戦している。 Retrieval-augmented Generation (RAG) は、情報検索システム(IR)を用いて、外部知識のLLM出力を基底にすることで、これらの問題に対処する。 本稿では、検索後句における新しい推論誘導二重アライメントフレームワークであるAlign-GRAGを提案する。
  論文  参考訳（メタデータ） (2025-05-22T05:15:27Z)
• Scale-Free Graph-Language Models [44.283149785253286]
  グラフ言語モデル(GLM)は、グラフに基づく半教師付き学習において大きな可能性を示している。 本稿では,グラフ生成とテキスト埋め込みを統一フレームワークに統合した新しいGLMを提案する。
  論文  参考訳（メタデータ） (2025-02-21T03:41:43Z)
• Beyond Message Passing: Neural Graph Pattern Machine [50.78679002846741]
  本稿では,グラフサブストラクチャから直接学習することで,メッセージパッシングをバイパスする新しいフレームワークであるNeural Graph Pattern Machine(GPM)を紹介する。 GPMはタスク関連グラフパターンを効率的に抽出し、エンコードし、優先順位付けする。
  論文  参考訳（メタデータ） (2025-01-30T20:37:47Z)
• GraphGPT: Graph Instruction Tuning for Large Language Models [27.036935149004726]
  グラフニューラルネットワーク(GNN)は、グラフ構造を理解するために進化してきた。 堅牢性を高めるために、自己教師付き学習(SSL)はデータ拡張の重要なツールとなっている。 本研究は,ゼロショット学習環境におけるグラフモデルの一般化を推し進めることによって,この問題に対処する。
  論文  参考訳（メタデータ） (2023-10-19T06:17:46Z)
• SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
  テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。 まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。 次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
  論文  参考訳（メタデータ） (2023-08-03T07:00:04Z)
• Graph Structure Learning with Variational Information Bottleneck [70.62851953251253]
  本稿では,新しい変分情報ボトルネックガイド付きグラフ構造学習フレームワーク,すなわちVIB-GSLを提案する。 VIB-GSLは情報的かつ圧縮的なグラフ構造を学習し、特定の下流タスクに対して実行可能な情報を蒸留する。
  論文  参考訳（メタデータ） (2021-12-16T14:22:13Z)
• Deep Graph Structure Learning for Robust Representations: A Survey [20.564611153151834]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データの解析に広く利用されている。 GNNモデルの堅牢性を改善するため、グラフ構造学習の中心概念を中心に多くの研究が提案されている。
  論文  参考訳（メタデータ） (2021-03-04T13:49:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。