論文の概要: Are LLM-Enhanced Graph Neural Networks Robust against Poisoning Attacks?
- arxiv url: http://arxiv.org/abs/2603.26105v1
- Date: Fri, 27 Mar 2026 06:28:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-30 21:49:48.374238
- Title: Are LLM-Enhanced Graph Neural Networks Robust against Poisoning Attacks?
- Title（参考訳）: LLM強化グラフニューラルネットワークは攻撃に対するロバストか?
- Authors: Yuhang Ma, Jie Wang, Zheng Yan,
- Abstract要約: 大規模言語モデル(LLM)は、ノード表現をセマンティックな特徴で強化することにより、高度なグラフニューラルネットワーク(GNN)を持つ。
本研究では, LLM強化GNNを中毒攻撃下で体系的に評価するロバストネス評価フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 9.709556420480508
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) have advanced Graph Neural Networks (GNNs) by enriching node representations with semantic features, giving rise to LLM-enhanced GNNs that achieve notable performance gains. However, the robustness of these models against poisoning attacks, which manipulate both graph structures and textual attributes during training, remains unexplored. To bridge this gap, we propose a robustness assessment framework that systematically evaluates LLM-enhanced GNNs under poisoning attacks. Our framework enables comprehensive evaluation across multiple dimensions. Specifically, we assess 24 victim models by combining eight LLM- or Language Model (LM)-based feature enhancers with three representative GNN backbones. To ensure diversity in attack coverage, we incorporate six structural poisoning attacks (both targeted and non-targeted) and three textual poisoning attacks operating at the character, word, and sentence levels. Furthermore, we employ four real-world datasets, including one released after the emergence of LLMs, to avoid potential ground truth leakage during LLM pretraining, thereby ensuring fair evaluation. Extensive experiments show that LLM-enhanced GNNs exhibit significantly higher accuracy and lower Relative Drop in Accuracy (RDA) than a shallow embedding-based baseline across various attack settings. Our in-depth analysis identifies key factors that contribute to this robustness, such as the effective encoding of structural and label information in node representations. Based on these insights, we outline future research directions from both offensive and defensive perspectives, and propose a new combined attack along with a graph purification defense. To support future research, we release the source code of our framework at~\url{https://github.com/CyberAlSec/LLMEGNNRP}.
- Abstract（参考訳）: 大規模言語モデル(LLMs)は、ノード表現をセマンティックな特徴で豊かにすることにより、高度なグラフニューラルネットワーク(GNNs)を持つ。
しかし、これらのモデルの毒性攻撃に対する堅牢性は、トレーニング中にグラフ構造とテキスト属性の両方を操作できるが、まだ解明されていない。
このギャップを埋めるために, LLM強化GNNを毒殺攻撃下で体系的に評価するロバストネス評価フレームワークを提案する。
我々のフレームワークは、複数の次元にわたる包括的評価を可能にします。
具体的には、8つのLLM- or Language Model(LM)ベースの特徴増強器と3つの代表的GNNバックボーンを組み合わせることで、24の被害者モデルを評価する。
攻撃範囲の多様性を確保するため,6つの構造的毒殺攻撃(標的と非標的の両方)と3つのテキスト的毒殺攻撃を文字,単語,文レベルで実施する。
さらに,LLMの出現後に放出された4つの実世界のデータセットを用いて,LLM事前学習時の地中真偽の漏洩を回避し,公正な評価を確実にする。
広範囲にわたる実験の結果,LDM強化GNNは,様々な攻撃環境における浅い埋め込みベースラインよりも精度が高く,RDA(Relative Drop in Accuracy)が低いことがわかった。
我々の詳細な分析では、ノード表現における構造情報やラベル情報の効果的な符号化など、このロバスト性に寄与する重要な要素を同定する。
これらの知見に基づき,攻撃的・防御的両面から今後の研究の方向性を概説し,グラフ浄化防衛と組み合わせた新たな攻撃法を提案する。
将来の研究をサポートするため、我々はフレームワークのソースコードを~\url{https://github.com/CyberAlSec/LLMEGNNRP}でリリースします。
関連論文リスト
- GRAPHTEXTACK: A Realistic Black-Box Node Injection Attack on LLM-Enhanced GNNs [17.77340454481932]
最近の研究は、大規模言語モデルとグラフニューラルネットワーク(GNN)を統合し、セマンティクスと構造を共同でモデル化している。
GNNは構造的摂動に敏感であり、LSM由来の機能はインジェクションや対向的摂動に弱い。
これらのギャップに対処するために, LLM強化GNNに対する最初のブラックボックス, マルチモーダル, 中毒ノードインジェクション攻撃である Graph TEXTACK を提案する。
論文 参考訳（メタデータ） (2025-11-16T02:42:48Z) - Adversarial Attacks and Defenses on Graph-aware Large Language Models (LLMs) [8.885929731174492]
大規模言語モデル(LLM)は、ノード分類のようなタスクのためのグラフ構造化データとますます統合されています。
グラフベースモデルに適した既存の敵攻撃手法を活用することにより、グラフ対応LCMの脆弱性を調査する第一歩を踏み出す。
本稿では,LLMをベースとした特徴補正モジュールを併用して特徴レベルの摂動を軽減し,構造的攻撃から保護するためのGNNディフェンスを適応させる,エンドツーエンドのディフェンスフレームワークGALGUARDを提案する。
論文 参考訳（メタデータ） (2025-08-06T21:38:52Z) - TrustGLM: Evaluating the Robustness of GraphLLMs Against Prompt, Text, and Structure Attacks [3.3238054848751535]
テキスト,グラフ構造,即時操作の3次元にわたる敵攻撃に対するGraphLLMの脆弱性を評価する総合的研究であるTrustGLMを紹介する。
この結果から,GraphLLMsは,ノードのテキスト属性に含まれる意味論的に類似した単語を置き換えるだけで,テキスト攻撃に非常に敏感であることが判明した。
また、標準グラフ構造攻撃手法はモデル性能を著しく低下させるが、プロンプトテンプレートで候補ラベルセットをランダムにシャッフルすると性能が大幅に低下する。
論文 参考訳（メタデータ） (2025-06-13T14:48:01Z) - Grimm: A Plug-and-Play Perturbation Rectifier for Graph Neural Networks Defending against Poisoning Attacks [53.972077392749185]
近年の研究では、ノード分類タスクに対する敵対的中毒攻撃に対するグラフニューラルネットワーク(GNN)の脆弱性が明らかにされている。
ここでは、最初のプラグアンドプレイディフェンスモデルであるGrimmを紹介します。
論文 参考訳（メタデータ） (2024-12-11T17:17:02Z) - Can Large Language Models Improve the Adversarial Robustness of Graph Neural Networks? [45.55125612241908]
グラフニューラルネットワーク(GNN)は、特にトポロジの摂動に対して、敵対的な攻撃に対して脆弱である。
LLMに基づく頑健なグラフ構造推論フレームワーク LLM4RGNN を提案する。
論文 参考訳（メタデータ） (2024-08-16T11:58:34Z) - Provable Robustness of (Graph) Neural Networks Against Data Poisoning and Backdoor Attacks [50.87615167799367]
グラフニューラルネットワーク(GNN)は、特定のグラフのノード特徴をターゲットとして、バックドアを含む有毒な攻撃に対して認証する。
コンボリューションベースのGNNとPageRankベースのGNNの最悪の動作におけるグラフ構造の役割とその接続性に関する基本的な知見を提供する。
論文 参考訳（メタデータ） (2024-07-15T16:12:51Z) - Graph Transductive Defense: a Two-Stage Defense for Graph Membership Inference Attacks [50.19590901147213]
グラフニューラルネットワーク(GNN)は、さまざまな現実世界のアプリケーションにおいて、強力なグラフ学習機能を提供する。
GNNは、メンバーシップ推論攻撃(MIA)を含む敵攻撃に対して脆弱である
本稿では,グラフトランスダクティブ学習特性に合わせて,グラフトランスダクティブ・ディフェンス(GTD)を提案する。
論文 参考訳（メタデータ） (2024-06-12T06:36:37Z) - Securing Graph Neural Networks in MLaaS: A Comprehensive Realization of Query-based Integrity Verification [68.86863899919358]
我々は機械学習におけるGNNモデルをモデル中心の攻撃から保護するための画期的なアプローチを導入する。
提案手法は,GNNの完全性に対する包括的検証スキーマを含み,トランスダクティブとインダクティブGNNの両方を考慮している。
本稿では,革新的なノード指紋生成アルゴリズムを組み込んだクエリベースの検証手法を提案する。
論文 参考訳（メタデータ） (2023-12-13T03:17:05Z) - Information Obfuscation of Graph Neural Networks [96.8421624921384]
本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。
本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
論文 参考訳（メタデータ） (2020-09-28T17:55:04Z) - Graph Backdoor [53.70971502299977]
GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。
GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。
トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
論文 参考訳（メタデータ） (2020-06-21T19:45:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。