論文の概要: Adversarial Attacks and Defenses on Graph-aware Large Language Models (LLMs)
- arxiv url: http://arxiv.org/abs/2508.04894v1
- Date: Wed, 06 Aug 2025 21:38:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-08 18:59:39.650544
- Title: Adversarial Attacks and Defenses on Graph-aware Large Language Models (LLMs)
- Title（参考訳）: グラフ対応大規模言語モデル(LLM)の敵対的攻撃と防御
- Authors: Iyiola E. Olatunji, Franziska Boenisch, Jing Xu, Adam Dziedzic,
- Abstract要約: 大規模言語モデル(LLM)は、ノード分類のようなタスクのためのグラフ構造化データとますます統合されています。
グラフベースモデルに適した既存の敵攻撃手法を活用することにより、グラフ対応LCMの脆弱性を調査する第一歩を踏み出す。
本稿では,LLMをベースとした特徴補正モジュールを併用して特徴レベルの摂動を軽減し,構造的攻撃から保護するためのGNNディフェンスを適応させる,エンドツーエンドのディフェンスフレームワークGALGUARDを提案する。
- 参考スコア（独自算出の注目度）: 8.885929731174492
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) are increasingly integrated with graph-structured data for tasks like node classification, a domain traditionally dominated by Graph Neural Networks (GNNs). While this integration leverages rich relational information to improve task performance, their robustness against adversarial attacks remains unexplored. We take the first step to explore the vulnerabilities of graph-aware LLMs by leveraging existing adversarial attack methods tailored for graph-based models, including those for poisoning (training-time attacks) and evasion (test-time attacks), on two representative models, LLAGA (Chen et al. 2024) and GRAPHPROMPTER (Liu et al. 2024). Additionally, we discover a new attack surface for LLAGA where an attacker can inject malicious nodes as placeholders into the node sequence template to severely degrade its performance. Our systematic analysis reveals that certain design choices in graph encoding can enhance attack success, with specific findings that: (1) the node sequence template in LLAGA increases its vulnerability; (2) the GNN encoder used in GRAPHPROMPTER demonstrates greater robustness; and (3) both approaches remain susceptible to imperceptible feature perturbation attacks. Finally, we propose an end-to-end defense framework GALGUARD, that combines an LLM-based feature correction module to mitigate feature-level perturbations and adapted GNN defenses to protect against structural attacks.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、ノード分類などのタスクにおいて、グラフ構造化データとますます統合されている。
この統合は、タスクパフォーマンスを改善するためにリッチリレーショナル情報を活用するが、敵攻撃に対する堅牢性は未解明のままである。
我々は, LLAGA (Chen et al 2024) と GRAPHPROMPTER (Liu et al 2024) の2つの代表的なモデル上で, 有毒(訓練時間攻撃)と回避(テスト時間攻撃)を含むグラフベースモデルに適した既存の敵攻撃手法を活用することにより, グラフ対応LDMの脆弱性を探索する第一歩を踏み出した。
さらに,攻撃者がノードシーケンステンプレートに悪意のあるノードをプレースホルダーとして注入することで,その性能を著しく低下させることができるLLAGAの新たなアタックサーフェスも発見された。
LLAGAのノードシーケンステンプレートはその脆弱性を増大させる; (2) GRAPHPROMPTERで使用されるGNNエンコーダはより堅牢性を示す; (3) どちらの手法も認識不能な特徴摂動攻撃の影響を受けやすい。
最後に,LLMをベースとした特徴補正モジュールを組み合わせて特徴レベルの摂動を軽減し,構造的攻撃から保護するためのGNNディフェンスを適応させる,エンドツーエンドのディフェンスフレームワークGALGUARDを提案する。
関連論文リスト
- Graph Defense Diffusion Model [26.41730982598055]
グラフニューラルネットワーク(GNN)は、敵攻撃に対して非常に脆弱であり、パフォーマンスを著しく低下させる可能性がある。
既存のグラフ浄化法は、攻撃されたグラフをフィルタリングすることでこの問題に対処しようとする。
グラフに対する敵攻撃を防御するための,より汎用的なアプローチを提案する。
論文 参考訳（メタデータ） (2025-01-20T16:18:40Z) - Grimm: A Plug-and-Play Perturbation Rectifier for Graph Neural Networks Defending against Poisoning Attacks [53.972077392749185]
近年の研究では、ノード分類タスクに対する敵対的中毒攻撃に対するグラフニューラルネットワーク(GNN)の脆弱性が明らかにされている。
ここでは、最初のプラグアンドプレイディフェンスモデルであるGrimmを紹介します。
論文 参考訳（メタデータ） (2024-12-11T17:17:02Z) - HGAttack: Transferable Heterogeneous Graph Adversarial Attack [63.35560741500611]
ヘテロジニアスグラフニューラルネットワーク(HGNN)は、Webやeコマースなどの分野でのパフォーマンスでますます認識されている。
本稿ではヘテロジニアスグラフに対する最初の専用グレーボックス回避手法であるHGAttackを紹介する。
論文 参考訳（メタデータ） (2024-01-18T12:47:13Z) - Securing Graph Neural Networks in MLaaS: A Comprehensive Realization of Query-based Integrity Verification [68.86863899919358]
我々は機械学習におけるGNNモデルをモデル中心の攻撃から保護するための画期的なアプローチを導入する。
提案手法は,GNNの完全性に対する包括的検証スキーマを含み,トランスダクティブとインダクティブGNNの両方を考慮している。
本稿では,革新的なノード指紋生成アルゴリズムを組み込んだクエリベースの検証手法を提案する。
論文 参考訳（メタデータ） (2023-12-13T03:17:05Z) - Everything Perturbed All at Once: Enabling Differentiable Graph Attacks [61.61327182050706]
グラフニューラルネットワーク(GNN)は敵の攻撃に弱いことが示されている。
本稿では,DGA(Dariable Graph Attack)と呼ばれる新しい攻撃手法を提案し,効果的な攻撃を効率的に生成する。
最先端と比較して、DGAは6倍のトレーニング時間と11倍のGPUメモリフットプリントでほぼ同等の攻撃性能を達成する。
論文 参考訳（メタデータ） (2023-08-29T20:14:42Z) - Graph Agent Network: Empowering Nodes with Inference Capabilities for Adversarial Resilience [50.460555688927826]
グラフニューラルネットワーク(GNN)の脆弱性に対処するグラフエージェントネットワーク(GAgN)を提案する。
GAgNはグラフ構造化エージェントネットワークであり、各ノードは1-hop-viewエージェントとして設計されている。
エージェントの限られたビューは、悪意のあるメッセージがGAgNでグローバルに伝播するのを防ぎ、グローバル最適化ベースのセカンダリアタックに抵抗する。
論文 参考訳（メタデータ） (2023-06-12T07:27:31Z) - Single Node Injection Label Specificity Attack on Graph Neural Networks
via Reinforcement Learning [8.666702832094874]
ブラックボックス回避設定においてターゲットノードを操作するために、単一の悪意あるノードを注入する勾配のない一般化可能な逆問題を提案する。
被害者モデルを直接クエリすることで、G$2$-SNIAは探索からパターンを学び、極めて限られた攻撃予算で多様な攻撃目標を達成する。
論文 参考訳（メタデータ） (2023-05-04T15:10:41Z) - Resisting Graph Adversarial Attack via Cooperative Homophilous
Augmentation [60.50994154879244]
最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。
本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。
本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
論文 参考訳（メタデータ） (2022-11-15T11:44:31Z) - Unveiling the potential of Graph Neural Networks for robust Intrusion
Detection [2.21481607673149]
本稿では,グラフとして構造化された攻撃の流れパターンを学習するための新しいグラフニューラルネットワーク(GNN)モデルを提案する。
我々のモデルは従来の実験と同等の精度を維持することができる一方、最先端のML技術は敵攻撃下で50%の精度(F1スコア)を低下させる。
論文 参考訳（メタデータ） (2021-07-30T16:56:39Z) - Uncertainty-Matching Graph Neural Networks to Defend Against Poisoning
Attacks [43.60973654460398]
グラフニューラルネットワーク(GNN)は、ニューラルネットワークからグラフ構造化データへの一般化である。
GNNは敵の攻撃に弱い、すなわち、構造に対する小さな摂動は、非自明な性能劣化を引き起こす可能性がある。
本稿では,GNNモデルの堅牢性向上を目的とした不確実性マッチングGNN(UM-GNN)を提案する。
論文 参考訳（メタデータ） (2020-09-30T05:29:42Z) - Graph Backdoor [53.70971502299977]
GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。
GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。
トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
論文 参考訳（メタデータ） (2020-06-21T19:45:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。