論文の概要: BadSKP: Backdoor Attacks on Knowledge Graph-Enhanced LLMs with Soft Prompts

• arxiv url: http://arxiv.org/abs/2605.11996v1
• Date: Tue, 12 May 2026 11:46:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.828716
• Title: BadSKP: Backdoor Attacks on Knowledge Graph-Enhanced LLMs with Soft Prompts
• Title（参考訳）: BadSKP: ソフトプロンプトによる知識グラフ強化LDMのバックドア攻撃
• Authors: Xiaoting Lyu, Yufei Han, Hangwei Qian, Haoyuan Yu, Xiang Ao, Bin Wang, Chenxu Wang, Xiaobo Ma, Wei Wang,
• Abstract要約: 最近の知識グラフ(KG)により強化された大言語モデル(LLM)は、検索したサブグラフをグラフニューラルネットワークを介して連続的なソフトプロンプトに符号化することによって、純粋にテキストによる知識増強を超えている。 既存のバックドア攻撃は、主にテキストチャネル用に設計されており、このデュアルチャネルアーキテクチャに対する効果は未だ不明である。 テキストチャネルバックドア攻撃は、テキストチャネルのKGプロンプトシステムに容易に侵入し、ソフトプロンプトベースの攻撃に対してほとんど効果がないことを示す。
• 参考スコア（独自算出の注目度）: 23.33570975066967
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent knowledge graph (KG)-enhanced large language models (LLMs) move beyond purely textual knowledge augmentation by encoding retrieved subgraphs into continuous soft prompts via graph neural networks, introducing a graph-conditioned channel that operates alongside the standard text interface. However, existing backdoor attacks are largely designed for the textual channel, and their effectiveness against this dual-channel architecture remains unclear. We show that this architecture creates a robustness gap: text-channel backdoor attacks that readily compromise textual KG prompting systems become largely ineffective against soft-prompt-based counterparts. We interpret this gap through semantic anchoring, whereby graph-derived soft prompts bias the generation-driving hidden state toward query-consistent semantics and suppress surface-level malicious instructions. Because this anchoring effect is itself induced by the graph channel, an attacker who manipulates graph-level representations can in turn redirect it toward adversarial semantics. To demonstrate this risk, we propose BadSKP, a backdoor attack that targets the graph-to-prompt interface through a multi-stage optimization strategy: it constructs adversarial target embeddings, optimizes poisoned node embeddings to steer the induced soft prompt, and approximates the optimized representations with fluent adversarial node attributes. Experiments on two soft-prompt KG-enhanced LLMs across four datasets show that BadSKP achieves high attack success under both frozen and trojaned settings, while text-only attacks remain unreliable even under perplexity-based defenses.
• Abstract（参考訳）: 最近の知識グラフ(KG)により強化された大言語モデル(LLM)は、検索したサブグラフをグラフニューラルネットワークを介して連続的なソフトプロンプトに符号化し、標準のテキストインターフェースと並行して動作するグラフ条件付きチャネルを導入することによって、純粋にテキストによる知識増強を越えている。 しかし、既存のバックドア攻撃は主にテキストチャネル用に設計されており、このデュアルチャネルアーキテクチャに対する効果は未だ不明である。 テキストチャネルバックドア攻撃は、テキストチャネルのKGプロンプトシステムに容易に侵入し、ソフトプロンプトベースの攻撃に対してほとんど効果がないことを示す。 セマンティックアンカリングによってこのギャップを解釈し、グラフ由来のソフトは、生成を駆動する隠れ状態をクエリ一貫性のあるセマンティクスにバイアスを与え、表面レベルの悪意のある命令を抑える。 このアンカー効果自体がグラフチャネルによって誘導されるため、グラフレベルの表現を操作するアタッカーは、それを逆のセマンティクスにリダイレクトすることができる。 このリスクを示すために、BadSKPを提案する。BadSKPは、多段階最適化戦略によりグラフとプロンプトのインターフェースをターゲットとするバックドアアタックであり、敵のターゲット埋め込みを構築し、有害なノード埋め込みを最適化し、誘導されたソフトプロンプトを操り、その最適化された表現を流線型ノード属性で近似する。 4つのデータセットにまたがる2つのソフトプロンプトKGエンハンスLSMの実験では、BadSKPは凍結とトロイの木の両方の環境で高い攻撃成功を達成する一方で、テキストのみの攻撃は複雑な防御の下でも信頼性が低いことが示されている。

関連論文リスト

• Topology-Aware Reasoning over Incomplete Knowledge Graph with Graph-Based Soft Prompting [11.222318740825388]
  大規模言語モデル(LLM)は、様々なタスクで顕著な能力を示してきたが、知識集約的なシナリオでは幻覚を起こす傾向にある。 本稿では,推論パラダイムをサブグラフレベルの推論にシフトする,グラフベースのソフトプロンプトフレームワークを提案する。 4つのマルチホップKBQAベンチマーク実験から,本手法は3つの手法の最先端性能を実現し,その有効性を実証した。
  論文  参考訳（メタデータ） (2026-04-14T09:27:52Z)
• Can LLMs Fool Graph Learning? Exploring Universal Adversarial Attacks on Text-Attributed Graphs [22.41904611417485]
  テキスト分散グラフ(TAG)は、各ノードのリッチテキストセマンティクスとトポロジ的コンテキストを統合することにより、グラフ学習を強化する。 最近の進歩は、グラフニューラルネットワーク(GNN)やプレトレーニング言語モデル(PLM)といった多様なバックボーンを活用して、TAGの構造情報とテキスト情報の両方をキャプチャしている。 TAGモデルのセキュリティを評価するために、アーキテクチャ全体にわたって一般化される普遍的な敵攻撃をどうやって設計できるのか? BadGraphは,ノードトポロジとテキストセマンティクスを両立させるため,汎用グラフ知識の大規模言語モデル(LLM)を深く取り入れた,新たなアタックフレームワークである。
  論文  参考訳（メタデータ） (2026-03-22T10:15:22Z)
• Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
  textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。 これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。 この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
  論文  参考訳（メタデータ） (2026-01-29T03:53:25Z)
• Stealthy Dual-Trigger Backdoors: Attacking Prompt Tuning in LM-Empowered Graph Foundation Models [22.332422970426304]
  LMを内蔵したグラフ基盤モデル(GFM)は、安全でないプロンプトチューニングフェーズにおいて、ユニークなセキュリティ脆弱性を導入する。 テキストレベルと構造レベルの両方で動作する新しいデュアルトリガーバックドアアタックフレームワークを提案する。 我々の研究は、Web をデプロイした LM 搭載 GFM における重要なバックドアリスクを強調し、オープンソースプラットフォームのためのより堅牢な監視メカニズムの開発に寄与する。
  論文  参考訳（メタデータ） (2025-10-16T09:10:38Z)
• TokenSwap: Backdoor Attack on the Compositional Understanding of Large Vision-Language Models [57.32952956674526]
  大規模視覚言語モデル(LVLM)に対するより回避的でステルス的なバックドア攻撃であるTokenSwapを紹介する。 固定されたターゲットコンテンツを強制するのではなく、TokenSwapはテキスト内のオブジェクト関係の理解を微妙に妨害する。 TokenSwapは、優れた回避性とステルス性を維持しながら、高い攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2025-09-29T10:19:22Z)
• Adversarial Attacks and Defenses on Graph-aware Large Language Models (LLMs) [8.885929731174492]
  大規模言語モデル(LLM)は、ノード分類のようなタスクのためのグラフ構造化データとますます統合されています。 グラフベースモデルに適した既存の敵攻撃手法を活用することにより、グラフ対応LCMの脆弱性を調査する第一歩を踏み出す。 本稿では,LLMをベースとした特徴補正モジュールを併用して特徴レベルの摂動を軽減し,構造的攻撃から保護するためのGNNディフェンスを適応させる,エンドツーエンドのディフェンスフレームワークGALGUARDを提案する。
  論文  参考訳（メタデータ） (2025-08-06T21:38:52Z)
• DGP: A Dual-Granularity Prompting Framework for Fraud Detection with Graph-Enhanced LLMs [55.13817504780764]
  実世界の不正検出アプリケーションは、しばしばテキストデータに富んだノード特徴とグラフ構造情報を共同で活用するグラフ学習技術の恩恵を受ける。 グラフ強化LSMは、グラフ情報をプロンプトに変換する、有望なグラフ学習アプローチとして登場します。 目的ノードの細粒度テキストの詳細を保存し,情報過負荷を軽減するDGPを提案する。
  論文  参考訳（メタデータ） (2025-07-29T10:10:47Z)
• AdvPrompter: Fast Adaptive Adversarial Prompting for LLMs [51.217126257318924]
  大規模言語モデル(LLM)は、不適切または有害なコンテンツの生成につながるジェイルブレイク攻撃に対して脆弱である。 本稿では,AdvPrompter という別の LLM を用いて,人間可読な逆数プロンプトを数秒で生成する手法を提案する。
  論文  参考訳（メタデータ） (2024-04-21T22:18:13Z)
• VL-Trojan: Multimodal Instruction Backdoor Attacks against Autoregressive Visual Language Models [65.23688155159398]
  VLM(Autoregressive Visual Language Models)は、マルチモーダルなコンテキストにおいて、驚くべき数ショットの学習機能を示す。 近年,マルチモーダル・インストラクション・チューニングが提案されている。 敵は、指示や画像に埋め込まれたトリガーで有毒なサンプルを注入することで、バックドアを埋め込むことができる。 本稿では,マルチモーダルなバックドア攻撃,すなわちVL-Trojanを提案する。
  論文  参考訳（メタデータ） (2024-02-21T14:54:30Z)
• Instruct2Attack: Language-Guided Semantic Adversarial Attacks [76.83548867066561]
  Instruct2Attack (I2A) は、自由形式の言語命令に従って意味のある摂動を生成する言語誘導セマンティックアタックである。 我々は最先端の潜伏拡散モデルを用いて、逆拡散過程を逆ガイドし、入力画像とテキスト命令に条件付けされた逆潜伏符号を探索する。 I2Aは、強い敵の防御の下でも最先端のディープニューラルネットワークを破ることができることを示す。
  論文  参考訳（メタデータ） (2023-11-27T05:35:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。