論文の概要: LogicPoison: Logical Attacks on Graph Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2604.02954v1
- Date: Fri, 03 Apr 2026 10:42:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-06 17:20:24.449536
- Title: LogicPoison: Logical Attacks on Graph Retrieval-Augmented Generation
- Title（参考訳）: LogicPoison: グラフ検索拡張ジェネレーションに対する論理的攻撃
- Authors: Yilin Xiao, Jin Chen, Qinggang Zhang, Yujing Zhang, Chuang Zhou, Longhao Yang, Lingfei Ren, Xin Yang, Xiao Huang,
- Abstract要約: グラフベースの検索言語生成(GraphRAG)は、構造化知識グラフに応答を基盤として、Large Language Models(LLM)の推論能力を向上する。
GraphRAGシステムのセキュリティは、基礎となるグラフのトポロジ的整合性に依存しており、論理的接続を暗黙的に破損させることによって損なわれる可能性がある。
疑似コンテンツを注入するのではなく,論理的推論をターゲットとした新たな攻撃フレームワークであるtextscLogicPoisonを提案する。
- 参考スコア（独自算出の注目度）: 20.236426631329593
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Graph-based Retrieval-Augmented Generation (GraphRAG) enhances the reasoning capabilities of Large Language Models (LLMs) by grounding their responses in structured knowledge graphs. Leveraging community detection and relation filtering techniques, GraphRAG systems demonstrate inherent resistance to traditional RAG attacks, such as text poisoning and prompt injection. However, in this paper, we find that the security of GraphRAG systems fundamentally relies on the topological integrity of the underlying graph, which can be undermined by implicitly corrupting the logical connections, without altering surface-level text semantics. To exploit this vulnerability, we propose \textsc{LogicPoison}, a novel attack framework that targets logical reasoning rather than injecting false contents. Specifically, \textsc{LogicPoison} employs a type-preserving entity swapping mechanism to perturb both global logic hubs for disrupting overall graph connectivity and query-specific reasoning bridges for severing essential multi-hop inference paths. This approach effectively reroutes valid reasoning into dead ends while maintaining surface-level textual plausibility. Comprehensive experiments across multiple benchmarks demonstrate that \textsc{LogicPoison} successfully bypasses GraphRAG's defenses, significantly degrading performance and outperforming state-of-the-art baselines in both effectiveness and stealth. Our code is available at \textcolor{blue}https://github.com/Jord8061/logicPoison.
- Abstract（参考訳）: グラフベースの検索言語生成(GraphRAG)は、構造化知識グラフに応答を基盤として、Large Language Models(LLM)の推論能力を向上する。
コミュニティ検出とリレーショナルフィルタリング技術を活用して、GraphRAGシステムはテキスト中毒や即時注射といった従来のRAG攻撃に固有の耐性を示す。
しかし,本稿では,GraphRAGシステムのセキュリティが基本となるグラフのトポロジ的整合性に大きく依存していることを見出した。
この脆弱性を悪用するため、偽コンテンツを注入するのではなく、論理的推論をターゲットとした新たな攻撃フレームワークである \textsc{LogicPoison} を提案する。
具体的には、 \textsc{LogicPoison} は、グラフ全体の接続を妨害するグローバル論理ハブと、必要不可欠なマルチホップ推論パスを切断するクエリ固有の推論ブリッジの両方を摂動させるために、型保存エンティティスワップ機構を使用している。
このアプローチは、表層テキストの妥当性を維持しながら、有効な推論をデッドエンドに効果的に再帰する。
複数のベンチマークにわたる総合的な実験によると、 \textsc{LogicPoison} は GraphRAG の防御をうまく回避し、性能を著しく低下させ、有効性とステルスの両方において最先端のベースラインを上回っている。
私たちのコードは、textcolor{blue}https://github.com/Jord8061/logicPoisonで利用可能です。
関連論文リスト
- Can LLMs Fool Graph Learning? Exploring Universal Adversarial Attacks on Text-Attributed Graphs [22.41904611417485]
テキスト分散グラフ(TAG)は、各ノードのリッチテキストセマンティクスとトポロジ的コンテキストを統合することにより、グラフ学習を強化する。
最近の進歩は、グラフニューラルネットワーク(GNN)やプレトレーニング言語モデル(PLM)といった多様なバックボーンを活用して、TAGの構造情報とテキスト情報の両方をキャプチャしている。
TAGモデルのセキュリティを評価するために、アーキテクチャ全体にわたって一般化される普遍的な敵攻撃をどうやって設計できるのか?
BadGraphは,ノードトポロジとテキストセマンティクスを両立させるため,汎用グラフ知識の大規模言語モデル(LLM)を深く取り入れた,新たなアタックフレームワークである。
論文 参考訳（メタデータ） (2026-03-22T10:15:22Z) - HELP: HyperNode Expansion and Logical Path-Guided Evidence Localization for Accurate and Efficient GraphRAG [53.30561659838455]
大きな言語モデル(LLM)は、しばしば固有の知識境界と幻覚に苦しむ。
Retrieval-Augmented Generation (RAG) は、マルチホップ推論に不可欠な構造的相互依存性をしばしば見落としている。
ヘルプは、複数の単純でマルチホップなQAベンチマークで競合性能を達成し、グラフベースのRAGベースラインよりも28.8$times$のスピードアップを実現している。
論文 参考訳（メタデータ） (2026-02-24T14:05:29Z) - Cross-Paradigm Graph Backdoor Attacks with Promptable Subgraph Triggers [49.77729302007601]
グラフニューラルネットワーク(GNN)は、モデル予測を操作するために悪意のあるトリガーを敵に埋め込むバックドア攻撃に対して脆弱である。
既存のトリガジェネレータは構造が単純で、特定の特徴に過度に依存し、単一のグラフ学習パラダイムに集約されることが多い。
本稿では,新たな転送可能なグラフバックドアアタックであるPromptable Subgraph Triggers (CP-GBA) を用いたクロスパラダイムグラフバックドアアタックを提案する。
論文 参考訳（メタデータ） (2025-10-26T07:10:07Z) - You Don't Need Pre-built Graphs for RAG: Retrieval Augmented Generation with Adaptive Reasoning Structures [16.867592142212203]
大型言語モデル(LLM)はしばしば幻覚に悩まされ、知識を超えた質問を処理する際に、事実的に誤った文を生成する。
Retrieval-augmented Generation (RAG)は、LLM推論をサポートするために、知識ベースからクエリ関連コンテキストを取得することで、この問題に対処する。
既存のGraphベースのRAGメソッドは、コーパスをグラフに変換するためのコストの高いプロセスに依存しており、圧倒的なトークンコストとアップデートのレイテンシを導入している。
本稿では,推論時に推論構造を動的に抽出し,事前に構築したグラフを使わずに適応検索を誘導するLogicRAGを提案する。
論文 参考訳（メタデータ） (2025-08-08T08:07:40Z) - Align-GRAG: Reasoning-Guided Dual Alignment for Graph Retrieval-Augmented Generation [79.75818239774952]
大きな言語モデル(LLM)は目覚ましい能力を示しているが、幻覚や時代遅れの情報といった問題に苦戦している。
Retrieval-augmented Generation (RAG) は、情報検索システム(IR)を用いて、外部知識のLLM出力を基底にすることで、これらの問題に対処する。
本稿では、検索後句における新しい推論誘導二重アライメントフレームワークであるAlign-GRAGを提案する。
論文 参考訳（メタデータ） (2025-05-22T05:15:27Z) - GraphRAG under Fire [17.154346535837764]
この研究は、GraphRAGの攻撃に対する脆弱性を調べ、興味深いセキュリティパラドックスを明らかにする。
既存のRAG中毒攻撃は、GraphRAGのグラフベースのインデックスと検索により、従来のRAGよりも効果が低い。
GragPoisonは、基礎となる知識グラフの共有関係を利用して、有害なテキストを作る新しい攻撃だ。
論文 参考訳（メタデータ） (2025-01-23T19:33:16Z) - Let Invariant Rationale Discovery Inspire Graph Contrastive Learning [98.10268114789775]
ハイパフォーマンスな拡張は、インスタンス識別に関するアンカーグラフの健全な意味を保存すべきである。
新たなフレームワーク Rationale-aware Graph Contrastive Learning (RGCL) を提案する。
RGCLは有理数生成器を使用して、グラフのインスタンス識別に関する健全な特徴を論理として明らかにし、対照的な学習のための有理数認識ビューを生成する。
論文 参考訳（メタデータ） (2022-06-16T01:28:40Z) - Graph Structure Learning for Robust Graph Neural Networks [63.04935468644495]
グラフニューラルネットワーク(GNN)は、グラフの表現学習において強力なツールである。
近年の研究では、GNNは敵攻撃と呼ばれる、慎重に構築された摂動に弱いことが示されている。
本稿では,構造グラフと頑健なグラフニューラルネットワークモデルを共同で学習できる汎用フレームワークであるPro-GNNを提案する。
論文 参考訳（メタデータ） (2020-05-20T17:07:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。