論文の概要: Poisoning the Neighborhood: A Topology-Aware Topic-Level Attack on Large-Scale HNSW-based RAG Systems

• arxiv url: http://arxiv.org/abs/2610.21464v1
• Date: Thu, 15 Oct 2026 08:06:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.274533
• Title: Poisoning the Neighborhood: A Topology-Aware Topic-Level Attack on Large-Scale HNSW-based RAG Systems
• Title（参考訳）: 周辺地域を占拠する:大規模HNSWに基づくRAGシステムに対するトポロジーを意識したトピックレベル攻撃
• Abstract要約: 公的およびサードパーティのソースからの摂取は、RAGシステムに中毒攻撃を暴露する。 既存の攻撃は正確な検索に基づいて設計され、評価され、毒物が世界ランキングに参加する。 トピッククエリを一般化する大規模HNSW-RAGに対するトポロジ対応のトピックレベル中毒攻撃を提案する。
• 参考スコア（独自算出の注目度）: 15.553920826442928
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-augmented generation (RAG) mitigates hallucinations and knowledge staleness in large language models using external knowledge. However, ingestion from public and third-party sources exposes RAG systems to poisoning attacks. Existing attacks are designed and evaluated under exact retrieval, where poisoned documents participate in global ranking. Deployment-scale systems instead rely on approximate nearest-neighbor (ANN) indexes such as hierarchical navigable small world (HNSW), where limited search budgets, graph-search reachability, and local benign-document competition invalidate this assumption and degrade existing attacks. We present a topology-aware topic-level poisoning attack against large-scale HNSW-RAG that generalizes to unseen topic queries. We organize poisoned documents into a Hub-Satellite structure: Satellites provide competitive entry points across semantic regions, while Hubs strengthen local cohesion and facilitate cascading retrieval. For generation, we propose an entity-claim promotion attack combining evidence anchoring and entity-claim coupling to promote the target entity via a target claim across different query regions. On 2M-document Wikipedia, our attack maintains over 72% retrieval success and reaches 31.29% attack success, substantially outperforming baselines; domain-specific experiments further support its effectiveness. Structural analyses show that the Hub-Satellite topology forms in HNSW, indicating that graph structure contributes to improved poisoned-document retrieval. Existing poisoning defenses cannot mitigate the attack, exposing graph-structural risks in HNSW-RAG systems.
• Abstract（参考訳）: Retrieval-augmented Generation (RAG)は、外部知識を用いた大規模言語モデルにおける幻覚と知識の安定化を緩和する。 しかし、公的およびサードパーティのソースからの摂取は、RAGシステムに毒殺攻撃を暴露する。 既存の攻撃は正確な検索に基づいて設計され、評価され、毒物が世界ランキングに参加する。 デプロイスケールのシステムは代わりに、階層的なナビゲート可能な小さな世界(HNSW)のような、近くの隣り合う(ANN)インデックスに頼っている。 トピッククエリを一般化する大規模HNSW-RAGに対するトポロジ対応のトピックレベル中毒攻撃を提案する。 衛星はセマンティック領域を横断して競合するエントリポイントを提供し、ハブは局所的な凝集を強化し、カスケード検索を容易にする。 提案手法は,複数のクエリ領域にまたがるターゲットクレームを介して,対象エンティティをプロモートするために,エビデンスアンカーとエンティティ-クレーム結合を組み合わせたエンティティ-クレームプロモーションアタックを提案する。 2M文書ウィキペディアでは、我々の攻撃は72%以上の検索成功を維持し、攻撃成功率は31.29%に達し、ベースラインを大幅に上回っている。 構造解析の結果,HNSWではハバ・サテライトのトポロジーが形成しており,グラフ構造が有毒文書検索の改善に寄与していることが示唆された。 既存の中毒防御は攻撃を緩和することができず、HNSW-RAGシステムにおけるグラフ構造上のリスクを露呈する。

関連論文リスト

• Defending Network Intrusion Detection Systems Based on Graph Neural Networks Against Structural Adversarial Attacks [3.444915014411325]
  グラフニューラルネットワーク(GNN)は、機械学習(ML)ベースのネットワーク侵入検知システム(NIDS)のための有望なソリューションである GNNは、エッジを注入したりノードを挿入することで、攻撃者が基盤となるネットワークグラフトポロジを乱す構造的敵攻撃に対して脆弱なままである。 本稿では,GNN ベースの NIDS を構造攻撃に対して強化するための対人訓練に基づく防御フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-08-25T12:06:12Z)
• KEPo: Knowledge Evolution Poison on Graph-based Retrieval-Augmented Generation [13.66721444009715]
  グラフベースのRetrieval-Augmented Generation (GraphRAG)は、外部データベースから知識グラフを構築する。 既存の研究は主に従来のRAGシステムへの攻撃に焦点を当てている。 本稿では,GraphRAGに特化して設計された新しい毒殺法であるKEPo(Knowledge Evolution Poison)を提案する。
  論文  参考訳（メタデータ） (2026-03-12T03:40:30Z)
• Benchmarking Knowledge-Extraction Attack and Defense on Retrieval-Augmented Generation [50.87199039334856]
  Retrieval-Augmented Generation (RAG) は知識集約型アプリケーションの基礎となっている。 近年の研究では、悪意あるクエリによって知識抽出攻撃が機密知識ベースコンテンツを回復できることが示されている。 本稿では,RAGシステムに対する知識抽出攻撃のための最初の体系的ベンチマークを紹介する。
  論文  参考訳（メタデータ） (2026-02-10T01:27:46Z)
• Joint-GCG: Unified Gradient-Based Poisoning Attacks on Retrieval-Augmented Generation Systems [11.300387488829035]
  Retrieval-Augmented Generation (RAG) システムは、応答を生成する前に、外部コーパスから関連文書を取得することで、Large Language Models (LLM) を強化する。 既存の毒殺攻撃戦略は、検索と生成段階を非結合として扱い、その効果を制限している。 Joint-GCGは、レトリバーモデルとジェネレータモデルの両方にわたる勾配ベースの攻撃を統合する最初のフレームワークである。
  論文  参考訳（メタデータ） (2025-06-06T15:12:06Z)
• Cannot See the Forest for the Trees: Invoking Heuristics and Biases to Elicit Irrational Choices of LLMs [83.11815479874447]
  本研究では,人間の認知における認知的分解と偏見に触発された新しいジェイルブレイク攻撃フレームワークを提案する。 我々は、悪意のあるプロンプトの複雑さと関連バイアスを減らし、認知的分解を用いて、プロンプトを再編成する。 また、従来の二分的成功または失敗のパラダイムを超越したランキングベースの有害度評価指標も導入する。
  論文  参考訳（メタデータ） (2025-05-03T05:28:11Z)
• Traceback of Poisoning Attacks to Retrieval-Augmented Generation [18.902988029537365]
  研究によると、RAGの毒殺攻撃に対する感受性が明らかとなり、攻撃者は知識データベースに有毒なテキストを注入した。 既存の防衛は、主に推論時間の緩和に焦点を当てており、高度な攻撃に対して不十分であることが証明されている。 本稿では,RAGの最初のトレースバックシステムであるRAGForensicsを紹介し,攻撃に責任を持つ知識データベース内の有毒テキストを識別する。
  論文  参考訳（メタデータ） (2025-04-30T14:10:02Z)
• Corpus Poisoning via Approximate Greedy Gradient Descent [48.5847914481222]
  本稿では,HotFlip法をベースとした高密度検索システムに対する新たな攻撃手法として,近似グレディ・グラディエント・Descentを提案する。 提案手法は,複数のデータセットと複数のレトリバーを用いて高い攻撃成功率を達成し,未知のクエリや新しいドメインに一般化可能であることを示す。
  論文  参考訳（メタデータ） (2024-06-07T17:02:35Z)
• PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmented Generation of Large Language Models [45.409248316497674]
  大規模言語モデル(LLM)は、その例外的な生成能力により、顕著な成功を収めた。 Retrieval-Augmented Generation (RAG)は、これらの制限を緩和するための最先端技術である。 RAGシステムにおける知識データベースは,新たな,実用的な攻撃面を導入している。 この攻撃面に基づいて,RAGに対する最初の知識汚職攻撃であるPoisonedRAGを提案する。
  論文  参考訳（メタデータ） (2024-02-12T18:28:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。