論文の概要: Micro-Collaborative Poisoning: A Distributed Attack on RAG Systems

• arxiv url: http://arxiv.org/abs/2609.21573v1
• Date: Fri, 18 Sep 2026 10:03:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:17.001629
• Title: Micro-Collaborative Poisoning: A Distributed Attack on RAG Systems
• Title（参考訳）: マイクロコラボレーティブ・ポジショニング:RAGシステムに対する分散型攻撃
• Abstract要約: Retrieval-Augmented Generation (RAG) は、外部知識ソースに出力を基盤として、大規模言語モデルを改善する。 本稿では,複数の文書に偽ターゲットクレームを分割する分散攻撃であるMicro-Collaborative Poisoningを紹介する。
• 参考スコア（独自算出の注目度）: 1.554831836850549
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-Augmented Generation (RAG) improves large language models by grounding outputs in external knowledge sources, but this dependency also creates a surface for poisoning attacks. This paper introduces Micro-Collaborative Poisoning, a distributed attack in which a false target claim is divided across multiple locally plausible documents instead of being concentrated in a single malicious passage. We evaluate the attack across 108 RAG configurations by varying dataset, retriever architecture, retrieval depth, database composition, number of poisoned databases, and generator model. The results indicate that Micro-Collaborative Poisoning is not driven by a single dominant poisoned passage, but by the accumulation of weak adversarial signals across retrieved sources. Increasing top-$k$ and poisoning multiple databases make it more likely that these signals will appear together in the retrieved context, while clean database diversity and stronger retrievers can reduce their influence. The document-level poisoning visibility analysis further shows that this threat is difficult to expose through isolated document inspection, since Micro-Collaborative Poisoning achieves downstream influence while leaving a weaker explicit poisoning signature than direct poisoning.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)は、外部の知識ソースに出力を接地することで、大きな言語モデルを改善するが、この依存は、また、中毒攻撃のための表面も生成する。 本稿では, 単一悪意通路に集結する代わりに, 疑似ターゲットクレームを複数の文書に分割する分散攻撃であるMicro-Collaborative Poisoningを紹介する。 各種データセット, 検索アーキテクチャ, 検索深度, データベース構成, 有毒データベース数, ジェネレータモデルによる108のRAG構成に対する攻撃の評価を行った。 以上の結果から, マイクロコラボレーティブ・ポゾンティングは, 単独の中毒経路ではなく, 抽出したソース間の弱い対向シグナルの蓄積によって引き起こされることが明らかとなった。 トップ$の上昇と複数のデータベースの中毒により、これらのシグナルが検索されたコンテキストに一緒に現れる可能性が高くなり、クリーンなデータベースの多様性とより強力な検索者は、その影響を減らすことができる。 マイクロコラボレーティブ・ポジショニングは、直接中毒よりも弱い明示的な中毒症状を残しながら下流に影響を及ぼすため、孤立した文書検査により、この脅威が露呈することがさらに困難であることが文書レベルの毒の可視性分析により示されている。

関連論文リスト

• Influence Factors on RAG Poisoning [1.423280626666929]
  Retrieval-Augmented Generation (RAG) システムは、外部の知識ソースから取得した文書の応答を推論時にグラウンド化することで、大きな言語モデルを強化する。 本報告では,RAGの中毒性について,432個の構成を網羅したフルファクター実験により検討する。 密度とグラフベースのレトリバーは一般的にBM25と比較して堅牢性を向上させるが、より大きな検索深度は有毒な通路を回収する可能性を高める。
  論文  参考訳（メタデータ） (2026-06-09T19:07:42Z)
• AdversarialCoT: Single-Document Retrieval Poisoning for LLM Reasoning [115.3243260783674]
  Retrieval-augmented Generation (RAG) は、外部文書を取得することにより、大きな言語モデル(LLM)推論を強化する。 攻撃者が悪意のあるコンテンツを検索コーパスに注入するRAGにおける知識ベース中毒攻撃について検討した。 AdversarialCoTは、コーパス内の1つのドキュメントだけを毒化するクエリ固有の攻撃である。
  論文  参考訳（メタデータ） (2026-04-14T02:10:23Z)
• KEPo: Knowledge Evolution Poison on Graph-based Retrieval-Augmented Generation [13.66721444009715]
  グラフベースのRetrieval-Augmented Generation (GraphRAG)は、外部データベースから知識グラフを構築する。 既存の研究は主に従来のRAGシステムへの攻撃に焦点を当てている。 本稿では,GraphRAGに特化して設計された新しい毒殺法であるKEPo(Knowledge Evolution Poison)を提案する。
  論文  参考訳（メタデータ） (2026-03-12T03:40:30Z)
• Practical Poisoning Attacks against Retrieval-Augmented Generation [9.320227105592917]
  大規模言語モデル(LLM)は、印象的な自然言語処理能力を示しているが、幻覚や時代遅れの知識といった課題に直面している。 Retrieval-Augmented Generation (RAG)は、これらの問題を緩和するための最先端のアプローチとして登場した。 我々は、攻撃者が1つの有毒テキストだけを注入するRAGシステムに対する実用的な中毒攻撃であるCorruptRAGを提案する。
  論文  参考訳（メタデータ） (2025-04-04T21:49:42Z)
• Poisoned-MRAG: Knowledge Poisoning Attacks to Multimodal Retrieval Augmented Generation [71.32665836294103]
  マルチモーダル検索強化世代(RAG)は視覚言語モデル(VLM)の視覚的推論能力を向上させる 本研究では,マルチモーダルRAGシステムに対する最初の知識中毒攻撃であるtextitPoisoned-MRAGを紹介する。
  論文  参考訳（メタデータ） (2025-03-08T15:46:38Z)
• MM-PoisonRAG: Disrupting Multimodal RAG with Local and Global Poisoning Attacks [104.50239783909063]
  Retrieval Augmented Generation (RAG) を用いた多モーダル大規模言語モデルは、多モーダル質問応答のようなかなり高度なタスクを持つ。 この外部知識への依存は、知識中毒攻撃(英語版)という、危険だが未発見の安全リスクを引き起こす。 マルチモーダルRAGにおける知識中毒を体系的に設計する最初のフレームワークであるMM-PoisonRAGを提案する。
  論文  参考訳（メタデータ） (2025-02-25T04:23:59Z)
• PoisonCatcher: Revealing and Identifying LDP Poisoning Attacks in IIoT [13.68394346583211]
  ローカル微分プライバシー(LDP)は、軽量で分散化されスケーラブルであるため、産業用IoT(Industrial Internet of Things)で広く採用されている。 本研究は,資源豊富なアグリゲータにおけるIIoTに対するLDP中毒防御法を提案する。
  論文  参考訳（メタデータ） (2024-12-20T09:26:50Z)
• On Practical Aspects of Aggregation Defenses against Data Poisoning Attacks [58.718697580177356]
  悪意のあるトレーニングサンプルを持つディープラーニングモデルに対する攻撃は、データ中毒として知られている。 データ中毒に対する防衛戦略の最近の進歩は、認証された毒性の堅牢性を達成するためのアグリゲーション・スキームの有効性を強調している。 ここでは、Deep Partition Aggregation(ディープ・パーティション・アグリゲーション・アグリゲーション)、代表的アグリゲーション・ディフェンス(アグリゲーション・ディフェンス)に焦点を当て、効率、性能、堅牢性など、その実践的側面を評価する。
  論文  参考訳（メタデータ） (2023-06-28T17:59:35Z)
• Exploring Model Dynamics for Accumulative Poisoning Discovery [62.08553134316483]
  そこで我々は,モデルレベルの情報を通して,防衛を探索するための新しい情報尺度,すなわち,記憶の離散性(Memorization Discrepancy)を提案する。 暗黙的にデータ操作の変更をモデル出力に転送することで、メモリ識別は許容できない毒のサンプルを発見することができる。 我々は、その性質を徹底的に探求し、累積中毒に対する防御のために、離散型サンプル補正(DSC)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T14:45:24Z)
• Autoregressive Perturbations for Data Poisoning [54.205200221427994]
  ソーシャルメディアからのデータスクレイピングは、不正なデータの使用に関する懸念が高まっている。 データ中毒攻撃は、スクラップ対策として提案されている。 より広範なデータセットにアクセスせずに有毒なデータを生成できる自動回帰(AR)中毒を導入する。
  論文  参考訳（メタデータ） (2022-06-08T06:24:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。