論文の概要: Vis-Poison: Poisoning Visual Knowledge in Multimodal Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2608.20756v2
• Date: Fri, 28 Aug 2026 13:48:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-31 17:16:04.058192
• Title: Vis-Poison: Poisoning Visual Knowledge in Multimodal Retrieval-Augmented Generation
• Title（参考訳）: Vis-Poison:マルチモーダル検索型世代における視覚的知識の獲得
• Abstract要約: Vis-Poisonという新しい視覚知識中毒攻撃を紹介します。 視覚的に可視な有毒な画像を構成する自動マルチエージェントによってインスタンス化される。 Vis-Poisonは30kのマルチモーダル知識ベースに対して、エンドツーエンドの攻撃成功率は40.16%から65.40%に達する。
• 参考スコア（独自算出の注目度）: 5.04815921134267
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While multimodal retrieval-augmented generation (RAG) systems increasingly rely on images as external knowledge sources, the introduction of poisoned visual evidence can severely compromise multimodal large language model (MLLM) generation. Unlike prior attacks that rely on altering textual metadata, we introduce Vis-Poison, a novel visual knowledge poisoning attack where the poisoned image itself is the attacker-controlled payload, without manipulating captions, summaries, metadata, or other associated text. Specifically, this attack is instantiated through an automated multi-agent method that constructs visually plausible poisoned images. To assess its impact, we evaluate Vis-Poison across two representative multimodal RAG pipelines, four embedding models, and six generation models. Empirically, Vis-Poison achieves an end-to-end attack success rate of 40.16% to 65.40% against 30k-entry multimodal knowledge bases in \emph{black-box} settings. Moreover, Vis-Poison remains effective against various MLLMs that can answer correctly from parametric knowledge alone, with an average success rate above 60%. Code and data are available at https://github.com/SWUFE-DB-Group/Vis-Poison.
• Abstract（参考訳）: マルチモーダル検索強化世代(RAG)システムは、外部知識源としてのイメージにますます依存しているが、有毒な視覚的証拠の導入は、マルチモーダル大言語モデル(MLLM)生成を著しく損なう可能性がある。 テキストメタデータの変更に依存する以前の攻撃とは違って、毒画像自体が攻撃者が制御するペイロードであり、キャプション、要約、メタデータ、その他の関連テキストを操作できない、視覚的知識中毒攻撃であるVis-Poisonを導入する。 具体的には、この攻撃は視覚的に可視な有毒な画像を構成する自動マルチエージェント手法によってインスタンス化される。 その影響を評価するために,2つの代表的マルチモーダルRAGパイプライン,4つの埋め込みモデル,6世代モデルを用いたVis-Poisonの評価を行った。 経験的に、Vis-Poisonは、emph{black-box}設定の30k-entryマルチモーダル知識ベースに対して、エンドツーエンドの攻撃成功率は40.16%から65.40%に達する。 さらに、Vis-Poisonはパラメトリック知識だけで正確に答えられる様々なMLLMに対して有効であり、平均成功率は60%以上である。 コードとデータはhttps://github.com/SWUFE-DB-Group/Vis-Poison.comで公開されている。

関連論文リスト

• MemVenom: Triggered Poisoning of Multimodal Memories in Web Agents [74.64265314956441]
  そこで我々は,グラフ構造化外部メモリにテキスト画像のコーディネートを施したブラックボックス攻撃フレームワークを提案する。 MemVenomは、GPT-5ファミリーのWebエージェントで最大99.15%に達する、良質なパフォーマンスに最小限の影響を伴って、強力なエンドツーエンド攻撃を成功させる。
  論文  参考訳（メタデータ） (2026-06-09T11:53:25Z)
• Hidden in the Metadata: Stealth Poisoning Attacks on Multimodal Retrieval-Augmented Generation [0.8103046443444949]
  本稿では,画像テキストエントリのメタデータコンポーネントをターゲットとしたマルチモーダル中毒攻撃であるMM-MEPAについて述べる。 MM-MEPAは、最大91%の攻撃成功率で、4つのレトリバーと2つのマルチモーダルジェネレータのシステム動作を継続的に破壊する。
  論文  参考訳（メタデータ） (2026-02-26T15:59:45Z)
• Contextual Image Attack: How Visual Context Exposes Multimodal Safety Vulnerabilities [34.64588827428617]
  我々は,新しい画像中心攻撃手法であるコンテキストイメージアタック(CIA)を提案する。 CIAは、4つの異なる視覚化戦略を使って、有害なクエリを一見して視覚的なコンテキストに埋め込む。 本手法は,視覚的モダリティ自体が高度なMLLMをジェイルブレイクするための強力なベクトルであることを示す。
  論文  参考訳（メタデータ） (2025-12-02T17:51:02Z)
• ShieldVLM: Safeguarding the Multimodal Implicit Toxicity via Deliberative Reasoning with LVLMs [72.8646625127485]
  マルチモーダルな暗黙の毒性は、社会プラットフォームにおける形式的なステートメントとしてだけでなく、有害なダイアログにつながる可能性がある。 単調なテキストや画像のモデレーションの成功にもかかわらず、多モーダルな内容、特に多モーダルな暗黙的な毒性に対する毒性の検出は未発見のままである。 マルチモーダルな暗黙的毒性の検出を促進するために,多モーダルな文,プロンプト,ダイアログにおける暗黙的な毒性を認識するモデルであるShieldVLMを構築した。
  論文  参考訳（メタデータ） (2025-05-20T07:31:17Z)
• Poisoned-MRAG: Knowledge Poisoning Attacks to Multimodal Retrieval Augmented Generation [71.32665836294103]
  マルチモーダル検索強化世代(RAG)は視覚言語モデル(VLM)の視覚的推論能力を向上させる 本研究では,マルチモーダルRAGシステムに対する最初の知識中毒攻撃であるtextitPoisoned-MRAGを紹介する。
  論文  参考訳（メタデータ） (2025-03-08T15:46:38Z)
• MM-PoisonRAG: Disrupting Multimodal RAG with Local and Global Poisoning Attacks [104.50239783909063]
  Retrieval Augmented Generation (RAG) を用いた多モーダル大規模言語モデルは、多モーダル質問応答のようなかなり高度なタスクを持つ。 この外部知識への依存は、知識中毒攻撃(英語版)という、危険だが未発見の安全リスクを引き起こす。 マルチモーダルRAGにおける知識中毒を体系的に設計する最初のフレームワークであるMM-PoisonRAGを提案する。
  論文  参考訳（メタデータ） (2025-02-25T04:23:59Z)
• Exploring Model Dynamics for Accumulative Poisoning Discovery [62.08553134316483]
  そこで我々は,モデルレベルの情報を通して,防衛を探索するための新しい情報尺度,すなわち,記憶の離散性(Memorization Discrepancy)を提案する。 暗黙的にデータ操作の変更をモデル出力に転送することで、メモリ識別は許容できない毒のサンプルを発見することができる。 我々は、その性質を徹底的に探求し、累積中毒に対する防御のために、離散型サンプル補正(DSC)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T14:45:24Z)
• Systematic Evaluation of Backdoor Data Poisoning Attacks on Image Classifiers [6.352532169433872]
  コンピュータビジョン研究において、機械学習(ML)システムの潜在的な安全性リスクとして、バックドアデータ中毒攻撃が実証されている。 我々の研究は、ML画像分類器のための事前のバックドアデータポゾン研究に基づいている。 有毒なモデルでは、パフォーマンス検査だけでは検出が難しいことが分かりました。
  論文  参考訳（メタデータ） (2020-04-24T02:58:22Z)
• MetaPoison: Practical General-purpose Clean-label Data Poisoning [58.13959698513719]
  データ中毒は、ニューラルネットワークの文脈における新たな脅威である。 メタポゾン(MetaPoison)は、メタラーニングによって二段階問題を近似し、ニューラルネットワークを騙す毒を発生させる一階法である。 ブラックボックスのGoogle Cloud AutoML APIでトレーニングされたモデルのデータ中毒が、初めて成功したことを実証します。
  論文  参考訳（メタデータ） (2020-04-01T04:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。