論文の概要: Adversarial Diffusion Across Modalities: A Fusion Survey of Attacks, Defenses, and Evaluation for Text, Vision, and Vision-Language Models

• arxiv url: http://arxiv.org/abs/2606.26566v1
• Date: Thu, 25 Jun 2026 03:32:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.152533
• Title: Adversarial Diffusion Across Modalities: A Fusion Survey of Attacks, Defenses, and Evaluation for Text, Vision, and Vision-Language Models
• Title（参考訳）: モダリティ間の敵対的拡散:テキスト・ビジョン・視覚・言語モデルに対する攻撃・防衛・評価の融合調査
• Abstract要約: AIシステムのアドリアリ評価は、4つの大きく切り離されたトラックに沿って成熟した。 それぞれ独自の語彙、脅威モデル、ベンチマークを開発した。 本調査はメタ検索レベルで情報融合演習を行う。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial evaluation of AI systems has matured along four largely disconnected tracks: diffusion-based attacks on text and large language models (LLMs), diffusion-based attacks on image classifiers, jailbreak pipelines against vision-language models, and diffusion-based input purification defenses. Each has developed its own vocabulary, threat models, and benchmarks, with denoising diffusion models emerging as a shared generative mechanism whose recipes are now actively ported between communities. This survey performs an information-fusion exercise at the meta-research level: we integrate these four tracks into a single conceptual framework with a unified taxonomy, evaluation criteria, and research agenda, focusing on the LLM-side slice. We catalog fifty published papers across four scope areas (text/LLM, image classifier, vision-language model, defense), plus four diffusion-LLM-as-victim entries and ten non-diffusion baselines against which any new attack must be compared. We propose a six-class taxonomy of diffusion roles in adversarial pipelines, augmented by a threat-model axis recording attacker knowledge, query budget, and target accessibility, and apply a five-dimension framework (attack success rate, transferability, query budget, perplexity, defense-evasion) uniformly across modalities. The review adopts a dual attacker-defender perspective: alongside the attack catalog we cover four diffusion-based defenses that form the natural evaluation backdrop for new attacks. Our critical analysis identifies five recurring weaknesses of the current LLM-side literature, and we close with a research agenda of open questions and concrete experimental designs. The companion catalog and spreadsheet are released with the paper. We are explicit that this is a narrative review with quality assessment, not a PRISMA-compliant systematic review, and discuss the implications for replication.
• Abstract（参考訳）: テキストと大言語モデルに対する拡散ベースの攻撃(LLM)、画像分類器に対する拡散ベースの攻撃、視覚言語モデルに対するジェイルブレイクパイプライン、拡散ベースの入力浄化防御である。 それぞれ独自の語彙、脅威モデル、ベンチマークを開発し、コミュニティ間でレシピを積極的に移植する共有生成メカニズムとして拡散モデルが出現した。 本調査はメタリサーベイレベルで情報融合演習を実施し,これらの4つのトラックを統合された分類,評価基準,研究アジェンダを備えた単一の概念的枠組みに統合し,LCM側スライスに着目した。 我々は,4つの領域(テキスト/LLM,画像分類器,視覚言語モデル,防衛),4つの拡散-LLM-as-victimエントリと10の非拡散ベースライン)にまたがる50の論文をカタログ化した。 本稿では,攻撃者の知識,クエリ予算,ターゲットアクセシビリティを記録した脅威モデル軸を用いて,敵パイプラインにおける拡散の役割を6クラスに分類し,攻撃成功率,転送可能性,クエリ予算,パープレキシティ,防衛回避といった5次元の枠組みを様々に適用する。 攻撃カタログとともに、新たな攻撃に対する自然な評価の背景を形成する4つの拡散ベースの防御をカバーしています。 批判的分析により,現在のLLM側の文献の5つの弱点が明確化され,オープンな質問や具体的な実験設計の課題が解決された。 コンパニオンカタログとスプレッドシートは、その紙で解放される。 PRISMA準拠の体系的レビューではなく,品質評価による物語的レビューであり,複製に与える影響について論じる。

関連論文リスト

• A Survey on Adversarial Attacks and Defenses for Diffusion Models Across Multiple Modalities [20.414660409826293]
  拡散モデルは視覚領域における生成モデルの主要なファミリーとなっている。 広範に公開されており、大規模な誤用を可能にし、敵の攻撃や防衛に関する研究が急速に活発化している。 この調査は、私たちの知る限り、この文献を3つの視覚的モダリティ(画像、ビデオ、および3D)で統一したレビューとして初めて提供します。
  論文  参考訳（メタデータ） (2026-08-28T21:57:56Z)
• Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies [62.65225104423404]
  自己進化エージェントシステムは、敵の影響力が永久に符号化される、質的に新しい脅威の風景を導入します。 モジュール・ライフサイクル・アタック・サーフェス・マトリックスを中心に組織化されたセキュリティとプライバシの分析を行った。 その結果, 自己進化は, 既知のすべての攻撃カテゴリをセッションバウンドからラインパーシスタントに変換することがわかった。
  論文  参考訳（メタデータ） (2026-06-22T09:23:50Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)
• Counterfactual Explainable Incremental Prompt Attack Analysis on Large Language Models [32.03992137755351]
  本研究は,大規模言語モデル(LLM)における安全性とプライバシ対策の推進的必要性に光を当てるものである。 本稿では,攻撃効果を定量的に測定するために,特定の方法でプロンプトを誘導する新しい手法であるCEIPAを提案する。
  論文  参考訳（メタデータ） (2024-07-12T14:26:14Z)
• MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
  本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。 本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。 異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-06-13T15:55:04Z)
• Assessing Adversarial Robustness of Large Language Models: An Empirical Study [24.271839264950387]
  大規模言語モデル(LLM)は自然言語処理に革命をもたらしたが、敵の攻撃に対する頑強さは依然として重要な問題である。 Llama, OPT, T5 など,主要なオープンソース LLM の脆弱性を露呈する,新しいホワイトボックス型攻撃手法を提案する。
  論文  参考訳（メタデータ） (2024-05-04T22:00:28Z)
• A Unified Evaluation of Textual Backdoor Learning: Frameworks and Benchmarks [72.7373468905418]
  我々は,テキストバックドア学習の実装と評価を促進するオープンソースツールキットOpenBackdoorを開発した。 また,単純なクラスタリングに基づく防御ベースラインであるCUBEを提案する。
  論文  参考訳（メタデータ） (2022-06-17T02:29:23Z)
• ML-Doctor: Holistic Risk Assessment of Inference Attacks Against Machine Learning Models [64.03398193325572]
  機械学習(ML)モデルに対する推論攻撃により、敵はトレーニングデータやモデルパラメータなどを学ぶことができる。 私たちは、メンバシップ推論、モデル反転、属性推論、モデル盗難の4つの攻撃に集中しています。 私たちの分析では、MLモデルオーナがモデルをデプロイするリスクを評価することができる、モジュール化された再使用可能なソフトウェアであるML-Doctorに依存しています。
  論文  参考訳（メタデータ） (2021-02-04T11:35:13Z)
• Detecting Cross-Modal Inconsistency to Defend Against Neural Fake News [57.9843300852526]
  我々は、画像やキャプションを含む機械生成ニュースに対して、より現実的で挑戦的な対策を導入する。 敵が悪用できる可能性のある弱点を特定するために、4つの異なる種類の生成された記事からなるNeuralNewsデータセットを作成します。 ユーザ実験から得られた貴重な知見に加えて,視覚的意味的不整合の検出にもとづく比較的効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2020-09-16T14:13:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。