論文の概要: RAID: A Dataset for Testing the Adversarial Robustness of AI-Generated Image Detectors

• arxiv url: http://arxiv.org/abs/2506.03988v3
• Date: Mon, 09 Jun 2025 10:46:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-10 14:13:04.135448
• Title: RAID: A Dataset for Testing the Adversarial Robustness of AI-Generated Image Detectors
• Title（参考訳）: RAID:AI生成画像検出器の逆ロバスト性をテストするデータセット
• Authors: Hicham Eddoubi, Jonas Ricker, Federico Cocchi, Lorenzo Baraldi, Angelo Sotgiu, Maura Pintor, Marcella Cornia, Lorenzo Baraldi, Asja Fischer, Rita Cucchiara, Battista Biggio,
• Abstract要約: 本稿では,72kの多種多様かつ高い変換可能な対向例からなるRAID(Robust Evaluation of AI- generated Image Detectors)を提案する。 提案手法は,未知の検出器に高い成功率で転送する逆画像を生成する。 以上の結果から,現在最先端のAI生成画像検出器は,敵の例によって容易に認識できることが示唆された。
• 参考スコア（独自算出の注目度）: 57.81012948133832
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI-generated images have reached a quality level at which humans are incapable of reliably distinguishing them from real images. To counteract the inherent risk of fraud and disinformation, the detection of AI-generated images is a pressing challenge and an active research topic. While many of the presented methods claim to achieve high detection accuracy, they are usually evaluated under idealized conditions. In particular, the adversarial robustness is often neglected, potentially due to a lack of awareness or the substantial effort required to conduct a comprehensive robustness analysis. In this work, we tackle this problem by providing a simpler means to assess the robustness of AI-generated image detectors. We present RAID (Robust evaluation of AI-generated image Detectors), a dataset of 72k diverse and highly transferable adversarial examples. The dataset is created by running attacks against an ensemble of seven state-of-the-art detectors and images generated by four different text-to-image models. Extensive experiments show that our methodology generates adversarial images that transfer with a high success rate to unseen detectors, which can be used to quickly provide an approximate yet still reliable estimate of a detector's adversarial robustness. Our findings indicate that current state-of-the-art AI-generated image detectors can be easily deceived by adversarial examples, highlighting the critical need for the development of more robust methods. We release our dataset at https://huggingface.co/datasets/aimagelab/RAID and evaluation code at https://github.com/pralab/RAID.
• Abstract（参考訳）: AI生成画像は、人間が実際の画像と確実に区別できない品質レベルに達している。 詐欺や偽情報の本質的なリスクに対処するため、AI生成画像の検出は押し付け課題であり、活発な研究課題である。 提案手法の多くは高い検出精度を達成できると主張しているが、通常は理想化された条件下で評価される。 特に、敵の強靭性はしばしば無視されるが、それは認識の欠如や、包括的強靭性分析を行うために必要な実質的な努力が欠如しているためである。 本研究では,AI生成画像検出器のロバスト性を簡易に評価する方法を提供することにより,この問題に対処する。 本稿では,72kの多種多様かつ高い変換可能な対向例からなるRAID(Robust Evaluation of AI- generated Image Detectors)を提案する。 このデータセットは、4つの異なるテキスト・ツー・イメージモデルによって生成された7つの最先端検出器と画像のアンサンブルに対する攻撃によって生成される。 大規模な実験により,我々の手法は,高い成功率で未知の検出器に転送する対向画像を生成することを示し,検出器の対向ロバスト性の近似的かつ信頼性の高い推定を迅速に行うことができる。 以上の結果から,現在最先端のAI生成画像検出器は,敵の例によって容易に認識でき,より堅牢な手法開発への重要なニーズを浮き彫りにしている。 データセットはhttps://huggingface.co/datasets/aimagelab/RAIDで、評価コードはhttps://github.com/pralab/RAIDでリリースします。

関連論文リスト

• Is Artificial Intelligence Generated Image Detection a Solved Problem? [10.839070838139401]
  AIGIBenchは、最先端AIGI検出器の堅牢性と一般化能力を厳格に評価するために設計されたベンチマークである。 これには、高度な画像生成技術と広く採用されている画像生成技術の両方にまたがる、23の多様なフェイクイメージサブセットが含まれている。 11個の先進検出器の実験では、制御された設定で高い精度が報告されているにもかかわらず、これらの検出器は実世界のデータに大きな性能低下を被ることを示した。
  論文  参考訳（メタデータ） (2025-05-18T10:00:39Z)
• Detecting Discrepancies Between AI-Generated and Natural Images Using Uncertainty [91.64626435585643]
  本稿では,誤用と関連するリスクを軽減するために,予測不確実性を利用してAI生成画像を検出する新しい手法を提案する。 この動機は、自然画像とAI生成画像の分布差に関する基本的な仮定から生じる。 本稿では,AI生成画像の検出スコアとして,大規模事前学習モデルを用いて不確実性を計算することを提案する。
  論文  参考訳（メタデータ） (2024-12-08T11:32:25Z)
• A Sanity Check for AI-generated Image Detection [49.08585395873425]
  我々はAI生成画像を検出するAI生成画像検出装置(AI生成画像検出装置)を提案する。 AIDEは最先端の手法を+3.5%、+4.6%改善した。
  論文  参考訳（メタデータ） (2024-06-27T17:59:49Z)
• Improving Interpretability and Robustness for the Detection of AI-Generated Images [6.116075037154215]
  凍結したCLIP埋め込みに基づいて、既存の最先端AIGI検出手法を解析する。 さまざまなAIジェネレータが生成する画像が実際の画像とどのように異なるかを示す。
  論文  参考訳（メタデータ） (2024-06-21T10:33:09Z)
• RIGID: A Training-free and Model-Agnostic Framework for Robust AI-Generated Image Detection [60.960988614701414]
  RIGIDは、堅牢なAI生成画像検出のためのトレーニング不要でモデルに依存しない方法である。 RIGIDは、既存のトレーニングベースおよびトレーニング不要な検出器を著しく上回っている。
  論文  参考訳（メタデータ） (2024-05-30T14:49:54Z)
• GenImage: A Million-Scale Benchmark for Detecting AI-Generated Image [28.38575401686718]
  我々は、100万組のAI生成フェイクイメージと実際の画像の収集を含むGenImageデータセットを紹介した。 この利点は、GenImageで訓練された検出器が徹底的な評価を行い、多様な画像に適用可能であることを示すことである。 本研究では,本データセットの包括的解析を行い,実世界のシナリオに類似した検出手法を評価するための2つの課題を提案する。
  論文  参考訳（メタデータ） (2023-06-14T15:21:09Z)
• Adversarially-Aware Robust Object Detector [85.10894272034135]
  本稿では,ロバスト検出器 (RobustDet) を提案する。 本モデルは, クリーン画像の検出能力を維持しながら, 傾きを効果的に解き, 検出堅牢性を著しく向上させる。
  論文  参考訳（メタデータ） (2022-07-13T13:59:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。