論文の概要: Improving Interpretability and Robustness for the Detection of AI-Generated Images

• arxiv url: http://arxiv.org/abs/2406.15035v1
• Date: Fri, 21 Jun 2024 10:33:09 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-24 13:53:51.443369
• Title: Improving Interpretability and Robustness for the Detection of AI-Generated Images
• Title（参考訳）: AI生成画像の検出における解釈可能性とロバスト性の改善
• Authors: Tatiana Gaintseva, Laida Kushnareva, German Magai, Irina Piontkovskaya, Sergey Nikolenko, Martin Benning, Serguei Barannikov, Gregory Slabaugh,
• Abstract要約: 凍結したCLIP埋め込みに基づいて、既存の最先端AIGI検出手法を解析する。 さまざまなAIジェネレータが生成する画像が実際の画像とどのように異なるかを示す。
• 参考スコア（独自算出の注目度）: 6.116075037154215
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With growing abilities of generative models, artificial content detection becomes an increasingly important and difficult task. However, all popular approaches to this problem suffer from poor generalization across domains and generative models. In this work, we focus on the robustness of AI-generated image (AIGI) detectors. We analyze existing state-of-the-art AIGI detection methods based on frozen CLIP embeddings and show how to interpret them, shedding light on how images produced by various AI generators differ from real ones. Next we propose two ways to improve robustness: based on removing harmful components of the embedding vector and based on selecting the best performing attention heads in the image encoder model. Our methods increase the mean out-of-distribution (OOD) classification score by up to 6% for cross-model transfer. We also propose a new dataset for AIGI detection and use it in our evaluation; we believe this dataset will help boost further research. The dataset and code are provided as a supplement.
• Abstract（参考訳）: 生成モデルの能力の増大に伴い、人工的コンテンツ検出はますます重要で難しい課題となる。 しかし、この問題に対するすべての一般的なアプローチは、ドメインと生成モデル間の一般化の欠如に悩まされている。 本研究では,AIGI検出器の堅牢性に着目した。 凍結したCLIP埋め込みに基づいて、既存の最先端AIGI検出手法を分析し、それらを解釈する方法を示し、様々なAIジェネレータが生成する画像が実際のものとどのように異なるかに光を当てる。 次に,埋め込みベクトルの有害成分を除去する手法と,画像エンコーダモデルにおける最高のアテンションヘッドの選択方法の2つを提案する。 本手法は, モデル間移動において平均分布外分布(OOD)分類スコアを最大6%向上させる。 また、AIGI検出のための新しいデータセットを提案し、評価に使用し、このデータセットがさらなる研究を促進すると信じています。 データセットとコードはサプリメントとして提供される。

関連論文リスト

• A Bias-Free Training Paradigm for More General AI-generated Image Detection [15.421102443599773]
  良く設計された法医学的検知器は、データバイアスを反映するのではなく、生成物固有のアーティファクトを検出する必要がある。 本稿では,実画像から偽画像を生成する,バイアスのない学習パラダイムであるB-Freeを提案する。 我々は,最先端検出器の一般化とロバスト性の両方において有意な改善が認められた。
  論文  参考訳（メタデータ） (2024-12-23T15:54:32Z)
• Understanding and Improving Training-Free AI-Generated Image Detections with Vision Foundation Models [68.90917438865078]
  顔合成と編集のためのディープフェイク技術は、生成モデルに重大なリスクをもたらす。 本稿では,モデルバックボーン,タイプ,データセット間で検出性能がどう変化するかを検討する。 本稿では、顔画像のパフォーマンスを向上させるContrastive Blurと、ノイズタイプのバイアスに対処し、ドメイン間のパフォーマンスのバランスをとるMINDERを紹介する。
  論文  参考訳（メタデータ） (2024-11-28T13:04:45Z)
• Addressing Vulnerabilities in AI-Image Detection: Challenges and Proposed Solutions [0.0]
  本研究では,AI生成画像の検出における畳み込みニューラルネットワーク(CNN)とDenseNetアーキテクチャの有効性を評価する。 本稿では,ガウスのぼかしやテキスト変更,ローランド適応(LoRA)などの更新や修正が検出精度に与える影響を解析する。 この発見は、現在の検出方法の脆弱性を強調し、AI画像検出システムの堅牢性と信頼性を高めるための戦略を提案する。
  論文  参考訳（メタデータ） (2024-11-26T06:35:26Z)
• Semi-Truths: A Large-Scale Dataset of AI-Augmented Images for Evaluating Robustness of AI-Generated Image detectors [62.63467652611788]
  実画像27,600枚、223,400枚、AI拡張画像1,472,700枚を含むSEMI-TRUTHSを紹介する。 それぞれの画像には、検出器のロバスト性の標準化と目標評価のためのメタデータが添付されている。 以上の結果から,現状の検出器は摂動の種類や程度,データ分布,拡張方法に様々な感度を示すことが示唆された。
  論文  参考訳（メタデータ） (2024-11-12T01:17:27Z)
• Zero-Shot Detection of AI-Generated Images [54.01282123570917]
  AI生成画像を検出するゼロショットエントロピー検出器(ZED)を提案する。 機械によるテキスト検出の最近の研究に触発された私たちのアイデアは、分析対象の画像が実際の画像のモデルと比較してどれだけ驚くかを測定することである。 ZEDは精度の点でSoTAよりも平均3%以上改善されている。
  論文  参考訳（メタデータ） (2024-09-24T08:46:13Z)
• A Sanity Check for AI-generated Image Detection [49.08585395873425]
  我々はAI生成画像を検出するAI生成画像検出装置(AI生成画像検出装置)を提案する。 AIDEは最先端の手法を+3.5%、+4.6%改善した。
  論文  参考訳（メタデータ） (2024-06-27T17:59:49Z)
• RIGID: A Training-free and Model-Agnostic Framework for Robust AI-Generated Image Detection [60.960988614701414]
  RIGIDは、堅牢なAI生成画像検出のためのトレーニング不要でモデルに依存しない方法である。 RIGIDは、既存のトレーニングベースおよびトレーニング不要な検出器を著しく上回っている。
  論文  参考訳（メタデータ） (2024-05-30T14:49:54Z)
• GenFace: A Large-Scale Fine-Grained Face Forgery Benchmark and Cross Appearance-Edge Learning [50.7702397913573]
  フォトリアリスティック・ジェネレータの急速な進歩は、真の画像と操作された画像の相違がますます不明瞭になっている臨界点に達している。 公開されている顔の偽造データセットはいくつかあるが、偽造顔は主にGANベースの合成技術を用いて生成される。 我々は,大規模で多様できめ細かな高忠実度データセットであるGenFaceを提案し,ディープフェイク検出の進展を促進する。
  論文  参考訳（メタデータ） (2024-02-03T03:13:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。