論文の概要: Beyond Generation: Using Multimodal LLMs as Detectors of LLM-Generated Deepfake Facial Images
- arxiv url: http://arxiv.org/abs/2610.21760v1
- Date: Thu, 15 Oct 2026 12:16:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.062279
- Title: Beyond Generation: Using Multimodal LLMs as Detectors of LLM-Generated Deepfake Facial Images
- Title（参考訳）: 世代を超えて:マルチモーダルLLMをLLM生成深部顔面画像の検出器として用いる
- Abstract要約: 本稿では, MLLMsを法医学的分析の一形態として, 合成メディアの同定に応用できるかどうかを考察する。
評価は、単画像分類、ペア比較、ジェミニにおける「自己検出」実験の3段階に分けられる。
いくつかのMLLMは高い検出精度を達成し、GPT-5.2は2つの実験で97.9%のピークに達した。
しかし、自己検出実験の結果、目に見えないSynthID透かしの存在はジェミニの検出精度を10%低下させることが示された。
- 参考スコア（独自算出の注目度）: 2.931725853808599
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As image generation models become increasingly capable of producing highly realistic content, traditional forensic techniques are struggling to keep up. This paper investigates whether MLLMs can instead be used as a form of forensic analysis by identifying synthetic media. Specifically, the study aims to determine whether these models detect fake images by recognising physical inconsistencies, or whether they rely on digital artefacts such as embedded watermarks.Six MLLMs: GPT-4o, GPT-5, GPT-5.2, Gemini 2.5, Gemini 3, and Seed 1.6, are benchmarked using a dataset of 400 images. Fifty images are authentic photographs, while the remaining 350 are generated using seven leading image models: Gemini 3, Gemini 2.5, Flux.2 Pro, GPT-Image-1, GPT-Image-1.5, Seedream 4.0, and Seedream 4.5. The evaluation is structured in three stages: single-image classification, pairwise comparison, and a focused "self-detection" experiment on Gemini. Several MLLMs achieved a high detection accuracy, with GPT-5.2 reaching a peak of 97.9% in the pairwise experiment, against specific generators and an overall mean pairwise accuracy of 82.5% by identifying structural or physical inconsistencies within images. However, results from the self-detection experiment indicate that the presence of invisible SynthID watermarks leads to a 10% reduction in Gemini's detection accuracy compared to the clean control group. One possible explanation is that SynthID embedding reduces some of the visible artefacts the models rely on for detection.These results imply that MLLMs can detect structural artefacts without relying on watermarks, but performance varies substantially across model generations. The findings from comparison C5 also suggest that SynthID embedding may suppress some of the structural artefacts used during detection.
- Abstract（参考訳）: 画像生成モデルは、高度にリアルなコンテンツを生み出す能力が増すにつれて、従来の法医学的手法は追いつくのに苦労している。
本稿では,MLLMsを法医学的分析の一形態として,合成メディアを同定して利用することができるかを検討する。
具体的には、これらのモデルが物理的不整合を認識して偽画像を検出するかどうか、または埋め込み透かしなどのデジタルアーティファクトに依存するかどうかを、GPT-4o, GPT-5, GPT-5.2, Gemini 2.5, Gemini 3, Seed 1.6の6つのMLLMを用いて、400枚の画像のデータセットを用いてベンチマークする。
50枚の写真は本物で、残りの350枚は7つの主要画像モデル(Gemini 3, Gemini 2.5, Flux.2)で生成される。
Pro、GPT-Image-1、GPT-Image-1.5、Seedream 4.0、Seedream 4.5。
評価は、単画像分類、ペア比較、ジェミニにおける「自己検出」実験の3段階に分けられる。
いくつかのMLLMは高い検出精度を達成し、GPT-5.2は1対の実験で97.9%のピークに達した。
しかし, 自己検出実験の結果, 目に見えないSynthID透かしの存在は, クリーンコントロール群と比較してジェミニの検出精度を10%低下させることがわかった。
一つの説明として、SynthIDの埋め込みは、モデルが検出に頼っている可視的アーティファクトの一部を減少させ、その結果、MLLMは透かしに頼ることなく構造的アーティファクトを検出できるが、性能はモデル世代によって大きく異なる。
比較C5の結果は、SynthIDの埋め込みは、検出時に使用されるいくつかの構造的アーチファクトを抑制する可能性があることを示唆している。
関連論文リスト
- REALIS: A Curated Dataset for Studying the Challenges of AI Image Detection [41.56501588335545]
42の現代テキスト画像モデルによって生成された133万のリアル画像と合成画像のデータセットであるREALISを紹介する。
また、高品質な合成画像のためのストレステストサブセットであるREALIS-Expertを紹介する。
提案手法は,REALISに基づいて,事前学習された検出器,微調整されたモデル,ジェネレータおよび後処理シフト下でのゼロショットビジョン言語モデルを評価する。
論文 参考訳（メタデータ） (2026-09-26T15:53:36Z) - An Agentic AI Framework Overcomes Fundamental Limitations of Large Language Models for Glaucoma Detection from Fundus Photography [1.3023698730561286]
大きな言語モデル(LLM)は、医学的画像解釈において有望であるが、幻覚、限られた精度、実行間不整合に悩まされている。
我々は、眼底写真から緑内障を検出するための特殊なディープラーニングツールとLLMを統合したエージェントAIフレームワークを開発し、検証した。
論文 参考訳（メタデータ） (2026-08-07T17:33:12Z) - Adversarial Deepfake Generation and an Investigation of Purification-Based Adversarial Detection [9.42962723864652]
本稿では,ImageCLEF 2026 Deepfake Detection and Generation Taskにおけるチーム"Go To Germany"の参加について述べる。
画像生成タスクでは、識別保存顔合成にFLUX.1-devとPuLIDを用いる。
画像検出タスクでは、AI生成画像のSigLIP+DINOv2と顔操作のGenD-DINOv3の2つの補完検出器を組み合わせる。
論文 参考訳（メタデータ） (2026-07-28T15:19:16Z) - Can You Trust What You See? Human and AI Detection of Synthetic Legal Evidence [0.0]
この記事では、人間と大規模言語モデルが、AIが生成した写真と真正な写真とをいかに区別できるかを問う。
SLED-1400は,1200個の合成法則と組み合わせた200個の正当性証拠画像のデータセットである。
ヒトの精度は64.8%で、2つの最強発電機では48.5%と51.0%であった。
論文 参考訳（メタデータ） (2026-05-29T16:47:14Z) - Unveiling Perceptual Artifacts: A Fine-Grained Benchmark for Interpretable AI-Generated Image Detection [95.08316274158165]
X-AIGDは、低レベルの歪み、高レベルの意味論、認知レベルの反事実など、知覚的アーティファクトのピクセルレベルの分類されたアノテーションを提供する。
既存のAIGI検出器は、最も基本的な歪みレベルであっても、知覚的アーティファクトに依存しない。
モデル注意をアーティファクト領域と明確に整合させることは、検出器の解釈可能性と一般化を高めることができる。
論文 参考訳（メタデータ） (2026-01-27T10:09:17Z) - HistoART: Histopathology Artifact Detection and Reporting Tool [37.31105955164019]
ワイルスライドイメージング(WSI)は、組織標本の詳細な高分解能検査のために広く用いられている。
WSIは、スライドの準備とスキャンの間に導入されたアーティファクトに弱いままです。
本稿では,WSIに対する3つのロバストなアーティファクト検出手法を提案し,比較する。
論文 参考訳（メタデータ） (2025-06-23T17:22:19Z) - MaskTerial: A Foundation Model for Automated 2D Material Flake Detection [48.73213960205105]
MaskTerialと呼ばれる深層学習モデルを提案する。このモデルでは、インスタンスセグメンテーションネットワークを用いて、2D素材のフレークを確実に識別する。
このモデルは、ラベルのないデータからリアルな顕微鏡画像を生成する合成データ生成装置を用いて、広範囲に事前訓練されている。
六方晶窒化ホウ素などの低コントラスト材料の検出において,既存の技術よりも顕著な改善が認められた。
論文 参考訳（メタデータ） (2024-12-12T15:01:39Z) - Understanding and Improving Training-Free AI-Generated Image Detections with Vision Foundation Models [68.90917438865078]
顔合成と編集のためのディープフェイク技術は、生成モデルに重大なリスクをもたらす。
本稿では,モデルバックボーン,タイプ,データセット間で検出性能がどう変化するかを検討する。
本稿では、顔画像のパフォーマンスを向上させるContrastive Blurと、ノイズタイプのバイアスに対処し、ドメイン間のパフォーマンスのバランスをとるMINDERを紹介する。
論文 参考訳（メタデータ） (2024-11-28T13:04:45Z) - Parents and Children: Distinguishing Multimodal DeepFakes from Natural Images [60.34381768479834]
近年の拡散モデルの発展により、自然言語のテキストプロンプトから現実的なディープフェイクの生成が可能になった。
我々は、最先端拡散モデルにより生成されたディープフェイク検出に関する体系的研究を開拓した。
論文 参考訳（メタデータ） (2023-04-02T10:25:09Z) - M2TR: Multi-modal Multi-scale Transformers for Deepfake Detection [74.19291916812921]
Deepfake技術によって生成された鍛造画像は、デジタル情報の信頼性に深刻な脅威をもたらします。
本稿では,Deepfake検出のための微妙な操作アーチファクトを異なるスケールで捉えることを目的とする。
最先端の顔スワッピングと顔の再現方法によって生成された4000のDeepFakeビデオで構成される高品質のDeepFakeデータセットSR-DFを紹介します。
論文 参考訳（メタデータ） (2021-04-20T05:43:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。