論文の概要: FraudBench: A Multimodal Benchmark for Detecting AI-Generated Fraudulent Refund Evidence
- arxiv url: http://arxiv.org/abs/2605.08820v1
- Date: Sat, 09 May 2026 09:11:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.910006
- Title: FraudBench: A Multimodal Benchmark for Detecting AI-Generated Fraudulent Refund Evidence
- Title（参考訳）: FraudBench: AI生成した不正返金証拠を検出するためのマルチモーダルベンチマーク
- Abstract要約: FraudBenchは、AIが生成した不正な返金証拠を検出するためのマルチモーダルベンチマークである。
実際のユーザレビューのエビデンスから構築され、eコマース、フードデリバリー、旅行サービスのシナリオにまたがる。
我々は、MLLM、AI生成画像検出器、および人間の被験者を、同じ設定で評価する。
- 参考スコア（独自算出の注目度）: 36.982811727399984
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Artificial Intelligence (AI)-generated images have become increasingly realistic and readily adaptable to concrete real-world claims, creating new challenges for verifying visual evidence. A concrete emerging risk is AI-generated refund fraud, in which manipulated or synthetic images are used to support claims about damaged products, poor delivery conditions, or service-related defects. Existing AI-generated image detection benchmarks mainly evaluate standalone authenticity classification, cross-generator transfer, or forensic localization, leaving claim-conditioned fraudulent evidence detection underexplored. To bridge this gap, we introduce FraudBench, a multimodal benchmark for detecting AI-generated fraudulent refund evidence. FraudBench is constructed from real-world user-review evidence across e-commerce, food delivery, and travel-service scenarios. We curate real evidence images together with their associated review and product metadata, identify genuine damaged and undamaged evidence through MLLM-assisted filtering and human annotation, and synthesize fake-damaged evidence from genuine undamaged reference images using six state-of-the-art image editing and generation models. Using FraudBench, we evaluate MLLMs, specialized AI-generated image detectors, and human participants under the same settings. Experiments show that current MLLMs often recognize real-damaged evidence but fail on many fake-damaged subsets, with fake-damage detection rates (TPR) far below the 50% baseline on most generator subsets. Specialized detectors generally perform better but remain inconsistent across generators and can produce false positives on real-damaged samples, revealing a clear gap between generic AI image detection and reliable claim-conditioned refund-evidence verification.
- Abstract（参考訳）: 人工知能(AI)が生成する画像は、ますます現実的になり、具体的な現実世界のクレームに容易に適応し、視覚的証拠を検証するための新たな課題を生み出している。
具体的なリスクは、AIが生成した返金詐欺(refund fraud)であり、壊れた製品、悪い配送条件、サービス関連の欠陥に関する主張をサポートするために、操作された画像や合成画像が使用される。
既存のAI生成画像検出ベンチマークは、主にスタンドアロンの認証分類、クロスジェネレータ転送、法定ローカライゼーションを評価し、クレーム条件の不正な証拠検出を未調査のまま残している。
このギャップを埋めるために、AI生成不正返金証拠を検出するマルチモーダルベンチマークであるFraudBenchを紹介する。
FraudBenchは、eコマース、フードデリバリー、旅行サービスシナリオにわたる実際のユーザレビューエビデンスから構築されている。
実際の証拠画像と関連するレビューと製品メタデータを照合し、MLLMによるフィルタリングと人為的アノテーションを用いて真に損傷された未損傷の証拠を識別し、6つの最先端の画像編集および生成モデルを用いて、真に損傷のない参照画像から偽の証拠を合成する。
また、FraudBenchを用いて、MLLM、AI生成画像検出器、および人間の被験者を同じ設定で評価する。
実験の結果、現在のMLLMは実際に損傷を受けた証拠を認識することが多いが、多くの偽損傷のサブセットでは失敗し、ほとんどのジェネレータサブセットでは50%のベースラインよりはるかに低い偽損傷検出レート(TPR)であることがわかった。
特殊な検出器は一般的には性能が向上するが、ジェネレータ間で一貫性が保たれており、実際の損傷サンプルに対して偽陽性を発生させることが可能であり、汎用AI画像検出と信頼性の高いクレーム条件の返金証拠検証の間に明確なギャップが明らかである。
関連論文リスト
- Training-Free Reconstruction-Based AI-Generated Image Detectors Are Inherently Vulnerable to Adversarial Examples [12.763640037752666]
本稿では,オートエンコーダの再構成誤差を利用した2つの新しい攻撃手法を提案する。
認識不能な対数例を構築することで,オリジナルと再構成の距離を人工的に増大させることができることがわかった。
本評価は,攻撃画像が実世界の劣化を加味しても検出性能は著しく低下していることを示す。
論文 参考訳（メタデータ） (2026-08-17T14:45:53Z) - Defake-o3: From Speculative Rationales to Verifiable Evidence for Explainable AIGI Detection [8.599317072232198]
本稿では,AIGI検出器であるDedeake-o3について述べる。
インタラクティブなビジュアル検索と検証対象の証拠のアライメントを組み合わせる。
Defake-o3は検出精度と説明品質の両方を改善する。
論文 参考訳（メタデータ） (2026-08-17T08:30:32Z) - Text Over Image: Auditing Multimodal Robustness in Synthetic Medical Image Detection [38.146353416394234]
我々は、画像記録インタフェースにおけるマルチモーダルロバスト性の監査として、合成医用画像検出を再構成する。
メタデータのコンテキストだけを変えることで、信頼性の判断を覆すことがわかりました。
そこで本研究では,モデルの再学習を伴わずに,予測時間短縮パイプラインを用いて前兆ショートカットの検出と中和を行う。
論文 参考訳（メタデータ） (2026-06-24T04:08:41Z) - GenShield: Unified Detection and Artifact Correction for AI-Generated Images [65.11434977803509]
GenShieldは、診断から修復までのクローズドループでAIGI検出とアーティファクト修正を実行するフレームワークである。
大規模なアーティファクト-restored'ペアを備えた高品質データセットは、統一された評価パイプラインと共に構築される。
論文 参考訳（メタデータ） (2026-05-15T16:06:20Z) - Beyond Artifacts: Real-Centric Envelope Modeling for Reliable AI-Generated Image Detection [29.26836532055224]
既存の検出器は、しばしば発電機固有のアーティファクトに過度に適合し、現実世界の劣化に敏感である。
実画像のロバストな分布をモデル化する手法として,Real-centric Envelope Modeling (REM)を提案する。
REMは最先端の手法よりも平均7.5%向上し、特に高度に劣化したRealChainベンチマークにおける例外的な一般化を維持している。
論文 参考訳（メタデータ） (2025-12-24T04:41:04Z) - Self-Supervised AI-Generated Image Detection: A Camera Metadata Perspective [80.10217707456046]
カメラメタデータを利用したAI生成画像検出のための自己教師型アプローチを提案する。
分類型EXIFタグを分類することにより,撮影画像のみに特徴抽出器を訓練する。
我々の検出器は、電界中のサンプルに対して強力な一般化と、一般的な良性イメージの摂動に対する堅牢性を提供する。
論文 参考訳（メタデータ） (2025-12-05T11:53:18Z) - From Evidence to Verdict: An Agent-Based Forensic Framework for AI-Generated Image Detection [19.240335260177382]
AIFo(Agent-based Image Forensics)は、マルチエージェントコラボレーションによる人間の法医学的調査をエミュレートする、トレーニング不要のフレームワークである。
従来の手法とは異なり,本フレームワークでは,リバース画像検索,メタデータ抽出,事前学習型分類器,VLM解析など,一連の法医学的ツールを用いている。
我々の総合的な評価は6000のイメージに及び、現代の生成プラットフォームや多様なオンラインソースの画像を含む現実世界のシナリオに挑戦する。
論文 参考訳（メタデータ） (2025-10-31T18:36:49Z) - Revisiting Reconstruction-based AI-generated Image Detection: A Geometric Perspective [50.83711509908479]
幾何学的観点からの再構成誤差に対するヤコビアンスペクトル下界の導入について述べる。
再構成多様体上の実画像は非自明な誤差下界を示し、多様体上の生成された画像はゼロに近い誤差を持つことを示す。
本稿では,構造化編集操作を活用することで動的再構成誤差を計算できるReGapを提案する。
論文 参考訳（メタデータ） (2025-10-29T03:45:03Z) - Semantic-Aware Reconstruction Error for Detecting AI-Generated Images [22.83053631078616]
本稿では,画像とキャプション誘導再構成のセマンティック・アウェア・リコンストラクション・エラー(SARE)を計測する新しい表現を提案する。
SAREは、さまざまな生成モデル間で偽画像を検出するための堅牢で差別的な機能を提供する。
また,SAREを背骨検出器に統合する融合モジュールを,クロスアテンション機構を介して導入する。
論文 参考訳（メタデータ） (2025-08-13T04:37:36Z) - RAID: A Dataset for Testing the Adversarial Robustness of AI-Generated Image Detectors [57.81012948133832]
本稿では,72kの多種多様かつ高い変換可能な対向例からなるRAID(Robust Evaluation of AI- generated Image Detectors)を提案する。
提案手法は,未知の検出器に高い成功率で転送する逆画像を生成する。
以上の結果から,現在最先端のAI生成画像検出器は,敵の例によって容易に認識できることが示唆された。
論文 参考訳（メタデータ） (2025-06-04T14:16:00Z) - Explainable Synthetic Image Detection through Diffusion Timestep Ensembling [30.298198387824275]
本稿では,複数の雑音の時間ステップでアンサンブルを訓練することにより,中間雑音画像の特徴を直接活用する合成画像検出手法を提案する。
人間の理解を深めるために,メートル法に基づく説明文生成と改良モジュールを導入する。
本手法は, 正解率98.91%, 正解率95.89%, 正解率95.89%, 正解率98.91%, 正解率95.89%である。
論文 参考訳（メタデータ） (2025-03-08T13:04:20Z) - FakeBench: Probing Explainable Fake Image Detection via Large Multimodal Models [62.66610648697744]
我々は人間の知覚に関する生成的視覚的偽造の分類を導入し、人間の自然言語における偽造記述を収集する。
FakeBenchは、検出、推論、解釈、きめ細かい偽造分析の4つの評価基準でLMMを調べている。
本研究は,偽画像検出領域における透明性へのパラダイムシフトを示す。
論文 参考訳（メタデータ） (2024-04-20T07:28:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。