論文の概要: AI-Generated Images: What Humans and Machines See When They Look at the Same Image
- arxiv url: http://arxiv.org/abs/2605.06143v1
- Date: Thu, 07 May 2026 12:40:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.781004
- Title: AI-Generated Images: What Humans and Machines See When They Look at the Same Image
- Title（参考訳）: AI生成画像:人間と機械が同じ画像を見るときに見るもの
- Authors: Silvia Poletti, Justin Ilyes, Marcel Hasenbalg, David Fischinger, Martin Boyer,
- Abstract要約: オンライン偽情報キャンペーンにおける生成AIの誤用は、透明で説明可能な検出システムの必要性を強調している。
我々は様々なアーキテクチャと微調整戦略を備えた検出器群を開発した。
我々は最先端のテキスト・ツー・イメージAIジェネレータの性能を評価する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The misuse of generative AI in online disinformation campaigns highlights the urgent need for transparent and explainable detection systems. In this work, we investigate how detectors for AI-generated images can be more effective in providing human-understandable explanations for their predictions. To this end, we develop a suite of detectors with various architectures and fine-tuning strategies, trained on our large-scale photorealistic fake image dataset, AIText2Image, and assess their performance on state-of-the-art text-to-image AI generators. We integrate 16 different explainable AI (XAI) methods into our detection framework, and the visual explanations are comprehensively refined and evaluated through a novel approach that prioritizes human understanding of AI-generated images, using both textual and visual responses collected from a survey of 100 participants. This framework offers insights into visual-language cues in fake image detection and into the clarity of XAI methods from a human perspective, measuring the alignment of XAI outputs with human preferences.
- Abstract（参考訳）: オンラインの偽情報キャンペーンにおける生成AIの誤用は、透明で説明可能な検出システムに対する緊急の必要性を浮き彫りにしている。
本研究では,AI生成画像の検出器が,その予測に対して人間に理解可能な説明を提供する上で,どのように有効かを検討する。
この目的のために、我々は、さまざまなアーキテクチャと微調整戦略を備えた検出器群を開発し、大規模なフォトリアリスティックなフェイクイメージデータセットであるAIText2Imageに基づいてトレーニングし、最先端のテキスト・ツー・イメージAIジェネレータ上でのパフォーマンスを評価する。
我々は16の異なる説明可能なAI(XAI)手法を検出フレームワークに統合し、100人の参加者から収集したテキストと視覚の両方を用いて、AI生成画像の人間の理解を優先する新しいアプローチにより、視覚的説明を包括的に洗練し、評価する。
このフレームワークは、偽画像検出における視覚言語的手がかりと、人間の視点によるXAI手法の明快さへの洞察を提供し、XAI出力と人間の嗜好との整合性を測定する。
関連論文リスト
- Human-like Content Analysis for Generative AI with Language-Grounded Sparse Encoders [46.13876748421428]
Language-Grounded Sparses (LanSE)は、画像を自然言語記述で解釈可能な視覚パターンに分解する。
93%の人的合意で5000以上の視覚パターンが検出された。
言語基底パターンを抽出する手法は自然に多くの分野に適用できる。
論文 参考訳（メタデータ） (2025-08-20T06:50:15Z) - AIGI-Holmes: Towards Explainable and Generalizable AI-Generated Image Detection via Multimodal Large Language Models [78.08374249341514]
AI生成コンテンツ(AIGC)の急速な発展は、誤情報を拡散するAIGIの誤用につながった。
大規模で包括的なデータセットであるHolmes-Setを導入し、画像がAI生成されているかどうかを解説したインストラクションチューニングデータセットを含む。
本研究は,MLLMの構造化説明と品質管理によるデータ生成を効率化する,Multi-Expert Juryと呼ばれる効率的なデータアノテーション手法を提案する。
さらに,視覚専門家による事前学習,教師付き微調整,直接選好最適化を含む3段階学習フレームワークであるHolmes Pipelineを提案する。
論文 参考訳（メタデータ） (2025-07-03T14:26:31Z) - Quality Assessment and Distortion-aware Saliency Prediction for AI-Generated Omnidirectional Images [70.49595920462579]
本研究は,AIGODIの品質評価と歪みを考慮したサリエンシ予測問題について検討する。
BLIP-2モデルに基づく共有エンコーダを用いた2つのモデルを提案する。
論文 参考訳（メタデータ） (2025-06-27T05:36:04Z) - DejAIvu: Identifying and Explaining AI Art on the Web in Real-Time with Saliency Maps [0.0]
DejAIvuは、リアルタイムAI生成画像検出と唾液度に基づく説明性を組み合わせたChrome Webエクステンションである。
当社のアプローチでは、効率的なブラウザ内推論、勾配に基づく唾液度分析、シームレスなユーザエクスペリエンスを統合し、AI検出が透過的かつ解釈可能であることを保証しています。
論文 参考訳（メタデータ） (2025-02-12T22:24:49Z) - D-Judge: How Far Are We? Assessing the Discrepancies Between AI-synthesized and Natural Images through Multimodal Guidance [19.760989919485894]
5000の自然画像と440,000以上のAIGIサンプルからなる大規模マルチモーダルデータセットD-ANIを構築した。
次に、AI生成画像(AIGI)が真に現実的なイメージからどこまで遠いのかという、重要な問題に対処するために、AI-Natural Image Discrepancy評価ベンチマーク(D-Judge)を導入します。
論文 参考訳（メタデータ） (2024-12-23T15:08:08Z) - AI-generated Image Quality Assessment in Visual Communication [72.11144790293086]
AIGI-VCは、視覚コミュニケーションにおけるAI生成画像の品質評価データベースである。
データセットは、14の広告トピックと8つの感情タイプにまたがる2500のイメージで構成されている。
粗い人間の嗜好アノテーションときめ細かい嗜好記述を提供し、選好予測、解釈、推論におけるIQAメソッドの能力をベンチマークする。
論文 参考訳（メタデータ） (2024-12-20T08:47:07Z) - Human vs. AI: A Novel Benchmark and a Comparative Study on the Detection of Generated Images and the Impact of Prompts [5.222694057785324]
本研究は,偽画像の検出性に対するプロンプトの細部レベルの影響について検討する。
私たちはCOCOデータセットの実際の写真とSDXLとFooocusで生成された画像からなる新しいデータセットCOCOXGENを作成します。
200人の被験者を対象に行ったユーザスタディでは,より長く,より詳細なプロンプトで生成された画像は,短いプロンプトで生成された画像よりもはるかに容易に検出できることが示されている。
論文 参考訳（メタデータ） (2024-12-12T20:37:52Z) - A Sanity Check for AI-generated Image Detection [49.08585395873425]
我々はAI生成画像を検出するAI生成画像検出装置(AI生成画像検出装置)を提案する。
AIDEは最先端の手法を+3.5%、+4.6%改善した。
論文 参考訳（メタデータ） (2024-06-27T17:59:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。