論文の概要: The Synthetic Media Shift: Tracking the Rise, Virality, and Detectability of AI-Generated Multimodal Misinformation

• arxiv url: http://arxiv.org/abs/2604.15372v1
• Date: Wed, 15 Apr 2026 14:12:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-20 22:00:19.562536
• Title: The Synthetic Media Shift: Tracking the Rise, Virality, and Detectability of AI-Generated Multimodal Misinformation
• Title（参考訳）: シンセティックメディアシフト:AI生成型マルチモーダル誤情報の増加, 正当性, 検出可能性を追跡する
• Authors: Zacharias Chrysidis, Stefanos-Iordanis Papadopoulos, Symeon Papadopoulos,
• Abstract要約: 我々は、バイラル性、エンゲージメント、コンセンサスダイナミクスの観点から、マルチモーダルな誤情報がどのように進化するかを分析する。 以上の結果から,AI生成コンテンツは不均質なバイラル性を実現する一方で,その拡散は主にアクティブな談話ではなく受動的エンゲージメントによって引き起こされることが明らかとなった。
• 参考スコア（独自算出の注目度）: 9.996009575766667
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: As generative AI advances, the distinction between authentic and synthetic media is increasingly blurred, challenging the integrity of online information. In this study, we present CONVEX, a large-scale dataset of multimodal misinformation involving miscaptioned, edited, and AI-generated visual content, comprising over 150K multimodal posts with associated notes and engagement metrics from X's Community Notes. We analyze how multimodal misinformation evolves in terms of virality, engagement, and consensus dynamics, with a focus on synthetic media. Our results show that while AI-generated content achieves disproportionate virality, its spread is driven primarily by passive engagement rather than active discourse. Despite slower initial reporting, AI-generated content reaches community consensus more quickly once flagged. Moreover, our evaluation of specialized detectors and vision-language models reveals a consistent decline in performance over time in distinguishing synthetic from authentic images as generative models evolve. These findings highlight the need for continuous monitoring and adaptive strategies in the rapidly evolving digital information environment.
• Abstract（参考訳）: 生成AIが進歩するにつれて、真のメディアと合成メディアの区別はますます曖昧になってきており、オンライン情報の完全性に挑戦している。 本研究では,誤字,編集,AI生成による視覚コンテンツを含む,大規模なマルチモーダル誤情報データセットであるCONVEXについて述べる。 我々は、人工メディアに焦点をあてて、バイラル性、エンゲージメント、コンセンサスダイナミクスの観点から、マルチモーダルな誤情報がどのように進化するかを分析する。 以上の結果から,AI生成コンテンツは不均質なバイラル性を実現する一方で,その拡散は主にアクティブな談話ではなく受動的エンゲージメントによって引き起こされることが明らかとなった。 当初の報告が遅いにもかかわらず、AI生成コンテンツは一度フラグ付けされた時点で、コミュニティのコンセンサスにさらに早く到達している。 さらに, 特殊検出器と視覚言語モデルの評価により, 生成モデルの発展に伴い, 合成画像と合成画像の区別において, 時間とともに性能が一貫した低下がみられた。 これらの知見は、急速に発展するデジタル情報環境における継続的監視と適応戦略の必要性を浮き彫りにしている。

関連論文リスト

• ID-Composer: Multi-Subject Video Synthesis with Hierarchical Identity Preservation [48.59900036213667]
  大規模なデータセットで事前訓練されたビデオ生成モデルは高品質なビデオを生成することができるが、テキストや単一の画像に条件付けされることも多い。 本稿では,テキストプロンプトと参照画像から多目的映像を生成する新しいフレームワークであるID-Composerを紹介する。
  論文  参考訳（メタデータ） (2025-11-01T11:29:14Z)
• Towards Unified Multimodal Misinformation Detection in Social Media: A Benchmark Dataset and Baseline [56.790045049514326]
  詐欺の2つの主要な形態は、人造誤報とAI生成コンテンツである。 両形態の偽造を扱うためのフレームワークであるUMFDet(Unified Multimodal Fake Content Detection)を提案する。 UMFDetは、両方の誤情報型に対して堅牢で一貫したパフォーマンスを実現し、特殊ベースラインを上回っている。
  論文  参考訳（メタデータ） (2025-09-30T09:26:32Z)
• Information Retrieval in the Age of Generative AI: The RGB Model [77.96475639967431]
  本稿では,生成型AIツールの利用の増加に伴って生じる複雑な情報ダイナミクスについて,新たな定量的アプローチを提案する。 本稿では,新たなトピックに応答して情報の生成,索引付け,普及を特徴付けるモデルを提案する。 以上の結果から,AI導入の急激なペースとユーザ依存度の増加は,不正確な情報拡散のリスクを増大させる可能性が示唆された。
  論文  参考訳（メタデータ） (2025-04-29T10:21:40Z)
• Detecting Misinformation in Multimedia Content through Cross-Modal Entity Consistency: A Dual Learning Approach [10.376378437321437]
  クロスモーダルなエンティティの整合性を利用して、ビデオコンテンツから誤情報を検出するためのマルチメディア誤情報検出フレームワークを提案する。 以上の結果から,MultiMDは最先端のベースラインモデルより優れていることが示された。
  論文  参考訳（メタデータ） (2024-08-16T16:14:36Z)
• Neuro-Inspired Information-Theoretic Hierarchical Perception for Multimodal Learning [16.8379583872582]
  我々は,情報ボトルネックの概念を利用する情報理論階層知覚(ITHP)モデルを開発した。 我々は、ITHPがマルチモーダル学習シナリオにおいて重要な情報を一貫して蒸留し、最先端のベンチマークより優れていることを示す。
  論文  参考訳（メタデータ） (2024-04-15T01:34:44Z)
• Recent Advances in Hate Speech Moderation: Multimodality and the Role of Large Models [52.24001776263608]
  この包括的調査は、HSモデレーションの最近の歩みを掘り下げている。 大型言語モデル(LLM)と大規模マルチモーダルモデル(LMM)の急成長する役割を強調した。 研究における既存のギャップを、特に表現不足言語や文化の文脈で特定する。
  論文  参考訳（メタデータ） (2024-01-30T03:51:44Z)
• Synthetic Misinformers: Generating and Combating Multimodal Misinformation [11.696058634552147]
  マルチモーダル誤情報検出(MMD)は、画像と付随するテキストの組み合わせが誤読や誤字を検知する。 提案したCLIPベースの名前付きエンティティスワッピングは,マルチモーダル精度で他のOOCやNEIミスコンバータを上回り,MDDモデルに繋がることを示す。
  論文  参考訳（メタデータ） (2023-03-02T12:59:01Z)
• DIME: Fine-grained Interpretations of Multimodal Models via Disentangled Local Explanations [119.1953397679783]
  我々は,マルチモーダルモデルの解釈における最先端化に注力する。 提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
  論文  参考訳（メタデータ） (2022-03-03T20:52:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。