論文の概要: Can Multimodal Large Language Models Generate and Detect Multimodal Social Media Fake News?

• arxiv url: http://arxiv.org/abs/2609.35809v1
• Date: Sun, 20 Sep 2026 07:05:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.845974
• Title: Can Multimodal Large Language Models Generate and Detect Multimodal Social Media Fake News?
• Title（参考訳）: マルチモーダルソーシャルメディアフェイクニュースの生成と検出は可能か?
• Abstract要約: 本稿では、ストーリーエージェント、イメージエージェント、批評家エージェントが協力して偽のソーシャルメディア投稿を制作するマルチエージェントフレームワークを提案する。 我々はこのフレームワークを適用し、科学、健康、エンターテイメントの領域にまたがって9000以上のペアのマルチモーダルなニュース記事を生成する。 多くのモデルは人間レベルの精度にかなり劣っており、画像の真正性を特定する上で重大な失敗を犯している。
• 参考スコア（独自算出の注目度）: 9.639382578098784
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The rapid advancement of generative AI raises concerns about the misuse of Multimodal LLMs (MLLMs) for large-scale disinformation campaigns on social media. Despite existing research on textual disinformation, a fundamental question remains unanswered: can MLLMs be exploited to fabricate realistic multimodal fake news, and can they reliably detect it? We introduce a multi-agent framework in which a story agent, an image agent, and a critic agent collaborate to produce fake social media posts that plausibly counter true news. We apply the framework to generate over 9,000 paired multimodal news posts across science, health, and entertainment domains, and benchmark 16 open- and closed-source MLLMs for automated detection. We find that most models fall substantially short of human-level accuracy and fail critically on identifying image authenticity. Our research provides a foundation for developing robust defenses against social media fake news. Code and data are available at https: //github.com/xiuzhenzhang/Multimodal.
• Abstract（参考訳）: 生成AIの急速な進歩は、ソーシャルメディア上での大規模な偽情報キャンペーンにおいて、MLLM(Multimodal LLM)の誤用に関する懸念を提起する。 MLLMは、現実的なマルチモーダルフェイクニュースを作るために利用できますか? 本稿では、ストーリーエージェント、イメージエージェント、批評家エージェントが協力して偽のソーシャルメディア投稿を制作するマルチエージェントフレームワークを紹介する。 我々はこのフレームワークを適用し、科学、健康、エンターテイメント領域にまたがる9000以上のペアのマルチモーダルニュース記事を生成し、自動検出のために16のオープンソースおよびクローズドソースMLLMをベンチマークする。 多くのモデルは人間レベルの精度にかなり劣っており、画像の真正性を特定する上で重大な失敗を犯している。 我々の研究は、ソーシャルメディアの偽ニュースに対する堅牢な防御を開発する基盤を提供する。 コードとデータはhttps: //github.com/xiuzhenzhang/Multimodalで公開されている。

関連論文リスト

• SoMe: A Realistic Benchmark for LLM-based Social Media Agents [64.05026384906915]
  SoMeは、ソーシャルメディアデータにアクセスし分析するための様々なエージェントツールを備えたソーシャルメディアエージェントを評価するために設計されたベンチマークである。 SoMeは8つのソーシャルメディアエージェントタスク、9,164,284の投稿、6,591のユーザープロフィール、さまざまなソーシャルメディアプラットフォームや外部ウェブサイトからの25,686のレポートで構成されている。 定量的,質的な分析により,現実的なソーシャルメディア環境における主流エージェントLLMの性能について概観する。
  論文  参考訳（メタデータ） (2025-12-09T08:36:09Z)
• Have LLMs Reopened the Pandora's Box of AI-Generated Fake News? [30.759761034237563]
  大規模言語モデル(LLM)は、大規模な偽ニュースを生成する。 本稿では,人間によるフェイクニュース作成や,人間のアノテータやAIモデルによる検出能力の評価にLLMを用いることについて検討する。
  論文  参考訳（メタデータ） (2024-10-25T01:58:29Z)
• From Deception to Detection: The Dual Roles of Large Language Models in Fake News [0.20482269513546458]
  フェイクニュースは、情報エコシステムと公衆信頼の整合性に重大な脅威をもたらす。 LLM(Large Language Models)の出現は、フェイクニュースとの戦いを変革する大きな可能性を秘めている。 本稿では,偽ニュースに効果的に対処する各種LLMの能力について検討する。
  論文  参考訳（メタデータ） (2024-09-25T22:57:29Z)
• A Semi-supervised Fake News Detection using Sentiment Encoding and LSTM with Self-Attention [0.0]
  本研究では,感情分析を最先端の事前学習モデルによって獲得する半教師付き自己学習手法を提案する。 学習モデルは半教師付き方式で訓練され、LSTMに自己注意層を組み込む。 我々は,2万件のニュースコンテンツをデータセットにベンチマークし,そのフィードバックとともに,フェイクニュース検出における競合手法と比較して精度,リコール,測定性能が向上したことを示す。
  論文  参考訳（メタデータ） (2024-07-27T20:00:10Z)
• Adapting Fake News Detection to the Era of Large Language Models [48.5847914481222]
  我々は,機械による(言い換えられた)リアルニュース,機械生成のフェイクニュース,人書きのフェイクニュース,人書きのリアルニュースの相互作用について検討する。 我々の実験では、人書き記事のみに特化して訓練された検知器が、機械が生成したフェイクニュースを検出できる興味深いパターンを明らかにしましたが、その逆ではありません。
  論文  参考訳（メタデータ） (2023-11-02T08:39:45Z)
• Fake News Detectors are Biased against Texts Generated by Large Language Models [39.36284616311687]
  フェイクニュースの拡散は、信頼を弱め、社会への脅威を訴える重要な課題として浮上している。 本稿では,人間の書き起こしとLLM生成の両方の誤情報を含むシナリオにおいて,偽ニュース検知器を評価するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-09-15T18:04:40Z)
• A Survey on Multimodal Large Language Models [71.63375558033364]
  GPT-4Vで表されるマルチモーダル大言語モデル(MLLM)は、新たな研究ホットスポットとなっている。 本稿では,MLLMの最近の進歩を追跡・要約することを目的とする。
  論文  参考訳（メタデータ） (2023-06-23T15:21:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。