論文の概要: Is Multi-Modal Necessarily Better? Robustness Evaluation of Multi-modal Fake News Detection

• arxiv url: http://arxiv.org/abs/2206.08788v1
• Date: Fri, 17 Jun 2022 13:59:52 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-20 15:13:06.204850
• Title: Is Multi-Modal Necessarily Better? Robustness Evaluation of Multi-modal Fake News Detection
• Title（参考訳）: マルチモーダルは必要か? マルチモーダル偽ニュース検出のロバスト性評価
• Authors: Jinyin Chen, Chengyu Jia, Haibin Zheng, Ruoxi Chen and Chenbo Fu
• Abstract要約: マルチモーダルフェイクニュース検出器の包括的評価を提案する。 悪意のあるユーザや開発者の攻撃方法,すなわち偽ニュースの投稿やバックドアの注入をシミュレートする。 実験結果から,(1)最先端検出器の検出性能は,一般検出器よりさらに悪い対向攻撃下において著しく低下する,(2)テキストモダリティよりも視覚的モダリティの攻撃を受けた場合,ほとんどのマルチモーダル検出器は脆弱である,(3)バックドア攻撃を受けた場合,一般的な事象の画像が検出装置に顕著に劣化する,(4)マルチモーダル攻撃を受けた場合,これらの検出器の性能は悪化する,といったことが示唆された。
• 参考スコア（独自算出の注目度）: 1.9109292348200242
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The proliferation of fake news and its serious negative social influence push fake news detection methods to become necessary tools for web managers. Meanwhile, the multi-media nature of social media makes multi-modal fake news detection popular for its ability to capture more modal features than uni-modal detection methods. However, current literature on multi-modal detection is more likely to pursue the detection accuracy but ignore the robustness of the detector. To address this problem, we propose a comprehensive robustness evaluation of multi-modal fake news detectors. In this work, we simulate the attack methods of malicious users and developers, i.e., posting fake news and injecting backdoors. Specifically, we evaluate multi-modal detectors with five adversarial and two backdoor attack methods. Experiment results imply that: (1) The detection performance of the state-of-the-art detectors degrades significantly under adversarial attacks, even worse than general detectors; (2) Most multi-modal detectors are more vulnerable when subjected to attacks on visual modality than textual modality; (3) Popular events' images will cause significant degradation to the detectors when they are subjected to backdoor attacks; (4) The performance of these detectors under multi-modal attacks is worse than under uni-modal attacks; (5) Defensive methods will improve the robustness of the multi-modal detectors.
• Abstract（参考訳）: フェイクニュースの拡散とその深刻なネガティブな社会的影響は、フェイクニュース検出手法をWeb管理者に必要なツールへと押し上げている。 一方、ソーシャルメディアのマルチメディア性は、マルチモーダルフェイクニュース検出を、ユニモーダル検出方法よりも多くのモーダル特徴をキャプチャする能力によって人気を高めている。 しかし、現在のマルチモーダル検出に関する文献は、検出精度を追求する傾向にあるが、検出器の堅牢性は無視される。 この問題に対処するために,マルチモーダルフェイクニュース検出器の包括的ロバスト性評価を提案する。 本研究では,悪意のあるユーザや開発者の攻撃方法,すなわち偽ニュースの投稿やバックドアの注入をシミュレートする。 具体的には,5つの対角法と2つのバックドアアタック法によるマルチモーダル検出器の評価を行った。 Experiment results imply that: (1) The detection performance of the state-of-the-art detectors degrades significantly under adversarial attacks, even worse than general detectors; (2) Most multi-modal detectors are more vulnerable when subjected to attacks on visual modality than textual modality; (3) Popular events' images will cause significant degradation to the detectors when they are subjected to backdoor attacks; (4) The performance of these detectors under multi-modal attacks is worse than under uni-modal attacks; (5) Defensive methods will improve the robustness of the multi-modal detectors.

関連論文リスト

• Adversarial Style Augmentation via Large Language Model for Robust Fake News Detection [18.998947450697337]
  本研究は, 偽ニュース検知器の訓練を行うために, 対向型拡張AdStyleを提案する。 我々のモデルの主要なメカニズムは、LLMを慎重に使用して、多種多様なスタイル変換攻撃プロンプトを自動生成することである。 実験により、我々の拡張戦略は、フェイクニュースベンチマークデータセットでテストした場合の堅牢性と検出性能を改善することが示された。
  論文  参考訳（メタデータ） (2024-06-17T07:00:41Z)
• Multi-modal Stance Detection: New Datasets and Model [56.97470987479277]
  テキストと画像からなるツイートに対するマルチモーダル姿勢検出について検討する。 我々は、シンプルで効果的なマルチモーダル・プロンプト・チューニング・フレームワーク(TMPT)を提案する。 TMPTはマルチモーダル姿勢検出における最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-02-22T05:24:19Z)
• Detecting and Grounding Multi-Modal Media Manipulation and Beyond [93.08116982163804]
  マルチモーダルフェイクメディア(DGM4)の新たな研究課題について述べる。 DGM4は、マルチモーダルメディアの真正性を検出するだけでなく、操作されたコンテンツも検出することを目的としている。 本稿では,異なるモーダル間のきめ細かい相互作用を完全に捉えるために,新しい階層型マルチモーダルマニピュレーションrEasoning tRansformer(HAMMER)を提案する。
  論文  参考訳（メタデータ） (2023-09-25T15:05:46Z)
• Similarity-Aware Multimodal Prompt Learning for Fake News Detection [0.12396474483677114]
  マルチモーダルフェイクニュース検出は、テキストのみの方法よりも優れています。 本稿では,Simisity-Aware Multimodal Prompt Learning (SAMPLE) フレームワークを提案する。 評価のために、SAMPLEはF1と以前の2つのベンチマークマルチモーダルデータセットの精度を上回っている。
  論文  参考訳（メタデータ） (2023-04-09T08:10:05Z)
• Detecting and Grounding Multi-Modal Media Manipulation [32.34908534582532]
  マルチモーダルフェイクメディア(DGM4)の新たな研究課題について述べる。 DGM4は、マルチモーダルメディアの真正性を検出するだけでなく、操作されたコンテンツも検出することを目的としている。 本稿では,異なるモーダル間のきめ細かい相互作用を完全に捉えるために,新しい階層型マルチモーダルマニピュレーションrEasoning tRansformer(HAMMER)を提案する。
  論文  参考訳（メタデータ） (2023-04-05T16:20:40Z)
• MGTBench: Benchmarking Machine-Generated Text Detection [54.81446366272403]
  本稿では,強力な大規模言語モデル(LLM)に対するMGT検出のための最初のベンチマークフレームワークを提案する。 一般に単語が多ければ多いほど性能が向上し,ほとんどの検出手法はトレーニングサンプルをはるかに少なくして同様の性能が得られることを示す。 本研究は, テキスト属性タスクにおいて, モデルに基づく検出手法が依然として有効であることを示す。
  論文  参考訳（メタデータ） (2023-03-26T21:12:36Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• A Multi-Policy Framework for Deep Learning-Based Fake News Detection [0.31498833540989407]
  フェイクニュース検出を自動化するフレームワークであるMPSC(Multi-Policy Statement Checker)を導入する。 MPSCは、深層学習技術を用いて、文自体とその関連するニュース記事を分析し、それが信頼できるか疑わしいかを予測する。
  論文  参考訳（メタデータ） (2022-06-01T21:25:21Z)
• Mate! Are You Really Aware? An Explainability-Guided Testing Framework for Robustness of Malware Detectors [49.34155921877441]
  マルウェア検出装置のロバスト性を示すための説明可能性誘導型およびモデルに依存しないテストフレームワークを提案する。 次に、このフレームワークを使用して、操作されたマルウェアを検出する最先端のマルウェア検知器の能力をテストする。 我々の発見は、現在のマルウェア検知器の限界と、その改善方法に光を当てた。
  論文  参考訳（メタデータ） (2021-11-19T08:02:38Z)
• Exploring Adversarial Robustness of Multi-Sensor Perception Systems in Self Driving [87.3492357041748]
  本稿では,敵物体をホスト車両の上に配置することで,マルチセンサ検出の実用的感受性を示す。 実験の結果, 攻撃が成功した原因は主に画像の特徴が損なわれやすいことが判明した。 よりロバストなマルチモーダル知覚システムに向けて,特徴分断を伴う敵対的訓練が,このような攻撃に対するロバスト性を大幅に高めることを示す。
  論文  参考訳（メタデータ） (2021-01-17T21:15:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。