論文の概要: How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?

• arxiv url: http://arxiv.org/abs/2107.07970v1
• Date: Fri, 16 Jul 2021 15:36:03 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-19 17:19:41.611854
• Title: How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?
• Title（参考訳）: 対人攻撃に対するフェイクニュースの自動検出法はどの程度脆弱か?
• Authors: Camille Koenders, Johannes Filla, Nicolai Schneider, Vinicius Woloszyn
• Abstract要約: 本稿では、フェイクニュースを検出するために訓練された最先端モデルを自動的に攻撃することができることを示す。 その結果,Fake Newsの検出メカニズムを自動で回避することが可能であり,既存の政策イニシアチブに影響を及ぼす可能性が示唆された。
• 参考スコア（独自算出の注目度）: 0.6882042556551611
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As the spread of false information on the internet has increased dramatically in recent years, more and more attention is being paid to automated fake news detection. Some fake news detection methods are already quite successful. Nevertheless, there are still many vulnerabilities in the detection algorithms. The reason for this is that fake news publishers can structure and formulate their texts in such a way that a detection algorithm does not expose this text as fake news. This paper shows that it is possible to automatically attack state-of-the-art models that have been trained to detect Fake News, making these vulnerable. For this purpose, corresponding models were first trained based on a dataset. Then, using Text-Attack, an attempt was made to manipulate the trained models in such a way that previously correctly identified fake news was classified as true news. The results show that it is possible to automatically bypass Fake News detection mechanisms, leading to implications concerning existing policy initiatives.
• Abstract（参考訳）: 近年、インターネット上での偽情報の拡散が激化しており、偽ニュースの自動検出にますます注目が集まっている。 偽ニュース検出手法はすでにかなり成功している。 それでも、検出アルゴリズムにはまだ多くの脆弱性がある。 その理由は、偽ニュース発行者が、検出アルゴリズムが偽ニュースとしてこのテキストを公開しないように、そのテキストを構造化して定式化できるからだ。 本稿では,偽ニュースを検知するために訓練された最先端モデルを自動的に攻撃することで,これらを脆弱なものにすることができることを示す。 この目的のために、対応するモデルをデータセットに基づいてトレーニングした。 そして、テキスト攻撃を用いて、トレーニングされたモデルを、以前に正しく識別された偽ニュースを真のニュースとして分類するように操作する試みが行われた。 その結果,Fake Newsの検出メカニズムを自動で回避することができ,既存の政策イニシアチブに影響を及ぼす可能性が示唆された。

関連論文リスト

• Adapting Fake News Detection to the Era of Large Language Models [48.5847914481222]
  我々は,機械による(言い換えられた)リアルニュース,機械生成のフェイクニュース,人書きのフェイクニュース,人書きのリアルニュースの相互作用について検討する。 我々の実験では、人書き記事のみに特化して訓練された検知器が、機械が生成したフェイクニュースを検出できる興味深いパターンを明らかにしましたが、その逆ではありません。
  論文  参考訳（メタデータ） (2023-11-02T08:39:45Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• Exploring Semantic Perturbations on Grover [6.515466136870902]
  ニューラルフェイクニュース(AI生成フェイクニュース)の台頭は、それを検出するモデルの開発を促している。 このようなモデルのひとつがGroverモデルで、ニューラルフェイクニュースを検出して防止し、モデルがどのように誤用されるかを示すために生成する。 本研究では,入力されたニュース記事の摂動を通じて標的攻撃を行うことにより,Groverモデルの偽ニュース検出機能について検討する。
  論文  参考訳（メタデータ） (2023-02-01T15:28:55Z)
• Multiverse: Multilingual Evidence for Fake News Detection [71.51905606492376]
  Multiverseは、偽ニュースの検出に使用できる多言語エビデンスに基づく新機能である。 偽ニュース検出機能としての言語間証拠の使用仮説を確認した。
  論文  参考訳（メタデータ） (2022-11-25T18:24:17Z)
• Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation [105.20743048379387]
  提案手法は,人間によるプロパガンダのスタイルや戦略から情報を得た学習例を生成するための新しいフレームワークである。 具体的には、生成した記事の有効性を確保するために、自然言語推論によって導かれる自己臨界シーケンストレーニングを行う。 実験の結果、PropaNewsでトレーニングされた偽ニュース検知器は、2つの公開データセットで3.62～7.69%のF1スコアで人書きの偽情報を検出するのに優れていることがわかった。
  論文  参考訳（メタデータ） (2022-03-10T14:24:19Z)
• Automated Fake News Detection using cross-checking with reliable sources [0.0]
  我々は、信頼できる情報源で新しい情報をクロスチェックするために、自然な人間の行動を利用する。 われわれはこれをTwitterに実装し、偽ツイートにフラグを付けるモデルを構築している。 このアプローチの実装により、他の一般的な偽ニュース分類モデルを上回る70%の精度が得られます。
  論文  参考訳（メタデータ） (2022-01-01T00:59:58Z)
• User Preference-aware Fake News Detection [61.86175081368782]
  既存の偽ニュース検出アルゴリズムは、詐欺信号のニュースコンテンツをマイニングすることに焦点を当てている。 本稿では,共同コンテンツとグラフモデリングにより,ユーザの好みから様々な信号を同時にキャプチャする新しいフレームワークUPFDを提案する。
  論文  参考訳（メタデータ） (2021-04-25T21:19:24Z)
• How does Truth Evolve into Fake News? An Empirical Study of Fake News Evolution [55.27685924751459]
  偽ニュース進化過程を追跡する新しいデータセットであるフェイクニュース進化データセットを提示する。 私たちのデータセットは950のペアデータで構成され、それぞれが真実、偽ニュース、進化した偽ニュースを表す記事で構成されています。 進化中の特徴を観察し,誤情報技術,テキスト類似性,キーワードトップ10,分類精度,発話部分,感情特性について検討した。
  論文  参考訳（メタデータ） (2021-03-10T09:01:34Z)
• Connecting the Dots Between Fact Verification and Fake News Detection [21.564628184287173]
  本稿では,事実検証と偽ニュース検出の点を結合する,シンプルで効果的な手法を提案する。 提案手法は,最近の事実検証モデルの成功を活用し,ゼロショットフェイクニュースの検出を可能にする。
  論文  参考訳（メタデータ） (2020-10-11T09:28:52Z)
• MALCOM: Generating Malicious Comments to Attack Neural Fake News Detection Models [40.51057705796747]
  MALCOMは、このような攻撃を行うためのエンドツーエンドのコメント生成フレームワークである。 我々は、平均的なMALCOMでの時間の約94%と93.5%が、最新のニューラル検出モデルの5つを誤解させることに成功したことを実証した。 また、我々の攻撃モデルと実際の2つのデータセットの4つのベースラインを比較します。
  論文  参考訳（メタデータ） (2020-09-01T01:26:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。