論文の概要: Adapting Fake News Detection to the Era of Large Language Models

• arxiv url: http://arxiv.org/abs/2311.04917v2
• Date: Sat, 13 Apr 2024 13:52:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-16 23:27:27.448822
• Title: Adapting Fake News Detection to the Era of Large Language Models
• Title（参考訳）: 偽ニュース検出を大規模言語モデルに適応させる
• Authors: Jinyan Su, Claire Cardie, Preslav Nakov,
• Abstract要約: 我々は,機械による(言い換えられた)リアルニュース,機械生成のフェイクニュース,人書きのフェイクニュース,人書きのリアルニュースの相互作用について検討する。 我々の実験では、人書き記事のみに特化して訓練された検知器が、機械が生成したフェイクニュースを検出できる興味深いパターンを明らかにしましたが、その逆ではありません。
• 参考スコア（独自算出の注目度）: 48.5847914481222
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the age of large language models (LLMs) and the widespread adoption of AI-driven content creation, the landscape of information dissemination has witnessed a paradigm shift. With the proliferation of both human-written and machine-generated real and fake news, robustly and effectively discerning the veracity of news articles has become an intricate challenge. While substantial research has been dedicated to fake news detection, this either assumes that all news articles are human-written or abruptly assumes that all machine-generated news are fake. Thus, a significant gap exists in understanding the interplay between machine-(paraphrased) real news, machine-generated fake news, human-written fake news, and human-written real news. In this paper, we study this gap by conducting a comprehensive evaluation of fake news detectors trained in various scenarios. Our primary objectives revolve around the following pivotal question: How to adapt fake news detectors to the era of LLMs? Our experiments reveal an interesting pattern that detectors trained exclusively on human-written articles can indeed perform well at detecting machine-generated fake news, but not vice versa. Moreover, due to the bias of detectors against machine-generated texts \cite{su2023fake}, they should be trained on datasets with a lower machine-generated news ratio than the test set. Building on our findings, we provide a practical strategy for the development of robust fake news detectors.
• Abstract（参考訳）: 大規模言語モデル(LLM)の時代とAIによるコンテンツ制作の普及により、情報の普及の展望はパラダイムシフトを目の当たりにした。 人間による記事と機械によるニュースと偽ニュースの両方の拡散により、ニュース記事の正確さを堅牢かつ効果的に識別することは、複雑な課題となっている。 重大な研究は偽ニュースの検出に向けられているが、これは全てのニュース記事が人間によって書かれたものであると仮定するか、突然、すべての機械生成ニュースが偽ニュースであると仮定する。 したがって、機械による(言い換えられた)リアルニュース、機械生成のフェイクニュース、人書きのフェイクニュース、人間書きのリアルニュースとの相互作用を理解する上で、大きなギャップが存在する。 本稿では,様々なシナリオで訓練された偽ニュース検知器を包括的に評価することにより,このギャップについて検討する。 LLMの時代に偽ニュース検出器をどう適応させるか? 我々の実験では、人書き記事のみに特化して訓練された検知器が、機械が生成したフェイクニュースを検出できる興味深いパターンを明らかにしましたが、その逆ではありません。 さらに、機械生成テキストに対する検出器のバイアスが原因で、テストセットよりも機械生成ニュース比が低いデータセットでトレーニングすべきである。 本研究は,本研究の成果に基づいて,堅牢な偽ニュース検知装置の開発のための実践的戦略を提供する。

関連論文リスト

• Detection of Human and Machine-Authored Fake News in Urdu [2.013675429941823]
  ソーシャルメディアは偽ニュースの拡散を増幅した。 従来の偽ニュース検出手法は、言語的手がかりに依存しているため、効果が低くなる。 精度とロバスト性を改善するため,階層的検出手法を提案する。
  論文  参考訳（メタデータ） (2024-10-25T12:42:07Z)
• A Revisit of Fake News Dataset with Augmented Fact-checking by ChatGPT [8.363702038073814]
  既存の偽ニュース検出データセットは、人間のジャーナリストから提供されています。 本稿では,人間のジャーナリストが検証した既存の偽ニュースデータセットを再検討し,大規模言語モデルによるファクトチェックの強化を行った。
  論文  参考訳（メタデータ） (2023-12-19T05:46:11Z)
• fakenewsbr: A Fake News Detection Platform for Brazilian Portuguese [0.6775616141339018]
  本稿ではブラジルポルトガル語における偽ニュースの検出に関する総合的研究について述べる。 本稿では、TF-IDFやWord2Vecといった自然言語処理技術を活用する機械学習ベースのアプローチを提案する。 ユーザフレンドリーなWebプラットフォームである fakenewsbr.com を開発し,ニュース記事の妥当性の検証を容易にする。
  論文  参考訳（メタデータ） (2023-09-20T04:10:03Z)
• Fake News Detectors are Biased against Texts Generated by Large Language Models [39.36284616311687]
  フェイクニュースの拡散は、信頼を弱め、社会への脅威を訴える重要な課題として浮上している。 本稿では,人間の書き起こしとLLM生成の両方の誤情報を含むシナリオにおいて,偽ニュース検知器を評価するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-09-15T18:04:40Z)
• It's All in the Embedding! Fake News Detection Using Document Embeddings [0.6091702876917281]
  本稿では,文書埋め込みを用いて,ニュース記事を信頼性やニセモノと正確にラベル付けする複数のモデルを構築する手法を提案する。 また、バイナリや複数ラベルの分類を用いて偽ニュースを検出する異なるアーキテクチャのベンチマークを示す。
  論文  参考訳（メタデータ） (2023-04-16T13:30:06Z)
• Nothing Stands Alone: Relational Fake News Detection with Hypergraph Neural Networks [49.29141811578359]
  本稿では,ニュース間のグループ間相互作用を表現するためにハイパーグラフを活用することを提案する。 提案手法は,ラベル付きニュースデータの小さなサブセットであっても,優れた性能を示し,高い性能を維持する。
  論文  参考訳（メタデータ） (2022-12-24T00:19:32Z)
• Multiverse: Multilingual Evidence for Fake News Detection [71.51905606492376]
  Multiverseは、偽ニュースの検出に使用できる多言語エビデンスに基づく新機能である。 偽ニュース検出機能としての言語間証拠の使用仮説を確認した。
  論文  参考訳（メタデータ） (2022-11-25T18:24:17Z)
• Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation [105.20743048379387]
  提案手法は,人間によるプロパガンダのスタイルや戦略から情報を得た学習例を生成するための新しいフレームワークである。 具体的には、生成した記事の有効性を確保するために、自然言語推論によって導かれる自己臨界シーケンストレーニングを行う。 実験の結果、PropaNewsでトレーニングされた偽ニュース検知器は、2つの公開データセットで3.62～7.69%のF1スコアで人書きの偽情報を検出するのに優れていることがわかった。
  論文  参考訳（メタデータ） (2022-03-10T14:24:19Z)
• User Preference-aware Fake News Detection [61.86175081368782]
  既存の偽ニュース検出アルゴリズムは、詐欺信号のニュースコンテンツをマイニングすることに焦点を当てている。 本稿では,共同コンテンツとグラフモデリングにより,ユーザの好みから様々な信号を同時にキャプチャする新しいフレームワークUPFDを提案する。
  論文  参考訳（メタデータ） (2021-04-25T21:19:24Z)
• Machine Learning Explanations to Prevent Overtrust in Fake News Detection [64.46876057393703]
  本研究では、ニュースレビュープラットフォームに組み込んだ説明可能なAIアシスタントが、フェイクニュースの拡散と戦う効果について検討する。 我々は、ニュースレビューと共有インターフェースを設計し、ニュース記事のデータセットを作成し、4つの解釈可能なフェイクニュース検出アルゴリズムを訓練する。 説明可能なAIシステムについてより深く理解するために、説明プロセスにおけるユーザエンゲージメント、メンタルモデル、信頼、パフォーマンス対策の相互作用について議論する。
  論文  参考訳（メタデータ） (2020-07-24T05:42:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。