論文の概要: From a Tiny Slip to a Giant Leap: An LLM-Based Simulation for Fake News Evolution
- arxiv url: http://arxiv.org/abs/2410.19064v1
- Date: Thu, 24 Oct 2024 18:17:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-28 13:36:01.927790
- Title: From a Tiny Slip to a Giant Leap: An LLM-Based Simulation for Fake News Evolution
- Title（参考訳）: LLMによるフェイクニュースの進化シミュレーション
- Authors: Yuhan Liu, Zirui Song, Xiaoqing Zhang, Xiuying Chen, Rui Yan,
- Abstract要約: 大規模言語モデル(LLM)に基づくFake News evolution Simulation framEworkを提案する。
本研究では,情報伝達を行うスプレッダー,意見や解釈を提供するコメンテーター,情報や傍観者の正確性をチェックする検証者,参加せずに受動的に観察する傍観者という4種類のエージェントを定義した。
この領域における先行研究の欠如を踏まえ、偽ニュース進化過程における真ニュースからの逸脱を測定するためのFUSE-EVAL評価フレームワークを開発した。
- 参考スコア（独自算出の注目度）: 35.82418316346851
- License:
- Abstract: With the growing spread of misinformation online, research has increasingly focused on detecting and tracking fake news. However, an overlooked issue is that fake news does not naturally exist in social networks -- it often originates from distorted facts or deliberate fabrication by malicious actors. Understanding how true news gradually evolves into fake news is critical for early detection and prevention, reducing its spread and impact. Hence, in this paper, we take the first step toward simulating and revealing this evolution, proposing a Fake News evolUtion Simulation framEwork (FUSE) based on large language models (LLMs). Specifically, we employ LLM as agents to represent individuals in a simulated social network. We define four types of agents commonly observed in daily interactions: spreaders, who propagate information; commentators, who provide opinions and interpretations; verifiers, who check the accuracy of information; and bystanders, who passively observe without engaging. For simulated environments, we model various social network structures, such as high-clustering networks and scale-free networks, to mirror real-world network dynamics. Each day, the agents engage in belief exchanges, reflect on their thought processes, and reintroduce the news accordingly. Given the lack of prior work in this area, we developed a FUSE-EVAL evaluation framework to measure the deviation from true news during the fake news evolution process. The results show that FUSE successfully captures the underlying patterns of how true news transforms into fake news and accurately reproduces previously discovered instances of fake news, aligning closely with human evaluations. Moreover, our work provides insights into the fact that combating fake news should not be delayed until it has fully evolved; instead, prevention in advance is key to achieving better outcomes.
- Abstract（参考訳）: ネット上の偽情報の普及に伴い、研究はフェイクニュースの検出と追跡にますます焦点を絞っている。
しかし、見落とされがちな問題は、偽ニュースがソーシャルネットワークに自然に存在するわけではないことだ。
真実のニュースが徐々にフェイクニュースへと進化していくことを理解することは、早期発見と予防、そしてその拡散と影響を減らすために重要である。
そこで本稿では,Fake News evolution Simulation framEwork (FUSE) を大規模言語モデル(LLM)に基づいて提案する。
具体的には、シミュレーションされたソーシャルネットワークにおける個人を表現するために、LSMをエージェントとして採用する。
本研究では,情報伝達を行うスプレッシャー,意見や解釈を提供するコメンテーター,情報の正確性をチェックする検証者,参加せずに受動的に観察する傍観者という4種類のエージェントを定義した。
シミュレーション環境では、実世界のネットワークダイナミクスを反映するために、ハイクラスタリングネットワークやスケールフリーネットワークなどの様々なソーシャルネットワーク構造をモデル化する。
エージェントは毎日、信念交換に従事し、彼らの思考過程を反映し、それに従ってニュースを再導入する。
この領域における先行研究の欠如を踏まえ、偽ニュース進化過程における真ニュースからの逸脱を測定するためのFUSE-EVAL評価フレームワークを開発した。
その結果、FUSEは、真のニュースが偽ニュースにどのように変換されるかという基礎的なパターンを捉え、以前に発見された偽ニュースの事例を正確に再現し、人間の評価と密接に一致していることが判明した。
さらに、我々の研究は、フェイクニュースと戦うことが完全に進化するまで遅れるべきではないという事実について洞察を与え、その代わりに、事前予防がより良い結果を達成するための鍵となる。
関連論文リスト
- From Skepticism to Acceptance: Simulating the Attitude Dynamics Toward Fake News [38.990330255607276]
大規模言語モデル(LLM)に基づくフェイクニュース伝搬シミュレーションフレームワークを提案する。
シミュレーションの結果,話題の関連性や個々の特徴に関連する偽ニュースの伝播パターンが,実世界の観測と一致していることがわかった。
論文 参考訳（メタデータ） (2024-03-14T15:40:13Z) - Adapting Fake News Detection to the Era of Large Language Models [48.5847914481222]
我々は,機械による(言い換えられた)リアルニュース,機械生成のフェイクニュース,人書きのフェイクニュース,人書きのリアルニュースの相互作用について検討する。
我々の実験では、人書き記事のみに特化して訓練された検知器が、機械が生成したフェイクニュースを検出できる興味深いパターンを明らかにしましたが、その逆ではありません。
論文 参考訳（メタデータ） (2023-11-02T08:39:45Z) - Prompt-and-Align: Prompt-Based Social Alignment for Few-Shot Fake News
Detection [50.07850264495737]
プロンプト・アンド・アライン(Prompt-and-Align、P&A)は、数発のフェイクニュース検出のための新しいプロンプトベースのパラダイムである。
我々はP&Aが、数発のフェイクニュース検出性能をかなりのマージンで新たな最先端に設定していることを示す。
論文 参考訳（メタデータ） (2023-09-28T13:19:43Z) - SOK: Fake News Outbreak 2021: Can We Stop the Viral Spread? [5.64512235559998]
ソーシャルネットワークの完全解釈と使いやすさは、今日の世界での情報の生成と配布に革命をもたらした。
従来のメディアチャンネルとは異なり、ソーシャルネットワークは偽情報や偽情報の拡散を迅速かつ広範囲に促進する。
虚偽情報の拡散は、大衆の行動、態度、信念に深刻な影響を及ぼす。
論文 参考訳（メタデータ） (2021-05-22T09:26:13Z) - Stance Detection with BERT Embeddings for Credibility Analysis of
Information on Social Media [1.7616042687330642]
本稿では,記事の内容とともに,その特徴の1つとして姿勢を用いた偽ニュースを検出するモデルを提案する。
本研究は,自動的特徴抽出とテキストの関連性でコンテンツを解釈する。
実世界のデータセットで行った実験は、我々のモデルが以前の研究より優れており、95.32%の精度で偽ニュースの検出を可能にすることを示している。
論文 参考訳（メタデータ） (2021-05-21T10:46:43Z) - How does Truth Evolve into Fake News? An Empirical Study of Fake News
Evolution [55.27685924751459]
偽ニュース進化過程を追跡する新しいデータセットであるフェイクニュース進化データセットを提示する。
私たちのデータセットは950のペアデータで構成され、それぞれが真実、偽ニュース、進化した偽ニュースを表す記事で構成されています。
進化中の特徴を観察し,誤情報技術,テキスト類似性,キーワードトップ10,分類精度,発話部分,感情特性について検討した。
論文 参考訳（メタデータ） (2021-03-10T09:01:34Z) - Causal Understanding of Fake News Dissemination on Social Media [50.4854427067898]
我々は、ユーザーがフェイクニュースを共有するのに、ユーザー属性が何をもたらすかを理解することが重要だと論じている。
偽ニュース拡散において、共同創設者は、本質的にユーザー属性やオンライン活動に関連する偽ニュース共有行動によって特徴づけられる。
本稿では,偽ニュース拡散における選択バイアスを軽減するための原則的アプローチを提案する。
論文 参考訳（メタデータ） (2020-10-20T19:37:04Z) - Modeling the spread of fake news on Twitter [2.7910505923792637]
本稿では,Twitter上での偽ニュース拡散のポイントプロセスモデルを提案する。
提案手法は,偽ニュース項目の拡散の進化を正確に予測する上で,現在の最先端手法よりも優れていることを示す。
提案モデルは,ソーシャルメディア上での偽ニュース拡散のダイナミクスの理解に寄与する。
論文 参考訳（メタデータ） (2020-07-28T08:28:16Z) - Leveraging Multi-Source Weak Social Supervision for Early Detection of
Fake News [67.53424807783414]
ソーシャルメディアは、人々が前例のない速度でオンライン活動に参加することを可能にする。
この制限のないアクセスは、誤情報や偽ニュースの拡散を悪化させ、その緩和のために早期に検出されない限り混乱と混乱を引き起こす可能性がある。
ソーシャルエンゲージメントからの弱い信号とともに、限られた量のクリーンデータを活用して、メタラーニングフレームワークでディープニューラルネットワークをトレーニングし、さまざまな弱いインスタンスの品質を推定します。
実世界のデータセットの実験では、提案されたフレームワークは、予測時にユーザーエンゲージメントを使わずに、フェイクニュースを早期に検出するための最先端のベースラインを上回っている。
論文 参考訳（メタデータ） (2020-04-03T18:26:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。