論文の概要: The Stepwise Deception: Simulating the Evolution from True News to Fake News with LLM Agents
- arxiv url: http://arxiv.org/abs/2410.19064v2
- Date: Wed, 28 May 2025 08:26:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-29 15:04:26.761397
- Title: The Stepwise Deception: Simulating the Evolution from True News to Fake News with LLM Agents
- Title（参考訳）: ステップワイズ・ディセプション : LLMエージェントを用いた真ニュースから偽ニュースへの進化のシミュレーション
- Authors: Yuhan Liu, Zirui Song, Juntian Zhang, Xiaoqing Zhang, Xiuying Chen, Rui Yan,
- Abstract要約: これまでの研究では、フェイクニュースは徐々に形成するよりむしろ本質的に存在すると仮定されてきた。
本稿では,新たなLarge Language Model(LLM)に基づくシミュレーション手法であるFUSEを提案する。
その結果、FUSEはフェイクニュースの進化パターンを効果的に捉え、既知のフェイクニュースを正確に再現し、人間の評価と密接に一致していることがわかった。
- 参考スコア（独自算出の注目度）: 33.92860158860716
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: With the growing spread of misinformation online, understanding how true news evolves into fake news has become crucial for early detection and prevention. However, previous research has often assumed fake news inherently exists rather than exploring its gradual formation. To address this gap, we propose FUSE (Fake news evolUtion Simulation framEwork), a novel Large Language Model (LLM)-based simulation approach explicitly focusing on fake news evolution from real news. Our framework model a social network with four distinct types of LLM agents commonly observed in daily interactions: spreaders who propagate information, commentators who provide interpretations, verifiers who fact-check, and bystanders who observe passively to simulate realistic daily interactions that progressively distort true news. To quantify these gradual distortions, we develop FUSE-EVAL, a comprehensive evaluation framework measuring truth deviation along multiple linguistic and semantic dimensions. Results show that FUSE effectively captures fake news evolution patterns and accurately reproduces known fake news, aligning closely with human evaluations. Experiments demonstrate that FUSE accurately reproduces known fake news evolution scenarios, aligns closely with human judgment, and highlights the importance of timely intervention at early stages. Our framework is extensible, enabling future research on broader scenarios of fake news.
- Abstract（参考訳）: ネット上の誤報の拡散に伴い、偽ニュースがいかにして偽ニュースに進化するかを理解することが、早期発見と予防に欠かせないものになっている。
しかし、以前の研究では、その段階的な形成を探求するよりも、本質的に偽のニュースが存在すると仮定することが多かった。
本研究では,FUSE(Fake News evolution Simulation framEwork)という,新たなLarge Language Model(LLM)に基づくシミュレーション手法を提案する。
我々のフレームワークは、情報伝達を行うスプレッシャー、解釈を提供するコメンテーター、事実確認を行う検証者、真ニュースを段階的に歪ませる現実的な日々の対話を受動的に観察する傍観者である。
段階的歪みの定量化を目的として,複数の言語的・意味的次元に沿った真相偏差を測定する包括的評価フレームワークであるFUSE-EVALを開発した。
その結果、FUSEはフェイクニュースの進化パターンを効果的に捉え、既知のフェイクニュースを正確に再現し、人間の評価と密接に一致していることがわかった。
実験では、FUSEが既知の偽ニュースの進化シナリオを正確に再現し、人間の判断と密接に一致し、初期段階におけるタイムリーな介入の重要性を強調している。
我々のフレームワークは拡張可能であり、フェイクニュースのより広範なシナリオについて将来の研究を可能にする。
関連論文リスト
- From Skepticism to Acceptance: Simulating the Attitude Dynamics Toward Fake News [38.990330255607276]
大規模言語モデル(LLM)に基づくフェイクニュース伝搬シミュレーションフレームワークを提案する。
シミュレーションの結果,話題の関連性や個々の特徴に関連する偽ニュースの伝播パターンが,実世界の観測と一致していることがわかった。
論文 参考訳（メタデータ） (2024-03-14T15:40:13Z) - Adapting Fake News Detection to the Era of Large Language Models [48.5847914481222]
我々は,機械による(言い換えられた)リアルニュース,機械生成のフェイクニュース,人書きのフェイクニュース,人書きのリアルニュースの相互作用について検討する。
我々の実験では、人書き記事のみに特化して訓練された検知器が、機械が生成したフェイクニュースを検出できる興味深いパターンを明らかにしましたが、その逆ではありません。
論文 参考訳（メタデータ） (2023-11-02T08:39:45Z) - Prompt-and-Align: Prompt-Based Social Alignment for Few-Shot Fake News
Detection [50.07850264495737]
プロンプト・アンド・アライン(Prompt-and-Align、P&A)は、数発のフェイクニュース検出のための新しいプロンプトベースのパラダイムである。
我々はP&Aが、数発のフェイクニュース検出性能をかなりのマージンで新たな最先端に設定していることを示す。
論文 参考訳（メタデータ） (2023-09-28T13:19:43Z) - SOK: Fake News Outbreak 2021: Can We Stop the Viral Spread? [5.64512235559998]
ソーシャルネットワークの完全解釈と使いやすさは、今日の世界での情報の生成と配布に革命をもたらした。
従来のメディアチャンネルとは異なり、ソーシャルネットワークは偽情報や偽情報の拡散を迅速かつ広範囲に促進する。
虚偽情報の拡散は、大衆の行動、態度、信念に深刻な影響を及ぼす。
論文 参考訳（メタデータ） (2021-05-22T09:26:13Z) - Stance Detection with BERT Embeddings for Credibility Analysis of
Information on Social Media [1.7616042687330642]
本稿では,記事の内容とともに,その特徴の1つとして姿勢を用いた偽ニュースを検出するモデルを提案する。
本研究は,自動的特徴抽出とテキストの関連性でコンテンツを解釈する。
実世界のデータセットで行った実験は、我々のモデルが以前の研究より優れており、95.32%の精度で偽ニュースの検出を可能にすることを示している。
論文 参考訳（メタデータ） (2021-05-21T10:46:43Z) - How does Truth Evolve into Fake News? An Empirical Study of Fake News
Evolution [55.27685924751459]
偽ニュース進化過程を追跡する新しいデータセットであるフェイクニュース進化データセットを提示する。
私たちのデータセットは950のペアデータで構成され、それぞれが真実、偽ニュース、進化した偽ニュースを表す記事で構成されています。
進化中の特徴を観察し,誤情報技術,テキスト類似性,キーワードトップ10,分類精度,発話部分,感情特性について検討した。
論文 参考訳（メタデータ） (2021-03-10T09:01:34Z) - Causal Understanding of Fake News Dissemination on Social Media [50.4854427067898]
我々は、ユーザーがフェイクニュースを共有するのに、ユーザー属性が何をもたらすかを理解することが重要だと論じている。
偽ニュース拡散において、共同創設者は、本質的にユーザー属性やオンライン活動に関連する偽ニュース共有行動によって特徴づけられる。
本稿では,偽ニュース拡散における選択バイアスを軽減するための原則的アプローチを提案する。
論文 参考訳（メタデータ） (2020-10-20T19:37:04Z) - Modeling the spread of fake news on Twitter [2.7910505923792637]
本稿では,Twitter上での偽ニュース拡散のポイントプロセスモデルを提案する。
提案手法は,偽ニュース項目の拡散の進化を正確に予測する上で,現在の最先端手法よりも優れていることを示す。
提案モデルは,ソーシャルメディア上での偽ニュース拡散のダイナミクスの理解に寄与する。
論文 参考訳（メタデータ） (2020-07-28T08:28:16Z) - Leveraging Multi-Source Weak Social Supervision for Early Detection of
Fake News [67.53424807783414]
ソーシャルメディアは、人々が前例のない速度でオンライン活動に参加することを可能にする。
この制限のないアクセスは、誤情報や偽ニュースの拡散を悪化させ、その緩和のために早期に検出されない限り混乱と混乱を引き起こす可能性がある。
ソーシャルエンゲージメントからの弱い信号とともに、限られた量のクリーンデータを活用して、メタラーニングフレームワークでディープニューラルネットワークをトレーニングし、さまざまな弱いインスタンスの品質を推定します。
実世界のデータセットの実験では、提案されたフレームワークは、予測時にユーザーエンゲージメントを使わずに、フェイクニュースを早期に検出するための最先端のベースラインを上回っている。
論文 参考訳（メタデータ） (2020-04-03T18:26:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。