論文の概要: From Generation to Detection: Exploration of Discourse Driven Scenario based LLM Generated Fake News

• arxiv url: http://arxiv.org/abs/2609.20838v1
• Date: Wed, 29 Jul 2026 12:55:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.681873
• Title: From Generation to Detection: Exploration of Discourse Driven Scenario based LLM Generated Fake News
• Title（参考訳）: 生成から検出へ:談話駆動シナリオに基づくLLM生成フェイクニュースの探索
• Abstract要約: 4つの操作シナリオにまたがって14000個の記事を生成する合成偽ニュースコーパスを作成しました。 我々は、その言語特性を分析し、モデル生成ニュースが実際のニュースと構造的および意味的にどのように類似しているかを評価する。 その結果,誤情報の生成と検出において,モデル間で有意な差異が認められた。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In this study, we examine how modern LLMs generate and detect fake news under controlled settings across four manipulation scenarios. These are open-ended generation, rewriting, manipulation prompts and attribute based prompts grounded in the journalistic discourse framework. Firstly, using seven widely adapted models, we created a synthetic fake news corpus with 14000 generated articles across these four scenarios. Then we analyzed its linguistic properties to assess how closely model-generated news resembles real news structurally and semantically. Finally, to evaluate detection performance, we conducted experiments where each model judges generated fake news, starting with a basic detection prompt and improved prompts developed through an iterative refinement process that extracts misleading patterns from real-fake pairs. Our results revealed substantial variation across models in both generating and detecting misinformation, demonstrated that the generation strategy strongly influences detectability, and show that the refined prompt does not improve and often harms detection performance. Therefore, the study provides a systematic assessment of LLMs detection capability of LLMs generated fake news across typical generation scenarios.
• Abstract（参考訳）: 本研究では,4つの操作シナリオにまたがって,制御条件下でのフェイクニュースの生成と検出について検討した。 これらは、ジャーナリストの談話フレームワークに根ざした、オープンエンドな生成、書き換え、操作プロンプト、属性ベースのプロンプトである。 まず、広く適応された7つのモデルを用いて、これらの4つのシナリオに14,000の記事を生成した合成フェイクニュースコーパスを作成しました。 そして、その言語特性を分析し、モデル生成ニュースが実際のニュースと構造的・意味的にどのように類似しているかを評価する。 最後に,検出性能を評価するために,各モデルの判断者が,基本的検出プロンプトと改良されたプロンプトから始まる偽ニュースを生成する実験を行った。 その結果,誤情報の生成と検出の両方においてモデル間でかなりの変動が見られ,生成戦略が検出可能性に強く影響を与え,改良されたプロンプトは検出性能に悪影響を及ぼさないことを示す。 そこで本研究では,LLMが生成した偽ニュースのLLM検出能力を,典型的な生成シナリオにわたって体系的に評価する。

関連論文リスト

• A Symbolic Adversarial Learning Framework for Evolving Fake News Generation and Detection [19.470268061557764]
  本稿では, 対角学習パラダイムを実装した, シンボリック適応学習フレームワーク(SALF, Symbolic Adversarial Learning Framework)を提案する。 SALFはエージェントシンボル学習を用いてエージェントを表現し、学習可能なウェイトはエージェントプロンプトによって定義され、バックプロパゲーションと勾配降下をシミュレートする。 2つの多言語ベンチマークデータセットの実験は、SALFの有効性を示し、最先端検出性能を最大53.4%、英語で最大34.2%低下させる洗練されたフェイクニュースを生成することを示した。
  論文  参考訳（メタデータ） (2025-08-27T07:14:17Z)
• RepreGuard: Detecting LLM-Generated Text by Revealing Hidden Representation Patterns [50.401907401444404]
  大規模言語モデル(LLM)は、誤用を防止し、信頼できるAIシステムを構築するために不可欠である。 本稿では,統計量に基づく効率的な検出手法であるRepreGuardを提案する。 実験結果から、RepreGuardは、平均94.92%のAUROCですべてのベースラインでID(in-distriion)とOOD(OOD)の両方のシナリオでパフォーマンスが向上していることが示された。
  論文  参考訳（メタデータ） (2025-08-18T17:59:15Z)
• Real-time Factuality Assessment from Adversarial Feedback [11.742257531343814]
  本研究では,従来の情報源からの情報の事実性を評価するための評価が,LCM検出器の時間経過とともに高い精度をもたらすことを示す。 適切な事実性評価データセットは、関連する証拠を検索して読み取ることによって、現在の出来事を推論するモデルの能力をテストすべきである、と我々は主張する。
  論文  参考訳（メタデータ） (2024-10-18T17:47:11Z)
• Dynamic Analysis and Adaptive Discriminator for Fake News Detection [59.41431561403343]
  偽ニュース検出のための動的解析・適応識別器(DAAD)手法を提案する。 知識に基づく手法では,モンテカルロ木探索アルゴリズムを導入し,大規模言語モデルの自己表現能力を活用する。 意味に基づく手法では、偽ニュース生成のメカニズムを明らかにするために、典型的偽造パターンを4つ定義する。
  論文  参考訳（メタデータ） (2024-08-20T14:13:54Z)
• Exploring the Deceptive Power of LLM-Generated Fake News: A Study of Real-World Detection Challenges [21.425647152424585]
  条件付き変分オートエンコーダライズプロンプト(VLPrompt)と呼ばれる強力なフェイクニュース攻撃手法を提案する。 現行のメソッドとは異なり、VLPromptはコンテキストコヒーレンスを維持しながら追加のデータ収集を不要にする。 さまざまな検出方法や新しい人間の研究指標を含む実験を行い,その性能をデータセット上で評価した。
  論文  参考訳（メタデータ） (2024-03-27T04:39:18Z)
• Adapting Fake News Detection to the Era of Large Language Models [48.5847914481222]
  我々は,機械による(言い換えられた)リアルニュース,機械生成のフェイクニュース,人書きのフェイクニュース,人書きのリアルニュースの相互作用について検討する。 我々の実験では、人書き記事のみに特化して訓練された検知器が、機械が生成したフェイクニュースを検出できる興味深いパターンを明らかにしましたが、その逆ではありません。
  論文  参考訳（メタデータ） (2023-11-02T08:39:45Z)
• Fake News Detectors are Biased against Texts Generated by Large Language Models [39.36284616311687]
  フェイクニュースの拡散は、信頼を弱め、社会への脅威を訴える重要な課題として浮上している。 本稿では,人間の書き起こしとLLM生成の両方の誤情報を含むシナリオにおいて,偽ニュース検知器を評価するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-09-15T18:04:40Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。