論文の概要: Can AI-Generated Persuasion Be Detected? Persuaficial Benchmark and AI vs. Human Linguistic Differences

• arxiv url: http://arxiv.org/abs/2601.04925v1
• Date: Thu, 08 Jan 2026 13:22:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-09 17:01:53.217238
• Title: Can AI-Generated Persuasion Be Detected? Persuaficial Benchmark and AI vs. Human Linguistic Differences
• Title（参考訳）: AI生成による説得は検出できるか? : 知覚ベンチマークとAI対人間の言語的差異
• Authors: Arkadiusz Modzelewski, Paweł Golik, Anna Kołos, Giovanni Da San Martino,
• Abstract要約: 大きな言語モデル(LLM)は説得力のあるテキストを生成し、プロパガンダ、操作、その他の有害な目的に対する誤用を懸念する。 LLMを用いて説得的コンテンツを生成するための制御可能な生成手法を分類し、6つの言語をカバーする高品質な多言語ベンチマークであるPersuaficialを導入する。 過度に説得力のあるLLM生成テキストは人書きテキストよりも検出しやすいが、微妙なLLM生成パースケーションは自動検出性能を一貫して低下させる。
• 参考スコア（独自算出の注目度）: 5.782702968306668
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Large Language Models (LLMs) can generate highly persuasive text, raising concerns about their misuse for propaganda, manipulation, and other harmful purposes. This leads us to our central question: Is LLM-generated persuasion more difficult to automatically detect than human-written persuasion? To address this, we categorize controllable generation approaches for producing persuasive content with LLMs and introduce Persuaficial, a high-quality multilingual benchmark covering six languages: English, German, Polish, Italian, French and Russian. Using this benchmark, we conduct extensive empirical evaluations comparing human-authored and LLM-generated persuasive texts. We find that although overtly persuasive LLM-generated texts can be easier to detect than human-written ones, subtle LLM-generated persuasion consistently degrades automatic detection performance. Beyond detection performance, we provide the first comprehensive linguistic analysis contrasting human and LLM-generated persuasive texts, offering insights that may guide the development of more interpretable and robust detection tools.
• Abstract（参考訳）: 大きな言語モデル(LLM)は説得力のあるテキストを生成し、プロパガンダ、操作、その他の有害な目的に対する誤用を懸念する。 LLMが生成する説得は、人間による説得よりも自動的に検出することが困難か? そこで我々は,LLMを用いて説得的コンテンツを生成するための制御可能な生成アプローチを分類し,英語,ドイツ語,ポーランド語,イタリア語,フランス語,ロシア語の6言語をカバーする高品質な多言語ベンチマークPersuaficialを紹介した。 このベンチマークを用いて,人間による文章と LLM による説得文の比較実験を行った。 過度に説得力のあるLLM生成テキストは人書きテキストよりも検出が容易であるが,微妙なLLM生成パースケーションは自動検出性能を一貫して低下させる。 検出性能の他に、人間やLSM生成した説得文と対比した初めての包括的言語分析を提供し、より解釈可能で堅牢な検出ツールの開発を導く洞察を提供する。

関連論文リスト

• Your Language Model Can Secretly Write Like Humans: Contrastive Paraphrase Attacks on LLM-Generated Text Detectors [77.82885394684202]
  テキスト検出を効果的に欺く訓練不要な方法である textbfContrastive textbfParaphrase textbfAttack (CoPA) を提案する。 CoPAは、大規模言語モデルによって生成される人間のような分布とは対照的に、補助的な機械的な単語分布を構築している。 我々の理論的分析は、提案された攻撃の優越性を示唆している。
  論文  参考訳（メタデータ） (2025-05-21T10:08:39Z)
• ExaGPT: Example-Based Machine-Generated Text Detection for Human Interpretability [62.285407189502216]
  LLM(Large Language Models)によって生成されたテキストの検出は、誤った判断によって致命的な誤りを引き起こす可能性がある。 本稿では,人間の意思決定プロセスに根ざした解釈可能な検出手法であるExaGPTを紹介する。 以上の結果から,ExaGPTは従来の強力な検出器よりも最大で40.9ポイントの精度を1%の偽陽性率で大きく上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-17T01:15:07Z)
• Mind the Gap! Choice Independence in Using Multilingual LLMs for Persuasive Co-Writing Tasks in Different Languages [51.96666324242191]
  チャリティー広告作成タスクにおける新規筆記アシスタントのユーザ利用が、第2言語におけるAIの性能に影響を及ぼすかどうかを分析する。 我々は、これらのパターンが、生成したチャリティー広告の説得力に変換される程度を定量化する。
  論文  参考訳（メタデータ） (2025-02-13T17:49:30Z)
• Human-Readable Adversarial Prompts: An Investigation into LLM Vulnerabilities Using Situational Context [45.821481786228226]
  本研究では,状況文脈を利用した状況駆動型逆転フルプロンプトが効果的であるが,検出がはるかに困難であることを示す。 映画脚本を状況的文脈の枠組みとして利用する攻撃を開発した。 我々は, p-核サンプリングによるAdvPrompterフレームワークを拡張し, 多様な可読テキストを生成する。
  論文  参考訳（メタデータ） (2024-12-20T21:43:52Z)
• Measuring and Benchmarking Large Language Models' Capabilities to Generate Persuasive Language [41.052284715017606]
  本研究では,Large Language Models (LLM) の説得的テキスト生成能力について検討する。 特定のドメインやタイプの説得に焦点を当てた先行研究とは対照的に、諸藩をまたいだ総合的研究を行う。 我々は、短いテキストのペア対からなる新しいデータセットPersuasive-Pairを構築し、LLMによって書き直され、説得言語を増幅または縮小する。
  論文  参考訳（メタデータ） (2024-06-25T17:40:47Z)
• Large Language Models are as persuasive as humans, but how? About the cognitive effort and moral-emotional language of LLM arguments [0.0]
  大型言語モデル(LLM)はすでに人間と同じくらい説得力がある。 本稿では, LLMの説得戦略について, 人為的議論と比較し検討する。
  論文  参考訳（メタデータ） (2024-04-14T19:01:20Z)
• Red Teaming Language Model Detectors with Language Models [114.36392560711022]
  大規模言語モデル(LLM)は、悪意のあるユーザによって悪用された場合、重大な安全性と倫理的リスクをもたらす。 近年,LLM生成テキストを検出し,LLMを保護するアルゴリズムが提案されている。 1) LLMの出力中の特定の単語を, 文脈が与えられたシノニムに置き換えること, 2) 生成者の書き方を変更するための指示プロンプトを自動で検索すること,である。
  論文  参考訳（メタデータ） (2023-05-31T10:08:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。