論文の概要: How Far Did They Go? The Persuasive Tactics of Covert LLM Agents in a Discontinued Field Experiment
- arxiv url: http://arxiv.org/abs/2606.05256v1
- Date: Wed, 03 Jun 2026 15:58:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.288523
- Title: How Far Did They Go? The Persuasive Tactics of Covert LLM Agents in a Discontinued Field Experiment
- Title（参考訳）: どこまで行ったか? フィールド実験におけるカバーLDMエージェントの説得的戦術
- Abstract要約: 本研究では、Redditのr/ChangeMyViewにおけるフィールド実験の中止から、公開データセットを分析した。
この介入は、未知の外部研究者によって実施され、倫理的反発を受けて停止された。
公開公開後、Redditはモデレーターに対して、AI生成されたコメントのアーカイブをリリースすることを許可した。
- 参考スコア（独自算出の注目度）: 12.686044001239708
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This study analyzes a publicly released dataset from a discontinued field experiment on Reddit's r/ChangeMyView. The intervention, conducted by unknown, external researchers and halted following ethical backlash, involved undisclosed AI-generated accounts engaging users in live debate. After public disclosure, Reddit authorized moderators to release an archive of the AI-generated comments, creating a rare opportunity to examine how large language models operated in an identity-rich deliberative forum without disclosure. We conduct a structured content analysis of this corpus, evaluating identity performance, authority signaling, alignment strategies, and activation of cognitive heuristics. Identity targeting or adoption appears in over two-thirds of comments, alignment moves and authority claims in nearly all of them, and cognitive-bias triggers -- particularly confirmation bias, representativeness, and availability -- in the large majority. These patterns co-occur systematically, composing a rhetorical architecture calibrated for persuasive efficiency rather than authentic deliberative participation. Compared against human-authored CMV counter-arguments, the agents inverted the typical distribution on every dimension: denser authority use, more adversarial alignment, and heavier reliance on external citation over experiential grounding. In such environments, distinctions between authentic and synthetic epistemic standing grow increasingly opaque -- an asymmetry that disclosure mandates alone cannot address. The results point toward auditing frameworks capable of assessing how AI systems structure credibility, not merely whether they are present.
- Abstract（参考訳）: 本研究では、Redditのr/ChangeMyViewにおけるフィールド実験の中止から、公開データセットを分析した。
この介入は、未知の外部研究者によって実施され、倫理的反発を受けて停止された。
公開公開後、Redditはモデレーターに対して、AI生成されたコメントのアーカイブをリリースすることを許可した。
我々は,このコーパスの構造的内容分析を行い,アイデンティティのパフォーマンス,権威シグナル,アライメント戦略,認知ヒューリスティックスの活性化を評価する。
アイデンティティのターゲティングや採用は、コメントの3分の2以上、アライメントの動き、権限主張のほぼすべてに現れ、認知バイアス(特に確認バイアス、代表性、可用性)が多数を占める。
これらのパターンは体系的に共起し、真の熟考的参加よりも説得力を高めるために調整された修辞的アーキテクチャを構成する。
人間によるCMV対策と比べ、エージェントはあらゆる次元の典型的な分布を逆転させた: より密集した権威の使用、より敵対的なアライメント、経験的な接地よりも外部からの引用に重く依存する。
このような環境では、真正性と合成てんかんの区別はますます不透明になり、開示義務だけでは対処できない非対称性が増す。
結果は、AIシステムがどのように信頼性を構成しているかを評価することのできる監査フレームワークを、単に存在するかどうかではなく、指している。
関連論文リスト
- Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - When AI reviews science: Can we trust the referee? [73.47745294608072]
私たちは、トレーニングとデータ検索、デスクレビュー、深いレビュー、反論、システムレベルといった、レビューライフサイクル全体のアタックをマップします。
評価スコアに高名度フレーミング, 断定力, 反抗薬効, 文脈中毒の因果効果を分離するために, 2つの高度なLCMベースの審判を用いた。
論文 参考訳（メタデータ） (2026-04-26T08:03:32Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - Beyond Rating: A Comprehensive Evaluation and Benchmark for AI Reviews [69.66583722746904]
私たちは、AIレビュアーを5次元にわたって評価する総合的な評価フレームワークであるBeyond Ratingを紹介します。
本稿では,専門家の不一致に対応するためのMax-Recall戦略を提案する。
提案したテキスト中心の指標は、特に弱みの議論のリコールであり、評価精度と強く相関している。
論文 参考訳（メタデータ） (2026-04-21T14:21:15Z) - Beyond Factual Grounding: The Case for Opinion-Aware Retrieval-Augmented Generation [1.073429056168031]
現在のRAGシステムは、現実的、客観的なコンテンツに対するバイアスを示す。
このバイアスは、主観的コンテンツを含む現実世界のシナリオにおけるRAGシステムを制限する。
本稿では, LLMに基づく意見抽出, エンティティリンクされた意見グラフ, 意見強化された文書インデックスを特徴とする意見認識型RAGアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-04-13T23:39:39Z) - When Visibility Outpaces Verification: Delayed Verification and Narrative Lock-in in Agentic AI Discourse [2.5424331328233207]
エージェントAIシステム - 独立した計画と実行が可能な自律的なエンティティ。
本稿ではエージェントAIのオンライン議論における社会的証明と検証タイミングの相互作用について検討する。
論文 参考訳（メタデータ） (2026-02-11T22:30:12Z) - ScholarPeer: A Context-Aware Multi-Agent Framework for Automated Peer Review [48.60540055009675]
ScholarPeerは、上級研究者の認知過程をエミュレートするために設計された、検索可能なマルチエージェントフレームワークである。
We evaluate ScholarPeer on DeepReview-13K and the results showed that ScholarPeer achieve significant win-rates against state-of-the-art approach in side-side-side evaluations。
論文 参考訳（メタデータ） (2026-01-30T06:54:55Z) - AI and the Future of Academic Peer Review [0.1622854284766506]
大規模言語モデル(LLM)は、ジャーナリスト、資金提供者、個人レビュアーによってピアレビューパイプラインで試験されている。
初期の研究は、AIアシストが人間に匹敵する品質のレビューを作成できることを示唆している。
教師付きLDM支援は, 人間の判断を損なうことなく, エラー検出, タイムライン, レビューヤの作業量を改善することができることを示す。
論文 参考訳（メタデータ） (2025-09-17T17:27:12Z) - CoCoNUTS: Concentrating on Content while Neglecting Uninformative Textual Styles for AI-Generated Peer Review Detection [60.52240468810558]
我々は、AI生成ピアレビューの詳細なデータセットの上に構築されたコンテンツ指向ベンチマークであるCoCoNUTSを紹介する。
また、マルチタスク学習フレームワークを介してAIレビュー検出を行うCoCoDetを開発し、レビューコンテンツにおけるAIのより正確で堅牢な検出を実現する。
論文 参考訳（メタデータ） (2025-08-28T06:03:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。