論文の概要: Train Yourself as an LLM: Exploring Effects of AI Literacy on Persuasion via Role-playing LLM Training

• arxiv url: http://arxiv.org/abs/2604.02637v1
• Date: Fri, 03 Apr 2026 02:03:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 17:20:24.274327
• Title: Train Yourself as an LLM: Exploring Effects of AI Literacy on Persuasion via Role-playing LLM Training
• Title（参考訳）: LLMとしてのTraining Yourself:ロールプレイングLLMトレーニングによるAIリテラシーの説得への影響
• Authors: Qihui Fan, Min Ge, Chenyan Jia, Weiyan Shi,
• Abstract要約: 我々はロールプレイベースのインタラクティブなゲーミフィケーションAIリテラシーチュートリアルである$textbfLLMimicを紹介した。 その結果,LLMimicは参加者のAIリテラシーを大幅に改善した。 これらの結果は、LLMimicがAIリテラシーを改善するためのスケーラブルで人間中心のアプローチを提供していることを示唆している。
• 参考スコア（独自算出の注目度）: 15.205845019601938
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) become increasingly persuasive, there is concern that people's opinions and decisions may be influenced across various contexts at scale. Prior mitigation (e.g., AI detectors and disclaimers) largely treats people as passive recipients of AI-generated information. To provide a more proactive intervention against persuasive AI, we introduce $\textbf{LLMimic}$, a role-play-based, interactive, gamified AI literacy tutorial, where participants assume the role of an LLM and progress through three key stages of the training pipeline (pretraining, SFT, and RLHF). We conducted a $2 \times 3$ between-subjects study ($N = 274$) where participants either (1) watched an AI history video (control) or (2) interacted with LLMimic (treatment), and then engaged in one of three realistic AI persuasion scenarios: (a) charity donation persuasion, (b) malicious money solicitation, or (c) hotel recommendation. Our results show that LLMimic significantly improved participants' AI literacy ($p < .001$), reduced persuasion success across scenarios ($p < .05$), and enhanced truthfulness and social responsibility levels ($p<0.01$) in the hotel scenario. These findings suggest that LLMimic offers a scalable, human-centered approach to improving AI literacy and supporting more informed interactions with persuasive AI.
• Abstract（参考訳）: 大規模言語モデル (LLM) がますます説得力を持つようになるにつれて、人々の意見や決定が、規模によって様々な文脈に影響を及ぼすことが懸念される。 事前緩和(例えば、AI検出器とディファイラ)は、主にAIが生成した情報の受取人として人々を扱います。 このチュートリアルでは、参加者がLLMの役割を引き受け、トレーニングパイプラインの3つの重要な段階(トレーニング、SFT、RLHF)を進む。 参加者は(1)AI履歴ビデオ(制御)を見たり、(2)LLMimic(処理)と対話したりして、3つの現実的なAI説得シナリオの1つに従事します。 a)チャリティー寄付の説得 (b)悪意ある金銭の勧誘、又は (c)ホテルレコメンデーション。 その結果、LLMimicは参加者のAIリテラシー(p < .001$)を大幅に改善し、シナリオ間での説得成功(p < .05$)を低減し、ホテルシナリオにおける誠実さと社会的責任レベル(p<0.01$)を向上した。 これらの結果は、LLMimicがAIリテラシーを改善し、説得力のあるAIとのより深いインタラクションをサポートするために、スケーラブルで人間中心のアプローチを提供していることを示唆している。

関連論文リスト

• Must Read: A Systematic Survey of Computational Persuasion [60.83151988635103]
  AI駆動の説得は、有益なアプリケーションに活用することができるが、操作と非倫理的な影響を通じて脅威を引き起こす。 本調査では,AIによる説得の安全性,公平性,有効性を高めるための今後の研究方針について概説する。
  論文  参考訳（メタデータ） (2025-05-12T17:26:31Z)
• AI persuading AI vs AI persuading Humans: LLMs' Differential Effectiveness in Promoting Pro-Environmental Behavior [70.24245082578167]
  環境保護行動(PEB)は気候変動に対処するために不可欠であるが、意識を意図や行動に変えることはいまだ明白である。 大規模言語モデル(LLM)をPEBを促進するツールとして検討し,その影響を3,200人の参加者で比較した。 人工的およびシミュレートされたエージェントは、介入後のEBスタンスに大きく影響し、ヒトの反応はほとんど変化しない。
  論文  参考訳（メタデータ） (2025-03-03T21:40:55Z)
• Persuade Me if You Can: A Framework for Evaluating Persuasion Effectiveness and Susceptibility Among Large Language Models [9.402740034754455]
  大きな言語モデル(LLM)は、人間レベルの説得と競合する説得力を示す。 LLMの説得への感受性は、倫理的原則との整合性に関する懸念を提起する。 マルチエージェントインタラクションによる説得評価フレームワークPersuade Me If You Can (PMIYC)を紹介した。
  論文  参考訳（メタデータ） (2025-03-03T18:53:21Z)
• How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to Challenge AI Safety by Humanizing LLMs [66.05593434288625]
  本稿では, 大規模言語モデル (LLM) を人間のようなコミュニケーション手段として, ジェイルブレイクの新たな視点を紹介する。 本研究では,数十年にわたる社会科学研究から派生した説得的分類法を適用し,説得的敵対的プロンプト(PAP)をジェイルブレイク LLM に適用する。 PAPは、Llama 2-7b Chat、GPT-3.5、GPT-4の攻撃成功率を10ドルで一貫して92%以上達成している。 防衛面では,PAPに対する様々なメカニズムを探索し,既存の防衛に重大なギャップがあることを見出した。
  論文  参考訳（メタデータ） (2024-01-12T16:13:24Z)
• Learning to Prompt in the Classroom to Understand AI Limits: A pilot study [35.06607166918901]
  大規模言語モデル(LLM)と、ChatGPTのような派生したチャットボットは、AIシステムの自然言語処理能力を大幅に改善した。 しかし、AI手法が顕著な貢献を示しているにもかかわらず、興奮は否定的な感情を引き起こしている。 パイロット教育は21人の生徒を抱えた高校で実施された。
  論文  参考訳（メタデータ） (2023-07-04T07:51:37Z)
• Improving Language Model Negotiation with Self-Play and In-Context Learning from AI Feedback [97.54519989641388]
  交渉ゲームにおいて,複数大言語モデル(LLM)が,遊び,振り返り,批判によって自律的に互いに改善できるかどうかを検討する。 私たちが考慮している言語モデルのサブセットだけが、AIフィードバックから自己プレイし、取引価格を改善することができます。
  論文  参考訳（メタデータ） (2023-05-17T11:55:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。