論文の概要: Toward Meaningful Transparency for AI Chatbots: Disclosing Persuasive Intent Reduces Persuasion

• arxiv url: http://arxiv.org/abs/2608.11794v1
• Date: Wed, 12 Aug 2026 08:37:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-13 19:07:54.521504
• Title: Toward Meaningful Transparency for AI Chatbots: Disclosing Persuasive Intent Reduces Persuasion
• Title（参考訳）: AIチャットボットにおける意味のある透明性の実現に向けて - 説得力のあるインテントによる説得力の低減
• Abstract要約: 我々は、AIボットの説得力に影響を及ぼす2つの開示アプローチをテストする。 無(制御)、AIと対話しているという顕著な開示(T1)、あるいはボットの説得意図と指示(T2)。 AIの同一性開示は、実際には開示と同等であり、13.1ポイントのシフトがあるが、追加の意図の開示は、説得効果をおよそ半分から6.3ポイントに減らした。
• 参考スコア（独自算出の注目度）: 0.34376560669160394
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The growing role of AI-generated content and AI-enabled systems in public communication has led regulators to demand clear disclosure of content provenance and AI involvement. But the effects of such disclosures remain uncertain. We test two disclosure approaches in their impact on an AI chatbot's persuasive appeal. In a preregistered experiment, 1,500 UK adults held a short conversation with a persuasive chatbot about one of 60 policy issues. The chatbot was identical for everyone. We randomized the disclosure that people received: nothing (control), a prominent disclosure that they were interacting with an AI (T1), or that disclosure plus the chatbot's persuasive intent and instructions (T2). The chatbot shifted attitudes by 12.6 points on a 100-point scale in the control group. The AI-identity disclosure was practically equivalent to no disclosure, with a 13.1-point shift, whereas the additional intent disclosure cut the persuasive effect roughly in half to 6.3 points. It also made participants view the campaign's methods as less acceptable and support stronger penalties against it. For direct chatbot interactions, transparency about AI identity alone does not meaningfully impact its influence. While current rules emphasize what a system is, our results show why the regulation of persuasive AI must also address what the system is trying to do.
• Abstract（参考訳）: 公共通信におけるAI生成コンテンツとAI対応システムの役割の高まりにより、規制当局は、コンテンツ証明とAI関与の明確な開示を要求するようになった。 しかし、そのような暴露の影響はいまだに不明である。 我々は、AIチャットボットの説得力に影響を及ぼす2つの開示アプローチをテストする。 登録済みの実験では、1500人の成人が60の政策問題のうちの1つについて説得力のあるチャットボットと短い会話を行った。 チャットボットはみんなに同じでした。 無(制御)、AIと対話しているという顕著な開示(T1)、チャットボットの説得意図と指示(T2)。 チャットボットは、コントロールグループの100ポイントスケールで態度を12.6ポイントシフトした。 AIの同一性開示は、実際には開示と同等であり、13.1ポイントのシフトがあるが、追加の意図の開示は、説得効果をおよそ半分から6.3ポイントに減らした。 また、参加者は選挙運動のやり方を受け入れられないものとみなし、それに対するより強い罰則を支持した。 直接チャットボットの対話では、AIアイデンティティに関する透明性は、その影響に意味をなさない。 現在のルールでは、システムが何であるかを強調していますが、私たちの結果は、説得力のあるAIの規制が、システムがしようとしていることにも対処しなければならない理由を示しています。

関連論文リスト

• Individual-level interventions against sycophantic AI reduce its appeal but not its persuasiveness [0.0]
  サイコファンティックAIは、ユーザーに対して過度に同意し、フラットにすることができる。 本研究は,薬効に対する利用者の意識の高まりが,その有害な影響を防いでいるかどうかを検証した。
  論文  参考訳（メタデータ） (2026-07-28T00:40:49Z)
• Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
  警告ラベルが梅毒の影響を緩和するかどうかを検証する。 システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。 しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
  論文  参考訳（メタデータ） (2026-06-19T11:01:45Z)
• The Hidden Costs of AI-Mediated Political Outreach: Persuasion and AI Penalties in the US and UK [0.34376560669160394]
  我々は、政治キャンペーンのアウトリーチのために、AI対応システムのコミュニケーション実践をどのように評価するかを検討する。 2つの評価罰に対する一貫した証拠を見いだす。 自動化アウトリーチが広まるにつれ、人々が民主的コミュニケーションにとって重要であると判断する方法が広まる。
  論文  参考訳（メタデータ） (2026-03-28T21:22:02Z)
• Effect of Static vs. Conversational AI-Generated Messages on Colorectal Cancer Screening Intent: a Randomized Controlled Trial [5.429833789548265]
  大規模言語モデル(LLM)チャットボットは説得力のあるコミュニケーションの可能性を増す。 915名の成人(45～75歳)に大腸癌検診を施行した。 どちらのAI介入も12ポイント(12.9-13.8/100)以上のスツールテストの意図を、専門家の材料では7.5倍に向上させた。
  論文  参考訳（メタデータ） (2025-07-10T22:46:43Z)
• Must Read: A Systematic Survey of Computational Persuasion [60.83151988635103]
  AI駆動の説得は、有益なアプリケーションに活用することができるが、操作と非倫理的な影響を通じて脅威を引き起こす。 本調査では,AIによる説得の安全性,公平性,有効性を高めるための今後の研究方針について概説する。
  論文  参考訳（メタデータ） (2025-05-12T17:26:31Z)
• Manipulation and the AI Act: Large Language Model Chatbots and the Danger of Mirrors [0.0]
  AIチャットボットのパーソナライズは、ユーザーとの信頼を高めることができる。 しかし、人工的な実体との密接な密接な関係の錯覚を作り出すことで、それらがより操作できるようにすることもできる。 欧州委員会は、AI法を確定し、EU議会は、ユーザーに大きな害を与えるマニピュティブで詐欺的なAIシステムを禁止している。
  論文  参考訳（メタデータ） (2025-03-24T06:56:29Z)
• AI persuading AI vs AI persuading Humans: LLMs' Differential Effectiveness in Promoting Pro-Environmental Behavior [70.24245082578167]
  環境保護行動(PEB)は気候変動に対処するために不可欠であるが、意識を意図や行動に変えることはいまだ明白である。 大規模言語モデル(LLM)をPEBを促進するツールとして検討し,その影響を3,200人の参加者で比較した。 人工的およびシミュレートされたエージェントは、介入後のEBスタンスに大きく影響し、ヒトの反応はほとんど変化しない。
  論文  参考訳（メタデータ） (2025-03-03T21:40:55Z)
• Will you donate money to a chatbot? The effect of chatbot anthropomorphic features and persuasion strategies on willingness to donate [4.431473323414383]
  パーソナライズ戦略とパーソナライズ戦略がユーザの認識と寄付可能性に与える影響について検討する。 その結果, 人格化されたチャットボットとの相互作用は, 人類同型感を誘発するが, 寄付意欲が増すわけではないことが示唆された。 実際、一般的に使われている人為的特徴(名前や物語など)は、寄付コンテキストにおけるAIエージェントに対する否定的な態度につながった。
  論文  参考訳（メタデータ） (2024-12-28T02:17:46Z)
• Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated [48.70176791365903]
  本研究では、偏見がAIと人為的コンテンツの知覚をどう形成するかを考察する。 ラベル付きおよびラベルなしコンテンツに対するヒトのラッカーの反応について検討した。
  論文  参考訳（メタデータ） (2024-09-29T04:31:45Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Put Chatbot into Its Interlocutor's Shoes: New Framework to Learn Chatbot Responding with Intention [55.77218465471519]
  本稿では,チャットボットに人間のような意図を持つための革新的なフレームワークを提案する。 我々のフレームワークには、ガイドロボットと人間の役割を担うインターロケータモデルが含まれていた。 本フレームワークを3つの実験的なセットアップを用いて検討し,4つの異なる指標を用いた誘導ロボットの評価を行い,柔軟性と性能の利点を実証した。
  論文  参考訳（メタデータ） (2021-03-30T15:24:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。