論文の概要: Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI
- arxiv url: http://arxiv.org/abs/2605.31275v1
- Date: Fri, 29 May 2026 13:07:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.624311
- Title: Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI
- Title（参考訳）: Persuadeへのパーソナライズ:会話型AIの信頼と信頼に及ぼす文脈化と温かさの影響
- Abstract要約: パーソナライゼーションは、政治やマーケティングにおける説得的戦略として認識されている。
我々は、文脈化と会話の暖かさを組み合わせ、専門家の推薦に反対するAIアシスタントの信頼と説得性を形作る方法について検討する。
- 参考スコア（独自算出の注目度）: 8.544772506500188
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial Intelligence (AI) agents personalize their responses by tailoring explanations to users' backgrounds, interests, and prior interactions, referred to as contextualization. Personalization has been identified as a persuasive strategy in politics or in marketing. However, the persuasive effect of contextualization in everyday tasks, where users often lack prior knowledge, remains unclear. We conducted a $2\times2$ between-subjects experiment ($N = 380$) examining how contextualization, combined with conversational warmth, shapes reliance and persuasiveness of an AI assistant arguing against expert recommendations. Our findings reveal that contextualization reduces the persuasive power of AI, but its combination with warmth restores persuasiveness through a crossover interaction. Reliance on AI is present across conditions and is invariant to the conversational design. Trust strongly predicts both persuasion and reliance, yet neither contextualization nor warmth operates through trust. AI literacy decouples trust from behavior: more literate users report lower trust in the assistant, yet are more persuaded and more reliant on its advice. These results suggest that users are prone to deferring to AI agents over human expert judgment; however, interface-level conversational design choices have a limited role in shaping the behavior.
- Abstract（参考訳）: 人工知能(AI)エージェントは、コンテキスト化と呼ばれるユーザーの背景、興味、事前のインタラクションの説明をカスタマイズすることで、応答をパーソナライズする。
パーソナライゼーションは、政治やマーケティングにおける説得的戦略として認識されている。
しかし,従来の知識を欠いている日常作業における文脈化の説得的効果は,いまだ不明である。
専門家の推薦に反対するAIアシスタントの文脈化と会話の温かさ、形状、説得力について、20ドル(約2万2000円)のインターオブジェクト実験(N = 380ドル)を行った。
我々の研究結果によると、文脈化はAIの説得力を低下させるが、温かさと組み合わせることでクロスオーバー相互作用を通じて説得力を回復させる。
AIへの信頼は条件を越えて存在し、会話設計に不変である。
信頼は説得と信頼の両方を強く予測するが、文脈化も暖かさも信頼を通さない。
AIリテラシーは、行動からの信頼を分離する。よりリテラシーなユーザは、アシスタントに対する信頼度を低く報告するが、より説得され、アドバイスに依存している。
これらの結果は、ユーザーは人間の専門家による判断よりもAIエージェントを優先する傾向があることを示唆している。
関連論文リスト
- Trust by Design: Trust Calibration Through Non-Advisory Socratic Dialogue in Conversational Agents [0.0]
我々は,非アドバイザなソクラテス的対話を通じて,自身の権限を制限するための対話エージェントCASELyを提案する。
エージェントは、ユーザー入力にのみ根ざした反射的な質問をし、アドバイス、レコメンデーション、解釈の提供を拒否する。
論文 参考訳（メタデータ） (2026-09-13T22:19:18Z) - The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search [8.544772506500188]
情報検索は、対話型AIとWeb検索を組み合わせたハイブリッドインタラクションパラダイムにますます従っている。
我々は、AI回答の検証を促す基本的な要因(例えば、デジタルリテラシーと会話の暖かさ)を調査する。
論文 参考訳（メタデータ） (2026-05-27T14:00:45Z) - What Drives Students' Use of AI Chatbots? Technology Acceptance in Conversational AI [0.17188280334580194]
本研究は,学生が会話型AIの使用を意図した行動意図に,有用性と使いやすさがどのような関係があるかを検討する。
学生が会話型AIを使う意図を予測する上で,有用性は依然として最強であると認識されている。
信頼と主観的規範は有用性の知覚に著しく影響を及ぼす一方、快楽は使用意図に直接的および間接的に影響する。
論文 参考訳（メタデータ） (2026-02-24T05:00:41Z) - When AI Persuades: Adversarial Explanation Attacks on Human Trust in AI-Assisted Decision Making [7.170587130743388]
大規模言語モデルは、ユーザーがAI出力をどのように認識し、信頼するかを形作る、流動的な自然言語の説明を生成する。
本研究では,攻撃者がLDM生成説明書のフレーミングを操作し,不正確な出力に対する人間の信頼を調節する逆説明攻撃(AEAs)を導入する。
これは、説明を敵対的な認知チャネルとして扱い、AIによる意思決定に対する人間の信頼への影響を定量化する最初の体系的なセキュリティ研究である。
論文 参考訳（メタデータ） (2026-02-03T20:42:44Z) - Generative Confidants: How do People Experience Trust in Emotional Support from Generative AI? [4.442753300582291]
人々は感情的なサポートと協力のために、生成的AI(例えば、ChatGPT、Gemini、Copilot)に目を向けている。
信頼は、これらの非公式で教師なしの相互作用を可能にする上で中心的な役割を果たす可能性が高いが、この文脈で人々がそれをどのように発展し、経験するかについての理解はいまだに欠けている。
我々は,対話に関する日記記事,AIとの会話の書き起こし,詳細なインタビューからなる質的研究を行った。
この文脈における信頼の新たな重要な要因は、パーソナライゼーションから生じる親しみ、生成AIのニュアンス化された精神モデル、会話に対する人々のコントロールの認識である。
論文 参考訳（メタデータ） (2026-01-23T11:19:41Z) - AI-exhibited Personality Traits Can Shape Human Self-concept through Conversations [26.039188521284974]
我々は、人間とAIの会話を通して、AIの性格特性がユーザーの自己概念を形作る方法を示す。
我々は、より責任と倫理的なAIシステムの開発に重要な設計上の意味を提供する。
論文 参考訳（メタデータ） (2026-01-19T05:16:57Z) - Must Read: A Systematic Survey of Computational Persuasion [60.83151988635103]
AI駆動の説得は、有益なアプリケーションに活用することができるが、操作と非倫理的な影響を通じて脅威を引き起こす。
本調査では,AIによる説得の安全性,公平性,有効性を高めるための今後の研究方針について概説する。
論文 参考訳（メタデータ） (2025-05-12T17:26:31Z) - Interactive Dialogue Agents via Reinforcement Learning on Hindsight Regenerations [58.65755268815283]
多くの実際の対話は対話的であり、つまりエージェントの発話が会話の相手に影響を与えるか、情報を引き出すか、意見を変えるかである。
この事実を利用して、既存の最適データを書き直し、拡張し、オフライン強化学習(RL)を介してトレーニングする。
実際の人間によるユーザ調査の結果、我々のアプローチは既存の最先端の対話エージェントを大きく上回っていることがわかった。
論文 参考訳（メタデータ） (2024-11-07T21:37:51Z) - X-TURING: Towards an Enhanced and Efficient Turing Test for Long-Term Dialogue Agents [56.64615470513102]
チューリングテストは、自然言語の会話においてAIが人間のような振る舞いを示すかどうかを調べる。
従来の設定では、各参加者は一度に1つのメッセージに制限される。
本稿では,textitburstダイアログパターンを用いて,元のテストを強化するtextbftextscX-Turingを提案する。
論文 参考訳（メタデータ） (2024-08-19T09:57:28Z) - Understanding How People Rate Their Conversations [73.17730062864314]
我々は、人々が会話エージェントとのインタラクションをどのように評価するかをよりよく理解するために研究を行う。
我々は、評価の変動を説明する変数として、同意性と外向性に焦点を当てる。
論文 参考訳（メタデータ） (2022-06-01T00:45:32Z) - Interacting with Non-Cooperative User: A New Paradigm for Proactive
Dialogue Policy [83.61404191470126]
インタラクティブな環境下でプロアクティブなポリシーを学習できるI-Proという新しいソリューションを提案する。
具体的には,4つの要因からなる学習目標重みを通じてトレードオフを学習する。
実験の結果,I-Proは,有効性と解釈性において,ベースラインを著しく上回っていることがわかった。
論文 参考訳（メタデータ） (2022-04-07T14:11:31Z) - Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and
Goals of Human Trust in AI [55.4046755826066]
我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。
ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。
我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
論文 参考訳（メタデータ） (2020-10-15T03:07:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。