論文の概要: Trust by Design: Trust Calibration Through Non-Advisory Socratic Dialogue in Conversational Agents

• arxiv url: http://arxiv.org/abs/2609.14818v1
• Date: Sun, 13 Sep 2026 22:19:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.993091
• Title: Trust by Design: Trust Calibration Through Non-Advisory Socratic Dialogue in Conversational Agents
• Title（参考訳）: デザインによる信頼:会話エージェントにおける非助言的ソクラテス的対話による信頼の校正
• Abstract要約: 我々は,非アドバイザなソクラテス的対話を通じて,自身の権限を制限するための対話エージェントCASELyを提案する。 エージェントは、ユーザー入力にのみ根ざした反射的な質問をし、アドバイス、レコメンデーション、解釈の提供を拒否する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As conversational AI systems increasingly operate in sensitive domains, the central challenge shifts from usability to trust calibration, ensuring that users rely on systems neither too much nor too little. Systems that provide advice or interpretations risk encouraging inappropriate reliance, particularly when users perceive AI outputs as authoritative. We present CASELy, a conversational agent explicitly designed to limit its own authority through non-advisory Socratic dialogue. The agent asks reflective questions grounded exclusively in user input and refuses to provide advice, recommendations, or interpretations. This design operationalizes trust calibration by constraining agent agency rather than optimizing capability. In a pilot randomized controlled study with higher education students, participants interacting with the Socratic dialogue reported substantially higher user experience (UEQ-S overall = 1.50) compared to a non-dialogue control (0). Qualitative findings identify three mechanisms supporting calibrated trust: transparency through visible grounding, preservation of user decision authority, and reduced fear of judgment. We argue that appropriate reliance can be achieved through interactional constraints, offering a design pattern for trustworthy conversational AI in sensitive contexts.
• Abstract（参考訳）: 会話型AIシステムがセンシティブなドメインでますます運用されるようになるにつれて、中心的な課題はユーザビリティから信頼性のキャリブレーションへとシフトし、ユーザが過度に、あるいは少なすぎるシステムに依存することを保証する。 アドバイスや解釈を提供するシステムは、不適切な信頼を奨励するリスクを負う。 我々は,非行政的ソクラテス的対話を通じて,自らの権限を制限するように設計された対話エージェントCASELyを提示する。 エージェントは、ユーザー入力にのみ根ざした反射的な質問をし、アドバイス、レコメンデーション、解釈の提供を拒否する。 この設計は、能力の最適化ではなく、エージェントエージェンシーの制約による信頼校正を運用する。 高等教育生を対象としたランダム化対照試験において、ソクラティック対話と対話する参加者は、非対話制御(0。 質的な発見は、可視的接地による透明性、ユーザ決定権限の保存、判断の恐怖の軽減という、調整された信頼を支える3つのメカニズムを識別する。 我々は、インタラクションの制約によって適切な信頼を達成でき、センシティブなコンテキストにおける信頼できる会話AIの設計パターンを提供する、と論じる。

関連論文リスト

• Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI [8.544772506500188]
  パーソナライゼーションは、政治やマーケティングにおける説得的戦略として認識されている。 我々は、文脈化と会話の暖かさを組み合わせ、専門家の推薦に反対するAIアシスタントの信頼と説得性を形作る方法について検討する。
  論文  参考訳（メタデータ） (2026-05-29T13:07:03Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Co-FactChecker: A Framework for Human-AI Collaborative Claim Verification Using Large Reasoning Models [99.26398772227684]
  我々は,人間とAIの協調的クレーム検証のためのフレームワークであるCo-FactCheckerを提案する。 Co-FactCheckerは専門家のフィードバックをトレース編集に変換する。 人間の評価は、マルチターン対話よりもCo-FactCheckerの方が好ましいことを示している。
  論文  参考訳（メタデータ） (2026-04-15T10:35:00Z)
• When Contextual Inference Fails: Cancelability in Interactive Instruction Following [51.2195840589474]
  私たちは、コンテキスト意味構築のためのインタラクティブなベンチマークであるBuild What I Meanを紹介します。 BWIMでは、モデルは文脈推論を行うか、小さな通信コストで明確化を要求することによって曖昧さを解決しなければならない。 我々は,不確実性の下でのパートナーブラインド過度明確化や質問逆推定などの準最適戦略を観察する。
  論文  参考訳（メタデータ） (2026-03-20T14:46:59Z)
• Dynamic Trust Calibration Using Contextual Bandits [1.8563342761346613]
  過剰な信頼は、AIが生成したアウトプットを疑わしいことなく受け入れることを可能にする。 不十分な信頼は、AIシステムから価値のある洞察を無視してしまう可能性がある。 現在、人間とAIの信頼度を測る決定的かつ客観的な方法は存在しない。
  論文  参考訳（メタデータ） (2025-09-27T21:06:17Z)
• "Even explanations will not help in trusting [this] fundamentally biased system": A Predictive Policing Case-Study [8.240854389254222]
  リスクの高いドメインにおけるAIシステムの使用は、ユーザを過度に信頼させるか、不適切な信頼または過度に信頼させる可能性がある。 過去の研究によると、AIシステムが提供する説明は、いつシステムを信頼すべきか、信頼すべきでないかをユーザーの理解を高めることができる。 本研究では,AIに基づく予測ポーリングの適切な信頼を確立する上で,さまざまな説明タイプとユーザ専門知識が与える影響について検討する。
  論文  参考訳（メタデータ） (2025-04-15T09:43:48Z)
• DebUnc: Improving Large Language Model Agent Communication With Uncertainty Metrics [52.242449026151846]
  大規模言語モデル(LLM)の精度向上のためのマルチエージェント論争が紹介されている。 エージェントの信頼性を評価するために不確実性指標を用いた議論フレームワークであるDebUncを提案する。
  論文  参考訳（メタデータ） (2024-07-08T22:15:01Z)
• A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
  現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。 賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
  論文  参考訳（メタデータ） (2023-10-20T14:41:46Z)
• A Systematic Literature Review of User Trust in AI-Enabled Systems: An HCI Perspective [0.0]
  人工知能(AI)のユーザ信頼は、採用を促進する重要な要素として、ますます認識され、証明されてきている。 本総説は, ユーザ信頼の定義, 影響要因, 測定方法の概要を, 実証研究23件から明らかにすることを目的としている。
  論文  参考訳（メタデータ） (2023-04-18T07:58:09Z)
• Designing for Responsible Trust in AI Systems: A Communication Perspective [56.80107647520364]
  我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。 私たちは、AIシステムの能力として透明性とインタラクションを強調します。 我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
  論文  参考訳（メタデータ） (2022-04-29T00:14:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。