論文の概要: A Mental Model Based Theory of Trust
- arxiv url: http://arxiv.org/abs/2301.12569v1
- Date: Sun, 29 Jan 2023 22:36:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-31 16:21:51.247072
- Title: A Mental Model Based Theory of Trust
- Title（参考訳）: 信頼理論という,心のモデル
- Authors: Zahra Zahedi, Sarath Sreedharan, Subbarao Kambhampati
- Abstract要約: 信頼の推論に使用できる信頼の精神モデルに基づく理論を提案する。
そして、この理論を用いて、信頼の進化、人間の信頼と意思決定、そしてエージェントに対する適切な信頼のレベルを定式化する。
- 参考スコア（独自算出の注目度）: 31.14516396625931
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Handling trust is one of the core requirements for facilitating effective
interaction between the human and the AI agent. Thus, any decision-making
framework designed to work with humans must possess the ability to estimate and
leverage human trust. In this paper, we propose a mental model based theory of
trust that not only can be used to infer trust, thus providing an alternative
to psychological or behavioral trust inference methods, but also can be used as
a foundation for any trust-aware decision-making frameworks. First, we
introduce what trust means according to our theory and then use the theory to
define trust evolution, human reliance and decision making, and a formalization
of the appropriate level of trust in the agent. Using human subject studies, we
compare our theory against one of the most common trust scales (Muir scale) to
evaluate 1) whether the observations from the human studies match our proposed
theory and 2) what aspects of trust are more aligned with our proposed theory.
- Abstract（参考訳）: 信頼の扱いは、人間とAIエージェントの効果的なインタラクションを促進するためのコア要件の1つです。
したがって、人間と一緒に働くように設計された意思決定フレームワークは、人間の信頼を見積り、活用する能力を持つ必要がある。
本稿では,信頼モデルに基づく信頼理論を提案する。信頼を推論するだけでなく,心理学的・行動的信頼推論手法の代替手段を提供するとともに,信頼を意識した意思決定フレームワークの基盤としても利用できる。
まず,信頼の意味を理論に基づいて紹介し,その理論を用いて信頼の進化,人間の信頼と意思決定,エージェントに対する信頼の適切なレベルを定式化する。
人間の主観的研究を用いて、我々の理論を最も一般的な信頼尺度(ミューアスケール)と比較して評価する。
1)人間研究の観察が我々の提案する理論に合致するか
2) 信頼の側面は, 提案する理論とより一致している。
関連論文リスト
- Can Large Language Model Agents Simulate Human Trust Behavior? [81.45930976132203]
本研究では,Large Language Model (LLM) エージェントが人間の信頼行動をシミュレートできるかどうかを検討する。
GPT-4は、信頼行動の観点から、人間と高い行動アライメントを示す。
また、エージェント信頼のバイアスや、他のLSMエージェントや人間に対するエージェント信頼の差についても検討する。
論文 参考訳（メタデータ） (2024-02-07T03:37:19Z) - Towards Machines that Trust: AI Agents Learn to Trust in the Trust Game [11.788352764861369]
我々は,行動科学と脳科学の信頼を研究するための標準的な課題である$textittrust game$について理論的に分析する。
具体的には、強化学習を利用してAIエージェントを訓練し、このタスクの様々なパラメータ化の下で学習信頼を調査する。
提案したシミュレーション結果と相関する理論解析は,信頼ゲームにおける信頼の出現に関する数学的基礎を提供する。
論文 参考訳（メタデータ） (2023-12-20T09:32:07Z) - Decoding trust: A reinforcement learning perspective [11.04265850036115]
信頼ゲームにおける行動実験は、信頼と信頼は人間の間で普遍的であることを示した。
個人が蓄積した経験を通じて長期的なリターンを評価することで戦略を更新する強化学習のパラダイムに目を向ける。
両者のシナリオでは、個人が過去の経験と未来への回帰の両方を理解すれば、高いレベルの信頼と信頼感が生まれます。
論文 参考訳（メタデータ） (2023-09-26T01:06:29Z) - Distrust in (X)AI -- Measurement Artifact or Distinct Construct? [0.0]
信頼は説明可能な人工知能(XAI)を開発する上で重要な動機である
XAIでは不信は比較的過小評価されているようだ。
心理学的証拠は 信頼と不信を区別する
論文 参考訳（メタデータ） (2023-03-29T07:14:54Z) - Designing for Responsible Trust in AI Systems: A Communication
Perspective [56.80107647520364]
我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。
私たちは、AIシステムの能力として透明性とインタラクションを強調します。
我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
論文 参考訳（メタデータ） (2022-04-29T00:14:33Z) - Trust in AI: Interpretability is not necessary or sufficient, while
black-box interaction is necessary and sufficient [0.0]
人工知能に対する人間の信頼の問題は、応用機械学習における最も基本的な問題の1つである。
我々は、AI-as-toolフレームワークを動機付けるために、人間自動信頼に関する統計的学習理論と社会学的レンズから抽出する。
モデルアクセスのはしごによる信頼における解釈可能性の役割を明らかにする。
論文 参考訳（メタデータ） (2022-02-10T19:59:23Z) - Insights into Fairness through Trust: Multi-scale Trust Quantification
for Financial Deep Learning [94.65749466106664]
金融深層学習において探求されていない公平性の基本的な側面は、信頼の概念である。
クレジットカードのデフォルト予測のために,ディープニューラルネットワーク上でマルチスケール信頼度定量化を行う。
論文 参考訳（メタデータ） (2020-11-03T19:05:07Z) - Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and
Goals of Human Trust in AI [55.4046755826066]
我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。
ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。
我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
論文 参考訳（メタデータ） (2020-10-15T03:07:23Z) - How Much Can We Really Trust You? Towards Simple, Interpretable Trust
Quantification Metrics for Deep Neural Networks [94.65749466106664]
我々は思考実験を行い、信頼と信頼に関する2つの重要な疑問を探求する。
我々は、一連の質問に答える際の行動に基づいて、ディープニューラルネットワークの全体的な信頼性を評価するための一連のメトリクスを紹介します。
提案されたメトリクスは必ずしも完璧ではありませんが、よりよいメトリクスに向かって会話を推し進めることが望まれています。
論文 参考訳（メタデータ） (2020-09-12T17:37:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。