論文の概要: Influence of the algorithm's reliability and transparency in the user's decision-making process

• arxiv url: http://arxiv.org/abs/2308.02492v1
• Date: Thu, 13 Jul 2023 03:13:49 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-14 01:28:15.301495
• Title: Influence of the algorithm's reliability and transparency in the user's decision-making process
• Title（参考訳）: ユーザの意思決定過程におけるアルゴリズムの信頼性と透明性の影響
• Authors: Sourabh Zanwar
• Abstract要約: 我々は61人の参加者とともにオンライン実験を行い、アルゴリズムの透明性と信頼性の変化がユーザーの意思決定プロセスにどのように影響するかを調べる。 その結果,信頼性が悪くても,アルゴリズムの判断にある程度の信頼感が示されることがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Algorithms have been becoming increasingly relevant for various decision-making processes in the forms of Decision Support Systems or Decision-making systems in areas such as Criminal-Justice systems, Job Application Filtering, Medicine, and Healthcare to name a few. It is crucial for these algorithms to be fair and for the users to have confidence in these decisions, especially in the above contexts, because they have a high impact on society. We conduct an online empirical study with 61 participants to find out how the change in transparency and reliability of an algorithm which determines the probability of lesions being melanoma could impact users' decision-making process, as well as the confidence in the decisions made by the algorithm. The results indicate that people show at least moderate confidence in the decisions of the algorithm even when the reliability is bad. However, they would not blindly follow the algorithm's wrong decisions.
• Abstract（参考訳）: アルゴリズムは、刑事司法制度、ジョブ・アプリケーション・フィルタリング、医療、医療といった分野における意思決定支援システムや意思決定システムという形態の様々な意思決定プロセスにおいて、ますます重要になっている。 これらのアルゴリズムが公平であり、ユーザーがこれらの決定に自信を持つことは、特に上記の文脈において、社会に大きな影響を与えるため重要である。 我々は61人の参加者とともにオンライン実験を行い、メラノーマである病変の可能性を判断するアルゴリズムの透明性と信頼性の変化が、ユーザの意思決定プロセスにどのように影響するか、そしてアルゴリズムによる決定に対する自信を確かめる。 その結果,信頼性が悪くても,アルゴリズムの判断にある程度の信頼感が示されることがわかった。 しかし、アルゴリズムの間違った判断に盲目的に従わない。

関連論文リスト

• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)
• Causal Fairness for Outcome Control [68.12191782657437]
  本稿では,自動システムにおいて,公平かつ公平な結果変数を最適化することを目的とした,結果制御と呼ばれる特定の意思決定タスクについて検討する。 本稿では、まず因果レンズを通して利益の概念を分析し、特定の個人が肯定的な決定によってどれだけの利益を得られるかを明らかにする。 次に、保護された属性の影響を受けている可能性があることに留意し、これを分析するために使用できる因果的ツールを提案する。
  論文  参考訳（メタデータ） (2023-06-08T09:31:18Z)
• On solving decision and risk management problems subject to uncertainty [91.3755431537592]
  不確実性は意思決定とリスク管理において広範囲にわたる課題である。 本稿では,このような戦略を体系的に理解し,その適用範囲を判断し,それらをうまく活用するための枠組みを開発する。
  論文  参考訳（メタデータ） (2023-01-18T19:16:23Z)
• Algorithmic Assistance with Recommendation-Dependent Preferences [2.864550757598007]
  選択に影響を及ぼすアルゴリズムレコメンデーションの効果と設計について考察する。 我々は、レコメンデーションに依存した選好が、意思決定者がレコメンデーションに過度に反応する非効率性を生み出すことを示す。
  論文  参考訳（メタデータ） (2022-08-16T09:24:47Z)
• A Human-Centric Perspective on Fairness and Transparency in Algorithmic Decision-Making [0.0]
  自動意思決定システム(ADS)は、連続的な意思決定にますます利用されている。 非透明なシステムは、健全性の評価と校正が難しいため、不公平な結果をもたらす傾向にある。 私は博士論文を通じて以下の3つの主要な貢献をしたいと考えています。
  論文  参考訳（メタデータ） (2022-04-29T18:31:04Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• System Cards for AI-Based Decision-Making for Public Policy [5.076419064097733]
  本研究では,人工知能に基づく意思決定システムの公式監査のためのシステム説明責任ベンチマークを提案する。 これは、(i)データ、(ii)モデル、(iii)コード、(iv)システム、および(a)開発、(b)評価、(c)緩和、(d)保証に焦点を当てた行からなる4つの4つの4つの行列にまとめられた56の基準からなる。
  論文  参考訳（メタデータ） (2022-03-01T18:56:45Z)
• Modularity in Reinforcement Learning via Algorithmic Independence in Credit Assignment [79.5678820246642]
  提案手法は, 事前決定の順序に対して, スパース変化のみを必要とする伝達問題に対して, 政策段階の手法よりも, より標本効率が高いことを示す。 我々は最近提案された社会的意思決定の枠組みをマルコフ決定プロセスよりもよりきめ細かい形式主義として一般化する。
  論文  参考訳（メタデータ） (2021-06-28T21:29:13Z)
• Algorithmic risk assessments can alter human decision-making processes in high-stakes government contexts [19.265010348250897]
  リスクアセスメントは意思決定の要因としてリスクのサリエンスを高めることで意思決定プロセスを変え、これらの変化が人種格差を悪化させる可能性があることを示す。 これらの結果から,アルゴリズムによる予測精度の向上は必ずしも人間の意思決定を改善するものではないことを示し,意思決定者による政府アルゴリズムの使用方法を実験的に検証する必要性を強調した。
  論文  参考訳（メタデータ） (2020-12-09T23:44:45Z)
• Dimensions of Diversity in Human Perceptions of Algorithmic Fairness [37.372078500394984]
  手続き的アルゴリズムフェアネスに対する人々の認識が、その人口動態や個人的経験とどのように関連しているかを考察する。 アルゴリズム決定の文脈における政治的見解と個人的な経験は、保釈決定のための異なる特徴を使用することの公平性に対する認識に大きな影響を及ぼす。
  論文  参考訳（メタデータ） (2020-05-02T11:59:39Z)
• Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
  異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。 我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。 我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
  論文  参考訳（メタデータ） (2020-04-15T15:58:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。