論文の概要: Human Perceptions on Moral Responsibility of AI: A Case Study in AI-Assisted Bail Decision-Making

• arxiv url: http://arxiv.org/abs/2102.00625v1
• Date: Mon, 1 Feb 2021 04:07:38 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-02 16:02:11.833529
• Title: Human Perceptions on Moral Responsibility of AI: A Case Study in AI-Assisted Bail Decision-Making
• Title（参考訳）: AIのモラル責任に関する人間の認識:AIによるベイル意思決定のケーススタディ
• Authors: Gabriel Lima, Nina Grgi\'c-Hla\v{c}a, Meeyoung Cha
• Abstract要約: 我々は、AIと人間エージェントに関する道徳的責任という8つの異なる概念に対する人々の認識を測定する。 我々は、AIエージェントが故意に責任を負い、同じタスクに対して人間エージェントと同様の責任を負っていることを示す。 私たちは、AIと人間の意思決定者とアドバイザーの両方が、彼らの性質に関わらず、自分の決定を正当化することを期待している。
• 参考スコア（独自算出の注目度）: 8.688778020322758
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: How to attribute responsibility for autonomous artificial intelligence (AI) systems' actions has been widely debated across the humanities and social science disciplines. This work presents two experiments ($N$=200 each) that measure people's perceptions of eight different notions of moral responsibility concerning AI and human agents in the context of bail decision-making. Using real-life adapted vignettes, our experiments show that AI agents are held causally responsible and blamed similarly to human agents for an identical task. However, there was a meaningful difference in how people perceived these agents' moral responsibility; human agents were ascribed to a higher degree of present-looking and forward-looking notions of responsibility than AI agents. We also found that people expect both AI and human decision-makers and advisors to justify their decisions regardless of their nature. We discuss policy and HCI implications of these findings, such as the need for explainable AI in high-stakes scenarios.
• Abstract（参考訳）: 自律人工知能(AI)システムの行動に対する責任をどう捉えるかは、人文科学や社会科学の分野で広く議論されている。 この研究では、AIと人間のエージェントに関する8つの異なる道徳的責任の概念の人々の認識を保釈意思決定の文脈で測定する2つの実験(それぞれ$N$=200)を提示する。 実生活に適応したヴィグネットを用いて、我々の実験では、AIエージェントは因果責任を持ち、人間エージェントと同じような責任を負っている。 しかし、これらのエージェントの倫理的責任の認識には有意義な違いがあり、人間のエージェントはaiエージェントよりも現代的で先見的な責任の考え方の方が高いと説明されていた。 また、AIと人間の意思決定者とアドバイザーの両方が、その性質に関わらず、自分の決定を正当化することを期待していることもわかりました。 本稿は、ハイテイクシナリオにおける説明可能なAIの必要性など、これらの発見のポリシーとHCIの影響について論じる。

関連論文リスト

• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Responsible AI Research Needs Impact Statements Too [51.37368267352821]
  責任ある人工知能(RAI)、倫理的AI、倫理的AIでの作業は例外ではない。 責任ある人工知能(RAI)、倫理的AI、倫理的AIでの作業は例外ではない。
  論文  参考訳（メタデータ） (2023-11-20T14:02:28Z)
• Bad, mad, and cooked: Moral responsibility for civilian harms in human-AI military teams [0.0]
  この章では、人文知能(AI)チームによる民間の損害に対する道徳的責任について論じる。 軍事力の増大は、不適切な意思決定環境に配置することで、良いリンゴを「調理」する可能性がある。 この章は、人間-AIチームにおける道徳的責任の条件をマップアウトするための新しいメカニズムを提供する。
  論文  参考訳（メタデータ） (2022-10-31T10:18:20Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Meaningful human control over AI systems: beyond talking the talk [8.351027101823705]
  私たちは、AIベースのシステムが有意義な人間の制御下にある必要がある4つの特性を特定します。 第一に、人間とAIアルゴリズムが相互作用するシステムは、道徳的にロードされた状況の明確に定義された領域を持つべきである。 第2に、システム内の人間とAIエージェントは、適切かつ相互に互換性のある表現を持つべきである。 第三に、人間に帰属する責任は、その人のシステムを支配する能力と権限に相応すべきである。
  論文  参考訳（メタデータ） (2021-11-25T11:05:37Z)
• An Ethical Framework for Guiding the Development of Affectively-Aware Artificial Intelligence [0.0]
  本稿では、感情認識型AIの倫理的結果(道徳的・倫理的結果)を評価するためのガイドラインを提案する。 我々は,AI開発者による倫理的責任を分離し,そのようなAIをデプロイするエンティティをビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビ 最終的には研究者、開発者、オペレーター、規制当局、法執行機関への勧告で終わります。
  論文  参考訳（メタデータ） (2021-07-29T03:57:53Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• The human-AI relationship in decision-making: AI explanation to support people on justifying their decisions [4.169915659794568]
  人々は、AIがどのように機能するか、そしてそのシステムとの関係を構築するために、その成果をもっと意識する必要があります。 意思決定のシナリオでは、人々はAIがどのように機能するか、そしてそのシステムとの関係を構築する結果についてもっと意識する必要があります。
  論文  参考訳（メタデータ） (2021-02-10T14:28:34Z)
• Hiding Behind Machines: When Blame Is Shifted to Artificial Agents [0.0]
  この記事は、我々の代理として決定するエージェントの責任に焦点を当てます。 エージェントが人的であり、人間ではない場合に、エージェントによる道徳的結果の生成が、体系的に異なる判断を下すかどうかを検討する。
  論文  参考訳（メタデータ） (2021-01-27T14:50:02Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。