論文の概要: The Impact of Algorithmic Risk Assessments on Human Predictions and its Analysis via Crowdsourcing Studies

• arxiv url: http://arxiv.org/abs/2109.01443v1
• Date: Fri, 3 Sep 2021 11:09:10 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-06 13:55:31.749941
• Title: The Impact of Algorithmic Risk Assessments on Human Predictions and its Analysis via Crowdsourcing Studies
• Title（参考訳）: アルゴリズムによるリスク評価が予測に与える影響とクラウドソーシングによる分析
• Authors: Riccardo Fogliato, Alexandra Chouldechova, Zachary Lipton
• Abstract要約: 我々は,在職者が将来の再起を予測することを任務とするヴィグネット研究を行う。 参加者は、再逮捕の確率が50%よりかなり低いと判断しても、犯罪者が再逮捕されることをしばしば予測します。 裁判官の判断は、参加者の予測とは異なり、部分的には再逮捕の可能性がある要因に依存する。
• 参考スコア（独自算出の注目度）: 79.66833203975729
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As algorithmic risk assessment instruments (RAIs) are increasingly adopted to assist decision makers, their predictive performance and potential to promote inequity have come under scrutiny. However, while most studies examine these tools in isolation, researchers have come to recognize that assessing their impact requires understanding the behavior of their human interactants. In this paper, building off of several recent crowdsourcing works focused on criminal justice, we conduct a vignette study in which laypersons are tasked with predicting future re-arrests. Our key findings are as follows: (1) Participants often predict that an offender will be rearrested even when they deem the likelihood of re-arrest to be well below 50%; (2) Participants do not anchor on the RAI's predictions; (3) The time spent on the survey varies widely across participants and most cases are assessed in less than 10 seconds; (4) Judicial decisions, unlike participants' predictions, depend in part on factors that are orthogonal to the likelihood of re-arrest. These results highlight the influence of several crucial but often overlooked design decisions and concerns around generalizability when constructing crowdsourcing studies to analyze the impacts of RAIs.
• Abstract（参考訳）: アルゴリズム的リスク評価手段(RAI)が意思決定者を支援するためにますます採用されているため、その予測性能と不平等の促進の可能性は精査されている。 しかし、ほとんどの研究は分離してこれらのツールを調べているが、研究者は、その影響を評価するには人間の相互作用者の行動を理解する必要があると認識している。 本稿では,刑法に焦点をあてた近年のクラウドソーシングの成果を生かし,今後の再逮捕を予測するために,生計を立てるビグネット研究を行う。 その結果,(1)再逮捕の確率が50%以下であるにもかかわらず,再逮捕の確率が50%を下回ると予測されることがしばしばあり,(2)参加者はraiの予測に固執しない,(3)調査に費やされる時間は参加者によって大きく異なり,10秒未満で評価される,(4)再逮捕の確率に直交する要因に一部依存する,という結論が得られた。 これらの結果は, RAI の影響を分析するためにクラウドソーシング研究を構築する際に, 設計決定が重要で見過ごされることが多いこと, 一般化可能性に関する懸念の影響を浮き彫りにしている。

関連論文リスト

• Controlling Risk of Retrieval-augmented Generation: A Counterfactual Prompting Framework [77.45983464131977]
  我々は、RAGモデルの予測が誤りであり、現実のアプリケーションにおいて制御不能なリスクをもたらす可能性がどの程度あるかに焦点を当てる。 本研究は,RAGの予測に影響を及ぼす2つの重要な潜伏要因を明らかにする。 我々は,これらの要因をモデルに誘導し,その応答に与える影響を解析する,反実的プロンプトフレームワークを開発した。
  論文  参考訳（メタデータ） (2024-09-24T14:52:14Z)
• (De)Noise: Moderating the Inconsistency Between Human Decision-Makers [15.291993233528526]
  本研究では, アルゴリズムによる意思決定支援が, 不動産評価の文脈における人間の意思決定の不整合度を緩和するのに有効かどうかを検討する。 i) アルゴリズムによって選択されたペアワイド比較において, 回答者に見積をレビューするよう求めることと, (ii) 従来の機械的アドバイスを回答者に提供することは, 人間の反応に影響を与える効果的な方法であることがわかった。
  論文  参考訳（メタデータ） (2024-07-15T20:24:36Z)
• Reduced-Rank Multi-objective Policy Learning and Optimization [57.978477569678844]
  実際には、因果研究者は先験を念頭において1つの結果を持っていない。 政府支援の社会福祉プログラムでは、政策立案者は貧困の多次元的性質を理解するために多くの成果を集めている。 本稿では、最適政策学習の文脈において、複数の結果に対するデータ駆動型次元性推論手法を提案する。
  論文  参考訳（メタデータ） (2024-04-29T08:16:30Z)
• Ground(less) Truth: A Causal Framework for Proxy Labels in Human-Algorithm Decision-Making [29.071173441651734]
  人間のAI意思決定タスクにおけるプロキシラベルの有効性に影響を与える5つの変数バイアス源を同定する。 各バイアス間の関係を乱すための因果的枠組みを開発する。 今後の研究において、ターゲット変数バイアスに対処する機会について論じる。
  論文  参考訳（メタデータ） (2023-02-13T16:29:11Z)
• What Should I Know? Using Meta-gradient Descent for Predictive Feature Discovery in a Single Stream of Experience [63.75363908696257]
  計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。 この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。 本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
  論文  参考訳（メタデータ） (2022-06-13T21:31:06Z)
• Homophily and Incentive Effects in Use of Algorithms [17.55279695774825]
  本稿では,2つの要因がAIによる意思決定に与える影響を評価するために,クラウドソーシング・ヴィグネット研究を提案する。 まず、ホモフィリー(homophily)を検証します。 次に、インセンティブについて考えます -- ハイブリッドな意思決定環境に(既知の)コスト構造を組み込むには、どうすればよいのでしょう?
  論文  参考訳（メタデータ） (2022-05-19T17:11:04Z)
• A Comparative User Study of Human Predictions in Algorithm-Supported Recidivism Risk Assessment [2.097880645003119]
  本研究では,犯罪リスク予測を支援するために,アルゴリズムに基づくリスク評価装置を用いた効果について検討する。 刑務所から釈放された人が新たな犯罪を犯し、再投獄されるかどうかを予測する。
  論文  参考訳（メタデータ） (2022-01-26T17:40:35Z)
• Feedback Effects in Repeat-Use Criminal Risk Assessments [0.0]
  リスクは、単発テストで捉えられていない方法で、シーケンシャルな決定を伝達できることを示します。 リスクアセスメントツールは、非常に複雑でパスに依存したプロセスで動作し、歴史的な不平等が引き起こされる。
  論文  参考訳（メタデータ） (2020-11-28T06:40:05Z)
• Counterfactual Predictions under Runtime Confounding [74.90756694584839]
  本研究は, 過去のデータからすべての関連要因を抽出した環境で, 事実予測タスクについて検討する。 本稿では,この環境下での対実予測モデル学習のための2次ロバスト手法を提案する。
  論文  参考訳（メタデータ） (2020-06-30T15:49:05Z)
• Fairness Evaluation in Presence of Biased Noisy Labels [84.12514975093826]
  本稿では,グループ間の雑音の仮定がリスク評価モデルの予測バイアス特性に与える影響を評価するための感度分析フレームワークを提案する。 2つの実世界の刑事司法データセットに関する実験結果は、観測されたラベルの小さなバイアスでさえ、ノイズのある結果に基づく分析結果の結論に疑問を投げかけることができることを示している。
  論文  参考訳（メタデータ） (2020-03-30T20:47:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。