論文の概要: A Risk Assessment of a Pretrial Risk Assessment Tool: Tussles,
Mitigation Strategies, and Inherent Limits
- arxiv url: http://arxiv.org/abs/2005.07299v1
- Date: Thu, 14 May 2020 23:56:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-20 05:12:12.629899
- Title: A Risk Assessment of a Pretrial Risk Assessment Tool: Tussles,
Mitigation Strategies, and Inherent Limits
- Title（参考訳）: 対人リスクアセスメントツールのリスクアセスメント : タッスル,緩和戦略,本質的限界
- Authors: Marc Faddoul, Henriette Ruhrmann and Joyce Lee
- Abstract要約: 我々は、サンフランシスコやその他の司法管轄区域で使用されているソフトウェアである公衆安全評価(PSA)のリスクアセスメントを実施し、裁判の前に被告を拘留する必要があるかどうかを判断する裁判官を支援する。
我々はPSAソリューションの利点と限界を明確にし、緩和戦略を提案する。
そして、我々は、デザインによるリスクアセスメントツールの本質的な制限を満たす、新しいアルゴリズムによる事前審理のアプローチであるハンドオフツリーを草案化した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We perform a risk assessment of the Public Safety Assessment (PSA), a
software used in San Francisco and other jurisdictions to assist judges in
deciding whether defendants need to be detained before their trial. With a
mixed-methods approach including stakeholder interviews and the use of
theoretical frameworks, we lay out the values at play as pretrial justice is
automated. After identifying value implications of delegating decision making
to technology, we articulate benefits and limitations of the PSA solution, as
well as suggest mitigation strategies. We then draft the Handoff Tree, a novel
algorithmic approach to pretrial justice that accommodates some of the inherent
limitations of risk assessment tools by design. The model pairs every
prediction with an associated error rate, and hands off the decision to the
judge if the uncertainty is too high. By explicitly stating error rate, the
Handoff Tree aims both to limit the impact of predictive disparity between race
and gender, and to prompt judges to be more critical of retention
recommendations, given the high rate of false positives they often entail.
- Abstract（参考訳）: 我々は、サンフランシスコやその他の司法管轄区域で使用されるソフトウェアである公衆安全評価(PSA)のリスク評価を行い、裁判の前に被告を拘留する必要があるかどうかを判断する裁判官を支援する。
利害関係者へのインタビューや理論的枠組みの使用を含む混合手法のアプローチにより, 裁判前司法が自動化される中での価値観を明確化する。
意思決定を技術に委譲する価値の意義を特定した後、psaソリューションの利点と限界を明確化し、緩和戦略を提案する。
次に, リスクアセスメントツールに固有の設計上の制約を満たした, 新たな前審正義のためのアルゴリズム的アプローチである handoff tree を考案した。
モデルは全ての予測と関連するエラー率を照合し、不確実性が高すぎる場合は判断を裁判官に渡す。
エラー率を明確に述べることで、ハンドオフツリーは人種と性別間の予測的格差の影響を制限し、しばしば伴う偽陽性の比率が高いことを考えると、裁判官が保持勧告に対してより批判的であるように促すことを目的としている。
関連論文リスト
- PredictaBoard: Benchmarking LLM Score Predictability [50.47497036981544]
大きな言語モデル(LLM)は予測不能に失敗することが多い。
これは、安全なデプロイメントを保証する上で、大きな課題となる。
PredictaBoardは,新しいベンチマークフレームワークである。
論文 参考訳（メタデータ） (2025-02-20T10:52:38Z) - Decision Theoretic Foundations for Conformal Prediction: Optimal Uncertainty Quantification for Risk-Averse Agents [24.938391962245877]
リスク・逆の意思決定を伴う予測セットを用いて不確実性と接続する意思決定理論の基礎を開発する。
医療診断やレコメンデーションシステムなどの応用におけるリスク・アバース(RAC)の意義を実験的に実証した。
論文 参考訳（メタデータ） (2025-02-04T18:37:10Z) - Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。
エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。
我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
論文 参考訳（メタデータ） (2024-09-26T21:00:45Z) - Trust or Escalate: LLM Judges with Provable Guarantees for Human Agreement [49.15348173246146]
人間の合意を厳格に保証したLCMに基づく評価を提供するための原則的アプローチを提案する。
まず、信頼度評価手法は、ペア評価にモデル選好を不クリティカルに頼ってはならないことを提案する。
そして、この選択的な評価枠組みの下で、人的合意が確実に保証されることを示す。
論文 参考訳（メタデータ） (2024-07-25T20:04:59Z) - Online Decision Mediation [72.80902932543474]
意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。
臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
論文 参考訳（メタデータ） (2023-10-28T05:59:43Z) - Algorithmic Assistance with Recommendation-Dependent Preferences [2.864550757598007]
選択に影響を及ぼすアルゴリズムレコメンデーションの効果と設計について考察する。
我々は、レコメンデーションに依存した選好が、意思決定者がレコメンデーションに過度に反応する非効率性を生み出すことを示す。
論文 参考訳（メタデータ） (2022-08-16T09:24:47Z) - Flipping the Script on Criminal Justice Risk Assessment: An actuarial
model for assessing the risk the federal sentencing system poses to
defendants [0.0]
アルゴリズムによるリスク評価は 被告が社会にもたらす リスクを予測するのに使われます
我々は「スクリプトをフリップする」リスクアセスメント装置を開発する。
本装置は, 入所前および仮釈放前で使用されるリスク評価器に比較して, 予測精度が向上する。
論文 参考訳（メタデータ） (2022-05-26T17:17:13Z) - Experimental Evaluation of Algorithm-Assisted Human Decision-Making:
Application to Pretrial Public Safety Assessment [0.8749675983608171]
本研究では,人的決定に対するアルゴリズムレコメンデーションの因果的影響を実験的に評価するための統計的方法論を開発する。
提案手法を第1回ランダム化制御試験の予備データに適用する。
PSAを裁判官に提供することは、裁判官の決定とその後の逮捕者行動に全体的な影響はほとんどない。
論文 参考訳（メタデータ） (2020-12-04T20:48:44Z) - Improving Fairness in Criminal Justice Algorithmic Risk Assessments
Using Conformal Prediction Sets [0.0]
我々は、リスクアルゴリズムから不公平を取り除くために、共形予測セットからフレームワークを採用する。
30,000人の犯罪者のアライメントのサンプルから、混乱テーブルと、その導出した公正度尺度を構築した。
我々は、我々の研究を、幅広い刑事司法判断に応用するための概念の実証と見なしている。
論文 参考訳（メタデータ） (2020-08-26T16:47:02Z) - Learning Bounds for Risk-sensitive Learning [86.50262971918276]
リスクに敏感な学習では、損失のリスク・アバース(またはリスク・シーキング)を最小化する仮説を見つけることを目的としている。
最適化された確実性等価性によって最適性を記述するリスク感応学習スキームの一般化特性について検討する。
論文 参考訳（メタデータ） (2020-06-15T05:25:02Z) - Fairness Evaluation in Presence of Biased Noisy Labels [84.12514975093826]
本稿では,グループ間の雑音の仮定がリスク評価モデルの予測バイアス特性に与える影響を評価するための感度分析フレームワークを提案する。
2つの実世界の刑事司法データセットに関する実験結果は、観測されたラベルの小さなバイアスでさえ、ノイズのある結果に基づく分析結果の結論に疑問を投げかけることができることを示している。
論文 参考訳（メタデータ） (2020-03-30T20:47:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。