論文の概要: Ghosting the Machine: Judicial Resistance to a Recidivism Risk Assessment Instrument

• arxiv url: http://arxiv.org/abs/2306.06573v1
• Date: Sun, 11 Jun 2023 03:43:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-13 18:05:38.501482
• Title: Ghosting the Machine: Judicial Resistance to a Recidivism Risk Assessment Instrument
• Title（参考訳）: ghosting the machine: recidivism risk assessment instrumentに対する司法抵抗
• Authors: Dasha Pruss
• Abstract要約: 裁判官は、最近実装された文リスク評価ツールを圧倒的に無視し、"無用"、"無害"、"空腹"、"時間の無駄"、"無意味"、"役に立たない"と区別している。 既存の奨学金による説明によると、このアルゴリズムの逆転は、個人がツールや自動化不安に不信感を抱くことによって説明できない。 これらの発見は、アルゴリズムに対する専門的抵抗に対する組織的影響の重要な役割に新たな光を当て、アルゴリズム中心の改革が望ましい効果を得られない理由を説明するのに役立つ。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recidivism risk assessment instruments are presented as an 'evidence-based' strategy for criminal justice reform - a way of increasing consistency in sentencing, replacing cash bail, and reducing mass incarceration. In practice, however, AI-centric reforms can simply add another layer to the sluggish, labyrinthine machinery of bureaucratic systems and are met with internal resistance. Through a community-informed interview-based study of 23 criminal judges and other criminal legal bureaucrats in Pennsylvania, I find that judges overwhelmingly ignore a recently-implemented sentence risk assessment instrument, which they disparage as "useless," "worthless," "boring," "a waste of time," "a non-thing," and simply "not helpful." I argue that this algorithm aversion cannot be accounted for by individuals' distrust of the tools or automation anxieties, per the explanations given by existing scholarship. Rather, the instrument's non-use is the result of an interplay between three organizational factors: county-level norms about pre-sentence investigation reports; alterations made to the instrument by the Pennsylvania Sentencing Commission in response to years of public and internal resistance; and problems with how information is disseminated to judges. These findings shed new light on the important role of organizational influences on professional resistance to algorithms, which helps explain why algorithm-centric reforms can fail to have their desired effect. This study also contributes to an empirically-informed argument against the use of risk assessment instruments: they are resource-intensive and have not demonstrated positive on-the-ground impacts.
• Abstract（参考訳）: レシディズムリスク評価装置は、刑事司法改革の「明確性に基づく」戦略として提示され、判決の一貫性を高め、現金救済を置き換え、大量収容を減らす方法である。 しかし実際には、AI中心の改革は、官僚システムの汚いラビリンチン機械に、単に別のレイヤを追加するだけで、内部抵抗に対処できる。 ペンシルバニア州の23人の刑事裁判官と他の刑事法務官僚のコミュニティが調査した結果、裁判官は「役に立たない」「役に立たない」「無駄」「時間の無駄」「役に立たない」という最近実装された判決リスク評価手段を圧倒的に無視していることがわかった。 既存の奨学金による説明によると、このアルゴリズムの逆転は、個人がツールや自動化不安に不信感を抱くことによって説明できない。 むしろ、この楽器の非使用は、3つの組織的要因の相互作用の結果である: 事前調査報告に関する郡レベルの規範、長年の公衆および内部の抵抗に応えてペンシルベニア・センテンシング委員会によって楽器に行われた変更、そして情報がどのように裁判官に広められるかの問題である。 これらの発見は、アルゴリズムに対する専門的抵抗に対する組織的影響の重要な役割に新たな光を当て、アルゴリズム中心の改革が望ましい効果を得られない理由を説明するのに役立つ。 この研究はまた、リスクアセスメントツールの使用に対する経験的未定の議論にも貢献している。

関連論文リスト

• Hybrid Deep Learning for Legal Text Analysis: Predicting Punishment Durations in Indonesian Court Rulings [0.0]
  本研究は,文長の深層学習に基づく予測システムを開発した。 我々のモデルは,CNNとBiLSTMとアテンション機構を組み合わせたもので,R2乗のスコアは0.5893。
  論文  参考訳（メタデータ） (2024-10-26T07:07:48Z)
• Evidence of What, for Whom? The Socially Contested Role of Algorithmic Bias in a Predictive Policing Tool [0.9821874476902969]
  異なるグループの利害関係者が,ツールのアルゴリズムバイアスの多様な問題診断を明確化することを示す。 利害関係者は、警察パトロールアロケーションに関する政策を改定するためにアルゴリズムバイアスの証拠を利用する。 アルゴリズムバイアスの様々な利用の暗黙の仮定と範囲を証拠とみなす。
  論文  参考訳（メタデータ） (2024-05-13T13:03:33Z)
• A Safe Harbor for AI Evaluation and Red Teaming [124.89885800509505]
  一部の研究者は、そのような研究の実施や研究成果の公表が、アカウント停止や法的報復につながることを恐れている。 我々は、主要なAI開発者が法的、技術的に安全な港を提供することを約束することを提案します。 これらのコミットメントは、ジェネレーティブAIのリスクに取り組むための、より包括的で意図しないコミュニティ努力への必要なステップである、と私たちは信じています。
  論文  参考訳（メタデータ） (2024-03-07T20:55:08Z)
• The Ethics of Automating Legal Actors [58.81546227716182]
  我々は、裁判官の役割の自動化は、特に一般的な法体系において、難しい倫理的課題を提起すると主張している。 我々の主張は、単に法律を適用するのではなく、法律を積極的に形成する際の裁判官の社会的役割から従う。 モデルが人間レベルの能力を達成できたとしても、法的プロセスの自動化に固有の倫理的懸念は残るだろう。
  論文  参考訳（メタデータ） (2023-12-01T13:48:46Z)
• The Progression of Disparities within the Criminal Justice System: Differential Enforcement and Risk Assessment Instruments [26.018802058292614]
  アルゴリズム的リスク評価手段(RAI)は、刑事司法における意思決定をますます通知する。 問題となるのは、逮捕が全体的違反を反映する程度は、その人の性格によって異なる可能性があることである。 犯罪と逮捕率の切り離しがRAIとその評価に与える影響について検討する。
  論文  参考訳（メタデータ） (2023-05-12T16:06:40Z)
• Measuring Equality in Machine Learning Security Defenses: A Case Study in Speech Recognition [56.69875958980474]
  この研究は、学習したシステムを守るためのアプローチと、異なるサブ人口間でのセキュリティ防衛がパフォーマンス上の不平等をもたらす方法を検討する。 提案された多くの手法は、虚偽の拒絶やロバストネストレーニングの不平等といった直接的な害を引き起こす可能性がある。 本稿では, ランダム化スムースメントとニューラルリジェクションの2つの防御法の比較を行い, マイノリティ集団のサンプリング機構により, ランダム化スムースメントがより公平であることを見出した。
  論文  参考訳（メタデータ） (2023-02-17T16:19:26Z)
• An Empirical Evaluation of the Impact of New York's Bail Reform on Crime Using Synthetic Controls [42.46285127613324]
  ニューヨーク州のベイル除去法は2020年1月1日に発効し、ほとんどすべての軽犯罪と非暴力の重罪の被告に対する保釈金と裁判前拘留を廃止した。 改正後の総合犯罪率への影響を分析した結果,保釈改革の理解と全般的抑止力の理解が示唆された。
  論文  参考訳（メタデータ） (2021-11-16T17:59:02Z)
• The Impact of Algorithmic Risk Assessments on Human Predictions and its Analysis via Crowdsourcing Studies [79.66833203975729]
  我々は,在職者が将来の再起を予測することを任務とするヴィグネット研究を行う。 参加者は、再逮捕の確率が50%よりかなり低いと判断しても、犯罪者が再逮捕されることをしばしば予測します。 裁判官の判断は、参加者の予測とは異なり、部分的には再逮捕の可能性がある要因に依存する。
  論文  参考訳（メタデータ） (2021-09-03T11:09:10Z)
• Equality before the Law: Legal Judgment Consistency Analysis for Fairness [55.91612739713396]
  本論文では,LInCo(Legal Inconsistency Coefficient)の判定不整合性評価指標を提案する。 法的な判断予測(LJP)モデルを用いて異なる集団の裁判官をシミュレートし、異なる集団で訓練されたLJPモデルによる判断結果の不一致を判断する。 私達はLInCoを実際の場合の不一致を探検するために使用し、次の観察に来ます:(1)地域およびジェンダーの不一致は法制度でありますが、ジェンダーの不一致は地方不一致より大いにより少しです。
  論文  参考訳（メタデータ） (2021-03-25T14:28:00Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)
• A Risk Assessment of a Pretrial Risk Assessment Tool: Tussles, Mitigation Strategies, and Inherent Limits [0.0]
  我々は、サンフランシスコやその他の司法管轄区域で使用されているソフトウェアである公衆安全評価(PSA)のリスクアセスメントを実施し、裁判の前に被告を拘留する必要があるかどうかを判断する裁判官を支援する。 我々はPSAソリューションの利点と限界を明確にし、緩和戦略を提案する。 そして、我々は、デザインによるリスクアセスメントツールの本質的な制限を満たす、新しいアルゴリズムによる事前審理のアプローチであるハンドオフツリーを草案化した。
  論文  参考訳（メタデータ） (2020-05-14T23:56:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。