論文の概要: Forks Over Knives: Predictive Inconsistency in Criminal Justice Algorithmic Risk Assessment Tools

• arxiv url: http://arxiv.org/abs/2012.00289v2
• Date: Thu, 22 Sep 2022 14:42:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-22 12:17:49.651449
• Title: Forks Over Knives: Predictive Inconsistency in Criminal Justice Algorithmic Risk Assessment Tools
• Title（参考訳）: ナイフに関するフォーク: 刑事司法のアルゴリズム的リスク評価ツールにおける予測上の矛盾
• Authors: Travis Greene, Galit Shmueli, Jan Fell, Ching-Fu Lin, Han-Wei Liu
• Abstract要約: ビッグデータとアルゴリズムによるリスク予測ツールは、人間のバイアスと意思決定の不整合を減らし、刑事司法システムを改善することを約束する。 しかし、これらの社会技術ツールの開発、テスト、デプロイにおいて、異なる、等しく調整可能な選択は、同じ個人に対して予測されるリスクスコアを異にする可能性がある。 我々はこの現象を予測的矛盾として概念化する。
• 参考スコア（独自算出の注目度）: 1.0499611180329804
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Big data and algorithmic risk prediction tools promise to improve criminal justice systems by reducing human biases and inconsistencies in decision making. Yet different, equally-justifiable choices when developing, testing, and deploying these sociotechnical tools can lead to disparate predicted risk scores for the same individual. Synthesizing diverse perspectives from machine learning, statistics, sociology, criminology, law, philosophy and economics, we conceptualize this phenomenon as predictive inconsistency. We describe sources of predictive inconsistency at different stages of algorithmic risk assessment tool development and deployment and consider how future technological developments may amplify predictive inconsistency. We argue, however, that in a diverse and pluralistic society we should not expect to completely eliminate predictive inconsistency. Instead, to bolster the legal, political, and scientific legitimacy of algorithmic risk prediction tools, we propose identifying and documenting relevant and reasonable "forking paths" to enable quantifiable, reproducible multiverse and specification curve analyses of predictive inconsistency at the individual level.
• Abstract（参考訳）: ビッグデータとアルゴリズムによるリスク予測ツールは、人間のバイアスと意思決定の不整合を減らすことによって刑事司法システムを改善することを約束する。 しかし、これらの社会技術ツールの開発、テスト、デプロイにおいて、異なる、等しく調整可能な選択は、同じ個人に対して予測されるリスクスコアを異にする可能性がある。 機械学習、統計学、社会学、犯罪学、法学、哲学、経済学から様々な視点を合成し、この現象を予測的矛盾として概念化する。 本稿では,アルゴリズム的リスク評価ツールの開発と展開の異なる段階における予測的不整合の源泉について述べる。 しかし、多様で多様な社会では、予測的不整合を完全に排除することは期待してはならない。 代わりに, アルゴリズムリスク予測ツールの法的, 政治的, 科学的正当性を高めるために, 個人レベルでの予測不整合の定量化, 再現可能な多元的, 仕様的曲線解析を可能にするために, 適切かつ合理的な"フォークパス"を同定し, 文書化する。

関連論文リスト

• Integrating Expert Judgment and Algorithmic Decision Making: An Indistinguishability Framework [12.967730957018688]
  予測と意思決定タスクにおける人間とAIの協調のための新しい枠組みを導入する。 我々の手法は人間の判断を利用して、アルゴリズム的に区別できない入力を区別する。
  論文  参考訳（メタデータ） (2024-10-11T13:03:53Z)
• Sequential Manipulation Against Rank Aggregation: Theory and Algorithm [119.57122943187086]
  脆弱なデータ収集プロセスに対するオンライン攻撃を活用します。 ゲーム理論の観点からは、対決シナリオは分布的に堅牢なゲームとして定式化される。 提案手法は,ランクアグリゲーション手法の結果を逐次的に操作する。
  論文  参考訳（メタデータ） (2024-07-02T03:31:21Z)
• Predictable Artificial Intelligence [77.1127726638209]
  本稿では予測可能なAIのアイデアと課題を紹介する。 それは、現在および将来のAIエコシステムの重要な妥当性指標を予測できる方法を探る。 予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
  論文  参考訳（メタデータ） (2023-10-09T21:36:21Z)
• Distribution-free risk assessment of regression-based machine learning algorithms [6.507711025292814]
  我々は回帰アルゴリズムとモデル予測の周囲に定義された区間内に存在する真のラベルの確率を計算するリスク評価タスクに焦点をあてる。 そこで,本研究では,正のラベルを所定の確率で含むことが保証される予測区間を提供する共形予測手法を用いてリスク評価問題を解決する。
  論文  参考訳（メタデータ） (2023-10-05T13:57:24Z)
• Quantification of Predictive Uncertainty via Inference-Time Sampling [57.749601811982096]
  本稿では,データあいまいさの予測不確実性を推定するためのポストホックサンプリング手法を提案する。 この方法は与えられた入力に対して異なる可算出力を生成することができ、予測分布のパラメトリック形式を仮定しない。
  論文  参考訳（メタデータ） (2023-08-03T12:43:21Z)
• A review of predictive uncertainty estimation with machine learning [0.0]
  機械学習アルゴリズムを用いて予測不確実性推定の話題を概観する。 我々は確率的予測を評価するための関連する指標(一貫性スコアリング関数と適切なスコアリングルール)について論じる。 このレビューでは、ユーザーのニーズに合わせて新しいアルゴリズムを開発する方法についての理解を深める。
  論文  参考訳（メタデータ） (2022-09-17T10:36:30Z)
• The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
  不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。 我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
  論文  参考訳（メタデータ） (2022-05-20T10:10:32Z)
• Test-time Collective Prediction [73.74982509510961]
  マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。 エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。 我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
  論文  参考訳（メタデータ） (2021-06-22T18:29:58Z)
• All of the Fairness for Edge Prediction with Optimal Transport [11.51786288978429]
  グラフにおけるエッジ予測の課題に対する公平性の問題について検討する。 本稿では,任意のグラフの隣接行列に対して,グループと個々の公正性のトレードオフを伴う埋め込み非依存の補修手順を提案する。
  論文  参考訳（メタデータ） (2020-10-30T15:33:13Z)
• An Uncertainty-based Human-in-the-loop System for Industrial Tool Wear Analysis [68.8204255655161]
  人間のループシステムにおけるモンテカルロのドロップアウトに基づく不確実性対策により,システムの透明性と性能が向上することを示す。 シミュレーション研究により、不確実性に基づく「ループ内人間システム」は、様々なレベルの人間の関与に対する性能を高めることが示されている。
  論文  参考訳（メタデータ） (2020-07-14T15:47:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。