論文の概要: The Overstated Cost of AI Fairness in Criminal Justice
- arxiv url: http://arxiv.org/abs/2608.01299v1
- Date: Sun, 02 Aug 2026 15:09:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.152788
- Title: The Overstated Cost of AI Fairness in Criminal Justice
- Title（参考訳）: 刑事司法におけるAIフェアネスの過大なコスト
- Abstract要約: 我々は、人種バイアスがCompASデータセットに存在するだけでなく、トレーニングされたモデルによって増幅されていることを示す。
公正性制約を適用することは、刑事司法において必ずしも予測精度を犠牲にしない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A dominant critique of algorithmic fairness holds that increasing fairness reduces predictive accuracy, imposing a cost on society. We challenge that assumption by empirically analyzing the COMPAS dataset. We make two contributions. First, using causal inference methods, we show that racial bias is not only present in the COMPAS dataset but is also amplified by the models trained on it. Widely used models do more than replicate existing bias; they exacerbate it. This undercuts both the assumption that algorithmic decision-making offers a neutral improvement over human judgment and the weaker claim that it merely mirrors preexisting human bias. Second, we reframe the fairness-accuracy tradeoff. Applying fairness constraints does not necessarily cost predictive accuracy in criminal justice. Prediction systems operationalize concepts such as risk through implicit and often flawed normative choices about what to predict and how. The tradeoff claim assumes that the unconstrained model's prediction is an optimal baseline. Fairness constraints can instead correct distortions introduced by biased outcome variables: rearrest data, in this case, captures and magnifies systemic racial disparities. Under some interventions, therefore, fairness carries none of the cost presumed in policy debates. These dynamics extend beyond criminal justice to lending, hiring, and housing, where biased outcome variables reinforce inequality independently of proxy selection. We draw out what this implies for how law and policy should approach fairness adjustments in criminal law.
- Abstract（参考訳）: アルゴリズム的公正性に対する主要な批判は、公正性の増加は予測精度を低下させ、社会にコストを課すというものである。
我々は、CompASデータセットを経験的に分析することで、この仮定に挑戦する。
私たちは2つの貢献をします。
まず、因果推論法を用いて、人種バイアスがCompASデータセットに存在するだけでなく、トレーニングしたモデルによって増幅されることを示す。
広く使われているモデルは、既存のバイアスを複製する以上のことをします。
これは、アルゴリズムによる意思決定が人間の判断よりも中立的な改善をもたらすという仮定と、人間の偏見を単に反映しているというより弱い主張の両方を下している。
第二に、フェアネスと精度のトレードオフを再設定します。
公正性制約を適用することは、刑事司法において必ずしも予測精度を犠牲にしない。
予測システムは、暗黙的かつしばしば欠陥のある規範的選択を通じてリスクのような概念を運用する。
トレードオフクレームは、制約のないモデルの予測が最適なベースラインであると仮定する。
公正な制約は、バイアスのある結果変数によって導入された歪みを補正することができる。
いくつかの介入の下では、公正さは政策論争で想定されるコストを一切かからない。
これらのダイナミクスは、刑事司法を越えて貸与、雇用、住宅まで広がり、偏見のある結果変数は、代理選択とは無関係に不平等を強化する。
我々は、刑法における公正な調整に法と政策がどのようにアプローチすべきかについて、これがどのような意味を持つのかを考察する。
関連論文リスト
- Learning Counterfactually Fair Models via Improved Generation with Neural Causal Models [3.0610592694343057]
機械学習モデルを現実世界のアプリケーションにデプロイする際の主な関心事のひとつは、公平性である。
既存のカウンターファクトフェアネスの実施方法には2つの制限があるようである。
本稿では,反現実的なサンプルを生成するためにニューラル因果モデルを提案する。
また,MMDをベースとした新たな正規化手法を提案する。
論文 参考訳（メタデータ） (2025-02-18T11:59:03Z) - Where Fact Ends and Fairness Begins: Redefining AI Bias Evaluation through Cognitive Biases [77.3489598315447]
事実と公正の境界を識別することは有意義な公正性評価に不可欠である,と我々は主張する。
Fact-or-Fair は (i) 客観的なクエリを記述的, 事実に基づく判断, (ii) 主観的クエリを規範的, 公平性に基づく判断に整合させたベンチマークである。
論文 参考訳（メタデータ） (2025-02-09T10:54:11Z) - Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。
FASTは最先端のベースラインを超え、デバイアス性能が優れている。
これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
論文 参考訳（メタデータ） (2024-08-07T17:14:58Z) - Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。
因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。
因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
論文 参考訳（メタデータ） (2024-05-24T11:19:52Z) - Equal Opportunity of Coverage in Fair Regression [50.76908018786335]
我々は、予測の不確実性の下で公正な機械学習(ML)を研究し、信頼性と信頼性のある意思決定を可能にする。
本研究は,(1)類似した結果の異なる集団に対するカバー率が近いこと,(2)人口全体のカバー率が一定水準にあること,の2つの特性を達成することを目的としたカバーの平等機会(EOC)を提案する。
論文 参考訳（メタデータ） (2023-11-03T21:19:59Z) - Causal Context Connects Counterfactual Fairness to Robust Prediction and
Group Fairness [15.83823345486604]
我々は、公正性と正確性の間に根本的なトレードオフがないことを示すことによって、事実的公正を動機付けます。
対実フェアネスは、比較的単純なグループフェアネスの測定によってテストされることがある。
論文 参考訳（メタデータ） (2023-10-30T16:07:57Z) - Consistent End-to-End Estimation for Counterfactual Fairness [56.9060492313073]
本稿では, 対実フェアネスの予測を行うための新しい対実フェアネス予測器を提案する。
我々は,本手法が対実公正性の概念を確実にするのに有効であることを理論的に保証する。
論文 参考訳（メタデータ） (2023-10-26T17:58:39Z) - Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。
カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。
本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
論文 参考訳（メタデータ） (2023-07-17T04:08:29Z) - Arbitrariness and Social Prediction: The Confounding Role of Variance in
Fair Classification [31.392067805022414]
異なる訓練されたモデル間での予測のばらつきは、公正なバイナリ分類における重要な、未探索のエラーの原因である。
実際には、いくつかのデータ例のばらつきは非常に大きいので、決定を効果的に任意にすることができる。
予測が任意である場合に分類を省略するアンサンブルアルゴリズムを開発した。
論文 参考訳（メタデータ） (2023-01-27T06:52:04Z) - Debiasing classifiers: is reality at variance with expectation? [9.730485257882433]
私たちは、デバイアスは実際に、サンプル外データを一般化するのに失敗することが多く、実際は、改善よりも公平さを悪くする可能性があることを示しています。
公正さを考えると、パフォーマンスのトレードオフは、部分的偏りが実際にサンプル外データで実践した場合により良い結果をもたらすという直感的な考え方を正当化する。
論文 参考訳（メタデータ） (2020-11-04T17:00:54Z) - Recovering from Biased Data: Can Fairness Constraints Improve Accuracy? [11.435833538081557]
経験的リスク最小化(Empirical Risk Minimization, ERM)は、バイアスがあるだけでなく、真のデータ分布に最適な精度を持つ分類器を生成する。
公平性に制約されたERMによるこの問題の是正能力について検討する。
また、トレーニングデータの再重み付け、等化オッド、復号化パリティなど、他のリカバリ手法についても検討する。
論文 参考訳（メタデータ） (2019-12-02T22:00:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。