論文の概要: A Causal Framework to Evaluate Racial Bias in Law Enforcement Systems

• arxiv url: http://arxiv.org/abs/2402.14959v1
• Date: Thu, 22 Feb 2024 20:41:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-26 16:30:14.798518
• Title: A Causal Framework to Evaluate Racial Bias in Law Enforcement Systems
• Title（参考訳）: 法執行システムにおける人種バイアス評価のための因果的枠組み
• Authors: Fotini Christia, Jessy Xinyi Han, Andrew Miller, Devavrat Shah, S. Craig Watkins, Christopher Winship
• Abstract要約: 犯罪を取り入れた多段階因果関係の枠組みを提案する。 空港のセキュリティのような設定では、人種に対する監視バイアスの主な原因は、人種の無実に対する法執行機関のバイアスである可能性が高い。 警察と市民の相互作用において、人種に対する観察された偏見の主な原因は、人種に対する法執行機関の偏見や、他の人種に対する報告における一般大衆からの偏見である可能性がある。
• 参考スコア（独自算出の注目度）: 14.068957530472803
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We are interested in developing a data-driven method to evaluate race-induced biases in law enforcement systems. While the recent works have addressed this question in the context of police-civilian interactions using police stop data, they have two key limitations. First, bias can only be properly quantified if true criminality is accounted for in addition to race, but it is absent in prior works. Second, law enforcement systems are multi-stage and hence it is important to isolate the true source of bias within the "causal chain of interactions" rather than simply focusing on the end outcome; this can help guide reforms. In this work, we address these challenges by presenting a multi-stage causal framework incorporating criminality. We provide a theoretical characterization and an associated data-driven method to evaluate (a) the presence of any form of racial bias, and (b) if so, the primary source of such a bias in terms of race and criminality. Our framework identifies three canonical scenarios with distinct characteristics: in settings like (1) airport security, the primary source of observed bias against a race is likely to be bias in law enforcement against innocents of that race; (2) AI-empowered policing, the primary source of observed bias against a race is likely to be bias in law enforcement against criminals of that race; and (3) police-civilian interaction, the primary source of observed bias against a race could be bias in law enforcement against that race or bias from the general public in reporting against the other race. Through an extensive empirical study using police-civilian interaction data and 911 call data, we find an instance of such a counter-intuitive phenomenon: in New Orleans, the observed bias is against the majority race and the likely reason for it is the over-reporting (via 911 calls) of incidents involving the minority race by the general public.
• Abstract（参考訳）: 我々は,法執行システムにおける人種誘発バイアスを評価するデータ駆動型手法の開発に興味を持っている。 最近の研究は、警察と市民の相互作用の文脈において、警察の停止データを用いてこの問題に対処しているが、2つの重要な制限がある。 第一に、バイアスは人種に加えて真の犯罪が考慮されている場合にのみ適切に定量化できるが、以前の作品では欠落している。 第2に、法執行システムは多段階であり、単に最終結果に注目するのではなく、"インタラクションのcausal chain of interaction"の中でバイアスの真の源を分離することが重要である。 本研究では,犯罪を取り入れた多段階因果関係を提示することで,これらの課題に対処する。 理論的特徴付けと関連するデータ駆動による評価法を提案する。 (a)あらゆる形態の人種的偏見の存在、及び (b)もしそうであれば、人種や犯罪の点でそのような偏見の源泉となる。 Our framework identifies three canonical scenarios with distinct characteristics: in settings like (1) airport security, the primary source of observed bias against a race is likely to be bias in law enforcement against innocents of that race; (2) AI-empowered policing, the primary source of observed bias against a race is likely to be bias in law enforcement against criminals of that race; and (3) police-civilian interaction, the primary source of observed bias against a race could be bias in law enforcement against that race or bias from the general public in reporting against the other race. 警察と市民の相互作用データと911の通話データを用いた広範な実証研究により、このような直感的現象の事例が見つかる。ニューオーリンズでは、観察された偏見は多数派に反し、その原因は一般大衆による少数派人種に関する事件の過度に報告されている(via 911)。

関連論文リスト

• Testing for racial bias using inconsistent perceptions of race [1.0090972954941624]
  人種バイアス試験は、異なる人種の2人が異なる扱いを受けるかどうかを一般的に評価する。 根本的な課題は、2人が様々な点で異なるため、人種以外の要因が治療の違いを説明する可能性があることである。 そこで本研究では,異なる人種が認識されている場合に,同一人物が別々に扱われているかどうかを評価することによって,比較の難しさを回避できるバイアステストを提案する。
  論文  参考訳（メタデータ） (2024-09-17T15:18:46Z)
• Not as Simple as It Looked: Are We Concluding for Biased Arrest Practices? [0.0]
  この研究は、説明を場所の種類、人物の種類、両方の組み合わせに分類する。 暴力的逮捕結果の分析では、近隣のレベル特性に起因する観察結果の約40%が明らかとなった。
  論文  参考訳（メタデータ） (2024-04-13T18:50:59Z)
• Fair Enough: Standardizing Evaluation and Model Selection for Fairness Research in NLP [64.45845091719002]
  現代のNLPシステムは様々なバイアスを示しており、モデル偏見に関する文献が増えている。 本稿では,その現状を解明し,公正学習における意味ある進歩の道筋を立案することを目的とする。
  論文  参考訳（メタデータ） (2023-02-11T14:54:00Z)
• Unveiling the Hidden Agenda: Biases in News Reporting and Consumption [59.55900146668931]
  イタリアのワクチン論争に関する6年間のデータセットを構築し、物語と選択バイアスを特定するためにベイジアン潜在空間モデルを採用する。 バイアスとエンゲージメントの間に非線形な関係が見られ、極端な位置へのエンゲージメントが高くなった。 Twitter上でのニュース消費の分析は、同様のイデオロギー的な立場のニュースメディアの間で、一般的なオーディエンスを明らかにしている。
  論文  参考訳（メタデータ） (2023-01-14T18:58:42Z)
• Toward Understanding Bias Correlations for Mitigation in NLP [34.956581421295]
  この研究は、緩和におけるバイアスの相関を理解するための最初の体系的な研究を提供することを目的としている。 我々は2つの共通NLPタスク(毒性検出と単語埋め込み)におけるバイアス緩和について検討する。 以上の結果から, 偏見は相関し, 独立性脱バイアスアプローチが不十分な現状が示唆された。
  論文  参考訳（メタデータ） (2022-05-24T22:48:47Z)
• The SAME score: Improved cosine based bias score for word embeddings [49.75878234192369]
  埋め込みにおけるセマンティックバイアスのための新しいバイアススコアであるPetを紹介した。 本研究は,下水道作業における意味バイアスを測定し,社会的バイアスの潜在的な原因を特定することができることを示す。
  論文  参考訳（メタデータ） (2022-03-28T09:28:13Z)
• Statistical discrimination in learning agents [64.78141757063142]
  統計的差別は、訓練人口のバイアスとエージェントアーキテクチャの両方の関数としてエージェントポリシーに現れる。 我々は、リカレントニューラルネットワークを使用するエージェントによる差別の低減と、トレーニング環境のバイアスの低減が示される。
  論文  参考訳（メタデータ） (2021-10-21T18:28:57Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)
• Detecting Racial Bias in Jury Selection [0.7106986689736826]
  APMリポートは歴史的裁判所の記録を照合し、州が潜在的な陪審員に人種的偏見を見せているかどうかを判断した。 この分析では、レースが重要な要因であるという結論を下向きのロジスティック回帰を用いた。 最適特徴選択(Optimal Feature Selection)を用いて、世界の特徴の最適サブセットを特定し、ストライク決定に人種的偏見があることを示す。
  論文  参考訳（メタデータ） (2021-03-22T13:47:33Z)
• The effect of differential victim crime reporting on predictive policing systems [84.86615754515252]
  本研究では, 被害者の犯罪報告率の違いが, 共通犯罪ホットスポット予測モデルにおいて, 結果の相違をもたらすことを示す。 以上の結果から, 犯罪報告率の差は, 高犯罪から低犯罪へ, 高犯罪・中犯罪・高報道へ, 予測ホットスポットの移動につながる可能性が示唆された。
  論文  参考訳（メタデータ） (2021-01-30T01:57:22Z)
• The role of collider bias in understanding statistics on racially biased policing [0.0]
  同じデータを使った非武装の白人よりも、非武装の黒人が警察に撃たれる可能性が高いかどうかについては、反対の結論が出ている。 我々はこのバイアスを説明するために因果ベイズネットワークモデルを提供し、これはコライダーバイアスまたはバークソンのパラドックスと呼ばれる。
  論文  参考訳（メタデータ） (2020-07-16T15:26:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。