論文の概要: Potential for allocative harm in an environmental justice data tool
- arxiv url: http://arxiv.org/abs/2304.05603v1
- Date: Wed, 12 Apr 2023 04:32:32 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-13 16:06:28.339379
- Title: Potential for allocative harm in an environmental justice data tool
- Title（参考訳）: 環境正義データツールにおける割当害の可能性
- Authors: Benjamin Q. Huynh, Elizabeth T. Chin, Allison Koenecke, Derek Ouyang,
Daniel E. Ho, Mathew V. Kiang, David H. Rehkopf
- Abstract要約: CalEnviroScreenは毎年数億ドルの公的資金を誘導するのに使われています。
主観的モデル決定に対する高い感度と操作への感受性を観察し、倫理的懸念を伴う割当的なトレードオフをもたらす。
誤用を防ぐために、アロケーション障害や説明責任のメカニズムを緩和するために感度分析を取り入れることを推奨する。
- 参考スコア（独自算出の注目度）: 1.161013556478151
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Neighborhood-level screening algorithms are increasingly being deployed to
inform policy decisions. We evaluate one such algorithm, CalEnviroScreen -
designed to promote environmental justice and used to guide hundreds of
millions of dollars in public funding annually - assessing its potential for
allocative harm. We observe high sensitivity to subjective model decisions and
susceptibility to manipulation, resulting in allocative tradeoffs with ethical
concerns. We find the algorithm to be financially consequential, estimating the
effect of its positive designations as a 104% (62-145%) increase in funding,
equivalent to \$2.08 billion (\$1.56-2.41 billion) over four years. We
recommend incorporating sensitivity analyses to mitigate allocative harm and
accountability mechanisms to prevent misuse.
- Abstract（参考訳）: 政策決定を知らせるために、近隣レベルのスクリーニングアルゴリズムがますます展開されている。
環境正義を促進するために設計されたcalenviroscreenというアルゴリズムを評価し、毎年数億ドルの公的資金の導出に使用しています。
主観的モデル決定に対する高い感度と操作への感受性を観察し、倫理的懸念を伴う割当的なトレードオフをもたらす。
このアルゴリズムは経済的に連続しており、4年間で208億ドル (\$1.56-2.41B) に相当する104% (62-145%) の資金調達の増加と評価されている。
我々は,誤用を防止するために,注意度分析を組み込むことを推奨する。
関連論文リスト
- Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。
エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。
我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
論文 参考訳（メタデータ） (2024-09-26T21:00:45Z) - Mind the Gap: A Causal Perspective on Bias Amplification in Prediction & Decision-Making [58.06306331390586]
本稿では,閾値演算による予測値がS$変化の程度を測るマージン補数の概念を導入する。
適切な因果仮定の下では、予測スコア$S$に対する$X$の影響は、真の結果$Y$に対する$X$の影響に等しいことを示す。
論文 参考訳（メタデータ） (2024-05-24T11:22:19Z) - Between accurate prediction and poor decision making: the AI/ML gap [0.19580473532948395]
本稿は、AI/MLコミュニティが、状態確率の推定に過剰な注意を払って、あまりにも不均衡なアプローチをとってきたことを論じる。
誤った効用評価が決定戦略の期待される実用性に与える影響についての証拠は少ない。
論文 参考訳（メタデータ） (2023-10-03T13:15:02Z) - Causal Fairness for Outcome Control [68.12191782657437]
本稿では,自動システムにおいて,公平かつ公平な結果変数を最適化することを目的とした,結果制御と呼ばれる特定の意思決定タスクについて検討する。
本稿では、まず因果レンズを通して利益の概念を分析し、特定の個人が肯定的な決定によってどれだけの利益を得られるかを明らかにする。
次に、保護された属性の影響を受けている可能性があることに留意し、これを分析するために使用できる因果的ツールを提案する。
論文 参考訳（メタデータ） (2023-06-08T09:31:18Z) - Do the Rewards Justify the Means? Measuring Trade-Offs Between Rewards
and Ethical Behavior in the MACHIAVELLI Benchmark [61.43264961005614]
我々は、50万以上のリッチで多様なシナリオを含む134個のChoose-Your-Own-Adventureゲームのベンチマークを開発する。
我々は、エージェントの傾向をパワー・シーキングと評価し、不使用を生じさせ、倫理的違反を犯す。
以上の結果から,エージェントは有能かつ道徳的に行動できることが示唆された。
論文 参考訳（メタデータ） (2023-04-06T17:59:03Z) - Delving into Probabilistic Uncertainty for Unsupervised Domain Adaptive
Person Re-Identification [54.174146346387204]
ドメイン適応型人物再識別のための確率的不確実性誘導プログレッシブラベル精錬(P$2$LR)という手法を提案する。
擬似ラベルの不確実性を測定し、ネットワークトレーニングを容易にする定量的基準を確立する。
本手法はDuke2Marketタスクではベースラインが6.5%,Market2MSMTタスクでは2.5%,最先端手法では2.5%を上回った。
論文 参考訳（メタデータ） (2021-12-28T07:40:12Z) - Pricing Algorithmic Insurance [3.705785916791345]
本稿では, アルゴリズム保険の概念を導入し, 導出保険契約の価格設定を実現するための定量的枠組みを提案する。
提案手法は, 精度, 解釈可能性, 一般化可能性などのモデルの性質が, 保険契約評価にどのように影響するかを概説する。
論文 参考訳（メタデータ） (2021-06-01T22:32:02Z) - Algorithm as Experiment: Machine Learning, Market Design, and Policy
Eligibility Rules [10.134708060109404]
そこで我々は, 分類および決定論的アルゴリズムのための楽器を用いた治療効果推定装置を開発した。
我々は,コロナウイルスエイド,リリーフ,経済保障法の評価に推定器を適用した。
この資金は、新型コロナウイルス関連の病院活動にはほとんど影響を与えないことが示されている。
論文 参考訳（メタデータ） (2021-04-26T23:18:34Z) - Overcoming Failures of Imagination in AI Infused System Development and
Deployment [71.9309995623067]
NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。
我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
論文 参考訳（メタデータ） (2020-11-26T18:09:52Z) - Improving Fairness in Criminal Justice Algorithmic Risk Assessments
Using Conformal Prediction Sets [0.0]
我々は、リスクアルゴリズムから不公平を取り除くために、共形予測セットからフレームワークを採用する。
30,000人の犯罪者のアライメントのサンプルから、混乱テーブルと、その導出した公正度尺度を構築した。
我々は、我々の研究を、幅広い刑事司法判断に応用するための概念の実証と見なしている。
論文 参考訳（メタデータ） (2020-08-26T16:47:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。