論文の概要: An Empirical Comparison of Bias Reduction Methods on Real-World Problems in High-Stakes Policy Settings

• arxiv url: http://arxiv.org/abs/2105.06442v1
• Date: Thu, 13 May 2021 17:33:28 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-14 13:45:33.707227
• Title: An Empirical Comparison of Bias Reduction Methods on Real-World Problems in High-Stakes Policy Settings
• Title（参考訳）: ハイテイク政策設定における現実問題に対するバイアス削減手法の実証比較
• Authors: Hemank Lamba and Kit T. Rodolfa and Rayid Ghani
• Abstract要約: 4つの実世界の公共政策と社会善問題にまたがる機械学習パイプラインの異なる点で動作する複数の手法の性能について検討した。 モデルフェア性を改善するために,これらの手法の多種多様なバラツキと非一貫性を見出したが,グループ固有のスコアしきい値の選択による後処理は,一貫して差を除去している。
• 参考スコア（独自算出の注目度）: 13.037143215464132
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Applications of machine learning (ML) to high-stakes policy settings -- such as education, criminal justice, healthcare, and social service delivery -- have grown rapidly in recent years, sparking important conversations about how to ensure fair outcomes from these systems. The machine learning research community has responded to this challenge with a wide array of proposed fairness-enhancing strategies for ML models, but despite the large number of methods that have been developed, little empirical work exists evaluating these methods in real-world settings. Here, we seek to fill this research gap by investigating the performance of several methods that operate at different points in the ML pipeline across four real-world public policy and social good problems. Across these problems, we find a wide degree of variability and inconsistency in the ability of many of these methods to improve model fairness, but post-processing by choosing group-specific score thresholds consistently removes disparities, with important implications for both the ML research community and practitioners deploying machine learning to inform consequential policy decisions.
• Abstract（参考訳）: 機械学習(ML)の教育、刑事司法、医療、社会サービス提供といった高額な政策設定への適用は近年急速に増加しており、これらのシステムから公正な成果を確実にする方法に関する重要な議論を引き起こしている。 機械学習研究コミュニティは、MLモデルのフェアネス向上戦略を幅広く提案して、この問題に対処してきたが、開発されている多くのメソッドにもかかわらず、これらの手法を現実の環境で評価する経験的な成果はほとんどない。 本稿では,4つの実世界の公共政策と社会善問題にまたがるmlパイプラインの異なる点で動作する複数の手法の性能を調査することにより,この研究のギャップを埋めることを目的とする。 これらの問題全体で、モデルフェアネスを改善するための多くの手法の多変量性と不整合性を見出したが、グループ固有のスコアしきい値を選択する事による後処理は、常に相違を排除し、機械学習を実践するML研究コミュニティと実践者の両方にとって重要な意味を持つ。

関連論文リスト

• Towards Sample-Efficiency and Generalization of Transfer and Inverse Reinforcement Learning: A Comprehensive Literature Review [50.67937325077047]
  本稿では,転送および逆強化学習(T-IRL)によるRLアルゴリズムのサンプル効率と一般化を実現するための総合的なレビューを行う。 以上の結果から,最近の研究成果の大部分は,人間のループとシム・トゥ・リアル戦略を活用することで,上記の課題に対処していることが示唆された。 IRL構造の下では、経験の少ない移行と、そのようなフレームワークのマルチエージェントおよびマルチインテンション問題への拡張を必要とするトレーニングスキームが近年研究者の優先事項となっている。
  論文  参考訳（メタデータ） (2024-11-15T15:18:57Z)
• POGEMA: A Benchmark Platform for Cooperative Multi-Agent Navigation [76.67608003501479]
  主評価指標の基礎に基づいて計算された領域関連メトリクスの範囲を定義する評価プロトコルを導入・指定する。 このような比較の結果は、様々な最先端のMARL、検索ベース、ハイブリッド手法を含むものである。
  論文  参考訳（メタデータ） (2024-07-20T16:37:21Z)
• Meta Reasoning for Large Language Models [58.87183757029041]
  大規模言語モデル(LLM)の新規かつ効率的なシステムプロセッシング手法であるメタ推論プロンプト(MRP)を導入する。 MRPは、各タスクの特定の要求に基づいて異なる推論メソッドを動的に選択し、適用するようLLMに誘導する。 総合的なベンチマークによりMPPの有効性を評価する。
  論文  参考訳（メタデータ） (2024-06-17T16:14:11Z)
• Toward Operationalizing Pipeline-aware ML Fairness: A Research Agenda for Developing Practical Guidelines and Tools [18.513353100744823]
  最近の研究はMLコミュニティに対して、公平な問題に取り組むためにより包括的なアプローチを取るように呼びかけている。 まず、明確なガイドラインやツールキットがなければ、特殊なML知識を持つ個人でさえ、さまざまな設計選択がモデル行動にどのように影響するかを仮説化することは困難である。 次に、パイプライン対応アプローチの運用に向けた現在の進捗を理解するために、フェアMLの文献を参考にします。
  論文  参考訳（メタデータ） (2023-09-29T15:48:26Z)
• Better Understanding Differences in Attribution Methods via Systematic Evaluations [57.35035463793008]
  モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。 本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。 これらの評価手法を用いて、広範囲のモデルにおいて広く用いられている属性手法の長所と短所について検討する。
  論文  参考訳（メタデータ） (2023-03-21T14:24:58Z)
• Towards Better Understanding Attribution Methods [77.1487219861185]
  モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。 本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。 また,いくつかの属性法の性能を著しく向上する処理後平滑化ステップを提案する。
  論文  参考訳（メタデータ） (2022-05-20T20:50:17Z)
• An Investigation of Replay-based Approaches for Continual Learning [79.0660895390689]
  連続学習(CL)は機械学習(ML)の大きな課題であり、破滅的忘れ(CF)を伴わずに連続的に複数のタスクを学習する能力を記述する。 いくつかの解クラスが提案されており、その単純さと堅牢性から、いわゆるリプレイベースのアプローチは非常に有望であるように思われる。 連続学習におけるリプレイに基づくアプローチを実証的に検討し,応用の可能性を評価する。
  論文  参考訳（メタデータ） (2021-08-15T15:05:02Z)
• Empirical observation of negligible fairness-accuracy trade-offs in machine learning for public policy [13.037143215464132]
  多くのアプリケーションにおける公平さと正確さのトレードオフは、実際には無視可能であることを示す。 その結果, 自己資本の達成と, 提案したポストホック格差緩和手法を用いて, 精度を犠牲にすることなく, 公平性を著しく向上したことがわかった。
  論文  参考訳（メタデータ） (2020-12-05T08:10:47Z)
• A Decentralized Policy Gradient Approach to Multi-task Reinforcement Learning [13.733491423871383]
  マルチタスク強化学習問題を解決するためのフレームワークを開発する。 目標は、異なる環境で効果的に機能する共通ポリシーを学ぶことである。 MTRLの2つの基本的な課題に注目する。
  論文  参考訳（メタデータ） (2020-06-08T03:28:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。