論文の概要: Fairness under uncertainty in sequential decisions

• arxiv url: http://arxiv.org/abs/2604.21711v1
• Date: Thu, 23 Apr 2026 14:17:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-24 14:40:06.588778
• Title: Fairness under uncertainty in sequential decisions
• Title（参考訳）: 逐次決定の不確実性による公平性
• Authors: Michelle Seng Ah Lee, Kirtan Padh, David Watson, Niki Kilbertus, Jatinder Singh,
• Abstract要約: アルゴリズム的アプローチだけでは構造的不等式は解決できない。 多くの実際の機械学習アプリケーションはオンラインでシーケンシャルであり、事前決定は将来のものを伝える。 本稿では, 逐次意思決定における不確実性の分類について紹介する。
• 参考スコア（独自算出の注目度）: 14.392931077157906
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fair machine learning (ML) methods help identify and mitigate the risk that algorithms encode or automate social injustices. Algorithmic approaches alone cannot resolve structural inequalities, but they can support socio-technical decision systems by surfacing discriminatory biases, clarifying trade-offs, and enabling governance. Although fairness is well studied in supervised learning, many real ML applications are online and sequential, with prior decisions informing future ones. Each decision is taken under uncertainty due to unobserved counterfactuals and finite samples, with dire consequences for under-represented groups, systematically under-observed due to historical exclusion and selective feedback. A bank cannot know whether a denied loan would have been repaid, and may have less data on marginalized populations. This paper introduces a taxonomy of uncertainty in sequential decision-making -- model, feedback, and prediction uncertainty -- providing shared vocabulary for assessing systems where uncertainty is unevenly distributed across groups. We formalize model and feedback uncertainty via counterfactual logic and reinforcement learning, and illustrate harms to decision makers (unrealized gains/losses) and subjects (compounding exclusion, reduced access) of policies that ignore the unobserved space. Algorithmic examples show it is possible to reduce outcome variance for disadvantaged groups while preserving institutional objectives (e.g. expected utility). Experiments on data simulated with varying bias show how unequal uncertainty and selective feedback produce disparities, and how uncertainty-aware exploration alters fairness metrics. The framework equips practitioners to diagnose, audit, and govern fairness risks. Where uncertainty drives unfairness rather than incidental noise, accounting for it is essential to fair and effective decision-making.
• Abstract（参考訳）: 公正な機械学習(ML)手法は、アルゴリズムが社会的不正を符号化または自動化するリスクを特定し、緩和するのに役立つ。 アルゴリズムアプローチだけでは構造的不平等を解決できないが、差別バイアスを克服し、トレードオフを明確にし、ガバナンスを可能にすることにより、社会技術決定システムを支援することができる。 公正さは教師あり学習においてよく研究されているが、実際のMLアプリケーションはオンラインでシーケンシャルであり、以前の決定は将来のものを伝える。 それぞれの決定は、未観測の反事実や有限標本によって不確実な状態に陥り、歴史的排除と選択的なフィードバックにより体系的に未観測の集団に希少な結果をもたらす。 銀行は、拒否されたローンが返済されたかどうかを知ることができず、過疎化人口のデータが少ない可能性がある。 本稿では,連続的な意思決定における不確実性(モデル,フィードバック,予測不確実性)の分類を導入し,不確実性がグループ間で不均一に分散しているシステムを評価するための共通語彙を提供する。 我々は,反事実論理や強化学習を通じてモデルとフィードバックの不確実性を定式化し,未観測空間を無視する政策の意思決定者(非現実的な利得/損失)と対象(排除,アクセスの削減)に害を与える。 アルゴリズム的な例は、制度的目的(例えば、期待される実用性)を維持しながら、不利なグループに対する結果のばらつきを減らすことができることを示している。 様々なバイアスでシミュレートされたデータに関する実験は、不平等な不確実性と選択的なフィードバックが相違をもたらすこと、不確実性を認識した探索が公平さの指標をどのように変えているかを示している。 この枠組みは、実践者が公正なリスクを診断し、監査し、管理するためのものである。 不確実性が偶発的な騒音よりも不公平性を引き起こす場合、公平かつ効果的な意思決定にはそれを説明することが不可欠である。

関連論文リスト

• Partial Identification Approach to Counterfactual Fairness Assessment [50.88100567472179]
  未知の対実的公正度尺度を高い信頼性で有界化するためのベイズ的アプローチを導入する。 以上の結果から、人種をアフリカ系アメリカ人に転換する際のCompASスコアに対する肯定的な(不快な)効果と、若年から高齢に移行する際の否定的な(直接的な因果関係)効果が明らかとなった。
  論文  参考訳（メタデータ） (2025-09-30T18:35:08Z)
• Interpretable and Fair Mechanisms for Abstaining Classifiers [12.539170258479778]
  本稿では,不確実性と不公平性に基づいて,両者の予測を拒否するアルゴリズムである,解釈的かつ公正な保証を導入する。 提案手法は,非リジェクトデータの集団間における誤り率と肯定的な決定率の差を低減させる。 この説明可能な側面は、最近のAI規制に照らして特に重要である。
  論文  参考訳（メタデータ） (2025-03-24T16:06:43Z)
• Auditing Fairness under Unobserved Confounding [56.61738581796362]
  意外なことに、リスクの高い人に対する治療率の有意義な限界を計算できることが示されています。 現実の多くの環境では、リスクの偏りのない見積を導き出すために、アロケーションの前にデータを持っているという事実を使用します。
  論文  参考訳（メタデータ） (2024-03-18T21:09:06Z)
• Fair Decision-making Under Uncertainty [1.5688552250473473]
  公平性制約を考慮した縦断的検閲学習問題について検討する。 検閲情報を含む新たに考案された公正概念と,検閲の存在下での公正な予測のための一般的な枠組みが,不確実性の下での計測と差別を可能にしていることを示す。
  論文  参考訳（メタデータ） (2023-01-29T05:42:39Z)
• Causal Fairness Analysis [68.12191782657437]
  意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。 我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。 本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
  論文  参考訳（メタデータ） (2022-07-23T01:06:34Z)
• Understanding Unfairness in Fraud Detection through Model and Data Bias Interactions [4.159343412286401]
  アルゴリズムの不公平性は、データ内のモデルとバイアスの間の相互作用に起因すると我々は主張する。 フェアネスブラインドMLアルゴリズムが示す公平さと正確さのトレードオフに関する仮説を、異なるデータバイアス設定下で検討する。
  論文  参考訳（メタデータ） (2022-07-13T15:18:30Z)
• Uncertainty as a Form of Transparency: Measuring, Communicating, and Using Uncertainty [66.17147341354577]
  我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。 モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。 この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
  論文  参考訳（メタデータ） (2020-11-15T17:26:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。