論文の概要: Fairness Invariants: A Relational Approach to Explaining and Mitigating Fairness Bugs
- arxiv url: http://arxiv.org/abs/2608.26209v1
- Date: Wed, 26 Aug 2026 05:47:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.121455
- Title: Fairness Invariants: A Relational Approach to Explaining and Mitigating Fairness Bugs
- Title（参考訳）: フェアネス不変量:フェアネスバグの説明と緩和への関係的アプローチ
- Abstract要約: 本稿では、個人識別の自動化、説明、緩和のためのフレームワークであるREMIを紹介する。
本稿では、ペア化された例を$(x, x')$で学習し、公正性に反する入力空間の領域を特定するための双方向関係説明フレームワークを提案する。
REMIは3つのデータアライメント技術を用いて「フェアネス不変量」として機能する解釈可能なルールベースモデルを推論する
- 参考スコア（独自算出の注目度）: 12.685314553489965
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data-driven software systems are increasingly deployed in high-stakes socio-economic domains, from criminal justice to financial lending. However, these systems often exhibit individual discrimination---unjustified disparities in which a program yields different outcomes for similar individuals who differ only in their protected attributes (e.g., race, gender, age). While existing research has focused on detecting and quantifying these bugs, there remains a critical lack of principled mechanisms to explain and localize individual fairness bugs. Current explanation techniques are largely designed for single-input decisions rather than the relational nature of discrimination, which inherently involves a comparison between an original and a counterfactual pair. We present REMI, a framework for the automated localization, explanation, and mitigation of individual discrimination. Inspired by loop-invariant synthesis in formal methods, we treat counterfactual fairness as a relational invariant discovery problem. We introduce a bidirectional relational explanation framework that learns over paired examples $(x, x')$ to identify regions of the input space where fairness is violated. Unlike traditional one-way implication pairs used in invariant inference, our approach enforces bidirectional constraints: requiring identical outcomes for both original and counterfactual samples. REMI utilizes three data-alignment techniques to infer interpretable rule-based models that act as "fairness invariants." These rules serve as guardrails to selectively block or relabel unfair predictions without requiring model retraining. Our evaluation on symbolic and neural network programs demonstrates that REMI localizes ground-truth fairness bugs in over 83% of cases, significantly outperforming state-of-the-art baselines and reducing discriminatory decisions in black-box models by up to 70%.
- Abstract（参考訳）: データ駆動型ソフトウェアシステムは、刑事司法から金融融資まで、高額な社会経済的領域にますます導入されている。
しかしながら、これらのシステムは、プログラムが保護された属性(例えば、人種、性別、年齢)だけが異なる類似の個人に対して異なる結果をもたらす不公平な格差をしばしば示している。
既存の研究はこれらのバグの検出と定量化に重点を置いているが、個々の公正なバグを説明およびローカライズするための原則的なメカニズムが欠如している。
現在の説明手法は、本質的には原文と対物対の比較を含む、識別の関連性よりも、単一入力決定のために設計されている。
本稿では、個人識別の自動化、説明、緩和のためのフレームワークであるREMIを紹介する。
形式的手法によるループ不変合成にインスパイアされた反ファクトフェアネスは、関係不変な発見問題として扱う。
本稿では、ペア化された例を$(x, x')$で学習し、公正性に反する入力空間の領域を特定するための双方向関係説明フレームワークを提案する。
不変推論で用いられる従来の片方向含意対とは異なり、本手法では、元のサンプルと反実例の両方に同じ結果を必要とする双方向の制約を課している。
REMIは3つのデータアライメント技術を用いて「フェアネス不変量」として機能する解釈可能なルールベースのモデルを推論する。
これらのルールは、モデルの再訓練を必要とせず、不公平な予測を選択的にブロックまたは緩和するためのガードレールとして機能する。
シンボリック・ニューラル・ネットワーク・プログラムの評価では、REMIは83%以上の症例で真真正性バグをローカライズし、最先端のベースラインを著しく上回り、ブラックボックスモデルにおける差別的決定を最大70%削減している。
関連論文リスト
- Dual-Branch Cross-Projection Debiasing through Diffusion-based Disentanglement [66.67463557274358]
バイアス付きデータセットに基づいてトレーニングされた基礎モデルは、しばしばターゲットラベルと非因果属性の間の急激な相関に依存する。
信頼誘導概念マイニング(CBCM:Confidence-guided Concept Mining)を導入し,属性アノテーションを使わずに信頼性の高いスプリアス属性を同定する。
本稿では,目標と突発的な表現を2つのブランチに分離するプロンプトチューニングフレームワークであるDual-branch Cross-projection Debiasing (DCD)を提案する。
論文 参考訳（メタデータ） (2026-06-23T05:28:47Z) - Do Fair Models Reason Fairly? Counterfactual Explanation Consistency for Procedural Fairness in Credit Decisions [0.0]
既存の結果フェアモデルは、個人に対して根本的に異なる推論を適用可能であることを示す。
本稿では,このバイアスを検出し緩和するフレームワークであるCECを提案する。
主なコントリビューションには、最寄りのカウンターファクト生成方法、統合勾配比較のための修正ベースライン、およびそれに対応するトレーニング損失が含まれる。
論文 参考訳（メタデータ） (2026-05-12T19:54:25Z) - On the use of graph models to achieve individual and group fairness [0.6299766708197883]
我々は、動的システムとホモロジーに基づくツールを活用して公平性をモデル化するための、せん断拡散に基づく理論的枠組みを提供する。
本稿では,異なる公平度尺度を扱うネットワークトポロジの集合について述べる。
本稿では,提案モデルの性能を,精度と公平性の観点から示す。
論文 参考訳（メタデータ） (2026-01-13T18:17:43Z) - Uncovering Discrimination Clusters: Quantifying and Explaining Systematic Fairness Violations [9.31821136819172]
我々は差別クラスタリングの概念を導入し、動機づける。
単一対実差を検出するのではなく、保護された特徴の小さな摂動がk個の異なる結果のクラスターにつながる入力空間の領域を明らかにする。
本稿では,SMTとMILPによる形式的記号解析を組み合わせたハイブリッド手法HyFairを提案する。
論文 参考訳（メタデータ） (2025-12-29T06:44:07Z) - When Are Learning Biases Equivalent? A Unifying Framework for Fairness, Robustness, and Distribution Shift [0.0]
機械学習システムは、保護されたグループに対する不公平さ、刺激的な相関に対する脆さ、少数民族のサブ人口に対するパフォーマンスの低下など、さまざまな障害モードを示す。
本稿では,異なるバイアス機構がモデル性能に定量的に等価な効果をもたらすことを特徴付ける統一理論フレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-09T20:48:09Z) - Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。
因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。
因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
論文 参考訳（メタデータ） (2024-05-24T11:19:52Z) - Evaluating the Fairness of Discriminative Foundation Models in Computer
Vision [51.176061115977774]
本稿では,CLIP (Contrastive Language-Pretraining) などの差別基盤モデルのバイアス評価のための新しい分類法を提案する。
そして、これらのモデルにおけるバイアスを緩和するための既存の手法を分類学に関して体系的に評価する。
具体的には,ゼロショット分類,画像検索,画像キャプションなど,OpenAIのCLIPとOpenCLIPモデルをキーアプリケーションとして評価する。
論文 参考訳（メタデータ） (2023-10-18T10:32:39Z) - Fairness Explainability using Optimal Transport with Applications in
Image Classification [0.46040036610482665]
機械学習アプリケーションにおける差別の原因を明らかにするための包括的アプローチを提案する。
We leverage Wasserstein barycenters to achieve fair predictions and introduce an extension to pinpoint bias-associated region。
これにより、各特徴がバイアスに影響を及ぼすかどうかを測定するために強制的公正性を使用する凝集系を導出することができる。
論文 参考訳（メタデータ） (2023-08-22T00:10:23Z) - Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。
カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。
本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
論文 参考訳（メタデータ） (2023-07-17T04:08:29Z) - DualFair: Fair Representation Learning at Both Group and Individual
Levels via Contrastive Self-supervision [73.80009454050858]
この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。
我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
論文 参考訳（メタデータ） (2023-03-15T07:13:54Z) - Domain Adaptation meets Individual Fairness. And they get along [48.95808607591299]
アルゴリズムフェアネスの介入は、機械学習モデルが分散シフトを克服するのに役立つことを示す。
特に,個人フェアネス(IF)の適切な概念を強制することで,MLモデルの分布外精度が向上することを示す。
論文 参考訳（メタデータ） (2022-05-01T16:19:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。