論文の概要: Provable Fairness Repair for Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2605.19549v1
• Date: Tue, 19 May 2026 08:46:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:09.214911
• Title: Provable Fairness Repair for Deep Neural Networks
• Title（参考訳）: 深部ニューラルネットワークの確率的フェアネス修復
• Authors: Jianan Ma, Jingyi Wang, Qi Xuan, Zhen Wang,
• Abstract要約: ディープニューラルネットワーク(DNN)は、個人差別などの倫理的問題に悩まされている。 証明可能な保証を備えた新しいフェアネス修復フレームワークであるProFを提案する。 我々は、ProFが完全なデータセットで最大95.93%、入力空間で最大93.16%の精度で、証明可能な公正性修復を達成することを実証した。
• 参考スコア（独自算出の注目度）: 11.183772232721068
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) are suffering from ethical issues such as individual discrimination. In response, extensive NN repair techniques have been developed to adjust models and mitigate such undesired behaviors. However, existing fairness repair methods are typically data-centric, which often lack provable guarantees and generalization to unseen samples. To overcome these limitations, we propose ProF, a novel fairness repair framework with provable guarantees. The key intuition of ProF is to leverage interval bound propagation (a widely used NN verification technique) to soundly capture model outputs over the whole set $S(\mathbf{x})$ around a biased sample $\mathbf{x}$. The derived bounds are utilized to guide fairness repair which encourages the model to produce consistent outputs on $S(\mathbf{x})$. Specifically, we integrate fairness constraints and model modifications into a unified constraint-solving formulation, which can be transformed to a Mixed-Integer Linear Programming (MILP) problem solvable by off-the-shelf solvers. The solution to the MILP problem effectively induces a repaired model with guaranteed fairness over the whole set $S(\mathbf{x})$. We evaluate ProF on four widely used benchmark datasets and demonstrate that it achieves provable fairness repair, with generalization of up to 95.93\% on full datasets and 93.16\% on the entire input space. Notably, ProF can be easily configured to support multiple sensitive attributes and more practical fairness definitions, while providing provable repair guarantees and delivering around 90\% fairness improvement. Our code is available at https://github.com/nninjn/ProF.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、個人差別などの倫理的問題に悩まされている。 これに対し、NN修復技術は、モデルを調整するとともに、そのような望ましくない行動を緩和するために開発されている。 しかし、既存のフェアネス修復法は典型的にはデータ中心であり、証明不可能なサンプルに対する保証や一般化を欠いていることが多い。 これらの制約を克服するために,証明可能な保証を備えた新しい公正修復フレームワークであるProFを提案する。 ProF の重要な直感は、間隔境界伝播(広く使われている NN 検証手法)を活用して、偏りのあるサンプル $\mathbf{x}$ の周りの集合 $S(\mathbf{x})$ 全体のモデル出力を健全にキャプチャすることである。 導出された境界は、モデルが$S(\mathbf{x})$で一貫した出力を生成するよう促す公平性修復を導くために使用される。 具体的には、フェアネス制約とモデル修正を統一された制約解決定式化に統合し、オフザシェルフソルバで解けるMILP問題に変換する。 MILP 問題に対する解は、集合 $S(\mathbf{x})$ 全体の公正性を保証する修復されたモデルを効果的に誘導する。 広範に使用されている4つのベンチマークデータセット上でProFを評価し、完全なデータセットでは95.93\%、入力空間全体では93.16\%の一般化により、証明可能な公正性修復を実現することを実証した。 特に、ProFは、複数のセンシティブな属性とより実用的なフェアネス定義をサポートするように簡単に設定でき、かつ、保証可能な修理保証を提供し、約90%のフェアネス改善を提供する。 私たちのコードはhttps://github.com/nninjn/ProF.orgで公開されています。

関連論文リスト

• Reinforcement Learning from Multi-Source Imperfect Preferences: Best-of-Both-Regimes Regret [71.69884486156359]
  我々は, 累積的不完全化予算を用いて, エンフルティソースの不完全性選好からエピソードRLを考察した。 我々は,最良な登録行動を示す,後悔$tildeO(sqrtK/M+)$の統一アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-03-20T19:34:53Z)
• Fair Bayesian Data Selection via Generalized Discrepancy Measures [11.013077130984973]
  モデルパラメータとサンプル重みの群固有の後続分布を共有中心分布と整合させることにより、公平性を確保するデータ選択フレームワークを提案する。 我々のフレームワークは、ワッサーシュタイン距離、平均誤差の最大値、および$f$-divergenceなど、様々な分布差によるフレキシブルアライメントをサポートしている。 ベンチマークデータセットを用いた実験の結果,提案手法は既存のデータ選択法やモデルベースフェアネス法を公平性と精度で一貫して上回っていることがわかった。
  論文  参考訳（メタデータ） (2025-11-10T12:28:04Z)
• Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。 認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。 この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T13:56:44Z)
• MaskPro: Linear-Space Probabilistic Learning for Strict (N:M)-Sparsity on Large Language Models [53.36415620647177]
  半構造化された空間は、M$M$の重みからN$の要素を戦略的に保持することで、有望なソリューションを提供する。 既存の(N:M)互換のアプローチは通常、かなりのエラーに悩まされるルールベースの階層的な欲求探索と、禁止的なトレーニングコストを引き起こす勾配駆動学習の2つのカテゴリに分類される。 MaskProという新しい線形空間確率的フレームワークを提案する。これは、M$連続重みごとに事前のカテゴリー分布を学習し、その後、この分布を活用して(N:M)スパーシリティを$N$-wayサンプリングを通じて生成することを目的としている。
  論文  参考訳（メタデータ） (2025-06-15T15:02:59Z)
• Are You Getting What You Pay For? Auditing Model Substitution in LLM APIs [71.7892165868749]
  LLM(Commercial Large Language Model) APIは基本的な信頼の問題を生み出します。 ユーザーは特定のモデルに課金するが、プロバイダが忠実に提供できることを保証することはない。 我々は,このモデル置換問題を定式化し,現実的な逆条件下での検出方法を評価する。 我々は,信頼された実行環境(TEE)を実用的で堅牢なソリューションとして使用し,評価する。
  論文  参考訳（メタデータ） (2025-04-07T03:57:41Z)
• Achievable Fairness on Your Data With Utility Guarantees [16.78730663293352]
  機械学習の公平性において、異なるセンシティブなグループ間の格差を最小限に抑えるトレーニングモデルは、しばしば精度を低下させる。 本稿では,各データセットに適合する公平性-正確性トレードオフ曲線を近似する計算効率のよい手法を提案する。 そこで我々は,モデルフェアネスを監査するための堅牢な枠組みを実践者に提供し,評価の不確実性を定量化する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-02-27T00:59:32Z)
• Chasing Fairness Under Distribution Shift: A Model Weight Perturbation Approach [72.19525160912943]
  まず,分布シフト,データ摂動,モデルウェイト摂動の関連性を理論的に検証した。 次に、ターゲットデータセットの公平性を保証するのに十分な条件を分析します。 これらの十分な条件により、ロバストフェアネス正則化(RFR)を提案する。
  論文  参考訳（メタデータ） (2023-03-06T17:19:23Z)
• Individual Fairness Guarantees for Neural Networks [0.0]
  我々は、フィードフォワードニューラルネットワーク(NN)の個人公正性(IF)を認定する問題を考える。 我々は$epsilon$-$delta$-IF の定式化に取り組んでおり、$epsilon$-similar の任意のペア間の出力差は最大決定耐性によって制限される。 この定式化は、NN損失を変更することで、トレーニング時のモデルの公平性を促進するためにどのように使用できるかを示し、我々のアプローチが最先端の手法よりもはるかに公平なNNを生成することを実証的に確認する。
  論文  参考訳（メタデータ） (2022-05-11T20:21:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。