論文の概要: Efficient Active Auditing of Multi-Group Fairness with Bias Probes

• arxiv url: http://arxiv.org/abs/2609.40034v1
• Date: Wed, 30 Sep 2026 16:05:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:28.024886
• Title: Efficient Active Auditing of Multi-Group Fairness with Bias Probes
• Title（参考訳）: バイアスプローブを用いたマルチグループフェアネスの能動的監査
• Abstract要約: モデル機密性を保ちながら、ターゲット型および適応型クエリによりバイアス構造を明らかにすることができるバイアスプローブフレームワークを導入する。 本研究は, モデル機密性と信頼性監査の基本的なトレードオフを明らかにし, 高・低バイアス領域の正確な推定と解釈が可能であることを示す。
• 参考スコア（独自算出の注目度）: 18.205253587709525
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Over the past decade, Machine Learning (ML) has been trained under dual objectives: minimizing prediction error via Empirical Risk Minimization (ERM) while controlling unfairness bias. In practice, however, fairness-aware training often yields limited improvements over standard ERM, making reliable post hoc auditing essential. Existing auditing approaches for black-box models either rely on model reconstruction --exposing systems to extraction attacks-- or directly estimate fairness metrics, offering limited insight into which regions of the data distribution drive bias. More fundamentally, property-specific auditing --aimed at extracting only targeted fairness information without reconstructing the model-- remains poorly understood. In this work, we introduce the bias probe framework, which enables targeted and adaptive querying to reveal bias structure while preserving model confidentiality. Building on this framework, we propose ALeBi, an active auditor that learns such probes to efficiently estimate multi-group fairness metrics. We establish novel sample complexity guarantees governed by a property-specific complexity measure, resolving a previously posed open question, and extend our analysis to adversarial settings where the model owner may strategically obscure bias. Our results uncover a fundamental trade-off between model confidentiality and reliable auditing, and show that property-specific probing enables both accurate estimation and interpretable identification of high and low-bias regions. Extensive experiments support our theoretical findings and demonstrate the practical effectiveness of our approach.
• Abstract（参考訳）: 過去10年間、機械学習(ML)は2つの目的の下で訓練されてきた。 しかし、実際には、公正を意識したトレーニングは標準的なERMよりも限られた改善をもたらすことが多く、信頼性の高いポストホック監査が不可欠である。 ブラックボックスモデルの既存の監査アプローチは、モデル再構築 -- 攻撃を抽出するためのシステムを実行する -- に依存しているか、または、データ分散のどの領域がバイアスを引き起こすかという限られた洞察を提供する公正度メトリクスを直接見積もっている。 より根本的には、モデルを再構築することなく対象の公平性情報のみを抽出するプロパティ固有監査は、まだ理解されていない。 本研究では,モデル機密性を維持しつつ,ターゲット型および適応型クエリによりバイアス構造を明らかにするためのバイアスプローブフレームワークを提案する。 この枠組みに基づいて,多群公正度指標を効率的に推定する能動的監査器ALeBiを提案する。 モデル所有者が戦略的に不明瞭なバイアスを負う可能性のある敵の設定まで分析を拡張し, 従来提案されていたオープンな質問を解消し, 特性特異的な複雑性尺度によって管理される新しいサンプル複雑性保証を確立する。 本研究は, モデル機密性と信頼性監査の基本的なトレードオフを明らかにし, 高・低バイアス領域の正確な推定と解釈が可能であることを示す。 大規模実験により理論的知見が得られ,本手法の有効性が実証された。

関連論文リスト

• Observationally Informed Adaptive Causal Experimental Design [55.998153710215654]
  本稿では,観測モデルを基礎的先行として活用する新たなパラダイムであるアクティブ残留学習を提案する。 このアプローチは、実験的な焦点を、目標因果量の学習から、観察バイアスの補正に必要な残差を効率的に推定するへとシフトさせる。 合成および半合成ベンチマークの実験は、R-Designがベースラインを大幅に上回ることを示した。
  論文  参考訳（メタデータ） (2026-03-04T06:52:37Z)
• Truthfulness Despite Weak Supervision: Evaluating and Training LLMs Using Peer Prediction [5.366560952801833]
  本稿では,モデル評価とポストトレーニングのためのピア予測手法を提案する。 真面目で情報的な答えを欺いたり、非形式的な答えに報いる。 ピア予測に基づく報奨による8Bモデルのトレーニングは、以前の悪意のある微調整による真偽の低下の大部分を回復させることを示す。
  論文  参考訳（メタデータ） (2026-01-28T06:47:46Z)
• Cost Efficient Fairness Audit Under Partial Feedback [14.57835291220813]
  本研究では,ある分類器の公平さを部分的フィードバック下で監査する問題について検討する。 追加ラベル付きデータを取得するための新しいコストモデルを導入する。 我々のアルゴリズムは監査コストの点で自然ベースラインを約50%上回っていることを示す。
  論文  参考訳（メタデータ） (2025-10-04T08:38:03Z)
• Is Your Model Fairly Certain? Uncertainty-Aware Fairness Evaluation for LLMs [7.197702136906138]
  モデルフェアネスのきめ細かい評価を可能にするため,不確実性を考慮した評価基準であるUCerFを提案する。 現在のデータセットにおけるデータサイズ、多様性、明快さの問題を観察し、新しいジェンダー占有公正度評価データセットを導入する。 我々は、メトリックとデータセットを使用してベンチマークを確立し、それを10のオープンソースAIシステムの動作評価に適用する。
  論文  参考訳（メタデータ） (2025-05-29T20:45:18Z)
• Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• Thinking Racial Bias in Fair Forgery Detection: Models, Datasets and Evaluations [63.52709761339949]
  最初に、Fair Forgery Detection(FairFD)データセットと呼ばれる専用のデータセットをコントリビュートし、SOTA(Public State-of-the-art)メソッドの人種的偏見を証明する。 我々は、偽りの結果を避けることができる平均的メトリクスと実用正規化メトリクスを含む新しいメトリクスを設計する。 また,有効で堅牢な後処理技術であるBias Pruning with Fair Activations (BPFA)も提案する。
  論文  参考訳（メタデータ） (2024-07-19T14:53:18Z)
• Fairness Without Harm: An Influence-Guided Active Sampling Approach [32.173195437797766]
  我々は、モデルの精度に害を与えることなく、グループフェアネスの格差を軽減するモデルを訓練することを目指している。 公正なアクティブな学習アプローチのような現在のデータ取得方法は、通常、アノテートセンシティブな属性を必要とする。 トレーニンググループアノテーションに依存しない抽出可能なアクティブデータサンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-02-20T07:57:38Z)
• Unsupervised Learning of Debiased Representations with Pseudo-Attributes [85.5691102676175]
  教師なし方式で,単純かつ効果的な脱バイアス手法を提案する。 特徴埋め込み空間上でクラスタリングを行い、クラスタリング結果を利用して疑似属性を識別する。 次に,非偏り表現を学習するために,クラスタベースの新しい重み付け手法を用いる。
  論文  参考訳（メタデータ） (2021-08-06T05:20:46Z)
• Fairness by Explicability and Adversarial SHAP Learning [0.0]
  本稿では,外部監査役の役割とモデル説明可能性を強調するフェアネスの新たな定義を提案する。 逆代理モデルのSHAP値から構築した正規化を用いてモデルバイアスを緩和するフレームワークを開発する。 合成データセット、UCIアダルト(国勢調査)データセット、実世界の信用評価データセットである。
  論文  参考訳（メタデータ） (2020-03-11T14:36:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。