論文の概要: Why Aggregate Accuracy is Inadequate for Evaluating Fairness in Law Enforcement Facial Recognition Systems

• arxiv url: http://arxiv.org/abs/2603.28675v1
• Date: Mon, 30 Mar 2026 16:56:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.524355
• Title: Why Aggregate Accuracy is Inadequate for Evaluating Fairness in Law Enforcement Facial Recognition Systems
• Title（参考訳）: 顔認証システムの公正性評価に集約精度が不十分な理由
• Authors: Khalid Adnan Alsayed,
• Abstract要約: 本稿では,顔認証システムの公平性と信頼性を評価する上で,集約精度は不十分な指標である,と論じる。 経験的観察により、全体的な精度が類似したシステムは、かなり異なる公正プロファイルを示すことが示されている。 公正な評価アプローチとモデルに依存しない監査戦略の重要性を強調している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Facial recognition systems are increasingly deployed in law enforcement and security contexts, where algorithmic decisions can carry significant societal consequences. Despite high reported accuracy, growing evidence demonstrates that such systems often exhibit uneven performance across demographic groups, leading to disproportionate error rates and potential harm. This paper argues that aggregate accuracy is an insufficient metric for evaluating the fairness and reliability of facial recognition systems in high-stakes environments. Through analysis of subgroup-level error distribution, including false positive rate (FPR) and false negative rate (FNR), the paper demonstrates how aggregate performance metrics can obscure critical disparities across demographic groups. Empirical observations show that systems with similar overall accuracy can exhibit substantially different fairness profiles, with subgroup error rates varying significantly despite a single aggregate metric. The paper further examines the operational risks associated with accuracy-centric evaluation practices in law enforcement applications, where misclassification may result in wrongful suspicion or missed identification. It highlights the importance of fairness-aware evaluation approaches and model-agnostic auditing strategies that enable post-deployment assessment of real-world systems. The findings emphasise the need to move beyond accuracy as a primary metric and adopt more comprehensive evaluation frameworks for responsible AI deployment.
• Abstract（参考訳）: 顔認識システムは、アルゴリズムによる決定が社会的な重大な結果をもたらす、法執行やセキュリティの文脈にますます展開されている。 高い報告の正確さにもかかわらず、人口統計学的グループではしばしば不均一な性能を示し、不均等なエラー率と潜在的な害をもたらす証拠が増大している。 本稿では,ハイテイク環境における顔認識システムの公平性と信頼性を評価する上で,集約精度は不十分な指標である,と論じる。 偽陽性率 (FPR) や偽陰性率 (FNR) を含むサブグループレベルの誤差分布の分析を通じて, 人口集団間での集団的パフォーマンス指標の相違が明らかになることを示す。 実験的な観察により、類似の総合精度を持つシステムは、単一の集計基準にもかかわらず、サブグループエラー率が大きく異なるフェアネスプロファイルを示せることが示された。 さらに,法執行機関のアプリケーションにおいて,誤分類が不正な疑念や誤識別を招きかねない,精度中心評価の実施に伴う運用上のリスクについて検討した。 実世界のシステムのデプロイ後の評価を可能にする公正な評価アプローチとモデルに依存しない監査戦略の重要性を強調している。 この調査結果は、主要な指標として正確性を超えて、AIデプロイメントの責任を負うためにより包括的な評価フレームワークを採用する必要性を強調している。

関連論文リスト

• Anterior's Approach to Fairness Evaluation of Automated Prior Authorization System [0.10195618602298682]
  本稿では,承認結果ではなく,モデル誤り率に基づく事前承認モデルの公平性評価フレームワークを提案する。 7,166症例を対象に, 性別, 年齢, 人種・民族, 社会経済的地位の整合性を検討した。
  論文  参考訳（メタデータ） (2026-03-15T22:05:24Z)
• Partial Identification Approach to Counterfactual Fairness Assessment [50.88100567472179]
  未知の対実的公正度尺度を高い信頼性で有界化するためのベイズ的アプローチを導入する。 以上の結果から、人種をアフリカ系アメリカ人に転換する際のCompASスコアに対する肯定的な(不快な)効果と、若年から高齢に移行する際の否定的な(直接的な因果関係)効果が明らかとなった。
  論文  参考訳（メタデータ） (2025-09-30T18:35:08Z)
• Fair Deepfake Detectors Can Generalize [51.21167546843708]
  共同設立者(データ分散とモデルキャパシティ)の制御により,公正な介入による一般化が向上することを示す。 この知見を応用して, 逆正当性重み付けとサブグループワイド特徴正規化を併用し, 新たなアライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・インセンティブ・インターベンション・インベンション・インテクション(DAID)を提案する。 DAIDは、いくつかの最先端技術と比較して、公平性と一般化の両方において一貫して優れた性能を達成する
  論文  参考訳（メタデータ） (2025-07-03T14:10:02Z)
• Balancing Tails when Comparing Distributions: Comprehensive Equity Index (CEI) with Application to Bias Evaluation in Operational Face Biometrics [45.84303673987677]
  Comprehensive Equity Index (CEI)は、顔認識システムにおける人口統計バイアスを検出するために設計された新しい指標である。 実験の結果,CEIは従来手法が不足していたニュアンスバイアスを検出する能力に優れていたことが確認された。 CEIは、運用公正性評価のための堅牢で機密性の高いツールを提供する。
  論文  参考訳（メタデータ） (2025-06-12T10:43:31Z)
• Understanding challenges to the interpretation of disaggregated evaluations of algorithmic fairness [49.35494016290887]
  関係する人口を表わすが、実世界の格差を反映するデータである場合、サブグループ間での平等なパフォーマンスは、信頼できない公平さの尺度であることを示す。 本フレームワークでは, 因果関係の明示的な仮定と分析を相補して, 相反や分布変化の制御を提案する。
  論文  参考訳（メタデータ） (2025-06-04T17:40:31Z)
• Mitigating Bias in Facial Recognition Systems: Centroid Fairness Loss Optimization [9.537960917804993]
  公正なAIシステムの社会的需要は、新しい公正性基準を満たす予測モデルを開発する研究コミュニティに圧力を与えている。 特に、特定の人口セグメントにまたがる特定の顔認識(FR)システムによる誤差の変動は、後者の展開を損なう。 本稿では,Centroid-based scores に作用する回帰損失を最適化することにより,事前学習されたFRモデルの公平性を改善するための新しいポストプロセッシング手法を提案する。
  論文  参考訳（メタデータ） (2025-04-27T22:17:44Z)
• Free Lunch for Generating Effective Outlier Supervision [46.37464572099351]
  本稿では, ほぼ現実的な外乱監視を実現するための超効率的な手法を提案する。 提案したtextttBayesAug は,従来の方式に比べて偽陽性率を 12.50% 以上削減する。
  論文  参考訳（メタデータ） (2023-01-17T01:46:45Z)
• Domain-Incremental Continual Learning for Mitigating Bias in Facial Expression and Action Unit Recognition [5.478764356647437]
  FERシステムの公平性を高めるための強力なバイアス軽減法として,Continual Learning (CL) の新たな利用法を提案する。 表現認識と行動ユニット(AU)検出タスクにおける分類精度と公平度スコアについて,非CL法とCL法との比較を行った。 実験の結果,CLに基づく手法は,精度と公正度の両方において,他の一般的なバイアス緩和手法よりも優れていた。
  論文  参考訳（メタデータ） (2021-03-15T18:22:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。