論文の概要: Mitigating Demographic Disparities in Explanation-Human Alignment via Rationale Regularization
- arxiv url: http://arxiv.org/abs/2610.22586v1
- Date: Thu, 15 Oct 2026 19:36:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.641356
- Title: Mitigating Demographic Disparities in Explanation-Human Alignment via Rationale Regularization
- Title（参考訳）: 説明HumanアライメントにおけるRationale正則化による復号化の相違
- Abstract要約: プラウシビリティ-EFGは、人口統計群間での説明の妥当性の最大の違いを測定する指標である。
ADF-RoBERTaは、説明と人間の合理性の間の分類性能と整合性を改善する。
- 参考スコア（独自算出の注目度）: 7.837881800517111
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study explanation fairness in hate speech detection. High classification performance does not always mean that a model produces equally plausible explanations for different demographic groups. Using the HateXplain dataset, we introduce Plausibility-EFG, a metric that measures the largest difference in explanation plausibility across demographic groups by comparing model-generated token attributions with human-annotated rationales. We evaluate BERT, RoBERTa, and ADV-RoBERTa, an adversarially trained model, using Integrated Gradients and SHAP. Our results show that ADV-RoBERTa improves classification performance and alignment between explanations and human rationales while reducing explanation disparities across demographic groups. These improvements are observed with both attribution methods and remain consistent across training, validation, and test splits. We also show that reducing prediction-level bias alone does not eliminate disparities in explanations, suggesting that predictive fairness and explanation fairness are related but distinct objectives. Finally, our fairness-performance analysis shows that stronger adversarial regularization can further reduce Plausibility-EFG, although it may cause a small decrease in macro-F1. Overall, this work presents explanation fairness as an important objective in hate speech moderation and introduces Fair-REF, a framework designed to reduce disparities in model explanations across demographic groups.
- Abstract（参考訳）: ヘイトスピーチ検出における説明公平性について検討する。
高い分類性能は、モデルが異なる階層群に対して等しく妥当な説明を生成することを意味するとは限らない。
HateXplainデータセットを用いて、モデル生成トークン属性と人間の注釈付き有理量を比較することで、人口集団間の説明可能性の最大差を測定する指標であるPlausibility-EFGを導入する。
Integrated Gradients と SHAP を用いて,逆学習モデルであるBERT,RoBERTa,ADV-RoBERTaを評価した。
以上の結果から,ADV-RoBERTaは,人口集団間の説明の相違を低減しつつ,説明と人間の合理性間の分類性能と整合性を向上させることが示唆された。
これらの改善は、両方の属性メソッドで観察され、トレーニング、バリデーション、テストスプリット間で一貫性が保たれる。
また,予測レベルのバイアスの低減だけでは説明の相違を排除できないことを示し,予測的公平性と説明的公正性は関連しているものの,異なる目的があることを示唆した。
最後に,我々のフェアネス・パフォーマンス分析により,より強い逆正則化はPlausibility-EFGをさらに減少させるが,マクロF1の減少は少ないことが示された。
全体として、この研究は、ヘイトスピーチのモデレーションにおいて、説明の公平性を重要な目的として提示し、人口統計群間でのモデル説明の格差を減らすために設計されたフレームワークであるFair-REFを紹介した。
関連論文リスト
- A Rank Graduation metric for Algorithmic fairness [4.318555434063274]
本稿では,モデル予測誤差の分布を通じて公平性を評価するランクベースフレームワークを提案する。
このフレームワークは、ランクグラデュエーションフェアネス(RGF)、その統合測度AURGF、中心となるクレーマー-ヴォンミス置換試験、フェアネス説明可能性のための特徴除去手順を組み合わせる。
論文 参考訳（メタデータ） (2026-09-30T05:30:40Z) - SCM-based Fairness and Faithful Explainability for Legal Document Classification [0.0]
本研究は, 公平性を変化させる疎外的介入が, モデル推論の忠実な説明の反映にどう影響するかを考察する。
LegalBERTベースラインと、ステレオタイプウォームスとコンピテンス表現をペナライズするフェアネス規則化された変種を比較する。
この評価は,5種類のランダム種子に対する予測性能,人口統計学的公正性,およびSHAP説明の忠実性に関するものである。
論文 参考訳（メタデータ） (2026-09-03T07:06:54Z) - FairForensics: Seeing Expressions and Parsing Demographics via Vision-Language Modeling for Generalizable Fair Deepfake Detection [60.2868121662026]
既存のフェアネスを増強した検出器は、しばしば人口統計群全体にわたって目に見えない操作とフェアネスの最適下一般化に悩まされる。
我々は、バランスの取れない人口シナリオと不均衡な人口シナリオの両方の下で、検出器の公平性を訓練し、評価するために、新しい人口動態バランスFDDベンチマークを構築した。
また,FairForensicsと呼ばれる新しい表現と階層型視覚言語モデルを導入する。
論文 参考訳（メタデータ） (2026-08-03T03:51:14Z) - Procedural Fairness via Group Counterfactual Explanation [0.0]
Group Counterfactual Integrated Gradients (GCIG)は、グループ間の説明不変性を強制するプロセス内正規化フレームワークである。
本稿では,GCIGが競合予測性能を維持しつつ,グループ間説明の相違を大幅に低減することを示す。
また,グループ間におけるモデル推論の整合性は,結果の公平性を超えて公正性を高めるための原則的かつ実践的な道筋であることを示唆した。
論文 参考訳（メタデータ） (2026-03-11T16:38:59Z) - Aligning Attention with Human Rationales for Self-Explaining Hate Speech Detection [2.5432391525687748]
Supervised Rational Attention (SRA) は、モデル注意と人間の合理性を明確に整合させるフレームワークである。
SRAはヘイトスピーチ分類における解釈可能性と公平性の両方を改善する。
論文 参考訳（メタデータ） (2025-11-10T12:57:56Z) - Fair Deepfake Detectors Can Generalize [51.21167546843708]
共同設立者(データ分散とモデルキャパシティ)の制御により,公正な介入による一般化が向上することを示す。
この知見を応用して, 逆正当性重み付けとサブグループワイド特徴正規化を併用し, 新たなアライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・インセンティブ・インターベンション・インベンション・インテクション(DAID)を提案する。
DAIDは、いくつかの最先端技術と比較して、公平性と一般化の両方において一貫して優れた性能を達成する
論文 参考訳（メタデータ） (2025-07-03T14:10:02Z) - Estimating Commonsense Plausibility through Semantic Shifts [66.06254418551737]
セマンティックシフトを測定することでコモンセンスの妥当性を定量化する新しい識別フレームワークであるComPaSSを提案する。
2種類の細粒度コモンセンス可視性評価タスクの評価は,ComPaSSが一貫してベースラインを上回っていることを示している。
論文 参考訳（メタデータ） (2025-02-19T06:31:06Z) - Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。
FASTは最先端のベースラインを超え、デバイアス性能が優れている。
これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
論文 参考訳（メタデータ） (2024-08-07T17:14:58Z) - Deconfounding to Explanation Evaluation in Graph Neural Networks [136.73451468551656]
我々は、全グラフと部分グラフの間に分布シフトが存在し、分布外問題を引き起こすと論じる。
本稿では,モデル予測に対する説明文の因果効果を評価するために,Decon founded Subgraph Evaluation (DSE)を提案する。
論文 参考訳（メタデータ） (2022-01-21T18:05:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。