論文の概要: Efficient and Interpretable Transformer for Counterfactual Fairness
- arxiv url: http://arxiv.org/abs/2604.26188v1
- Date: Wed, 29 Apr 2026 00:20:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-30 15:59:36.206607
- Title: Efficient and Interpretable Transformer for Counterfactual Fairness
- Title（参考訳）: 対物フェアネスのための効率的かつ解釈可能な変圧器
- Authors: Panyi Dong, Zhiyu Quan,
- Abstract要約: この研究は、公正性理論と機械学習モデルの間に重要なギャップを埋める。
ハイテイクで高度に規制されたドメインにおいて、責任あるAIのための実践的なフレームワークを提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The growing reliance of machine learning models in high-stakes, highly regulated domains such as finance and insurance has created a growing tension between predictive performance, interpretability, and regulatory fairness requirements. In these settings, models are expected not only to deliver reliable predictions but also to provide transparent decision rationales and comply with strict fairness requirements. Attention-based transformers offer powerful mechanisms for modeling complex data relationships as demonstrated in various language tasks, yet their attention mechanisms alone do not ensure counterfactually fair predictions, even when combined with fairness-aware techniques. To address these limitations, we propose the Feature Correlation Transformer (FCorrTransformer), an attention-light architecture tailored for tabular data. In this design, the attention matrix admits a direct statistical interpretation as pairwise feature dependencies, enhancing both interpretability and efficiency. Leveraging this structure, we introduce Counterfactual Attention Regularization (CAR), a framework that enforces group-invariant fair representations of sensitive features at the attention level, promoting counterfactually fair predictions without relying on explicit causal assumptions. Empirical evaluations on imbalanced classification and regression benchmarks demonstrate that FCorrTransformer combined with CAR achieves strong counterfactual fairness while maintaining competitive predictive performance and substantially reducing model complexity compared with standard transformer-based baselines. Overall, this work bridges a critical gap between fairness theory and machine learning models, offering a practical framework for responsible AI in regulatory-sensitive domains.
- Abstract（参考訳）: 金融や保険といった高度に規制された領域における機械学習モデルへの依存度の増加は、予測性能、解釈可能性、規制公正性要件の間の緊張感を増している。
これらの設定では、モデルは信頼できる予測を提供するだけでなく、透明性のある意思決定の合理性を提供し、厳密な公正性要件を満たすことが期待されている。
アテンションベースのトランスフォーマーは、様々な言語タスクで示されるような複雑なデータ関係をモデル化するための強力なメカニズムを提供するが、その注意機構だけでは、公正な技術と組み合わせても、事実的に公正な予測を保証できない。
これらの制約に対処するために,表データに適した注目光アーキテクチャである特徴相関変換器 (FCorr Transformer) を提案する。
この設計では、アテンション行列は、ペアワイズな特徴依存として直接統計的解釈を認め、解釈可能性と効率性の両方を向上する。
この構造を活用することで、注意レベルでのセンシティブな特徴の群不変公正表現を強制し、明確な因果的仮定に頼ることなく、反事実的公正な予測を促進するフレームワークであるCAR(Contererfactual Attention Regularization)を導入する。
不均衡分類と回帰ベンチマークに関する実証的な評価は、FCorrTransformerとCARを組み合わせることで、競合予測性能を維持しながら強力な反ファクトフェアネスを実現し、標準トランスフォーマーベースラインと比較してモデル複雑性を大幅に低減することを示した。
全体として、この研究は公正性理論と機械学習モデルの間に重要なギャップを埋め、規制に敏感なドメインにおける責任あるAIのための実践的なフレームワークを提供する。
関連論文リスト
- Cauchy-Schwarz Fairness Regularizer [17.898277374771254]
機械学習におけるグループフェアネスは、モデル予測とセンシティブな属性間の依存を減らす正規化子を追加することで強制されることが多い。
感性群に条件付けられた予測分布間の経験的CSのばらつきを罰するコーシー=シュワルツフェアネス正規化器を提案する。
論文 参考訳（メタデータ） (2025-12-10T09:39:30Z) - Why Generate When You Can Transform? Unleashing Generative Attention for Dynamic Recommendation [9.365893765448366]
SR(Sequential Recommendation)は,ユーザエクスペリエンスのパーソナライズに焦点をあてる。
トランスフォーマーモデルは、その注意機構とともに、SRタスクにおいて支配的なアーキテクチャとなっている。
本稿では,変分オートエンコーダ(VAE)と拡散モデル(DM)の原理を基礎として,SRの2つの生成的注意モデルを紹介する。
論文 参考訳（メタデータ） (2025-08-04T04:33:26Z) - Transformers Learn Faster with Semantic Focus [57.97235825738412]
学習性と一般化の観点からスパース変圧器について検討する。
入力依存のスパースアテンションモデルは、標準アテンションモデルよりも早く収束し、より一般化しているように見える。
論文 参考訳（メタデータ） (2025-06-17T01:19:28Z) - FAIR-SIGHT: Fairness Assurance in Image Recognition via Simultaneous Conformal Thresholding and Dynamic Output Repair [4.825037489691159]
本稿では,コンフォメーション予測と動的出力修復機構を組み合わせることで,コンピュータビジョンシステムの公平性を確保するためのポストホックフレームワークを提案する。
提案手法は,予測誤差と公平性違反を同時に評価する,公平性を考慮した非整合性スコアを算出する。
新しい画像の非整合スコアがしきい値を超えると、FAIR-SIGHTは分類のためのロジットシフトや検出のための信頼度補正など、対象とする修正調整を実行する。
論文 参考訳（メタデータ） (2025-04-10T02:23:06Z) - Partial Transportability for Domain Generalization [56.37032680901525]
本稿では, 部分的同定と輸送可能性の理論に基づいて, 対象分布の関数値の有界化に関する新たな結果を紹介する。
我々の貢献は、輸送可能性問題に対する最初の一般的な評価手法を提供することである。
本稿では,スケーラブルな推論を実現するための勾配に基づく最適化手法を提案する。
論文 参考訳（メタデータ） (2025-03-30T22:06:37Z) - Latenrgy: Model Agnostic Latency and Energy Consumption Prediction for Binary Classifiers [0.0]
機械学習システムは、科学分野や産業のイノベーションをますます加速させる。
しかし、特に推論の間、計算オーバーヘッドにおける課題はスケーラビリティと持続可能性を制限する。
この研究は、主に遅延とエネルギー消費に関する一般化予測技術が欠如していることから、文学における重要なギャップに対処する。
論文 参考訳（メタデータ） (2024-12-26T14:51:24Z) - Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。
提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。
複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
論文 参考訳（メタデータ） (2023-06-09T08:30:51Z) - Federated Conformal Predictors for Distributed Uncertainty
Quantification [83.50609351513886]
コンフォーマル予測は、機械学習において厳密な不確実性定量化を提供するための一般的なパラダイムとして現れつつある。
本稿では,共形予測を連邦学習環境に拡張する。
本稿では、FL設定に適した部分交換可能性の弱い概念を提案し、それをフェデレート・コンフォーマル予測フレームワークの開発に利用する。
論文 参考訳（メタデータ） (2023-05-27T19:57:27Z) - Fairness by Explicability and Adversarial SHAP Learning [0.0]
本稿では,外部監査役の役割とモデル説明可能性を強調するフェアネスの新たな定義を提案する。
逆代理モデルのSHAP値から構築した正規化を用いてモデルバイアスを緩和するフレームワークを開発する。
合成データセット、UCIアダルト(国勢調査)データセット、実世界の信用評価データセットである。
論文 参考訳（メタデータ） (2020-03-11T14:36:34Z) - Target-Embedding Autoencoders for Supervised Representation Learning [111.07204912245841]
本稿では,対象空間が高次元な純粋教師付き環境における一般化の枠組みを解析する。
我々は、教師付き予測のための目標埋め込みオートエンコーダ(TEA)の一般的なフレームワークのモチベーションと形式化を行い、特徴とターゲットの予測の両方から予測可能なように最適化された中間潜在表現を学習する。
論文 参考訳（メタデータ） (2020-01-23T02:37:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。