論文の概要: Fairness-Aware Mixture-of-Experts via Subgroup Reweighting and Gate Regularization
- arxiv url: http://arxiv.org/abs/2608.22820v1
- Date: Mon, 24 Aug 2026 05:34:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.900095
- Title: Fairness-Aware Mixture-of-Experts via Subgroup Reweighting and Gate Regularization
- Title（参考訳）: 部分群重み付けとゲート正規化によるフェアネス・オブ・エクササイズ
- Abstract要約: 本稿では,サブグループ不均衡を補正するエンドツーエンドのMixture-of-Experts(MoE)フレームワークを提案する。
サブグループ再重み付けをデータ不均衡の補正に適用し、ゲートエントロピー正則化を導入し、サブグループ属性へのルーティングが崩壊するのを防ぐ。
実験の結果,提案手法は競争力のある予測性能を維持しつつ公正性を向上することが示された。
- 参考スコア（独自算出の注目度）: 2.6245086561385276
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning models often produce performance disparities across demographic groups, due to the training data imbalance with respect to sensitive attributes such as gender or age. To address this problem, existing work has explored fair representation learning, data re-sampling, and adversarial training, which can be broadly categorized into two main approaches. Single-stage methods typically learn a shared representation for fairness, but often struggle to handle heterogeneous subgroup distributions. Two-stage methods learn representations separately from the final prediction task, which can lead to misalignment between fairness objectives and downstream predictions. We identify routing-induced bias, a failure mode in which subgroup imbalance drives the gating network to route subgroups onto a few experts, and propose an end-to-end Mixture-of-Experts (MoE) framework that corrects it. Specifically, we apply subgroup reweighting to correct data imbalance, and introduce gate entropy regularization to prevent routing from collapsing onto subgroup attributes, keeping expert utilization both balanced and interpretable. Beyond improving fairness, the routing distribution offers an interpretable view of how subgroups are allocated across experts. Experimental results demonstrate that the proposed approach improves fairness while maintaining competitive predictive performance.
- Abstract（参考訳）: ディープラーニングモデルは、性別や年齢などのセンシティブな属性に対するトレーニングデータの不均衡のため、人口集団間でのパフォーマンス格差を生じさせることが多い。
この問題に対処するために、既存の研究は、公正表現学習、データ再サンプリング、および敵の訓練について検討してきた。
単段法は通常、公平性の共有表現を学習するが、しばしば不均一な部分群分布を扱うのに苦労する。
2段階の手法は最終予測タスクから表現を別々に学習し、フェアネス目標と下流予測のミスアライメントにつながる可能性がある。
我々は、サブグループ不均衡がゲーティングネットワークを駆動し、少数の専門家にサブグループをルーティングする障害モードであるルーティング誘起バイアスを特定し、それを補正するエンドツーエンドのMixture-of-Experts(MoE)フレームワークを提案する。
具体的には、データ不均衡の補正にサブグループリウェイトを適用し、ゲートエントロピー正則化を導入し、サブグループ属性へのルーティングを防止し、バランスと解釈の両面において専門家の活用を維持する。
公平性の改善に加えて、ルーティングディストリビューションは、専門家間でサブグループがどのように割り当てられるかを解釈可能なビューを提供する。
実験の結果,提案手法は競争力のある予測性能を維持しつつ公正性を向上することが示された。
関連論文リスト
- Procedural Fairness via Group Counterfactual Explanation [0.0]
Group Counterfactual Integrated Gradients (GCIG)は、グループ間の説明不変性を強制するプロセス内正規化フレームワークである。
本稿では,GCIGが競合予測性能を維持しつつ,グループ間説明の相違を大幅に低減することを示す。
また,グループ間におけるモデル推論の整合性は,結果の公平性を超えて公正性を高めるための原則的かつ実践的な道筋であることを示唆した。
論文 参考訳（メタデータ） (2026-03-11T16:38:59Z) - Class-Conditional Distribution Balancing for Group Robust Classification [11.525201208566925]
間違った理由からモデルが正しい予測に導かれるような豪華な相関関係は、堅牢な現実世界の一般化にとって重要な課題である。
クラス-条件分布における不均衡やミスマッチとして、突発的な相関を緩和することで、新しい視点を提供する。
本稿では,バイアスアノテーションと予測の両方を必要としない,シンプルで効果的な頑健な学習手法を提案する。
論文 参考訳（メタデータ） (2025-04-24T07:15:53Z) - Fairness of Deep Ensembles: On the interplay between per-group task difficulty and under-representation [9.11104048176204]
組立は、機械学習におけるモデルの一般的な性能を改善する効果的な方法として一般的に考えられている。
単純で簡単な手法が相違を緩和し、特に性能の低い部分群に利益をもたらすことを示す。
我々は,サブグループ下表現と各グループ固有の課題の難易度という,バイアスをもたらす可能性のある2つの要因間の相互作用を分析した。
論文 参考訳（メタデータ） (2025-01-24T14:54:01Z) - Learning Informative Representation for Fairness-aware Multivariate
Time-series Forecasting: A Group-based Perspective [50.093280002375984]
多変量時系列予測モデル(MTS)では変数間の性能不公平性が広く存在する。
フェアネスを意識したMTS予測のための新しいフレームワークであるFairForを提案する。
論文 参考訳（メタデータ） (2023-01-27T04:54:12Z) - Domain Adaptation meets Individual Fairness. And they get along [48.95808607591299]
アルゴリズムフェアネスの介入は、機械学習モデルが分散シフトを克服するのに役立つことを示す。
特に,個人フェアネス(IF)の適切な概念を強制することで,MLモデルの分布外精度が向上することを示す。
論文 参考訳（メタデータ） (2022-05-01T16:19:55Z) - Addressing Missing Sources with Adversarial Support-Matching [8.53946780558779]
そこで本研究では,データ内の2段階階層の2段階に,データの欠如が関係しているシナリオについて検討する。
アルゴリズム的公正性から保護された群の概念に触発され、この第2階層によって彫られた分割を「部分群」と呼ぶ。
私たちは、サブグループに不変な表現を学ぶために、"deployment set"と呼ばれる追加で多様だがラベルなしのデータセットを使用します。
論文 参考訳（メタデータ） (2022-03-24T16:19:19Z) - Fair Group-Shared Representations with Normalizing Flows [68.29997072804537]
本研究では,異なるグループに属する個人を1つのグループにマッピングできる公正表現学習アルゴリズムを開発した。
提案手法は,他の公正表現学習アルゴリズムと競合することを示す。
論文 参考訳（メタデータ） (2022-01-17T10:49:49Z) - Contrastive Learning for Fair Representations [50.95604482330149]
訓練された分類モデルは、意図せずバイアスのある表現や予測につながる可能性がある。
対戦訓練のような既存の分類モデルのデバイアス化手法は、訓練に高価であり、最適化が困難であることが多い。
比較学習を取り入れたバイアス軽減手法を提案し、同じクラスラベルを共有するインスタンスに類似した表現を推奨する。
論文 参考訳（メタデータ） (2021-09-22T10:47:51Z) - Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。
入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。
分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
論文 参考訳（メタデータ） (2021-06-14T05:39:09Z) - Fair Mixup: Fairness via Interpolation [28.508444261249423]
公平性制約を課すための新しいデータ拡張戦略であるfair mixupを提案する。
対象群間の補間標本の経路のモデルに正則化することで公平性が達成できることを示す。
ベンチマークにおける精度と公正度の測定の両面において,より優れた一般化を実現することを実証的に示す。
論文 参考訳（メタデータ） (2021-03-11T06:57:26Z) - Global Distance-distributions Separation for Unsupervised Person
Re-identification [93.39253443415392]
既存の教師なしのReIDアプローチは、距離ベースのマッチング/ランク付けを通じて正のサンプルと負のサンプルを正しく識別するのに失敗することが多い。
本研究では,2つの分布に対する大域的距離分布分離の制約を導入し,大域的視点から正と負のサンプルを明確に分離することを奨励する。
本研究では,本手法がベースラインを大幅に改善し,最先端の性能を実現することを示す。
論文 参考訳（メタデータ） (2020-06-01T07:05:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。