論文の概要: FairLRF: Achieving Fairness through Sparse Low Rank Factorization

• arxiv url: http://arxiv.org/abs/2511.16549v1
• Date: Thu, 20 Nov 2025 17:01:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-21 17:08:52.742944
• Title: FairLRF: Achieving Fairness through Sparse Low Rank Factorization
• Title（参考訳）: FairLRF: 疎低格化による公平性の実現
• Authors: Yuanbo Guo, Jun Xia, Yiyu Shi,
• Abstract要約: モデルフェアネスを改善するために特異値分解(SVD)を利用するフェアネス指向低ランク分解(LRF)フレームワークを提案する。 提案手法は従来のLRF法や最先端のフェアネス向上技術よりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 7.588768993519323
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As deep learning (DL) techniques become integral to various applications, ensuring model fairness while maintaining high performance has become increasingly critical, particularly in sensitive fields such as medical diagnosis. Although a variety of bias-mitigation methods have been proposed, many rely on computationally expensive debiasing strategies or suffer substantial drops in model accuracy, which limits their practicality in real-world, resource-constrained settings. To address this issue, we propose a fairness-oriented low rank factorization (LRF) framework that leverages singular value decomposition (SVD) to improve DL model fairness. Unlike traditional SVD, which is mainly used for model compression by decomposing and reducing weight matrices, our work shows that SVD can also serve as an effective tool for fairness enhancement. Specifically, we observed that elements in the unitary matrices obtained from SVD contribute unequally to model bias across groups defined by sensitive attributes. Motivated by this observation, we propose a method, named FairLRF, that selectively removes bias-inducing elements from unitary matrices to reduce group disparities, thus enhancing model fairness. Extensive experiments show that our method outperforms conventional LRF methods as well as state-of-the-art fairness-enhancing techniques. Additionally, an ablation study examines how major hyper-parameters may influence the performance of processed models. To the best of our knowledge, this is the first work utilizing SVD not primarily for compression but for fairness enhancement.
• Abstract（参考訳）: 深層学習(DL)技術が様々な応用に欠かせないようになり、特に診断などの敏感な分野において、ハイパフォーマンスを維持しながらモデルフェアネスを確保することがますます重要になっている。 様々なバイアス緩和法が提案されているが、多くは計算コストのかかるデバイアス対策に頼っているか、モデル精度の大幅な低下に悩まされており、現実的なリソース制約のある環境では実用性が制限されている。 この問題に対処するために,特異値分解(SVD)を利用してDLモデルの公平性を向上するフェアネス指向低ランク分解(LRF)フレームワークを提案する。 重み行列の分解・縮小によるモデル圧縮に主に使用される従来のSVDとは異なり,本研究は公平性向上のための有効なツールとしても機能することを示す。 具体的には,SVDから得られたユニタリ行列の要素が,感度特性によって定義された群間でのモデルバイアスに等しく寄与することを示した。 本研究の目的は,一元行列からバイアス誘導要素を選択的に除去し,群差を低減し,モデルフェアネスを向上させる手法であるFairLRFを提案することである。 実験の結果,本手法は従来のLRF法および最先端のフェアネス向上技術よりも優れていた。 さらに、アブレーション研究では、大きなハイパーパラメータが処理されたモデルの性能にどのように影響するかを調べた。 我々の知る限りでは、SVDを利用した最初の作品であり、圧縮ではなく公平性向上のためのものである。

関連論文リスト

• Did Models Sufficient Learn? Attribution-Guided Training via Subset-Selected Counterfactual Augmentation [61.248535801314375]
  Subset-Selected Counterfactual Augmentation (SS-CA) 我々は,モデル予測を選択的に変更可能な最小空間領域集合を識別するために,対実的LIMAを開発した。 実験により,SS-CAは分布内テストデータ(ID)の一般化を改善し,分布外ベンチマーク(OOD)において優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-11-15T08:39:22Z)
• Denoising Score Distillation: From Noisy Diffusion Pretraining to One-Step High-Quality Generation [82.39763984380625]
  低品質データから高品質な生成モデルをトレーニングするための驚くほど効果的で斬新なアプローチであるDSD(Denoising score distillation)を導入する。 DSDはノイズの多い劣化したサンプルにのみ拡散モデルを事前訓練し、精製されたクリーンな出力を生成することができる1ステップの発電機に蒸留する。
  論文  参考訳（メタデータ） (2025-03-10T17:44:46Z)
• Fairness-Aware Low-Rank Adaptation Under Demographic Privacy Constraints [4.647881572951815]
  事前訓練された基礎モデルはローランド適応(LoRA)を用いて特定のタスクに適応することができる 既存のフェアネスを意識した微調整手法は、機密属性や予測器への直接アクセスに依存している。 分散方式でトレーニング可能なLoRAベースの微調整手法のセットを紹介する。
  論文  参考訳（メタデータ） (2025-03-07T18:49:57Z)
• BMFT: Achieving Fairness via Bias-based Weight Masking Fine-tuning [17.857930204697983]
  Bias-based Weight Masking Fine-Tuning (BMFT) は、訓練されたモデルの公平性を大幅に向上させる新しい後処理手法である。 BMFTはモデルパラメータの上にマスクを生成し、偏りのある予測に最も寄与する重みを効率的に識別する。 4つの皮膚科学データセットと2つの感度特性による実験により、BMFTは診断精度と公正度の両方で既存の最先端(SOTA)技術より優れていることが示された。
  論文  参考訳（メタデータ） (2024-08-13T13:36:48Z)
• Spectrum-Aware Parameter Efficient Fine-Tuning for Diffusion Models [73.88009808326387]
  生成モデルのための新しいスペクトル対応適応フレームワークを提案する。 本手法は,事前学習した重みの特異値とその基底ベクトルを調節する。 本稿では,計算効率と表現能力のバランスをとるスペクトルオーソ分解適応(SODA)を提案する。
  論文  参考訳（メタデータ） (2024-05-31T17:43:35Z)
• Low-rank finetuning for LLMs: A fairness perspective [54.13240282850982]
  低ランク近似技術は、微調整された大規模言語モデルのデファクトスタンダードとなっている。 本稿では,これらの手法が初期訓練済みデータ分布から微調整データセットのシフトを捉える上での有効性について検討する。 低ランク微調整は好ましくない偏見や有害な振る舞いを必然的に保存することを示す。
  論文  参考訳（メタデータ） (2024-05-28T20:43:53Z)
• Toward Fair Facial Expression Recognition with Improved Distribution Alignment [19.442685015494316]
  本稿では,表情認識(FER)モデルにおけるバイアスを軽減する新しい手法を提案する。 本手法は、FERモデルによる埋め込みにおいて、性別、年齢、人種などの機密属性情報を低減することを目的としている。 ferモデルにおいて、魅力の概念を重要な感度属性として分析し、FERモデルがより魅力的な顔に対するバイアスを実際に示できることを実証する。
  論文  参考訳（メタデータ） (2023-06-11T14:59:20Z)
• FairIF: Boosting Fairness in Deep Learning via Influence Functions with Validation Set Sensitive Attributes [51.02407217197623]
  本稿では,FAIRIFという2段階の学習アルゴリズムを提案する。 サンプル重みが計算される再重み付きデータセットの損失を最小限に抑える。 FAIRIFは、様々な種類のバイアスに対して、フェアネスとユーティリティのトレードオフを良くしたモデルが得られることを示す。
  論文  参考訳（メタデータ） (2022-01-15T05:14:48Z)
• Counterfactual fairness: removing direct effects through regularization [0.0]
  制御ダイレクトエフェクト(CDE)による因果関係を考慮したフェアネスの新たな定義を提案する。 我々は古典的公正度対策に取り組むための正規化を開発し、新しい公正度定義を満たす因果正則化を示す。 その結果,モデル性能を低下させることなく,予測から不公平さを軽減できることが判明した。
  論文  参考訳（メタデータ） (2020-02-25T10:13:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。