論文の概要: Biasing & Debiasing based Approach Towards Fair Knowledge Transfer for Equitable Skin Analysis
- arxiv url: http://arxiv.org/abs/2405.10256v1
- Date: Thu, 16 May 2024 17:02:23 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-17 13:33:15.805608
- Title: Biasing & Debiasing based Approach Towards Fair Knowledge Transfer for Equitable Skin Analysis
- Title（参考訳）: 等価皮膚分析のための公平な知識伝達に向けたバイアス&バイアスに基づくアプローチ
- Authors: Anshul Pundhir, Balasubramanian Raman, Pravendra Singh,
- Abstract要約: 学生ネットワークに公平な知識を伝達する2バイアスの教師のアプローチを提案する。
本手法は,学生ネットワークに存在するバイアスを,予測精度を損なうことなく軽減する。
- 参考スコア（独自算出の注目度）: 16.638722872021095
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Deep learning models, particularly Convolutional Neural Networks (CNNs), have demonstrated exceptional performance in diagnosing skin diseases, often outperforming dermatologists. However, they have also unveiled biases linked to specific demographic traits, notably concerning diverse skin tones or gender, prompting concerns regarding fairness and limiting their widespread deployment. Researchers are actively working to ensure fairness in AI-based solutions, but existing methods incur an accuracy loss when striving for fairness. To solve this issue, we propose a `two-biased teachers' (i.e., biased on different sensitive attributes) based approach to transfer fair knowledge into the student network. Our approach mitigates biases present in the student network without harming its predictive accuracy. In fact, in most cases, our approach improves the accuracy of the baseline model. To achieve this goal, we developed a weighted loss function comprising biasing and debiasing loss terms. We surpassed available state-of-the-art approaches to attain fairness and also improved the accuracy at the same time. The proposed approach has been evaluated and validated on two dermatology datasets using standard accuracy and fairness evaluation measures. We will make source code publicly available to foster reproducibility and future research.
- Abstract（参考訳）: 深層学習モデル、特に畳み込みニューラルネットワーク(CNN)は皮膚疾患の診断において例外的な性能を示し、皮膚科医を上回っている。
しかし、彼らはまた、特に多様な肌の色や性別に関して、特定の人口統計学的特徴に関連する偏見を明らかにし、公平性や広範囲な展開を制限する懸念を喚起している。
研究者たちは、AIベースのソリューションの公正性を保証するために積極的に取り組んでいるが、既存の方法は公正性のために努力するときに精度の低下を引き起こす。
この問題を解決するために,学生ネットワークに公平な知識を伝達するための「二バイアスの教師」に基づくアプローチを提案する。
本手法は,学生ネットワークに存在するバイアスを,予測精度を損なうことなく軽減する。
実際、ほとんどの場合、我々の手法はベースラインモデルの精度を向上させる。
この目的を達成するために、偏りと偏りの喪失項を含む重み付き損失関数を開発した。
フェアネスを達成するための最先端アプローチを克服し、同時に精度を向上しました。
提案手法は,標準的な精度と公正度評価尺度を用いて,2つの皮膚科学データセット上で評価・検証されている。
再現性と今後の研究を促進するために、ソースコードを公開します。
関連論文リスト
- Fair Bilevel Neural Network (FairBiNN): On Balancing fairness and accuracy via Stackelberg Equilibrium [0.3350491650545292]
バイアスを緩和する現在の方法は、情報損失と精度と公平性のバランスが不十分であることが多い。
本稿では,二段階最適化の原理に基づく新しい手法を提案する。
私たちのディープラーニングベースのアプローチは、正確性と公平性の両方を同時に最適化します。
論文 参考訳（メタデータ） (2024-10-21T18:53:39Z) - Improving Bias in Facial Attribute Classification: A Combined Impact of KL Divergence induced Loss Function and Dual Attention [3.5527561584422465]
初期のシステムは、特に性別や人種の分類において、しばしば人口統計上の偏見を示しており、肌の色合いが暗い女性や個人の精度は低かった。
本稿では,KL分割正規化とクロスエントロピー損失関数によって強化された,事前学習型Inception-ResNet V1モデルを用いた二重注意機構を用いた手法を提案する。
実験の結果,公正度と分類精度の両面で有意な改善が見られ,偏見に対処し,顔認識システムの信頼性を高めることが期待できる。
論文 参考訳（メタデータ） (2024-10-15T01:29:09Z) - Enhancing Fairness in Neural Networks Using FairVIC [0.0]
自動意思決定システム、特にディープラーニングモデルにおけるバイアスの緩和は、公平性を達成する上で重要な課題である。
FairVICは、トレーニング段階で固有のバイアスに対処することによって、ニューラルネットワークの公平性を高めるために設計された革新的なアプローチである。
我々は、モデルの精度を有害な程度に向上させることなく、テスト対象のすべての指標の公平性を大幅に改善する。
論文 参考訳（メタデータ） (2024-04-28T10:10:21Z) - Classes Are Not Equal: An Empirical Study on Image Recognition Fairness [100.36114135663836]
我々は,クラスが等しくないことを実験的に証明し,様々なデータセットにまたがる画像分類モデルにおいて,公平性の問題が顕著であることを示した。
以上の結果から,モデルでは認識が困難であるクラスに対して,予測バイアスが大きくなる傾向が示唆された。
データ拡張および表現学習アルゴリズムは、画像分類のある程度の公平性を促進することにより、全体的なパフォーマンスを向上させる。
論文 参考訳（メタデータ） (2024-02-28T07:54:50Z) - Fast Model Debias with Machine Unlearning [54.32026474971696]
ディープニューラルネットワークは多くの現実世界のシナリオでバイアスのある振る舞いをする。
既存のデバイアス法は、バイアスラベルやモデル再トレーニングのコストが高い。
バイアスを特定し,評価し,除去するための効率的なアプローチを提供する高速モデル脱バイアスフレームワーク(FMD)を提案する。
論文 参考訳（メタデータ） (2023-10-19T08:10:57Z) - Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。
カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。
本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
論文 参考訳（メタデータ） (2023-07-17T04:08:29Z) - FairAdaBN: Mitigating unfairness with adaptive batch normalization and
its application to dermatological disease classification [14.589159162086926]
バッチ正規化をセンシティブ属性に適応させるFairAdaBNを提案する。
本研究では,FATE(Fairness-Accuracy Trade-off efficiency)と呼ばれる新しい指標を提案する。
2つの皮膚科学データセットを用いた実験により,提案手法はフェアネス基準とFATEの他の手法よりも優れていた。
論文 参考訳（メタデータ） (2023-03-15T02:22:07Z) - Adaptive Fairness Improvement Based on Causality Analysis [5.827653543633839]
識別ニューラルネットワークが与えられた場合、公平性向上の問題は、その性能を著しく損なうことなく、系統的に差別を減らすことである。
本稿では,因果分析に基づくフェアネス改善手法を適応的に選択する手法を提案する。
我々のアプローチは効果的(すなわち、常に最良の公正性を改善する方法を特定する)で効率的(すなわち平均時間オーバーヘッドが5分)である。
論文 参考訳（メタデータ） (2022-09-15T10:05:31Z) - Pseudo Bias-Balanced Learning for Debiased Chest X-ray Classification [57.53567756716656]
本研究では, バイアスラベルを正確に把握せず, 脱バイアス胸部X線診断モデルの開発について検討した。
本稿では,まずサンプルごとのバイアスラベルをキャプチャし,予測する新しいアルゴリズム,擬似バイアスバランス学習を提案する。
提案手法は他の最先端手法よりも一貫した改善を実現した。
論文 参考訳（メタデータ） (2022-03-18T11:02:18Z) - Estimating and Improving Fairness with Adversarial Learning [65.99330614802388]
本研究では,深層学習に基づく医療画像解析システムにおけるバイアスの同時緩和と検出を目的としたマルチタスク・トレーニング戦略を提案する。
具体的には,バイアスに対する識別モジュールと,ベース分類モデルにおける不公平性を予測するクリティカルモジュールを追加することを提案する。
大規模で利用可能な皮膚病変データセットのフレームワークを評価します。
論文 参考訳（メタデータ） (2021-03-07T03:10:32Z) - Technical Challenges for Training Fair Neural Networks [62.466658247995404]
最先端のアーキテクチャを用いて顔認識と自動診断データセットの実験を行います。
我々は、大きなモデルは公平さの目標に過度に適合し、意図しない、望ましくない結果を生み出すことを観察する。
論文 参考訳（メタデータ） (2021-02-12T20:36:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。