論文の概要: Dataset Distribution Impacts Model Fairness: Single vs. Multi-Task Learning

• arxiv url: http://arxiv.org/abs/2407.17543v1
• Date: Wed, 24 Jul 2024 15:23:26 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-26 18:08:23.873061
• Title: Dataset Distribution Impacts Model Fairness: Single vs. Multi-Task Learning
• Title（参考訳）: データセット分布がモデルフェアネスに影響を及ぼす:シングル対マルチタスク学習
• Authors: Ralf Raumanns, Gerard Schouten, Josien P. W. Pluim, Veronika Cheplygina,
• Abstract要約: ResNetベースのCNNを用いて皮膚病変分類の性能を評価する。 患者性やクラスラベルの異なるデータセットを生成するための線形プログラミング手法を提案する。
• 参考スコア（独自算出の注目度）: 2.9530211066840417
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The influence of bias in datasets on the fairness of model predictions is a topic of ongoing research in various fields. We evaluate the performance of skin lesion classification using ResNet-based CNNs, focusing on patient sex variations in training data and three different learning strategies. We present a linear programming method for generating datasets with varying patient sex and class labels, taking into account the correlations between these variables. We evaluated the model performance using three different learning strategies: a single-task model, a reinforcing multi-task model, and an adversarial learning scheme. Our observations include: 1) sex-specific training data yields better results, 2) single-task models exhibit sex bias, 3) the reinforcement approach does not remove sex bias, 4) the adversarial model eliminates sex bias in cases involving only female patients, and 5) datasets that include male patients enhance model performance for the male subgroup, even when female patients are the majority. To generalise these findings, in future research, we will examine more demographic attributes, like age, and other possibly confounding factors, such as skin colour and artefacts in the skin lesions. We make all data and models available on GitHub.
• Abstract（参考訳）: モデル予測の公平性に対するデータセットのバイアスの影響は、様々な分野で進行中の研究のトピックである。 ResNetベースのCNNを用いて皮膚病変分類の性能を評価し,トレーニングデータにおける患者性差と3つの異なる学習戦略に着目した。 本稿では,これらの変数間の相関を考慮し,患者性別とクラスラベルの異なるデータセットを生成する線形プログラミング手法を提案する。 我々は,3つの異なる学習戦略を用いて,モデル性能を評価した: 単一タスクモデル,強化マルチタスクモデル,および逆学習方式である。 私たちの観察には以下のものがある。 1)性特化トレーニングデータは、より良い結果をもたらす。 2)シングルタスクモデルは性バイアスを示す。 3)強化アプローチは性バイアスを除去しない。 4) 対人モデルでは、女性患者のみを含む場合の性的偏見を排除し、 5) 男性患者を含むデータセットは, 女性患者が多数派である場合でも, 男性サブグループのモデル性能を高める。 これらの知見を一般化するために、今後の研究では、年齢などの人口統計学的特性や、皮膚の色や皮膚病変のアーチファクトといった、おそらく不明瞭な要因について検討する。 私たちはすべてのデータとモデルをGitHubで公開しています。

関連論文リスト

• Evaluating Bias and Fairness in Gender-Neutral Pretrained Vision-and-Language Models [23.65626682262062]
  我々は,3種類の視覚・言語モデルを用いた事前学習および微調整後のバイアス増幅の定量化を行う。 全体として、事前学習および微調整後のバイアス増幅は独立である。
  論文  参考訳（メタデータ） (2023-10-26T16:19:19Z)
• Fast Model Debias with Machine Unlearning [54.32026474971696]
  ディープニューラルネットワークは多くの現実世界のシナリオでバイアスのある振る舞いをする。 既存のデバイアス法は、バイアスラベルやモデル再トレーニングのコストが高い。 バイアスを特定し,評価し,除去するための効率的なアプローチを提供する高速モデル脱バイアスフレームワーク(FMD)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T08:10:57Z)
• Studying the Effects of Sex-related Differences on Brain Age Prediction using brain MR Imaging [0.3958317527488534]
  脳磁気共鳴画像(MRI)に基づく機械学習モデルを開発する際の性に関するバイアスについて検討する。 異なる実験設計を考慮に入れた脳年齢予測を行い,性別の影響について検討した。 異なる性別サブグループとデータセットで訓練した脳年齢予測モデルの性能に相違が認められた。
  論文  参考訳（メタデータ） (2023-10-17T20:55:53Z)
• Identifying and examining machine learning biases on Adult dataset [0.7856362837294112]
  この研究は、エンサンブルラーニングによる機械学習モデルバイアスの低減を念頭に置いている。 我々の厳密な方法論は、様々なカテゴリー変数にまたがる偏見を包括的に評価し、最終的に顕著な男女属性偏見を明らかにします。 本研究は,データ駆動型社会における倫理的考察とハイブリッドモデルの実現を提唱する。
  論文  参考訳（メタデータ） (2023-10-13T19:41:47Z)
• The Impact of Debiasing on the Performance of Language Models in Downstream Tasks is Underestimated [70.23064111640132]
  我々は、幅広いベンチマークデータセットを用いて、複数の下流タスクのパフォーマンスに対するデバイアスの影響を比較した。 実験により、デバイアスの効果は全てのタスクにおいて一貫して見積もられていることが示されている。
  論文  参考訳（メタデータ） (2023-09-16T20:25:34Z)
• An investigation into the impact of deep learning model choice on sex and race bias in cardiac MR segmentation [8.449342469976758]
  被検者の性別と人種の不均衡が、AIによる心臓磁気共鳴画像のセグメンテーションにどのように影響するかを検討する。 4つのモデルのうち3つのモデルに有意な性的偏見があり、すべてのモデルに人種的偏見がある。
  論文  参考訳（メタデータ） (2023-08-25T14:55:38Z)
• Stubborn Lexical Bias in Data and Models [50.79738900885665]
  我々は、データに基づいてトレーニングされたモデルに、データのスプリアスパターンが現れるかどうかを調べるために、新しい統計手法を用いる。 トレーニングデータに*reweight*に最適化アプローチを適用し、数千のスプリアス相関を低減します。 驚くべきことに、この方法ではトレーニングデータの語彙バイアスを低減できますが、トレーニングされたモデルで対応するバイアスの強い証拠がまだ見つかっていません。
  論文  参考訳（メタデータ） (2023-06-03T20:12:27Z)
• Mine yOur owN Anatomy: Revisiting Medical Image Segmentation with Extremely Limited Labels [54.58539616385138]
  我々は、Mine yOur owN Anatomy (MONA) と呼ばれる、新しい半教師付き2次元医用画像セグメンテーションフレームワークを紹介する。 まず、先行研究では、すべてのピクセルがモデルトレーニングに等しく重要であると論じており、我々はこの1つだけで意味のある解剖学的特徴を定義できないことを経験的に観察している。 第2に,医療画像を解剖学的特徴の集合に分解できるモデルを構築する。
  論文  参考訳（メタデータ） (2022-09-27T15:50:31Z)
• Relational Subsets Knowledge Distillation for Long-tailed Retinal Diseases Recognition [65.77962788209103]
  本研究では,長尾データを知識に基づいて複数のクラスサブセットに分割し,クラスサブセット学習を提案する。 モデルがサブセット固有の知識の学習に集中するように強制する。 提案手法は長期網膜疾患認識タスクに有効であることが判明した。
  論文  参考訳（メタデータ） (2021-04-22T13:39:33Z)
• Dataset Cartography: Mapping and Diagnosing Datasets with Training Dynamics [118.75207687144817]
  我々はデータセットを特徴付け、診断するモデルベースのツールであるData Mapsを紹介した。 私たちは、トレーニング中の個々のインスタンス上でのモデルの振る舞いという、ほとんど無視された情報のソースを活用しています。 以上の結果から,データ量から品質へのフォーカスの変化は,ロバストなモデルとアウト・オブ・ディストリビューションの一般化に繋がる可能性が示唆された。
  論文  参考訳（メタデータ） (2020-09-22T20:19:41Z)
• Do Neural Ranking Models Intensify Gender Bias? [13.37092521347171]
  まず、IRモデルのランキングリストにおいて、性別関連概念の非バランスの存在度を定量化するための2つの指標を含むバイアス測定フレームワークを提供する。 これらのクエリをMS MARCOパッセージ検索コレクションに適用し、BM25モデルと最近のニューラルランキングモデルの性別バイアスを測定する。 結果は、すべてのモデルが男性に対して強く偏りを呈する一方で、神経モデル、特に文脈化された埋め込みモデルに基づくモデルは、性バイアスを著しく強めていることを示している。
  論文  参考訳（メタデータ） (2020-05-01T13:31:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。