論文の概要: A Critical Review of Predominant Bias in Neural Networks

• arxiv url: http://arxiv.org/abs/2502.11031v1
• Date: Sun, 16 Feb 2025 07:55:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-18 14:09:53.551244
• Title: A Critical Review of Predominant Bias in Neural Networks
• Title（参考訳）: ニューラルネットワークにおける優位性バイアスの批判的レビュー
• Authors: Jiazhi Li, Mahyar Khayatkhoei, Jiageng Zhu, Hanchen Xie, Mohamed E. Hussein, Wael AbdAlmageed,
• Abstract要約: この2つのバイアスには、永続的で、広範囲にまたがるが、未調査の混乱が存在することが分かりました。 これら2つの偏りの数学的定義を2つ提供し、これらの定義を活用して総合的な論文リストを統一することにより、明確さの回復を目指す。
• 参考スコア（独自算出の注目度）: 19.555188118439883
• License:
• Abstract: Bias issues of neural networks garner significant attention along with its promising advancement. Among various bias issues, mitigating two predominant biases is crucial in advancing fair and trustworthy AI: (1) ensuring neural networks yields even performance across demographic groups, and (2) ensuring algorithmic decision-making does not rely on protected attributes. However, upon the investigation of \pc papers in the relevant literature, we find that there exists a persistent, extensive but under-explored confusion regarding these two types of biases. Furthermore, the confusion has already significantly hampered the clarity of the community and subsequent development of debiasing methodologies. Thus, in this work, we aim to restore clarity by providing two mathematical definitions for these two predominant biases and leveraging these definitions to unify a comprehensive list of papers. Next, we highlight the common phenomena and the possible reasons for the existing confusion. To alleviate the confusion, we provide extensive experiments on synthetic, census, and image datasets, to validate the distinct nature of these biases, distinguish their different real-world manifestations, and evaluate the effectiveness of a comprehensive list of bias assessment metrics in assessing the mitigation of these biases. Further, we compare these two types of biases from multiple dimensions including the underlying causes, debiasing methods, evaluation protocol, prevalent datasets, and future directions. Last, we provide several suggestions aiming to guide researchers engaged in bias-related work to avoid confusion and further enhance clarity in the community.
• Abstract（参考訳）: ニューラルネットワークのバイアス問題は、その有望な進歩とともに大きな注目を集めた。 バイアス問題の中で、2つの支配的なバイアスを緩和することは、公正で信頼できるAIを前進させる上で不可欠である。 しかしながら、関連する文献における \pc 論文の調査では、これらの2種類のバイアスに関して、永続的で、広範囲にまたがる、未調査の混乱が存在することが判明した。 さらに、この混乱は、コミュニティの明確さとその後のデバイアス法の発展を、すでに著しく妨げている。 そこで本研究では,これらの2つの主なバイアスに対して2つの数学的定義を提供し,それらの定義を活用して総合的な論文リストを統一することにより,明瞭さの回復を目指す。 次に、既存の混乱の原因となる共通現象と可能性を明らかにする。 この混乱を緩和するために、我々は、合成、国勢調査、画像データセットに関する広範な実験を行い、これらのバイアスの異なる性質を検証し、それらの異なる現実世界のマニフェストを識別し、これらのバイアスの緩和を評価するためのバイアス評価指標の総合的リストの有効性を評価する。 さらに、これらの2種類のバイアスを、根本原因、嫌悪方法、評価プロトコル、一般的なデータセット、今後の方向性など、複数の次元から比較する。 最後に, バイアス関連研究に携わる研究者を誘導し, 混乱を回避し, コミュニティの明確性を高めることを目的としたいくつかの提案を行った。

関連論文リスト

• Survey of Bias In Text-to-Image Generation: Definition, Evaluation, and Mitigation [47.770531682802314]
  単純なプロンプトであっても、T2Iモデルは生成された画像に顕著な社会的偏見を示す可能性がある。 本研究は,T2I生成モデルにおけるバイアスに関する最初の広範な調査である。 これらの作業がどのようにしてバイアスの異なる側面を定義し、評価し、緩和するかについて議論する。
  論文  参考訳（メタデータ） (2024-04-01T10:19:05Z)
• Causality and Independence Enhancement for Biased Node Classification [56.38828085943763]
  各種グラフニューラルネットワーク(GNN)に適用可能な新しい因果性・独立性向上(CIE)フレームワークを提案する。 提案手法は,ノード表現レベルでの因果的特徴と突発的特徴を推定し,突発的相関の影響を緩和する。 我々のアプローチCIEは、GNNの性能を大幅に向上するだけでなく、最先端の debiased ノード分類法よりも優れています。
  論文  参考訳（メタデータ） (2023-10-14T13:56:24Z)
• Targeted Data Augmentation for bias mitigation [0.0]
  我々は、TDA(Targeted Data Augmentation)と呼ばれるバイアスに対処するための、新しく効率的なアプローチを導入する。 バイアスを除去する面倒な作業とは異なり、本手法は代わりにバイアスを挿入することを提案し、結果として性能が向上する。 偏見を特定するために,臨床皮膚病変のデータセットと男女の顔のデータセットの2つの多様なデータセットを注釈した。
  論文  参考訳（メタデータ） (2023-08-22T12:25:49Z)
• Fair Enough: Standardizing Evaluation and Model Selection for Fairness Research in NLP [64.45845091719002]
  現代のNLPシステムは様々なバイアスを示しており、モデル偏見に関する文献が増えている。 本稿では,その現状を解明し,公正学習における意味ある進歩の道筋を立案することを目的とする。
  論文  参考訳（メタデータ） (2023-02-11T14:54:00Z)
• Discover and Mitigate Unknown Biases with Debiasing Alternate Networks [42.89260385194433]
  本稿では,Debiasing Alternate Networks (DebiAN)を提案する。 DebiANは、発見者によって特定されるバイアスをアンラーニングすることを目的としている。 従来の研究では、偏りを1つのバイアスで評価するが、マルチカラーMNISTデータセットを作成し、複数のバイアスのベンチマーク緩和を改善する。
  論文  参考訳（メタデータ） (2022-07-20T17:59:51Z)
• Unsupervised Learning of Unbiased Visual Representations [12.690228982893]
  ディープニューラルネットワークは、データセットバイアスの存在下で堅牢な表現を学ぶのに苦労することが多い。 この問題に対処するための既存のアプローチは、一般的にバイアス属性の明示的な監督、あるいはバイアスに関する事前の知識への依存を含む。 我々は3つの重要なステップを持つ完全に教師なしのデバイアス・フレームワークを提示する。
  論文  参考訳（メタデータ） (2022-04-26T10:51:50Z)
• The SAME score: Improved cosine based bias score for word embeddings [49.75878234192369]
  埋め込みにおけるセマンティックバイアスのための新しいバイアススコアであるPetを紹介した。 本研究は,下水道作業における意味バイアスを測定し,社会的バイアスの潜在的な原因を特定することができることを示す。
  論文  参考訳（メタデータ） (2022-03-28T09:28:13Z)
• Information-Theoretic Bias Reduction via Causal View of Spurious Correlation [71.9123886505321]
  本稿では,スプリアス相関の因果的解釈による情報理論バイアス測定手法を提案する。 本稿では,バイアス正規化損失を含むアルゴリズムバイアスに対する新しいデバイアスフレームワークを提案する。 提案したバイアス測定とデバイアス法は、多様な現実シナリオで検証される。
  論文  参考訳（メタデータ） (2022-01-10T01:19:31Z)
• Measure Twice, Cut Once: Quantifying Bias and Fairness in Deep Neural Networks [7.763173131630868]
  本稿では,2つのモデルのクラスワイドバイアスを定量的に評価する2つの指標を提案する。 これらの新しいメトリクスのパフォーマンスを評価し、その実践的応用を実証することにより、公平性だけでなくバイアスも測定できることを示す。
  論文  参考訳（メタデータ） (2021-10-08T22:35:34Z)
• Learning from Failure: Training Debiased Classifier from Biased Classifier [76.52804102765931]
  ニューラルネットワークは、所望の知識よりも学習が簡単である場合にのみ、素早い相関に依存することを学習していることを示す。 本稿では,一対のニューラルネットワークを同時にトレーニングすることで,障害に基づくデバイアス化手法を提案する。 本手法は,合成データセットと実世界のデータセットの両方において,各種バイアスに対するネットワークのトレーニングを大幅に改善する。
  論文  参考訳（メタデータ） (2020-07-06T07:20:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。