論文の概要: WordBias: An Interactive Visual Tool for Discovering Intersectional Biases Encoded in Word Embeddings

• arxiv url: http://arxiv.org/abs/2103.03598v1
• Date: Fri, 5 Mar 2021 11:04:35 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-08 15:03:16.649833
• Title: WordBias: An Interactive Visual Tool for Discovering Intersectional Biases Encoded in Word Embeddings
• Title（参考訳）: WordBias: 単語埋め込みにエンコードされた節間バイアスを発見するインタラクティブなビジュアルツール
• Authors: Bhavya Ghai, Md Naimul Hoque, Klaus Mueller
• Abstract要約: 本稿では,単語埋め込みに符号化された交叉群に対するバイアスを探索するインタラクティブビジュアルツールであるWordBiasを紹介する。 事前訓練された静的単語の埋め込みが与えられた場合、WordBiasは、人種、年齢などに基づいて、各単語の関連性を計算する。
• 参考スコア（独自算出の注目度）: 39.87681037622605
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Intersectional bias is a bias caused by an overlap of multiple social factors like gender, sexuality, race, disability, religion, etc. A recent study has shown that word embedding models can be laden with biases against intersectional groups like African American females, etc. The first step towards tackling such intersectional biases is to identify them. However, discovering biases against different intersectional groups remains a challenging task. In this work, we present WordBias, an interactive visual tool designed to explore biases against intersectional groups encoded in static word embeddings. Given a pretrained static word embedding, WordBias computes the association of each word along different groups based on race, age, etc. and then visualizes them using a novel interactive interface. Using a case study, we demonstrate how WordBias can help uncover biases against intersectional groups like Black Muslim Males, Poor Females, etc. encoded in word embedding. In addition, we also evaluate our tool using qualitative feedback from expert interviews. The source code for this tool can be publicly accessed for reproducibility at github.com/bhavyaghai/WordBias.
• Abstract（参考訳）: 交叉バイアス(intersectional bias)は、性別、性、人種、障害、宗教など、複数の社会的要因の重複によって引き起こされるバイアスである。 最近の研究では、単語埋め込みモデルは、アフリカ系アメリカ人女性などのような交差グループに対するバイアスで覆うことができることが示されています。 そのような交差バイアスに取り組むための最初のステップは、それらを特定することです。 しかし、異なる交叉群に対するバイアスを発見することは難しい課題である。 本研究では,静的な単語埋め込みに符号化された交叉群に対するバイアスを探索するインタラクティブなビジュアルツールであるWordBiasを紹介する。 事前訓練された静的単語の埋め込みが与えられた場合、WordBiasは、人種、年齢などに基づいて、各単語の関連性を計算する。 新たなインタラクティブインターフェースを使って可視化します ケーススタディを使用して、WordBiasが黒人ムスリム男性、貧乏女性などの交差グループに対するバイアスの発見にどのように役立つかを実証します。 単語を埋め込んだコードです また,専門家インタビューからの質的なフィードバックを用いてツールの評価を行った。 このツールのソースコードはgithub.com/bhavyaghai/WordBiasで再現可能である。

関連論文リスト

• Mitigating Gender Bias in Contextual Word Embeddings [1.208453901299241]
  本稿では,コンテキスト埋め込みにおける性別バイアスを大幅に軽減する,リップスティック(マスケ・ランゲージ・モデリング)の新たな目的関数を提案する。 また, 静的な埋め込みを嫌悪する新しい手法を提案し, 広範囲な解析と実験による実証実験を行った。
  論文  参考訳（メタデータ） (2024-11-18T21:36:44Z)
• GradBias: Unveiling Word Influence on Bias in Text-to-Image Generative Models [75.04426753720553]
  開集合におけるバイアスを特定し,定量化し,説明するための枠組みを提案する。 このパイプラインはLarge Language Model (LLM)を活用して、一連のキャプションから始まるバイアスを提案する。 このフレームワークには、OpenBiasとGradBiasの2つのバリエーションがあります。
  論文  参考訳（メタデータ） (2024-08-29T16:51:07Z)
• What Do Llamas Really Think? Revealing Preference Biases in Language Model Representations [62.91799637259657]
  大規模言語モデル(LLMs)は、応答を辞退しても、社会的な偏見を示すか? 本研究は,文脈的埋め込みを探索し,このバイアスが潜在表現にエンコードされているかどうかを探索することによって検討する。 単語の隠れベクトルからLLMの単語ペア選好を予測するロジスティックなBradley-Terryプローブを提案する。
  論文  参考訳（メタデータ） (2023-11-30T18:53:13Z)
• Discovering and Mitigating Visual Biases through Keyword Explanation [66.71792624377069]
  視覚バイアスをキーワードとして解釈するBias-to-Text(B2T)フレームワークを提案する。 B2Tは、CelebAの性別バイアス、ウォーターバードの背景バイアス、ImageNet-R/Cの分布シフトなど、既知のバイアスを特定することができる。 B2Tは、Dollar StreetやImageNetのような大きなデータセットで、新しいバイアスを明らかにする。
  論文  参考訳（メタデータ） (2023-01-26T13:58:46Z)
• Debiasing Word Embeddings with Nonlinear Geometry [37.88933175338274]
  この研究は、複数の社会的カテゴリーに関連するバイアスを研究する。 個々のバイアスは1次元の部分空間上で非自明に交わる。 次に、個人バイアスの非線形幾何学を用いて、複数の社会的カテゴリに対するデバイアスに対する交叉部分空間を構築する。
  論文  参考訳（メタデータ） (2022-08-29T21:40:27Z)
• Keywords and Instances: A Hierarchical Contrastive Learning Framework Unifying Hybrid Granularities for Text Generation [59.01297461453444]
  入力テキスト中のハイブリッドな粒度意味を統一する階層的コントラスト学習機構を提案する。 実験により,本モデルがパラフレージング,対話生成,ストーリーテリングタスクにおいて,競争ベースラインより優れていることが示された。
  論文  参考訳（メタデータ） (2022-05-26T13:26:03Z)
• Discovering and Categorising Language Biases in Reddit [5.670038395203354]
  本稿では,Reddit上のオンライン談話コミュニティの語彙に符号化された言語バイアスを自動的に検出するデータ駆動型手法を提案する。 単語埋め込みを用いて、テキストを高次元の高密度ベクトルに変換し、単語間の意味的関係をキャプチャする。 さまざまなRedditコミュニティにおいて、ジェンダーバイアス、宗教バイアス、民族バイアスの発見に成功しました。
  論文  参考訳（メタデータ） (2020-08-06T16:42:10Z)
• Detecting Emergent Intersectional Biases: Contextualized Word Embeddings Contain a Distribution of Human-like Biases [10.713568409205077]
  最先端のニューラルネットワークモデルは、単語が現れるコンテキストに依存する動的単語埋め込みを生成する。 本稿では、ニューラルネットワークモデルにおける全体的なバイアスの大きさを要約できる、コンテキスト適応型埋め込みアソシエーションテスト(CEAT)を紹介する。 静的な単語埋め込みから交差点バイアスと緊急交差点バイアスを自動的に識別する2つの方法,IBD (Intersectional Bias Detection) とEmergent Intersectional Bias Detection (EIBD) を開発した。
  論文  参考訳（メタデータ） (2020-06-06T19:49:50Z)
• Double-Hard Debias: Tailoring Word Embeddings for Gender Bias Mitigation [94.98656228690233]
  本稿では,性別サブスペースの推測と削除に先立って,コーパス正規性に対する単語埋め込みを浄化する手法を提案する。 本手法は,事前学習した単語埋め込みの分布的意味を保ちつつ,性別バイアスを従来の手法よりもはるかに大きい程度に低減する。
  論文  参考訳（メタデータ） (2020-05-03T02:33:20Z)
• Joint Multiclass Debiasing of Word Embeddings [5.1135133995376085]
  本稿では,複数のバイアス次元を同時に脱バイアスできる多クラス脱バイアス手法を提案する。 単語埋め込みにおけるベクトル間の有意義な関係を維持しながら、私たちの概念がバイアスを減らすか、あるいは完全に排除できることを示す。
  論文  参考訳（メタデータ） (2020-03-09T22:06:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。