論文の概要: Language (Technology) is Power: A Critical Survey of "Bias" in NLP
- arxiv url: http://arxiv.org/abs/2005.14050v2
- Date: Fri, 29 May 2020 16:44:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-27 05:38:11.345825
- Title: Language (Technology) is Power: A Critical Survey of "Bias" in NLP
- Title(参考訳): 言語(技術)は力である:NLPにおける「バイアス」の批判的調査
- Authors: Su Lin Blodgett and Solon Barocas and Hal Daum\'e III and Hanna
Wallach
- Abstract要約: NLPシステムにおける「バイアス」を解析する146の論文を調査した。
彼らのモチベーションは曖昧で、一貫性がなく、規範的推論に欠けていることが分かりました。
NLPシステムにおける「バイアス」の分析作業の指針となる3つの勧告を提案する。
- 参考スコア(独自算出の注目度): 11.221552724154986
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We survey 146 papers analyzing "bias" in NLP systems, finding that their
motivations are often vague, inconsistent, and lacking in normative reasoning,
despite the fact that analyzing "bias" is an inherently normative process. We
further find that these papers' proposed quantitative techniques for measuring
or mitigating "bias" are poorly matched to their motivations and do not engage
with the relevant literature outside of NLP. Based on these findings, we
describe the beginnings of a path forward by proposing three recommendations
that should guide work analyzing "bias" in NLP systems. These recommendations
rest on a greater recognition of the relationships between language and social
hierarchies, encouraging researchers and practitioners to articulate their
conceptualizations of "bias"---i.e., what kinds of system behaviors are
harmful, in what ways, to whom, and why, as well as the normative reasoning
underlying these statements---and to center work around the lived experiences
of members of communities affected by NLP systems, while interrogating and
reimagining the power relations between technologists and such communities.
- Abstract(参考訳): 我々は、nlpシステムにおける「バイアス」を分析する146の論文を調査し、その動機はしばしば曖昧で一貫性がなく、規範的推論が欠如していることを発見した。
さらに,これらの論文が提案する「バイアス」の測定・緩和のための定量的手法は,そのモチベーションとはあまり一致せず,NLP以外の文献と関係しないことが明らかとなった。
これらの知見に基づき,NLPシステムにおける「バイアス」の分析作業の指針となる3つの勧告を提案することにより,進路の始まりについて述べる。
These recommendations rest on a greater recognition of the relationships between language and social hierarchies, encouraging researchers and practitioners to articulate their conceptualizations of "bias"---i.e., what kinds of system behaviors are harmful, in what ways, to whom, and why, as well as the normative reasoning underlying these statements---and to center work around the lived experiences of members of communities affected by NLP systems, while interrogating and reimagining the power relations between technologists and such communities.
関連論文リスト
- Semantic Properties of cosine based bias scores for word embeddings [52.13994416317707]
本稿では,バイアスの定量化に有効なバイアススコアの要件を提案する。
これらの要件について,コサインに基づくスコアを文献から分析する。
これらの結果は、バイアススコアの制限がアプリケーションケースに影響を及ぼすことを示す実験で裏付けられている。
論文 参考訳(メタデータ) (2024-01-27T20:31:10Z) - On the Origins of Bias in NLP through the Lens of the Jim Code [1.256413718364189]
我々は、現在の自然言語処理(NLP)モデルにおけるバイアスを、過去500年間の人種差別、性差別、ホモフォビアの起源にまで遡る。
NLPパイプラインのバイアスの原因が社会問題にどのように根ざしているかを示す。
論文 参考訳(メタデータ) (2023-05-16T08:37:13Z) - Fair Enough: Standardizing Evaluation and Model Selection for Fairness
Research in NLP [64.45845091719002]
現代のNLPシステムは様々なバイアスを示しており、モデル偏見に関する文献が増えている。
本稿では,その現状を解明し,公正学習における意味ある進歩の道筋を立案することを目的とする。
論文 参考訳(メタデータ) (2023-02-11T14:54:00Z) - Undesirable Biases in NLP: Addressing Challenges of Measurement [1.7126708168238125]
我々は,NLPモデルバイアスの問題を心理測定のレンズを用いて議論するための学際的アプローチを提案する。
本研究は, 心理測定, 構成妥当性, 測定ツールの信頼性の2つの中心的な概念について考察する。
我々の目標は、NLP実践者により良いバイアス対策を設計するための方法論ツールを提供することです。
論文 参考訳(メタデータ) (2022-11-24T16:53:18Z) - Toward Understanding Bias Correlations for Mitigation in NLP [34.956581421295]
この研究は、緩和におけるバイアスの相関を理解するための最初の体系的な研究を提供することを目的としている。
我々は2つの共通NLPタスク(毒性検出と単語埋め込み)におけるバイアス緩和について検討する。
以上の結果から, 偏見は相関し, 独立性脱バイアスアプローチが不十分な現状が示唆された。
論文 参考訳(メタデータ) (2022-05-24T22:48:47Z) - The SAME score: Improved cosine based bias score for word embeddings [63.24247894974291]
文献の考えに基づくバイアス定義を提供し、バイアススコアの新たな要件を導出する。
既存のバイアススコアの欠点に対処し,単語埋め込みにおけるバイアスの定量化に好適であることを示す。
論文 参考訳(メタデータ) (2022-03-28T09:28:13Z) - A Survey on Bias and Fairness in Natural Language Processing [1.713291434132985]
我々は、バイアスの起源、公平性の定義、NLPバイアスのサブフィールドの違いを緩和する方法について分析する。
我々は,NLPアルゴリズムによる悪質な偏見の根絶に向けた今後の研究について論じる。
論文 参考訳(メタデータ) (2022-03-06T18:12:30Z) - Evaluating Metrics for Bias in Word Embeddings [64.55554083622258]
我々は、過去の研究の考えに基づいてバイアス定義を定式化し、バイアスメトリクスの条件を導出する。
そこで我々は,既存のメトリクスの欠点に対処する新しい計量であるhetを提案し,その振る舞いを数学的に証明する。
論文 参考訳(メタデータ) (2021-11-15T16:07:15Z) - Situated Data, Situated Systems: A Methodology to Engage with Power
Relations in Natural Language Processing Research [18.424211072825308]
本稿では,自然言語処理(NLP)研究におけるパワーリレーションに関わるバイアス対応手法を提案する。
広範囲にわたる学際的な文献レビューの後、我々はNLP研究にバイアス対応の方法論を貢献する。
論文 参考訳(メタデータ) (2020-11-11T17:04:55Z) - Case Study: Deontological Ethics in NLP [119.53038547411062]
我々はNLPの観点から1つの倫理理論、すなわち非オントロジー的倫理について研究する。
特に、インフォームド・コンセントを通じて、一般化原則と自律性への敬意に焦点を当てる。
NLPシステムでこれらの原則をどのように利用できるかを示すための4つのケーススタディを提供する。
論文 参考訳(メタデータ) (2020-10-09T16:04:51Z) - Towards Debiasing Sentence Representations [109.70181221796469]
Sent-Debiasはバイアスを取り除くのに有効であり、同時に文レベルの下流タスクのパフォーマンスを保っていることを示す。
我々は、より公平なNLPのための広く採用されている文表現から社会的偏見を識別・除去する今後の研究に刺激を与えることを期待している。
論文 参考訳(メタデータ) (2020-07-16T04:22:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。