論文の概要: A Capabilities Approach to Studying Bias and Harm in Language Technologies

• arxiv url: http://arxiv.org/abs/2411.04298v1
• Date: Wed, 06 Nov 2024 22:46:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-08 19:40:17.022547
• Title: A Capabilities Approach to Studying Bias and Harm in Language Technologies
• Title（参考訳）: 言語技術におけるバイアスとハームの研究への能力的アプローチ
• Authors: Hellina Hailu Nigatu, Zeerak Talat,
• Abstract要約: 我々は、能力アプローチのレンズを通して、言語技術への公平さ、偏見、包摂性を考察する。 能力のアプローチは、人々が達成できるものに集中し、社会的、政治的、経済的文脈を考慮に入れている。 本稿では,機能アプローチ,多言語・多文化的評価との関係,言語技術の有害性の定義と評価において,コミュニティメンバと有意義な協力を得られるか,について詳述する。
• 参考スコア（独自算出の注目度）: 4.135516576952934
• License:
• Abstract: Mainstream Natural Language Processing (NLP) research has ignored the majority of the world's languages. In moving from excluding the majority of the world's languages to blindly adopting what we make for English, we first risk importing the same harms we have at best mitigated and at least measured for English. However, in evaluating and mitigating harms arising from adopting new technologies into such contexts, we often disregard (1) the actual community needs of Language Technologies, and (2) biases and fairness issues within the context of the communities. In this extended abstract, we consider fairness, bias, and inclusion in Language Technologies through the lens of the Capabilities Approach. The Capabilities Approach centers on what people are capable of achieving, given their intersectional social, political, and economic contexts instead of what resources are (theoretically) available to them. We detail the Capabilities Approach, its relationship to multilingual and multicultural evaluation, and how the framework affords meaningful collaboration with community members in defining and measuring the harms of Language Technologies.
• Abstract（参考訳）: 主流自然言語処理(NLP)の研究は世界の言語の大部分を無視している。 世界の言語の大部分を除外することから、盲目的に英語に採用することへの移行において、私たちはまず、最も緩和され、少なくとも英語で測定されるのと同じ危害を輸入するリスクを負う。 しかし,新しいテクノロジーをそのような文脈に取り入れることによる害の評価・緩和においては,(1)言語技術の実際のコミュニティニーズ,(2)コミュニティの文脈におけるバイアスや公平性の問題等を無視することがしばしばある。 この拡張抽象化では、機能アプローチのレンズを通して、言語技術の公平性、バイアス、包摂性を考察する。 能力のアプローチは、人々が(理論的に)利用可能な資源ではなく、交差点の社会的、政治的、経済的文脈で達成できるものに焦点を当てている。 本稿では,機能アプローチ,多言語・多文化的評価との関係,言語技術の有害性の定義と評価において,コミュニティメンバーと有意義な協力を得られるかについて述べる。

関連論文リスト

• Lens: Rethinking Multilingual Enhancement for Large Language Models [70.85065197789639]
  Lensは、大規模言語モデル(LLM)の多言語機能を強化する新しいアプローチである LLMの上位層から言語に依存しない、言語固有のサブ空間内の隠された表現を操作できる。 既存のポストトレーニング手法に比べて計算資源がはるかに少ないため、優れた結果が得られる。
  論文  参考訳（メタデータ） (2024-10-06T08:51:30Z)
• The Call for Socially Aware Language Technologies [94.6762219597438]
  NLPが機能する社会環境の要因、文脈、意味の認識の欠如である。 我々は、NLPが社会意識を発達させる上で大きな課題が残っており、この分野の新しい時代の始まりであると主張している。
  論文  参考訳（メタデータ） (2024-05-03T18:12:39Z)
• Layers of technology in pluriversal design. Decolonising language technology with the LiveLanguage initiative [9.063726739562227]
  本稿では, 語彙データベースであるLiveLanguageを用いて, 多変数設計理論から実践までのギャップを議論し, 解決する例を示す。 本稿では,5層の技術活動からなるモデルを提案する。
  論文  参考訳（メタデータ） (2024-05-02T23:52:39Z)
• Diversity and Language Technology: How Techno-Linguistic Bias Can Cause Epistemic Injustice [4.234367850767171]
  多くの試みが、特定の言語に対するハードワイヤの表現的嗜好に固執する欠陥のある解を生み出していることを示す。 論文で示すように、技術的言語バイアスは、支配的な権力の言語と文化の一部である概念を表現できるシステムをもたらす可能性がある。 この問題の根底には、多様性の単純化された理解を適用する技術開発コミュニティの体系的な傾向がある、と我々は主張する。
  論文  参考訳（メタデータ） (2023-07-25T16:08:27Z)
• Towards Bridging the Digital Language Divide [4.234367850767171]
  多言語言語処理システムは、しばしばハードワイヤで、通常不随意で、特定の言語に対して隠された表現的嗜好を示す。 偏りのある技術は、しばしば表現される言語の複雑さに不公平な研究・開発手法の結果であることを示す。 我々は,技術設計と方法論の両面から,言語バイアスを減らすことを目的とした新しいイニシアティブを提案する。
  論文  参考訳（メタデータ） (2023-07-25T10:53:20Z)
• No Language Left Behind: Scaling Human-Centered Machine Translation [69.28110770760506]
  低レベルの言語と高レベルの言語のパフォーマンスギャップを狭めるためのデータセットとモデルを作成します。 何千ものタスクをトレーニングしながらオーバーフィッティングに対処するために,複数のアーキテクチャとトレーニングの改善を提案する。 本モデルでは,従来の最先端技術と比較して,BLEUの44%の改善を実現している。
  論文  参考訳（メタデータ） (2022-07-11T07:33:36Z)
• Evaluating the Diversity, Equity and Inclusion of NLP Technology: A Case Study for Indian Languages [35.86100962711644]
  NLP技術が広く適用され、公正で有用になるためには、世界中の言語で多様な話者を提供する必要がある。 本研究では,NLP技術を3次元にわたって評価する評価パラダイムを提案する。
  論文  参考訳（メタデータ） (2022-05-25T11:38:04Z)
• Not always about you: Prioritizing community needs when developing endangered language technology [5.670857685983896]
  研究者や先住民の言語コミュニティのメンバーが直面する、ユニークな技術的、文化的、実践的、倫理的課題について論じる。 本報告では, 言語教師, マスタースピーカー, および先住民コミュニティの高齢者の視点と, 学術的視点について報告する。
  論文  参考訳（メタデータ） (2022-04-12T05:59:39Z)
• Systematic Inequalities in Language Technology Performance across the World's Languages [94.65681336393425]
  本稿では,言語技術のグローバルな有用性を評価するためのフレームワークを紹介する。 本分析では, ユーザ対応技術と言語的NLPタスクの両面において, より深く研究されている。
  論文  参考訳（メタデータ） (2021-10-13T14:03:07Z)
• AM2iCo: Evaluating Word Meaning in Context across Low-ResourceLanguages with Adversarial Examples [51.048234591165155]
  本稿では, AM2iCo, Adversarial and Multilingual Meaning in Contextを提案する。 言語間文脈における単語の意味の同一性を理解するために、最先端(SotA)表現モデルを忠実に評価することを目的としている。 その結果、現在のSotAプリトレーニングエンコーダは人間のパフォーマンスにかなり遅れていることが明らかとなった。
  論文  参考訳（メタデータ） (2021-04-17T20:23:45Z)
• Experience Grounds Language [185.73483760454454]
  言語理解研究は、言語が記述する物理的世界と、それが促進する社会的相互作用とを関連づけることに失敗している。 テキストだけで訓練された後にタスクに取り組むための言語処理モデルの驚くべき効果にもかかわらず、成功した言語コミュニケーションは世界の共有経験に依存している。
  論文  参考訳（メタデータ） (2020-04-21T16:56:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。