論文の概要: Representation Bias of Adolescents in AI: A Bilingual, Bicultural Study

• arxiv url: http://arxiv.org/abs/2408.01961v1
• Date: Sun, 4 Aug 2024 08:35:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-06 17:41:24.173658
• Title: Representation Bias of Adolescents in AI: A Bilingual, Bicultural Study
• Title（参考訳）: AIにおける青年の表現バイアス:バイリンガル・バイカルチャー的研究
• Authors: Robert Wolfe, Aayushi Dangol, Bill Howe, Alexis Hiniker,
• Abstract要約: 静的単語埋め込み(SWE)と生成言語モデル(GLM)によって学習されたティーンエイジャーのバイアスについて検討する。 英語のSWEは10代の若者を社会問題に関連付けており、事前訓練されたGloVe SWEに最も関連付けられた1000語のうち50%以上がそのような問題を反映している。 アメリカの参加者は、多様性を強調して、AIが十代の若者をかなり提示できると示唆し、ネパールの参加者は肯定的だった。 我々の研究は、SWEとGLMが発達的に脆弱なグループを誤って表現する方法を理解し、センセーショナルな特徴の少ないテンプレートを提供する。
• 参考スコア（独自算出の注目度）: 17.10156907879149
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Popular and news media often portray teenagers with sensationalism, as both a risk to society and at risk from society. As AI begins to absorb some of the epistemic functions of traditional media, we study how teenagers in two countries speaking two languages: 1) are depicted by AI, and 2) how they would prefer to be depicted. Specifically, we study the biases about teenagers learned by static word embeddings (SWEs) and generative language models (GLMs), comparing these with the perspectives of adolescents living in the U.S. and Nepal. We find English-language SWEs associate teenagers with societal problems, and more than 50% of the 1,000 words most associated with teenagers in the pretrained GloVe SWE reflect such problems. Given prompts about teenagers, 30% of outputs from GPT2-XL and 29% from LLaMA-2-7B GLMs discuss societal problems, most commonly violence, but also drug use, mental illness, and sexual taboo. Nepali models, while not free of such associations, are less dominated by social problems. Data from workshops with N=13 U.S. adolescents and N=18 Nepalese adolescents show that AI presentations are disconnected from teenage life, which revolves around activities like school and friendship. Participant ratings of how well 20 trait words describe teens are decorrelated from SWE associations, with Pearson's r=.02, n.s. in English FastText and r=.06, n.s. in GloVe; and r=.06, n.s. in Nepali FastText and r=-.23, n.s. in GloVe. U.S. participants suggested AI could fairly present teens by highlighting diversity, while Nepalese participants centered positivity. Participants were optimistic that, if it learned from adolescents, rather than media sources, AI could help mitigate stereotypes. Our work offers an understanding of the ways SWEs and GLMs misrepresent a developmentally vulnerable group and provides a template for less sensationalized characterization.
• Abstract（参考訳）: 大衆メディアやニュースメディアは、社会へのリスクと社会からのリスクの両方として、センセーショナル・リズムを持つティーンエイジャーをしばしば描いている。 AIが伝統的なメディアのいくつかのエピステミック機能を吸収し始めると、2カ国の10代の若者が2つの言語を話す方法を研究する。 1)AIで表現され、 2) どのように表現されるか。 具体的には、静的単語埋め込み(SWE)と生成言語モデル(GLM)によって学習されたティーンエイジャーのバイアスについて、米国とネパールに住む青年の視点と比較した。 英語のSWEは10代の若者を社会問題に関連付けており、事前訓練されたGloVe SWEに最も関連付けられた1000語のうち50%以上がそのような問題を反映している。 GPT2-XLからの出力の30%、LLaMA-2-7B GLMからの出力の29%は、社会的問題、最も一般的な暴力、薬物使用、精神疾患、性的タブーについても論じている。 ネパールのモデルにはそのような協会は存在しないが、社会問題には支配的ではない。 N=13人の青年とN=18人のネパールの青年のワークショップのデータによると、AIプレゼンテーションは10代の生活から切り離されている。 Pearson's r=.02, n.s. in English FastText and r=.06, n.s. in GloVe, r=.06, n.s. in Nepali FastText and r=-.23, n.s. in GloVe アメリカの参加者は、多様性を強調して、AIが十代の若者をかなり提示できると提案し、ネパールの参加者は肯定的だった。 参加者は、メディアソースではなく青少年から学んだら、AIはステレオタイプを緩和できると楽観的だった。 我々の研究は、SWEとGLMが発達的に脆弱なグループを誤って表現する方法を理解し、センセーショナルな特徴の少ないテンプレートを提供する。

関連論文リスト

• Large Language Models Reflect the Ideology of their Creators [73.25935570218375]
  大規模言語モデル(LLM)は、自然言語を生成するために大量のデータに基づいて訓練される。 異なるLLMや言語にまたがるイデオロギー的姿勢の顕著な多様性を明らかにする。
  論文  参考訳（メタデータ） (2024-10-24T04:02:30Z)
• Learning about Data, Algorithms, and Algorithmic Justice on TikTok in Personally Meaningful Ways [5.797792274568239]
  我々は、TikTokと関わり合う際に、若者が個々に意味のある方法でどのように学習するかについて異なる視点を提示する。 このアプリケーションは若者が相互に接続するためのグローバルな空間になっている。 我々は、TikTokがどのように機能するかを若者がどのように調査し、倫理とアルゴリズムの正義の問題を考慮し、プラットフォームに対する理解を利用して変化を提唱するかについて議論する。
  論文  参考訳（メタデータ） (2024-05-24T11:07:48Z)
• The Psychosocial Impacts of Generative AI Harms [0.33748750222488655]
  生成言語モデル(LM)は、K-20の学校と1対1の学生設定で採用されつつある。 本稿では,オープン・エンド・プロンプトへの反応として,5つの主要な物語が生み出す心理社会的害について考察する。
  論文  参考訳（メタデータ） (2024-05-02T21:21:06Z)
• White Men Lead, Black Women Help? Benchmarking Language Agency Social Biases in LLMs [58.27353205269664]
  社会的偏見は言語機関に現れることがある。 本稿では,言語庁バイアス評価ベンチマークを紹介する。 我々は,最近の3つのLarge Language Model(LLM)生成コンテンツにおいて,言語エージェンシーの社会的バイアスを明らかにした。
  論文  参考訳（メタデータ） (2024-04-16T12:27:54Z)
• Teenagers and Artificial Intelligence: Bootcamp Experience and Lessons Learned [0.7109982920595689]
  私たちは2023年夏に60人の高校生のコホートに提供される3日間のブートキャンプを設計しました。 カリキュラムは、アニメーションビデオコンテンツ、簡単にフォローできるスライド、インタラクティブな遊び場、およびクイズを通じて、直接配信された。 ブートキャンプ後の調査の結果、全体の満足度は91.4%だった。
  論文  参考訳（メタデータ） (2023-12-05T22:01:39Z)
• Understanding writing style in social media with a supervised contrastively pre-trained transformer [57.48690310135374]
  オンラインソーシャルネットワークは、ヘイトスピーチから偽情報の拡散まで、有害な行動の場として機能している。 本稿では, 4.5 x 106テキストの公開資料から得られた大規模コーパスに基づいて学習したStyle Transformer for Authorship Representations (STAR)を紹介する。 512個のトークンからなる8つのドキュメントからなるサポートベースを使用して、著者を最大1616人の著者のセットから、少なくとも80%の精度で識別することができる。
  論文  参考訳（メタデータ） (2023-10-17T09:01:17Z)
• The Face of Populism: Examining Differences in Facial Emotional Expressions of Political Leaders Using Machine Learning [50.24983453990065]
  私たちは15カ国の政治指導者の220本のYouTubeビデオのサンプルをディープラーニングで処理しています。 ポピュリスト・レトリックの度合いが異なるリーダー群間での負の感情の平均スコアの統計的に有意な差を観察した。
  論文  参考訳（メタデータ） (2023-04-19T18:32:49Z)
• How well can Text-to-Image Generative Models understand Ethical Natural Language Interventions? [67.97752431429865]
  倫理的介入を加える際の画像の多様性への影響について検討した。 予備研究は、モデル予測の大きな変化が「性別の無視」のような特定のフレーズによって引き起こされることを示している。
  論文  参考訳（メタデータ） (2022-10-27T07:32:39Z)
• Dimensions of Interpersonal Dynamics in Text: Group Membership and Fine-grained Interpersonal Emotion [27.125210491924243]
  この研究は、NLPにおける偏見の研究を、特定の偏見の事例から、話者、テキスト、ターゲット、社会的ダイナミクスの関係をカプセル化したものへと再調整することを目的としている。
  論文  参考訳（メタデータ） (2022-09-14T14:46:55Z)
• Young Adult Unemployment Through the Lens of Social Media: Italy as a case study [108.33144653708091]
  調査データとソーシャルメディアデータを用いて、イタリアにおける若い失業者の個性、道徳的価値、文化的要素を分析する。 調査の結果, 人格と道徳的価値には小さながら有意な差がみられ, 失業した男性は満足し難い傾向がみられた。 失業者は、より集団主義的な視点を持ち、グループ内の忠誠心、権威、純粋性の基盤を評価する。
  論文  参考訳（メタデータ） (2020-10-09T10:56:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。