論文の概要: Generative AI May Reinforce Social Biases in Software Engineering Education

• arxiv url: http://arxiv.org/abs/2609.28483v1
• Date: Thu, 06 Aug 2026 06:53:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:56.031939
• Title: Generative AI May Reinforce Social Biases in Software Engineering Education
• Title（参考訳）: ジェネレーティブAIは、ソフトウェア工学教育におけるソーシャルバイアスを強化するかもしれない
• Abstract要約: 生成人工知能(GenAI)は、さまざまな現実世界のアプリケーションに展開されつつある。 我々は、ソフトウェア工学のインストラクターによるGenAIの使用が、ソフトウェア固有の社会的バイアスを不注意に補強する可能性について検討する。
• 参考スコア（独自算出の注目度）: 4.438917448975789
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative artificial intelligence (GenAI) is increasingly being deployed across a wide range of real-world applications. Without careful evaluation, reliance on these systems can have unintended consequences, such as reinforcement of stereotypes and amplification of social biases. Such risks are particularly important in educational settings, where early decisions can shape students' interests, opportunities, and career trajectories. In this paper, we investigate how GenAI use by software engineering instructors may inadvertently reinforce software-specific social biases. We focus on two representative tasks: team formation based on student profiles and the generation of visual content for educational materials. Our results reveal significant biases in both tasks. In team formation, factors such as gender and nationality affect role assignments (e.g., women are more likely to be assigned to front-end roles than equally qualified men). In the visual content generation task, models generally produce diverse and balanced representations when depicting groups of individuals. However, when generating images of a single person, the outputs are predominantly male and light-skinned. These findings highlight the persistence of demographic biases in generative models and underscore the need for domain-specific evaluation and mitigation strategies to support their responsible use in educational settings.
• Abstract（参考訳）: 生成人工知能(GenAI)は、さまざまな現実世界のアプリケーションに展開されつつある。 注意深い評価がなければ、ステレオタイプの強化や社会的偏見の増幅など、これらのシステムへの依存は意図しない結果をもたらす可能性がある。 このようなリスクは、早期決定が学生の興味や機会、キャリアの軌跡を形作る教育環境において特に重要である。 本稿では,ソフトウェア工学のインストラクターによるGenAI利用が,ソフトウェア固有の社会的バイアスを必然的に強化する方法について検討する。 本稿では,学生プロファイルに基づくチーム形成と,教材の視覚コンテンツの生成という,2つの代表的な課題に焦点をあてる。 その結果,両課題に有意な偏りが認められた。 チーム形成においては、性別や国籍などの要因が役割の割り当てに影響を及ぼす(例えば、女性は同等の資格を持つ男性よりもフロントエンドの役割に割り当てられる可能性が高い)。 視覚コンテンツ生成タスクでは、モデルは通常、個人のグループを描く際に、多様でバランスのとれた表現を生成する。 しかし、一人の人物の画像を生成する場合、出力は主に男性で肌が軽い。 これらの結果は、世代モデルにおける人口統計バイアスの持続性を強調し、教育環境における責任ある利用を支援するために、ドメイン固有の評価と緩和戦略の必要性を強調している。

関連論文リスト

• A Critical Discourse Analysis of Gender Representation in Software Engineering Education Videos on YouTube [54.52098098905923]
  本研究では,手動で分析した200の英語およびドイツ語のソフトウェア工学チュートリアルについて,YouTube上で批判的談話分析を行った。 以上の結果から,男性キャラクタと男性言語的デフォルトがチュートリアルを支配していることが示唆された。 我々は,男性俳優にのみ技術と意思決定の役割が割り当てられるエージェンシーギャップを特定した。
  論文  参考訳（メタデータ） (2026-06-16T19:18:37Z)
• Gender Bias in Generative AI-assisted Recruitment Processes [1.6566053195631467]
  本稿では,35歳未満のイタリア人卒業生を対象に,ジェンダーと職場経験の背景から,最先端の世代モデル(GPT-5)がいかに職業を示唆するかを考察する。 このモデルは、性別、年齢、経験、専門分野のバランスのとれた24のシミュレーションされた候補者プロファイルにジョブを提案するよう促されている。 女性や男性の候補者による形容詞に性的な言語パターンが出現し、モデルが女性と感情的・共感的な特徴を関連付ける傾向が示唆された。
  論文  参考訳（メタデータ） (2026-03-12T09:42:56Z)
• The Role of Social Identity in Shaping Biases Against Minorities in Software Organizations [5.704788741312527]
  本研究では,キャリア形成の欠如,ステレオタイプ化されたタスク選択,歓迎されない環境,アイデンティティアタックの4種類のバイアスについて検討する。 女性は、キャリア開発バイアス、タスク選択バイアス、歓迎されない環境に直面する確率の3倍以上だった。 同時に、少数民族の背景を持つ個人は、アイデンティティー攻撃によって不当に標的にされた。
  論文  参考訳（メタデータ） (2026-01-29T04:39:32Z)
• T2IBias: Uncovering Societal Bias Encoded in the Latent Space of Text-to-Image Generative Models [5.565960549039278]
  テキスト・ツー・イメージ(T2I)生成モデルは、AIによる実世界のアプリケーションや価値創造に主に使用されている。 我々は、最先端T2Iモデルの事前訓練された潜在空間において、社会的バイアスが体系的に符号化されているかどうかを検討する。
  論文  参考訳（メタデータ） (2025-11-13T08:43:02Z)
• Gender Biases in Automatic Evaluation Metrics for Image Captioning [87.15170977240643]
  画像キャプションタスクのためのモデルに基づく評価指標において、性別バイアスの体系的研究を行う。 偏りのある世代と偏りのない世代を区別できないことを含む、これらの偏りのあるメトリクスを使用することによる負の結果を実証する。 人間の判断と相関を損なうことなく、測定バイアスを緩和する簡便で効果的な方法を提案する。
  論文  参考訳（メタデータ） (2023-05-24T04:27:40Z)
• Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
  本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。 我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。 我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
  論文  参考訳（メタデータ） (2023-03-20T19:32:49Z)
• Towards Understanding and Mitigating Social Biases in Language Models [107.82654101403264]
  大規模事前訓練言語モデル(LM)は、望ましくない表現バイアスを示すのに潜在的に危険である。 テキスト生成における社会的バイアスを軽減するためのステップを提案する。 我々の経験的結果と人的評価は、重要な文脈情報を保持しながらバイアスを緩和する効果を示す。
  論文  参考訳（メタデータ） (2021-06-24T17:52:43Z)
• On the Basis of Sex: A Review of Gender Bias in Machine Learning Applications [0.0]
  まず、機械学習のジェンダーバイアスの実践例をいくつか紹介する。 次に、機械学習モデルをより公平にする方法に対処するために、最も広く使われているフェアネスの形式化を詳述する。
  論文  参考訳（メタデータ） (2021-04-06T14:11:16Z)
• Mitigating Gender Bias in Machine Learning Data Sets [5.075506385456811]
  ジェンダーバイアスは雇用広告や採用ツールの文脈で特定されている。 本稿では,機械学習のためのトレーニングデータにおける性別バイアスの同定のための枠組みを提案する。
  論文  参考訳（メタデータ） (2020-05-14T12:06:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。