論文の概要: Beyond Categories of Caste: Examining Caste Bias and Morality in Text-to-Image AI Models

• arxiv url: http://arxiv.org/abs/2606.00039v1
• Date: Tue, 28 Apr 2026 03:13:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 07:09:36.593966
• Title: Beyond Categories of Caste: Examining Caste Bias and Morality in Text-to-Image AI Models
• Title（参考訳）: キャスターのカテゴリを超えて: テキスト・ツー・イメージAIモデルにおけるキャスターバイアスとモラルの考察
• Abstract要約: 最近の研究は、Generative AI(GenAI)システムを通じて、キャストバイアスとステレオタイプが永続化されていることを示している。 私たちはオントロジーを、キャストのリレーショナルな側面に集中するようにシフトします。 本稿では,AIシステムにおけるキャストバイアスと公平性の問題に対処するためのアンチキャスト手法を提案する。
• 参考スコア（独自算出の注目度）: 17.19140224115358
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text-to-Image (T2I) models have shown promising utility across various domains. However, such models are also amplifying harmful societal biases in their outputs. In the context of South Asia, recent work has shown caste biases and stereotypes are being perpetuated through Generative AI (GenAI) systems. While this research offers extremely relevant insight into invisibilized narratives of caste discrimination through the GenAI system, they often treat caste as an identity category. Therefore, in this work we shift our ontology to focus on the relational aspect of caste. This enables us to develop a more nuanced understanding of the mechanics of caste discrimination by and through T2I models. Combining an algorithmic audit with critical discourse analysis, we draw on a conceptual frame challenging Brahminical Normativity to show how caste biases are perpetuated beyond the simple binaries of upper vs lower-caste categories. Our contributions are two-fold. Beyond challenging the categorical understanding of caste as a category, we propose an anti-caste approach to tackle the issue of caste bias and fairness in AI systems.
• Abstract（参考訳）: テキスト・ツー・イメージ(T2I)モデルは様々な領域で有望な有用性を示している。 しかし、そのようなモデルは、その出力における有害な社会的バイアスを増幅している。 南アジアの文脈では、最近の研究は、ジェネレーティブAI(Generative AI)システムを通じて、キャストバイアスとステレオタイプが永続していることを示している。 この研究は、GenAIシステムを通じて、キャスト差別の不可視的物語について、極めて関連性のある洞察を与える一方で、キャストをアイデンティティのカテゴリとして扱うことが多い。 そこで本研究では、オントロジーをキャストのリレーショナルな側面に焦点をあてる。 これにより、T2Iモデルによるキャスタ差別のメカニズムのよりきめ細やかな理解を深めることが可能となる。 アルゴリズムによる監査と批判的談話分析を組み合わせることで、ブラーミニカル・ノルマティリティに挑戦する概念的枠組みの上に、キャストバイアスが、上位と下位のカテゴリの単純なバイナリを超えてどのように永続されているかを示す。 私たちの貢献は2倍です。 カテゴリーとしてのキャストのカテゴリー的理解に挑戦するだけでなく、AIシステムにおけるキャストバイアスと公平性の問題に取り組むためのアンチキャストアプローチを提案する。

関連論文リスト

• Sima AIunty: Caste Audit in LLM-Driven Matchmaking [10.466211034402386]
  我々は,大言語モデル(LLM)によるマッチング評価において,キャストバイアスの制御を行う。 ブラーミン、クシャトリヤ、ヴァイシャ、シュドラ、ダリトではキャスターのアイデンティティが異なり、5つのバケツで収入を得ている。 我々の分析では、モデル間の一貫した階層的パターンが明らかになっている。
  論文  参考訳（メタデータ） (2026-03-31T05:44:55Z)
• DECASTE: Unveiling Caste Stereotypes in Large Language Models through Multi-Dimensional Bias Analysis [20.36241144630387]
  大規模言語モデル (LLM) は自然言語処理 (NLP) に革命をもたらした。 LLMは、民族、性別、宗教に基づくものなど、有害な社会的偏見を反映し、永続することが示されている。 我々は,LLMにおける暗黙的および明示的なキャストバイアスを検知し,評価するための新しいフレームワークであるDECASTEを提案する。
  論文  参考訳（メタデータ） (2025-05-20T23:19:13Z)
• SelEx: Self-Expertise in Fine-Grained Generalized Category Discovery [55.72840638180451]
  Generalized Category Discoveryは、新しいカテゴリーを同時に発見し、既知のカテゴリを正確に分類することを目的としている。 自己超越と対照的な学習に強く依存する伝統的な手法は、細かなカテゴリーを区別する場合にしばしば不足する。 モデルが微妙な違いを認識し、未知のカテゴリを明らかにする能力を高める。
  論文  参考訳（メタデータ） (2024-08-26T15:53:50Z)
• Interpretations, Representations, and Stereotypes of Caste within Text-to-Image Generators [0.0]
  本稿では,T2I研究における悲劇的に未解明な文脈を取り巻く解釈,表現,ステレオタイプについて述べる。 我々は、T2I安定拡散が、様々なキャストの人々をいかに表示するか、そして、彼らが演じている職業をどう表現するかを考察する。 以上の結果から, 安定拡散は「キャスタレスネス」の系を永久に出力し, 高いキャスタネスと同一視し, 貧困の指標とキャスタブルに抑圧されたアイデンティティを表現していることが明らかとなった。
  論文  参考訳（メタデータ） (2024-08-02T22:06:41Z)
• Generative Discrimination: What Happens When Generative AI Exhibits Bias, and What Can Be Done About It [2.2913283036871865]
  第1章は、genAIが非差別法とどのように交わるかを考察する。 差別的アウトプットには2つの主要な種類がある: (i) 嫌悪的内容と (ii) 保護されたグループの不適切な表現による微妙なバイアス。 差別的なアウトプットに責任を負うgenAIプロバイダやデプロイの保持を主張し、genAI固有の問題に対処する従来の法的枠組みの不十分さを強調している。
  論文  参考訳（メタデータ） (2024-06-26T13:32:58Z)
• Hacking a surrogate model approach to XAI [49.1574468325115]
  識別されたサブグループがブラックボックスADMシステムから肯定的な決定を下さない場合でも、対応するグループメンバーシップの問題は、必要に応じて低いレベルまで押し下げることができることを示す。 我々のアプローチは、他の代理モデルに容易に一般化できる。
  論文  参考訳（メタデータ） (2024-06-24T13:18:02Z)
• The Devil is in the Neurons: Interpreting and Mitigating Social Biases in Pre-trained Language Models [78.69526166193236]
  プレトレーニング言語モデル(PLM)は、社会的バイアスのような有害な情報を含むことが認識されている。 我々は,社会バイアスなどの望ましくない行動に起因する言語モデルにおいて,正確に単位(すなわちニューロン)を特定するために,sc Social Bias Neuronsを提案する。 StereoSetの以前の測定値からわかるように、我々のモデルは、低コストで言語モデリング能力を維持しながら、より高い公平性を達成する。
  論文  参考訳（メタデータ） (2024-06-14T15:41:06Z)
• The Male CEO and the Female Assistant: Evaluation and Mitigation of Gender Biases in Text-To-Image Generation of Dual Subjects [58.27353205269664]
  本稿では,Paired Stereotype Test (PST) フレームワークを提案する。 PSTクエリT2Iモデルは、男性ステレオタイプと女性ステレオタイプに割り当てられた2つの個人を描写する。 PSTを用いて、ジェンダーバイアスの2つの側面、つまり、ジェンダーの職業におけるよく知られたバイアスと、組織力におけるバイアスという新しい側面を評価する。
  論文  参考訳（メタデータ） (2024-02-16T21:32:27Z)
• Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
  本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。 我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。 我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
  論文  参考訳（メタデータ） (2023-03-20T19:32:49Z)
• Factoring the Matrix of Domination: A Critical Review and Reimagination of Intersectionality in AI Fairness [55.037030060643126]
  間欠性は、社会的不平等の持続性を調べるための重要な枠組みである。 我々は、公平性を効果的に運用するために、交差性を分析的枠組みとして採用することが重要であると論じる。
  論文  参考訳（メタデータ） (2023-03-16T21:02:09Z)
• Explaining Caste-based Digital Divide in India [0.0]
  本稿では、不利なキャストグループと他のグループの間で、第1レベルのデジタル分割(コンピュータの所有とインターネットへのアクセス)と第2レベルのデジタル分割(コンピュータとインターネットを個別に使用する技術)を解析する。 その結果、インドにおけるカストベースのデジタル分断は、不利なカスト集団の歴史的社会経済的分断に根ざしていることが示唆された。
  論文  参考訳（メタデータ） (2021-06-30T09:19:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。