論文の概要: INFELM: In-depth Fairness Evaluation of Large Text-To-Image Models

• arxiv url: http://arxiv.org/abs/2501.01973v3
• Date: Thu, 09 Jan 2025 07:26:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-10 13:57:49.929915
• Title: INFELM: In-depth Fairness Evaluation of Large Text-To-Image Models
• Title（参考訳）: INFELM:大規模テキスト・画像モデルの深部フェアネス評価
• Authors: Di Jin, Xing Liu, Yu Liu, Jia Qing Yap, Andrea Wong, Adriana Crespo, Qi Lin, Zhiyuan Yin, Qiang Yan, Ryan Ye,
• Abstract要約: マルチモーダルAIシステムは、人間のような認知をエミュレートすることで、産業応用の可能性を秘めている。 また、有害な内容の増幅や社会的偏見の強化など、重大な倫理的課題も生じている。 本稿では,広く使用されているテキスト・ツー・イメージ・モデルにおける奥行きの公平性評価であるINFELMを提案する。
• 参考スコア（独自算出の注目度）: 8.340794604348632
• License:
• Abstract: The rapid development of large language models (LLMs) and large vision models (LVMs) have propelled the evolution of multi-modal AI systems, which have demonstrated the remarkable potential for industrial applications by emulating human-like cognition. However, they also pose significant ethical challenges, including amplifying harmful content and reinforcing societal biases. For instance, biases in some industrial image generation models highlighted the urgent need for robust fairness assessments. Most existing evaluation frameworks focus on the comprehensiveness of various aspects of the models, but they exhibit critical limitations, including insufficient attention to content generation alignment and social bias-sensitive domains. More importantly, their reliance on pixel-detection techniques is prone to inaccuracies. To address these issues, this paper presents INFELM, an in-depth fairness evaluation on widely-used text-to-image models. Our key contributions are: (1) an advanced skintone classifier incorporating facial topology and refined skin pixel representation to enhance classification precision by at least 16.04%, (2) a bias-sensitive content alignment measurement for understanding societal impacts, (3) a generalizable representation bias evaluation for diverse demographic groups, and (4) extensive experiments analyzing large-scale text-to-image model outputs across six social-bias-sensitive domains. We find that existing models in the study generally do not meet the empirical fairness criteria, and representation bias is generally more pronounced than alignment errors. INFELM establishes a robust benchmark for fairness assessment, supporting the development of multi-modal AI systems that align with ethical and human-centric principles.
• Abstract（参考訳）: 大規模言語モデル(LLMs)と大規模視覚モデル(LVMs)の急速な発展により、多モーダルAIシステムの進化が促進され、ヒューマンライクな認知をエミュレートすることで、産業応用の顕著な可能性を示している。 しかし、有害な内容の増幅や社会的偏見の強化など、重大な倫理的課題も生じている。 例えば、いくつかの産業用画像生成モデルのバイアスは、堅牢な公正性評価に対する緊急の必要性を強調した。 既存の評価フレームワークのほとんどは、モデルの様々な側面の包括性に焦点を当てているが、コンテンツ生成のアライメントや社会的バイアスに敏感なドメインへの注意不足など、重要な制限がある。 さらに重要なのは、ピクセル検出技術への依存が不正確であることだ。 これらの問題に対処するために,広義のテキスト・ツー・イメージ・モデルを用いた深部フェアネス評価であるINFELMを提案する。 主な貢献は,(1)顔のトポロジを取り入れた高度なスキントン分類器,(2)社会的影響を理解するためのバイアス感受性コンテンツアライメント測定装置,(3)多様な集団を対象とした一般化可能な表現バイアス評価,(4)社会的バイアスに敏感な6つの領域にわたる大規模テキスト・画像モデル出力の分析実験である。 この研究の既存のモデルは一般に経験的公正基準を満たしておらず、表現バイアスは概してアライメントエラーよりも顕著である。 INFELMは公正性評価のための堅牢なベンチマークを確立し、倫理的および人間中心の原則に沿ったマルチモーダルAIシステムの開発をサポートする。

関連論文リスト

• Multimodal Approaches to Fair Image Classification: An Ethical Perspective [0.0]
  この論文は、公正な画像分類モデルの開発における技術と倫理の交差を探求する。 私は、有害な人口統計バイアスに対処するために、複数のモダリティを使用する公平さと方法の改善に重点を置いている。 この研究は、画像データセットや分類アルゴリズムにおける既存のバイアスを批判的に検討し、これらのバイアスを緩和するための革新的な方法を提案し、そのようなシステムを現実のシナリオに展開する際の倫理的影響を評価する。
  論文  参考訳（メタデータ） (2024-12-11T19:58:31Z)
• On the Fairness, Diversity and Reliability of Text-to-Image Generative Models [49.60774626839712]
  マルチモーダル生成モデルは 彼らの公正さ、信頼性、そして誤用の可能性について 批判的な議論を呼んだ 組込み空間における摂動に対する応答を通じてモデルの信頼性を評価するための評価フレームワークを提案する。 本手法は, 信頼できない, バイアス注入されたモデルを検出し, バイアス前駆体の検索を行うための基礎となる。
  論文  参考訳（メタデータ） (2024-11-21T09:46:55Z)
• From Efficiency to Equity: Measuring Fairness in Preference Learning [3.2132738637761027]
  不平等とロウルシアン正義の経済理論に触発された嗜好学習モデルの公平性を評価する。 Gini Coefficient, Atkinson Index, Kuznets Ratio を用いて,これらのモデルの公平性を定量化するための指標を提案する。
  論文  参考訳（メタデータ） (2024-10-24T15:25:56Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• Fairness meets Cross-Domain Learning: a new perspective on Models and Metrics [80.07271410743806]
  クロスドメイン学習(CD)とモデルフェアネスの関係について検討する。 いくつかの人口集団にまたがる顔画像と医療画像のベンチマークと、分類とローカライゼーションタスクについて紹介する。 本研究は,3つの最先端フェアネスアルゴリズムとともに,14のCDアプローチをカバーし,前者が後者に勝ることを示す。
  論文  参考訳（メタデータ） (2023-03-25T09:34:05Z)
• Towards Reliable Assessments of Demographic Disparities in Multi-Label Image Classifiers [11.973749734226852]
  マルチラベル画像分類と,特に対象分類タスクについて検討する。 測定のための設計選択とトレードオフは、以前のコンピュータビジョン文学で議論されたよりもニュアンスが高い。 実装の詳細にだけ似ているが、評価の結論に大きな影響を及ぼすいくつかの設計選択を特定します。
  論文  参考訳（メタデータ） (2023-02-16T20:34:54Z)
• Fairness Increases Adversarial Vulnerability [50.90773979394264]
  フェアネスとロバストネスの間に二分法が存在することを示し、フェアネスを達成するとモデルロバストネスを減少させる。 非線形モデルと異なるアーキテクチャの実験は、複数の視覚領域における理論的発見を検証する。 フェアネスとロバストネスの良好なトレードオフを達成するためのモデルを構築するための,シンプルで効果的なソリューションを提案する。
  論文  参考訳（メタデータ） (2022-11-21T19:55:35Z)
• Causal Reasoning Meets Visual Representation Learning: A Prospective Study [117.08431221482638]
  解釈可能性の欠如、堅牢性、分布外一般化が、既存の視覚モデルの課題となっている。 人間レベルのエージェントの強い推論能力にインスパイアされた近年では、因果推論パラダイムの開発に多大な努力が注がれている。 本稿では,この新興分野を包括的に概観し,注目し,議論を奨励し,新たな因果推論手法の開発の急激さを先導することを目的とする。
  論文  参考訳（メタデータ） (2022-04-26T02:22:28Z)
• Fairness Indicators for Systematic Assessments of Visual Feature Extractors [21.141633753573764]
  視覚系の害やバイアスの定量化を目的とした3つの公正度指標を提案する。 我々の指標は、フェアネス評価のために収集された既存の公開データセットを使用する。 これらの指標は、新しいコンピュータビジョン技術による幅広い影響の徹底的な分析の代替にはならない。
  論文  参考訳（メタデータ） (2022-02-15T17:45:33Z)
• Towards Understanding and Mitigating Social Biases in Language Models [107.82654101403264]
  大規模事前訓練言語モデル(LM)は、望ましくない表現バイアスを示すのに潜在的に危険である。 テキスト生成における社会的バイアスを軽減するためのステップを提案する。 我々の経験的結果と人的評価は、重要な文脈情報を保持しながらバイアスを緩和する効果を示す。
  論文  参考訳（メタデータ） (2021-06-24T17:52:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。