論文の概要: DebiasPI: Inference-time Debiasing by Prompt Iteration of a Text-to-Image Generative Model

• arxiv url: http://arxiv.org/abs/2501.18642v1
• Date: Tue, 28 Jan 2025 23:17:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-03 14:03:44.031808
• Title: DebiasPI: Inference-time Debiasing by Prompt Iteration of a Text-to-Image Generative Model
• Title（参考訳）: DebiasPI:テキスト・画像生成モデルのプロンプト反復による推論時デバイアス
• Authors: Sarah Bonna, Yu-Cheng Huang, Ekaterina Novozhilova, Sejin Paik, Zhengyang Shan, Michelle Yilin Feng, Ge Gao, Yonish Tayal, Rushil Kulkarni, Jialin Yu, Nupur Divekar, Deepti Ghadiyaram, Derry Wijaya, Margrit Betke,
• Abstract要約: 本稿では,Debiasing-by-Prompt-Iterationのための推論時間プロセスであるDebiasPIを提案する。 DebiasPIにより、画像生成における個人の属性の分布を制御することができる。
• 参考スコア（独自算出の注目度）: 20.915693552625502
• License:
• Abstract: Ethical intervention prompting has emerged as a tool to counter demographic biases of text-to-image generative AI models. Existing solutions either require to retrain the model or struggle to generate images that reflect desired distributions on gender and race. We propose an inference-time process called DebiasPI for Debiasing-by-Prompt-Iteration that provides prompt intervention by enabling the user to control the distributions of individuals' demographic attributes in image generation. DebiasPI keeps track of which attributes have been generated either by probing the internal state of the model or by using external attribute classifiers. Its control loop guides the text-to-image model to select not yet sufficiently represented attributes, With DebiasPI, we were able to create images with equal representations of race and gender that visualize challenging concepts of news headlines. We also experimented with the attributes age, body type, profession, and skin tone, and measured how attributes change when our intervention prompt targets the distribution of an unrelated attribute type. We found, for example, if the text-to-image model is asked to balance racial representation, gender representation improves but the skin tone becomes less diverse. Attempts to cover a wide range of skin colors with various intervention prompts showed that the model struggles to generate the palest skin tones. We conducted various ablation studies, in which we removed DebiasPI's attribute control, that reveal the model's propensity to generate young, male characters. It sometimes visualized career success by generating two-panel images with a pre-success dark-skinned person becoming light-skinned with success, or switching gender from pre-success female to post-success male, thus further motivating ethical intervention prompting with DebiasPI.
• Abstract（参考訳）: 倫理的介入促進は、テキストから画像への生成AIモデルの人口統計バイアスに対処するためのツールとして登場した。 既存のソリューションでは、モデルを再トレーニングするか、性別や人種に関する望ましい分布を反映したイメージを生成するのに苦労する必要がある。 本稿では、画像生成における個人属性の分布をユーザが制御できるようにすることにより、迅速な介入を提供するDebiasPI for Debiasing-by-Prompt-Iterationを提案する。 DebiasPIは、モデルの内部状態を探索するか、外部属性分類器を使用して、どの属性が生成されたかを追跡する。 DebiasPIでは、人種と性別の平等な表現で、ニュース見出しの難解な概念を視覚化するイメージを作成できた。 また, 属性年齢, 体型, 職業, 肌のトーンを実験し, 介入が非関連属性型の分布を標的とした場合の属性の変化を計測した。 例えば、テキスト・ツー・イメージモデルに人種的表現のバランスを求めると、ジェンダーの表現は改善するが、肌のトーンはより多様になる。 様々な介入プロンプトで幅広い肌色をカバーしようとする試みは、モデルが最も薄い肌色を生成するのに苦労していることを示している。 そこで我々は,DebiasPIの属性制御を除去し,若年男性キャラクタの生成に対するモデルの有効性を明らかにする様々なアブレーション研究を行った。 キャリアの成功を可視化するために、前科の浅黒い肌の人物が軽い肌に染まった2枚のパネル画像を生成したり、前科の女から後学の男性に性別を切り替えたりすることで、さらにデビアスPIによる倫理的介入を動機づけることがあった。

関連論文リスト

• MoESD: Mixture of Experts Stable Diffusion to Mitigate Gender Bias [23.10522891268232]
  テキスト・ツー・イメージ・モデルにおいて、ジェンダーバイアスを軽減するためのMixture-of-Expertsアプローチを導入する。 画像品質を維持しながら, 性別偏見の軽減に成功していることを示す。
  論文  参考訳（メタデータ） (2024-06-25T14:59:31Z)
• New Job, New Gender? Measuring the Social Bias in Image Generation Models [85.26441602999014]
  画像生成モデルは、社会的ステレオタイプとバイアスを永続するコンテンツを生成できる。 画像生成モデルにおける社会的バイアスを的確に、かつ、かつ、包括的に引き起こすことのできるフレームワークであるBiasPainterを提案する。 BiasPainterは、自動バイアス検出において90.8%の精度を達成することができる。
  論文  参考訳（メタデータ） (2024-01-01T14:06:55Z)
• Improving Fairness using Vision-Language Driven Image Augmentation [60.428157003498995]
  公平性は、特に顔領域において、ディープラーニングの識別モデルを訓練する際に重要である。 モデルは、特定の特性(年齢や肌の色など)と無関係な属性(下流タスク)を関連付ける傾向がある 本稿では,これらの相関を緩和し,公平性を向上する手法を提案する。
  論文  参考訳（メタデータ） (2023-11-02T19:51:10Z)
• Mitigating stereotypical biases in text to image generative systems [10.068823600548157]
  我々は、さまざまなテキストプロンプトから構築された知覚された皮膚のトーンや性別によって異なる合成データに対して、テキスト・ツー・イメージモデルを微調整することでこれを実現している。 我々の多様性微調整(DFT)モデルは、知覚された肌のトーンが150%、知覚された性別が97.7%向上する。
  論文  参考訳（メタデータ） (2023-10-10T18:01:52Z)
• FACET: Fairness in Computer Vision Evaluation Benchmark [21.862644380063756]
  コンピュータビジョンモデルは、性別や肌のトーンなどの属性間でパフォーマンスの相違が知られている。 FACET (FAirness in Computer Vision EvaluaTion) という新しいベンチマークを提案する。 FACETは、最も一般的な視覚タスクのための32kイメージの大規模な、一般公開された評価セットである。
  論文  参考訳（メタデータ） (2023-08-31T17:59:48Z)
• Word-Level Explanations for Analyzing Bias in Text-to-Image Models [72.71184730702086]
  Text-to-image(T2I)モデルは、人種や性別に基づいて少数派を過小評価する画像を生成することができる。 本稿では,入力プロンプトのどの単語が生成画像のバイアスの原因となるかを検討する。
  論文  参考訳（メタデータ） (2023-06-03T21:39:07Z)
• Uncovering Bias in Face Generation Models [0.0]
  GANと拡散モデルの最近の進歩により、高解像度の超現実的画像の作成が可能になった。 これらのモデルは特定の社会集団を誤って表現し、偏見を呈することがある。 この研究は、3つのアプローチに対するバイアスのきめ細かい理解のための空間をカバーおよび埋め込みする新しい分析である。
  論文  参考訳（メタデータ） (2023-02-22T18:57:35Z)
• Auditing Gender Presentation Differences in Text-to-Image Models [54.16959473093973]
  我々は、テキスト・ツー・イメージ・モデルにおいて、ジェンダーがどのように異なる形で提示されるかを研究する。 入力テキスト中の性指標を探索することにより、プレゼンテーション中心属性の周波数差を定量化する。 このような違いを推定する自動手法を提案する。
  論文  参考訳（メタデータ） (2023-02-07T18:52:22Z)
• How well can Text-to-Image Generative Models understand Ethical Natural Language Interventions? [67.97752431429865]
  倫理的介入を加える際の画像の多様性への影響について検討した。 予備研究は、モデル予測の大きな変化が「性別の無視」のような特定のフレーズによって引き起こされることを示している。
  論文  参考訳（メタデータ） (2022-10-27T07:32:39Z)
• DALL-Eval: Probing the Reasoning Skills and Social Biases of Text-to-Image Generation Models [73.12069620086311]
  テキスト・ツー・イメージ・モデルの視覚的推論能力と社会的バイアスについて検討する。 まず,物体認識,物体カウント,空間的関係理解という3つの視覚的推論スキルを計測する。 第2に、生成した画像の性別/肌の色調分布を測定することにより、性別と肌のトーンバイアスを評価する。
  論文  参考訳（メタデータ） (2022-02-08T18:36:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。