論文の概要: SpinDoctor: Finding Innocuous Prompts for Biased Image Generation

• arxiv url: http://arxiv.org/abs/2610.23925v1
• Date: Tue, 06 Oct 2026 15:09:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 15:32:39.597722
• Title: SpinDoctor: Finding Innocuous Prompts for Biased Image Generation
• Title（参考訳）: SpinDoctor: バイアス画像生成のための無害なプロンプトを見つける
• Abstract要約: 我々はSpinDoctorを紹介した。これは、ターゲットバイアスが選択された画像を生成するテキスト・画像モデルのための無害なプロンプトを見つける方法である。 我々の手法は柔軟であり、ブラックボックス方式でのみモデルを使用し、ターゲット画像のバイアスを簡単に変更することができる。
• 参考スコア（独自算出の注目度）: 21.169335719172658
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We introduce SpinDoctor, a method for discovering innocuous prompts for text-to-image models that result in images with a chosen target bias, while retaining the quality of the images and prompts. These prompts present a risk for user manipulation, in that a user who is given these seemingly unbiased prompts might be willing to use them and would receive biased images in return. Our method is flexible: it uses models in a black-box way only and the target image bias can easily be changed, and so our method can be applied with various motivations and in various scenarios. Our method shows some transferability between models-we saw the same bias emerge in 78.6% of cases-such that a victim who uses a prompt generated via our method using one model still likely receives a biased image from another model. In our experiments, a subset of which we corroborated with human evaluation, we were able to find an innocuous prompt that moved generated images in the direction of the desired bias in all but two of 304 experiments, with an average improvement of 34.8% and 33.5% on two open-source text-to-image models.
• Abstract（参考訳）: 本研究では,画像とプロンプトの品質を維持しつつ,選択した対象バイアスのある画像を生成するテキスト・ツー・イメージ・モデルの無害なプロンプトを発見する手法であるSpinDoctorを紹介する。 これらのプロンプトは、一見バイアスのないプロンプトを与えられたユーザが、それらを喜んで使用し、見返りにバイアスのあるイメージを受け取る、という、ユーザ操作のリスクを示す。 提案手法は,ブラックボックス方式でのみモデルを用いており,対象画像のバイアスを簡単に変更できるため,様々な動機付けや様々なシナリオで適用することができる。 本手法では, モデル間での転送可能性を示す。78.6%のケースにおいて, 同じバイアスが出現した。 人間の評価と相関した実験では、304実験のうち2つの実験を除いて、生成した画像を所望のバイアスの方向に移動させる無害なプロンプトが見つかった。

関連論文リスト

• MineTheGap: Automatic Mining of Biases in Text-to-Image Models [34.34264237099797]
  テキスト・ツー・イメージ(TTI)モデルは、テキスト・プロンプトに基づいて画像を生成する。 これらのバイアスは、例えば、ある特定の職業に対してのみ特定の人種を示すときに、社会的影響をもたらす可能性がある。 ここでは、TTIモデルがバイアス出力を生成する原因となるプロンプトを自動的にマイニングする手法であるMineTheGapを紹介する。
  論文  参考訳（メタデータ） (2025-12-15T15:17:02Z)
• Inference Time Debiasing Concepts in Diffusion Models [1.7802455837461122]
  テキストから画像への拡散に基づくモデルのデバイアス化手法であるDeCoDiを提案する。 画像品質は著しく変化せず、計算オーバーヘッドも無視でき、拡散ベースの画像生成モデルにも適用できる。 看護師,消防士,CEOという概念に対して,性別,民族,年齢を嫌悪する手法の有効性を示す。
  論文  参考訳（メタデータ） (2025-08-19T20:21:02Z)
• AutoDebias: Automated Framework for Debiasing Text-to-Image Models [6.581606189725493]
  テキスト・ツー・イメージ(T2I)モデルはテキスト・プロンプトから高品質な画像を生成するが、しばしば意図しない社会的偏見を示す。 本稿では,T2Iモデルにおける有害バイアスを自動的に識別・緩和するフレームワークであるAutoDebiasを提案する。 このフレームワークを25以上のバイアスシナリオをカバーするベンチマークで評価する。
  論文  参考訳（メタデータ） (2025-08-01T09:05:45Z)
• Using LLMs as prompt modifier to avoid biases in AI image generators [0.0]
  LLM(Large Language Models)は、ユーザプロンプトを変更することで、テキストから画像生成システムにおけるバイアスを低減する。 安定拡散XL, 3.5, Fluxを用いた実験により, LLMを修飾したプロンプトは, 画像生成装置自体を変更することなく, 画像の多様性を著しく向上し, バイアスを低減できることが示された。
  論文  参考訳（メタデータ） (2025-04-15T11:52:20Z)
• Word-Level Explanations for Analyzing Bias in Text-to-Image Models [72.71184730702086]
  Text-to-image(T2I)モデルは、人種や性別に基づいて少数派を過小評価する画像を生成することができる。 本稿では,入力プロンプトのどの単語が生成画像のバイアスの原因となるかを検討する。
  論文  参考訳（メタデータ） (2023-06-03T21:39:07Z)
• Mitigating Test-Time Bias for Fair Image Retrieval [18.349154934096784]
  我々は、中立なテキストクエリにより、公平で偏りのない画像検索結果を生成するという課題に対処する。 本稿では,事前学習した視覚言語モデルから出力を後処理する簡単な手法であるポストホックバイアス緩和手法を提案する。 提案手法は,テキストによる画像検索結果において,既存の様々なバイアス軽減手法と比較して,最も低いバイアスを実現する。
  論文  参考訳（メタデータ） (2023-05-23T21:31:16Z)
• Discovering and Mitigating Visual Biases through Keyword Explanation [66.71792624377069]
  視覚バイアスをキーワードとして解釈するBias-to-Text(B2T)フレームワークを提案する。 B2Tは、CelebAの性別バイアス、ウォーターバードの背景バイアス、ImageNet-R/Cの分布シフトなど、既知のバイアスを特定することができる。 B2Tは、Dollar StreetやImageNetのような大きなデータセットで、新しいバイアスを明らかにする。
  論文  参考訳（メタデータ） (2023-01-26T13:58:46Z)
• Spuriosity Rankings: Sorting Data to Measure and Mitigate Biases [62.54519787811138]
  本稿では,突発的手がかりに依存したモデルバイアスを簡易かつ効果的に測定・緩和する手法を提案する。 我々は,解釈可能なネットワークの深部神経的特徴をベースとして,それらのクラス内の画像のランク付けを行う。 以上の結果から,素早い特徴依存によるモデルバイアスは,モデルがどのようにトレーニングされたかよりも,モデルがトレーニングされていることの影響がはるかに大きいことが示唆された。
  論文  参考訳（メタデータ） (2022-12-05T23:15:43Z)
• InsideBias: Measuring Bias in Deep Networks and Application to Face Gender Biometrics [73.85525896663371]
  この研究は、ディープニューラルネットワークアーキテクチャに基づく学習プロセスのバイアスについて検討する。 一般的なディープニューラルネットワークに基づく2つの性別検出モデルを採用している。 バイアスモデルを検出する新しい手法であるInsideBiasを提案する。
  論文  参考訳（メタデータ） (2020-04-14T15:20:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。