論文の概要: On the Fairness, Diversity and Reliability of Text-to-Image Generative Models

• arxiv url: http://arxiv.org/abs/2411.13981v1
• Date: Thu, 21 Nov 2024 09:46:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-22 15:20:22.050100
• Title: On the Fairness, Diversity and Reliability of Text-to-Image Generative Models
• Title（参考訳）: テキスト・画像生成モデルの公平性・多様性・信頼性について
• Authors: Jordan Vice, Naveed Akhtar, Richard Hartley, Ajmal Mian,
• Abstract要約: マルチモーダル生成モデルは 彼らの公正さ、信頼性、そして誤用の可能性について 批判的な議論を呼んだ 組込み空間における摂動に対する応答を通じてモデルの信頼性を評価するための評価フレームワークを提案する。 本手法は, 信頼できない, バイアス注入されたモデルを検出し, バイアス前駆体の検索を行うための基礎となる。
• 参考スコア（独自算出の注目度）: 49.60774626839712
• License:
• Abstract: The widespread availability of multimodal generative models has sparked critical discussions on their fairness, reliability, and potential for misuse. While text-to-image models can produce high-fidelity, user-guided images, they also exhibit unpredictable behavior and vulnerabilities, which can be exploited to manipulate class or concept representations. To address this, we propose an evaluation framework designed to assess model reliability through their responses to globally- and locally-applied `semantic' perturbations in the embedding space, pinpointing inputs that trigger unreliable behavior. Our approach offers deeper insights into two essential aspects: (i) generative diversity, evaluating the breadth of visual representations for learned concepts, and (ii) generative fairness, examining how removing concepts from input prompts affects semantic guidance. Beyond these evaluations, our method lays the groundwork for detecting unreliable, bias-injected models and retrieval of bias provenance. We will release our code. Keywords: Fairness, Reliability, AI Ethics, Bias, Text-to-Image Models
• Abstract（参考訳）: マルチモーダル生成モデルの普及は、その公正性、信頼性、誤用の可能性に関する批判的な議論を引き起こしている。 テキスト・ツー・イメージ・モデルは高忠実でユーザガイドの画像を生成することができるが、予測不可能な振る舞いや脆弱性も示しており、クラスや概念表現を操作するために利用することができる。 そこで本研究では,グローバルおよびローカルに応用された「セマンティック」な摂動に対する応答からモデル信頼性を評価するための評価フレームワークを提案し,信頼できない動作を誘発する入力をピンポイントする。 私たちのアプローチは2つの重要な側面について深い洞察を与えます。 一 生成多様性、学習概念の視覚表現の幅、及び (2) 入力プロンプトから概念を除去する手法が意味指導にどのように影響するかを調べる。 これらの評価の他に,本手法は信頼できないバイアス注入モデルの検出とバイアス前駆体の検索の基礎となる。 私たちはコードを公開します。 キーワード:公正さ、信頼性、AI倫理、バイアス、テキスト・ツー・イメージモデル

関連論文リスト

• Text-to-Image Representativity Fairness Evaluation Framework [0.42970700836450487]
  本稿では,テキスト・ツー・イメージ(TTI)表現性評価フレームワークを提案する。 本稿では,TTIシステムの多様性,包摂性,品質の3つの側面を評価する。 安定拡散に関する我々のフレームワークの評価は、このフレームワークがTTIシステムのバイアスを効果的に捉えることができることを示している。
  論文  参考訳（メタデータ） (2024-10-18T06:31:57Z)
• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Six-CD: Benchmarking Concept Removals for Benign Text-to-image Diffusion Models [58.74606272936636]
  テキスト・ツー・イメージ(T2I)拡散モデルは、テキスト・プロンプトと密接に対応した画像を生成する際、例外的な機能を示す。 モデルは、暴力やヌードの画像を生成したり、不適切な文脈で公共の人物の無許可の肖像画を作成するなど、悪意ある目的のために利用することができる。 悪質な概念や望ましくない概念の発生を防ぐために拡散モデルを変更する概念除去法が提案されている。
  論文  参考訳（メタデータ） (2024-06-21T03:58:44Z)
• I Bet You Did Not Mean That: Testing Semantic Importance via Betting [8.909843275476264]
  我々は、条件付き独立性を用いて不透明モデルの予測に対する意味論的概念のグローバル(すなわち人口以上)とローカル(すなわちサンプル)の統計的重要性を定式化する。 我々は、シーケンシャルなカーネル化独立テストという最近の考え方を用いて、概念間の重要度を誘導し、我々のフレームワークの有効性と柔軟性を示す。
  論文  参考訳（メタデータ） (2024-05-29T14:51:41Z)
• Evaluating Text-to-Image Generative Models: An Empirical Study on Human Image Synthesis [21.619269792415903]
  本稿では,テキスト・ツー・イメージ(T2I)生成モデルのためのニュアンス評価フレームワークを提案する。 まず,美学やリアリズムといったイメージの質に着目し,第2に,概念的カバレッジと公平性を通じてテキスト条件を検証した。
  論文  参考訳（メタデータ） (2024-03-08T07:41:47Z)
• Bridging Generative and Discriminative Models for Unified Visual Perception with Diffusion Priors [56.82596340418697]
  本稿では,豊富な生成前駆体を含む事前学習型安定拡散(SD)モデルと,階層的表現を統合可能な統一型ヘッド(Uヘッド)と,識別前駆体を提供する適応型専門家からなる,シンプルで効果的なフレームワークを提案する。 包括的調査では、異なる時間ステップで潜伏変数に隠された知覚の粒度や様々なU-netステージなど、バーマスの潜在的な特性が明らかになった。 有望な結果は,有望な学習者としての拡散モデルの可能性を示し,情報的かつ堅牢な視覚表現の確立にその意義を定めている。
  論文  参考訳（メタデータ） (2024-01-29T10:36:57Z)
• Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization [73.89239820192894]
  自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。 本稿では, 対実例生成のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-20T15:02:53Z)
• Trusted Multi-View Classification with Dynamic Evidential Fusion [73.35990456162745]
  信頼型マルチビュー分類(TMC)と呼ばれる新しいマルチビュー分類アルゴリズムを提案する。 TMCは、様々な視点をエビデンスレベルで動的に統合することで、マルチビュー学習のための新しいパラダイムを提供する。 理論的および実験的結果は、精度、堅牢性、信頼性において提案されたモデルの有効性を検証した。
  論文  参考訳（メタデータ） (2022-04-25T03:48:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。