論文の概要: Multimodal Composite Association Score: Measuring Gender Bias in Generative Multimodal Models

• arxiv url: http://arxiv.org/abs/2304.13855v1
• Date: Wed, 26 Apr 2023 22:53:31 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-28 14:53:08.542754
• Title: Multimodal Composite Association Score: Measuring Gender Bias in Generative Multimodal Models
• Title（参考訳）: マルチモーダル複合アソシエーションスコア:生成的マルチモーダルモデルにおけるジェンダーバイアスの測定
• Authors: Abhishek Mandal, Susan Leavy, Suzanne Little
• Abstract要約: マルチモーダル・コンポジット・アソシエーション・スコア(MCAS)は,マルチモーダル・ジェネレーティブ・モデルにおいて,ジェンダーバイアスを測定する新しい手法である。 MCASは、様々なモダリティと様々な潜在的なバイアスを持つモデルの潜在的なバイアスを定量化する、アクセス可能でスケーラブルな方法である。
• 参考スコア（独自算出の注目度）: 6.369985818712948
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative multimodal models based on diffusion models have seen tremendous growth and advances in recent years. Models such as DALL-E and Stable Diffusion have become increasingly popular and successful at creating images from texts, often combining abstract ideas. However, like other deep learning models, they also reflect social biases they inherit from their training data, which is often crawled from the internet. Manually auditing models for biases can be very time and resource consuming and is further complicated by the unbounded and unconstrained nature of inputs these models can take. Research into bias measurement and quantification has generally focused on small single-stage models working on a single modality. Thus the emergence of multistage multimodal models requires a different approach. In this paper, we propose Multimodal Composite Association Score (MCAS) as a new method of measuring gender bias in multimodal generative models. Evaluating both DALL-E 2 and Stable Diffusion using this approach uncovered the presence of gendered associations of concepts embedded within the models. We propose MCAS as an accessible and scalable method of quantifying potential bias for models with different modalities and a range of potential biases.
• Abstract（参考訳）: 拡散モデルに基づく生成的マルチモーダルモデルは近年大きく成長し進歩している。 dall-eやstable diffusionといったモデルが普及し、テキストから画像を作成することに成功し、しばしば抽象的なアイデアを組み合わせるようになった。 しかし、他のディープラーニングモデルと同様に、トレーニングデータから受け継いだ社会的バイアスも反映している。 バイアスに対する手動の監査モデルは、非常に時間とリソースを消費し、これらのモデルが得る入力の非有界で制約のない性質によってさらに複雑になる。 バイアスの測定と定量化の研究は一般に、単一のモダリティを扱う小さな単段モデルに焦点が当てられている。 したがって、多段階マルチモーダルモデルの出現は異なるアプローチを必要とする。 本稿では,マルチモーダル生成モデルにおけるジェンダーバイアスを測定する新しい方法として,MCAS(Multimodal Composite Association Score)を提案する。 このアプローチを用いたDALL-E 2と安定拡散の評価により、モデル内に埋め込まれた概念の性的な関連が明らかになった。 本稿では,様々なモダリティを持つモデルに対する潜在的なバイアスの定量化手法としてMCASを提案する。

関連論文リスト

• What Matters for Model Merging at Scale? [94.26607564817786]
  モデルマージは、複数の専門家モデルとより有能な単一モデルを組み合わせることを目的としている。 これまでの研究は主に、いくつかの小さなモデルをマージすることに焦点を当ててきた。 本研究は,大規模モデルマージの有用性を体系的に評価する。
  論文  参考訳（メタデータ） (2024-10-04T17:17:19Z)
• Learning Multimodal Latent Generative Models with Energy-Based Prior [3.6648642834198797]
  EBMに潜時生成モデルを統合する新しいフレームワークを提案する。 このアプローチは、より表現力があり、情報的であり、複数のモダリティにまたがる情報のより良いキャプチャをもたらす。
  論文  参考訳（メタデータ） (2024-09-30T01:38:26Z)
• Diffusion Models For Multi-Modal Generative Modeling [32.61765315067488]
  本稿では,共通拡散空間における統一多モード拡散モデルを構築することにより,拡散モデルを定義するための原理的手法を提案する。 本稿では,画像遷移,マスクイメージトレーニング,共同画像ラベル,共同画像表現生成モデリングなどのフレームワークを検証するために,複数のマルチモーダル生成設定を提案する。
  論文  参考訳（メタデータ） (2024-07-24T18:04:17Z)
• EMR-Merging: Tuning-Free High-Performance Model Merging [55.03509900949149]
  Elect, Mask & Rescale-Merging (EMR-Merging) は既存のマージ手法と比較して優れた性能を示した。 EMR-Mergingはチューニング不要なので、データアベイラビリティや追加のトレーニングは必要ありません。
  論文  参考訳（メタデータ） (2024-05-23T05:25:45Z)
• MAFIA: Multi-Adapter Fused Inclusive LanguAge Models [13.793816113015513]
  プレトレーニング言語モデル(PLM)は、様々なタスクでNLPで広く使われている。 近年の研究では、そのようなモデルが示す様々なバイアスを特定し、これらのバイアスを修正する方法を提案している。 本稿では,様々な社会的バイアスの相乗効果を活用し,同時にマルチバイアス・デバイアスを可能にするデバイアスモデルを提案する。
  論文  参考訳（メタデータ） (2024-02-12T09:41:00Z)
• Dataless Knowledge Fusion by Merging Weights of Language Models [51.8162883997512]
  微調整された事前学習言語モデルは、下流のNLPモデルを構築するための主要なパラダイムとなっている。 これは、より優れた単一モデルを生み出すために、個々のモデル間で知識を融合させる障壁を生み出します。 パラメータ空間のモデルをマージするデータレス知識融合法を提案する。
  論文  参考訳（メタデータ） (2022-12-19T20:46:43Z)
• Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
  現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。 本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。 次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
  論文  参考訳（メタデータ） (2020-10-25T18:51:15Z)
• Relating by Contrasting: A Data-efficient Framework for Multimodal Generative Models [86.9292779620645]
  生成モデル学習のための対照的なフレームワークを開発し、モダリティ間の共通性だけでなく、「関連」と「関連しない」マルチモーダルデータの区別によってモデルを訓練することができる。 提案手法では, 生成モデルを用いて, 関係のないサンプルから関連サンプルを正確に識別し, ラベルのない多モードデータの利用が可能となる。
  論文  参考訳（メタデータ） (2020-07-02T15:08:11Z)
• MHVAE: a Human-Inspired Deep Hierarchical Generative Model for Multimodal Representation Learning [8.70928211339504]
  表現学習のための階層型マルチモーダル生成モデルであるMHVAE(Multimodal Hierarchical Vari Auto-Encoder)をコントリビュートする。 人間の認知モデルにインスパイアされたMHVAEは、モダリティ固有の分布と、モダリティ間の推論に責任を持つ共同モダリティ分布を学習することができる。 本モデルは,任意の入力モダリティと相互モダリティ推定による共同モダリティ再構成に関する他の最先端生成モデルと同等に機能する。
  論文  参考訳（メタデータ） (2020-06-04T16:24:00Z)
• When Ensembling Smaller Models is More Efficient than Single Large Models [52.38997176317532]
  アンサンブルは高い精度で単一モデルより優れており、計算に要する総FLOPは少ない。 これは、アンサンブルの出力の多様性がより大きなモデルを訓練するよりも効率的であることを示す興味深い観察結果である。
  論文  参考訳（メタデータ） (2020-05-01T18:56:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。