論文の概要: Physiognomy Revisited: How Vision-Language Models Encode Sensitive Attributes Through Image Transformation

• arxiv url: http://arxiv.org/abs/2610.35910v1
• Date: Tue, 06 Oct 2026 17:00:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 06:06:26.156589
• Title: Physiognomy Revisited: How Vision-Language Models Encode Sensitive Attributes Through Image Transformation
• Title（参考訳）: 視覚言語モデルによるイメージ変換による感性属性のエンコード方法
• Abstract要約: 視覚言語モデル(VLM)は、画像を生成しながら保護されたアイデンティティを符号化する。 コンプライアンス(および拒絶)は非決定論的であり、グループ感受性であり、生成した画像は統計的に識別可能であることを示す。 この恐ろしい発見は、人種的アイデンティティや性的指向に限らず、画像生成は犯罪に関する偏見を永続させる可能性がある。
• 参考スコア（独自算出の注目度）: 21.40667226682154
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Emergent generative AI technologies, while remarkably beneficial across several tasks and domains, can suffer from unforeseen vulnerabilities and difficult-to-anticipate failure modes. Such failure modes can disparately affect vulnerable communities. This paper investigates two well-known vision language models (VLMs) and inspects how these models encode protected identities while generating images. We show that when VLMs are requested to transform human face images to reflect race identities (e.g., Hispanic, Black, White, or Asian) and sexual orientation (e.g., gay or straight), VLMs often comply with such requests. We demonstrate that compliance (and refusal) is non-deterministic, group-sensitive, and generated images are statistically distinguishable, often accentuating deep-seated stereotypes. We further show that representation biases introduced during image generation can re-emerge in textual reasoning and characterization tasks. Finally, we show that this worrisome finding is not limited to racial identity or sexual orientation, image generation can perpetuate bias around criminality, raising concerning possibilities of AI-assisted profiling.
• Abstract（参考訳）: 創発的な生成AI技術は、いくつかのタスクやドメインで非常に有益であるが、予期せぬ脆弱性と予測できない障害モードに悩まされる可能性がある。 このような障害モードは、脆弱なコミュニティに異なる影響を与える可能性がある。 本稿では、2つのよく知られた視覚言語モデル(VLM)について検討し、これらのモデルがどのように保護されたアイデンティティを符号化し、画像を生成するかを検討する。 人種のアイデンティティ(例えばヒスパニック系、黒人系、白人系、アジア系)や性的指向(例えばゲイ系、ストレート系)を反映するために、VLMが人間の顔画像を変換するよう要求された場合、VLMはそのような要求によく従う。 我々は、コンプライアンス(および拒絶)が非決定論的で、グループに敏感で、生成された画像は統計的に識別可能であり、しばしば深層ステレオタイプをアクセントすることを示した。 さらに、画像生成時に導入された表現バイアスが、テキスト推論や特徴付けタスクに再帰することを示す。 最後に、この恐ろしい発見は人種的アイデンティティや性的指向に限らず、画像生成は犯罪に関する偏見を持続させ、AIによるプロファイリングの可能性を高めることができることを示す。

関連論文リスト

• Measuring Social Bias in Vision-Language Models with Face-Only Counterfactuals from Real Photos [79.03150233804458]
  現実のイメージは人種と性別を混在させ、背景や衣服などの関連要因や属性を隠蔽する。 テキストのみの対実的評価パラダイムを提案する。 我々は、人種や性別に関連する顔属性のみを編集し、他の視覚的要素を全て固定することで、反事実的変異を生成する。
  論文  参考訳（メタデータ） (2026-01-11T14:35:06Z)
• Transferable Adversarial Attacks on Black-Box Vision-Language Models [63.22532779621001]
  敵対的攻撃は、テキストのみのコンテキストとビジョンのみのコンテキストにおいて、オープンソースからプロプライエタリなブラックボックスモデルに移行することができる。 攻撃者は、特定の攻撃者による視覚情報の解釈を誘導するために、摂動を作れます。 普遍的な摂動 -- 広い範囲のイメージに適用可能な修正 -- は、これらの誤解釈を一貫して引き起こすことを発見した。
  論文  参考訳（メタデータ） (2025-05-02T06:51:11Z)
• ID-Guard: A Universal Framework for Combating Facial Manipulation via Breaking Identification [60.73617868629575]
  深層学習に基づく顔操作の誤用は、公民権に重大な脅威をもたらす。 この不正行為を防止するため、操作過程を妨害する積極的な防御法が提案されている。 本稿では,IDガード(ID-Guard)と呼ばれる顔の操作に対処するための普遍的な枠組みを提案する。
  論文  参考訳（メタデータ） (2024-09-20T09:30:08Z)
• Anonymization Prompt Learning for Facial Privacy-Preserving Text-to-Image Generation [56.46932751058042]
  我々は、テキストから画像への拡散モデルのための学習可能なプロンプトプレフィックスをトレーニングし、匿名化された顔のアイデンティティを生成するよう強制する。 実験では,非同一性固有の画像生成の品質を損なうことなく,特定の個人を匿名化するAPLの匿名化性能を実証した。
  論文  参考訳（メタデータ） (2024-05-27T07:38:26Z)
• Face Encryption via Frequency-Restricted Identity-Agnostic Attacks [25.198662208981467]
  悪意あるコレクターは、生体情報を簡単に盗むためにディープフェイス認識システムを使用します。 非許可の顔認識から顔画像を暗号化するための周波数制限ID非依存(FRIA)フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-11T07:38:46Z)
• Stereotypes and Smut: The (Mis)representation of Non-cisgender Identities by Text-to-Image Models [6.92043136971035]
  マルチモーダルモデルが男女同一性をどのように扱うかを検討する。 特定の非シスジェンダーのアイデンティティは、人間より少なく、ステレオタイプで、性的にも、一貫して(ミス)表現されている。 これらの改善は、影響のあるコミュニティによって変革が導かれる未来への道を開く可能性がある。
  論文  参考訳（メタデータ） (2023-05-26T16:28:49Z)
• Easily Accessible Text-to-Image Generation Amplifies Demographic Stereotypes at Large Scale [61.555788332182395]
  危険で複雑なステレオタイプを増幅する機械学習モデルの可能性を検討する。 さまざまな通常のプロンプトがステレオタイプを生成しており、それらは単に特性、記述子、職業、オブジェクトに言及するプロンプトを含む。
  論文  参考訳（メタデータ） (2022-11-07T18:31:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。