論文の概要: Going PLACES: Participatory Localized Red Teaming for Text-to-Image Safety in the Global South
- arxiv url: http://arxiv.org/abs/2605.19190v1
- Date: Mon, 18 May 2026 23:34:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.028722
- Title: Going PLACES: Participatory Localized Red Teaming for Text-to-Image Safety in the Global South
- Title（参考訳）: Going PLACES: グローバル・サウスにおけるテキスト・ツー・イメージ・セーフティのための参加型ローカライズド・レッドチーム
- Abstract要約: テキスト・ツー・イメージ(T2I)モデルは、主に西洋中心のデフォルトに調整され、世界の他の地域にとって重大な脆弱性を生み出している。
文化的多元主義を取り入れ,T2Iの安全性において歴史的に過小評価された視点をもたらすため,我々はグローバル・サウスでコミュニティ中心のレッド・チーム研究を行っている。
ガーナ、ナイジェリア、インドの2つの大学と連携して収集された26,000以上のT2Iモデル故障例からなるデータセットを提案する。
- 参考スコア（独自算出の注目度）: 17.048182455492896
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite the global deployment of text-to-image (T2I) models, their safety frameworks are largely calibrated to a Western-centric default, creating significant vulnerabilities for the rest of the world. To embrace cultural pluralism and bring historically under-represented perspectives in T2I safety, we conduct localised community-centered red teaming studies in the Global South. Our two-fold approach prioritizes localization and participation, by focusing on secondary urban centers in these regions, and conducting community engagement and training workshops to contextualize local norms. As a result, we present PLACES, a dataset comprising over 26,000 examples of T2I model failures collected in partnership with universities in Ghana, Nigeria, and two regions of India (Karnataka and Punjab). Analysis of prompts collected reveals a wide-ranging diversity in socio-cultural and linguistic attributes, when compared to existing geography-agnostic crowdsourced red-teaming data. We observe unique adversarial patterns enabled by local cultural and linguistic nuances, and distinct clusters within region around specific themes, such as religion in India. Moreover, we uncover structural contextual gaps in existing safety frameworks by identifying novel harms showing normative dissonance (e.g., violating religious norms, ignoring local customs, and ominous symbolism). This work argues that expanding T2I safety requires moving beyond mere scale to incorporate deeply localised, participatory methodologies for data collection and contextualization. Content warning: This paper includes examples containing potentially harmful or offensive content.
- Abstract（参考訳）: T2I(text-to-image)モデルが世界中に展開されているにもかかわらず、それらの安全性フレームワークは、主に西洋中心のデフォルトに調整されており、世界の他の部分にとって重大な脆弱性を生み出している。
文化的多元主義を取り入れ,T2Iの安全性に歴史的に過小評価された視点をもたらすため,グローバル・サウスにおいて地域化コミュニティ中心のレッド・チームリング研究を実施している。
この2つのアプローチは、地域化と参加を優先し、これらの地域の二次都市中心に焦点をあて、地域規範を文脈化するためのコミュニティエンゲージメントとトレーニングワークショップを実施している。
その結果,ナイジェリアのガーナ大学とインドの2つの地域(カルナタカ大学とパンジャブ大学)と連携して収集された26,000以上のT2Iモデル故障のサンプルからなるPLACESを提示した。
収集したプロンプトの分析は、既存の地理に依存しないクラウドソースのレッドチームデータと比較して、社会文化的・言語的属性の幅広い多様性を明らかにしている。
現地の文化的・言語的ニュアンスによって実現された独自の対立パターンと、インドの宗教など特定のテーマを取り巻く地域内の異なるクラスターを観察する。
さらに, 規範的不協和を示す新しい害(例えば, 宗教規範の違反, 地域風習の無視, 不吉な象徴)を識別することで, 既存の安全枠組みにおける構造的文脈ギャップを明らかにする。
この研究は、T2Iの安全性を拡大するためには、データ収集とコンテキスト化のための深く局所化された参加型の方法論を組み込むため、単なるスケールを超えて移動する必要がある、と論じている。
コンテンツ警告: 本論文は、潜在的に有害または攻撃的なコンテンツを含む例を含む。
関連論文リスト
- SurakshaEval: An Indic Safety Benchmark for Multilingual LLMs [56.34354368047577]
既存の言語モデル(LLM)の安全性評価データセットは、主に英語と西洋の文脈に焦点を当てている。
現実世界のシナリオにまたがる人書きプロンプトで構成される新しい安全ベンチマークであるSurakshaEvalを紹介する。
我々は、SurakshaEval上で最先端のLLMをベンチマークし、ベースライン安全性能を確立し、繰り返し発生する障害モードを特定する。
論文 参考訳（メタデータ） (2026-08-08T02:03:33Z) - Pluralis v0.1: Towards a Multicultural, Multimodal, Multilingual Benchmark for AI Risk and Reliability [46.80780735011334]
現在のAIの安全性評価とベンチマークフレームワークは、重要な地域法、社会言語的ニュアンス、文化タブーを隠蔽する西洋中心の文化非依存のデフォルトに依存している。
Pluralis v0.1は、文化第一の観点から構築された、新しいマルチモーダル、マルチリージョン、マルチ言語データセットである。
論文 参考訳（メタデータ） (2026-07-07T12:21:52Z) - Mind the Gap: Pitfalls of LLM Alignment with Asian Public Opinion [8.443928474148114]
大規模言語モデル(LLM)は、多言語で多文化的な設定で徐々に展開されている。
本研究は、宗教のセンシティブな領域を、より広いアライメントのためのプリズムとして重視する。
一般的なモデルは一般に広い社会問題に関する世論と一致しているが、宗教的視点を正確に表現することができない。
論文 参考訳（メタデータ） (2026-03-06T13:29:54Z) - Multilingual Text-to-Image Person Retrieval via Bidirectional Relation Reasoning and Aligning [81.43257201833154]
言語やモダリティ間のアライメントを学習するための双方向命令関係推論およびアライニングフレームワークBi-IRRAを提案する。
Bi-IRRA内において、双方向暗黙的関係推論モジュールは、マスクされた画像とテキストの双方向予測を可能にする。
提案手法は,すべての多言語TIPRデータセットに対して,新しい最先端結果を実現する。
論文 参考訳（メタデータ） (2025-10-20T16:01:11Z) - MINGLE: VLMs for Semantically Complex Region Detection in Urban Scenes [49.89767522399176]
公共空間におけるグループレベルの社会的相互作用は都市計画に不可欠である。
対人関係によって定義された視覚領域の推測と空間的接地を必要とする社会集団領域検出タスクを導入する。
本稿では,人間検出と深度推定を統合したモジュール型3段階パイプラインであるMINGLEと,ソーシャルアフィリエイトを相互に分類するVLMベースの推論と,ソーシャルに連結したグループを局所化する軽量な空間アグリゲーションアルゴリズムを提案する。
そこで本稿では,個人と社会的に相互作用するグループの両方に対して,境界ボックスとラベルを付加した100万の街路ビュー画像のデータセットを提案する。
論文 参考訳（メタデータ） (2025-09-16T19:31:40Z) - Mind the Gesture: Evaluating AI Sensitivity to Culturally Offensive Non-Verbal Gestures [67.89565097372751]
ジェスチャーは非言語コミュニケーションの不可欠な部分であり、文化によって異なる意味を持つ。
AIシステムがよりグローバルなアプリケーションに統合されるにつれて、文化的な犯罪が必然的に持続しないことが重要になります。
攻撃性,文化的意義,文脈的要因を付加した288のジェスチャー・カントリーペアのデータセットであるMC-SIGNS(Multi-Cultural Set of In appropriate Gestures and Nonverbal Signs)を紹介する。
論文 参考訳（メタデータ） (2025-02-24T23:10:08Z) - Do Generative AI Models Output Harm while Representing Non-Western Cultures: Evidence from A Community-Centered Approach [8.805524738976073]
本研究では,生成人工知能(GAI)モデル,特にテキスト・ツー・イメージ・ジェネレータ(T2Is)が非西洋文化の表現に与える影響について検討する。
論文 参考訳（メタデータ） (2024-07-20T07:01:37Z) - Against The Achilles' Heel: A Survey on Red Teaming for Generative Models [60.21722603260243]
120以上の論文を調査し,言語モデル固有の能力に根ざした,きめ細かい攻撃戦略の分類を導入した。
我々は、様々な自動レッドチーム化アプローチを統合するために、"searcher"フレームワークを開発した。
論文 参考訳（メタデータ） (2024-03-31T09:50:39Z) - SeeGULL Multilingual: a Dataset of Geo-Culturally Situated Stereotypes [18.991295993710224]
SeeGULLは、20の言語にまたがって、23のリージョンにわたる人間のアノテーションを備えた、グローバルにスケールした、ソーシャルステレオタイプの多言語データセットである。
論文 参考訳（メタデータ） (2024-03-08T22:09:58Z) - AI's Regimes of Representation: A Community-centered Study of
Text-to-Image Models in South Asia [18.308417975842058]
我々は、生産的なAIが、世界の力や地域の力の不平等によって形作られた南アジアの文化を見るために、外部の人が目を向けてどのように再現できるかを示す。
我々は,T2Iモデルの開発に責任を負うための授業を蒸留し,具体的な経路を推奨する。
論文 参考訳（メタデータ） (2023-05-19T17:35:20Z) - Broaden the Vision: Geo-Diverse Visual Commonsense Reasoning [49.04866469947569]
地理的・地理的・地理的な共通点を理解する視覚・言語モデルの能力をテストするために,Geo-Diverse Visual Commonsense Reasoning dataset(GD-VCR)を構築した。
その結果,東アジア,南アジア,アフリカを含む非西欧地域での両モデルの性能は,西欧地域に比べて著しく低いことがわかった。
論文 参考訳（メタデータ） (2021-09-14T17:52:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。