論文の概要: Queering the Audits: Community-Based Auditing of AI Harms to Queer Communities

• arxiv url: http://arxiv.org/abs/2611.00345v1
• Date: Fri, 30 Oct 2026 20:26:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.397238
• Title: Queering the Audits: Community-Based Auditing of AI Harms to Queer Communities
• Title（参考訳）: オーディットのクェア - コミュニティベースのAIハームによるコミュニティのクェア・コミュニティへの監査
• Abstract要約: AIシステムは、マジョリティグループのデフォルトをトレーニングデータ、評価メトリクス、カテゴリ定義に組み込んで、クイアコミュニティのためのドキュメント化された害を生み出す。 標準的な技術監査は、しばしば総合的な措置に頼っており、影響のあるコミュニティの生きた経験を通してのみ見られる害を検出することはできない。 我々はEurIPS 2025で参加型オーディニングワークショップを行い,16人のクイアコミュニティメンバーが4つのケーススタディを4Cの有害分類を用いて実施した。
• 参考スコア（独自算出の注目度）: 19.63647560683443
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI systems embed majority-group defaults into training data, evaluation metrics, and category definitions, producing documented harms for queer communities including erasure, misclassification, and discrimination. Standard technical audits often rely on aggregate measures and cannot detect harms that be come visible only through the lived experience of affected communities. We conducted a participatory auditing workshop at EurIPS 2025 where 16 queer community members audited four case studies using the 4Cs harm taxonomy (Content, Conduct, Contact, Contract) applied across the AI lifecycle. Participants used structured worksheets and plenary synthesis to classify harms and trace them to their origins in the development pipeline. Across all four cases, participants traced harms to problem definition and data collection, and they identified contractual structures that extract value from vulnerable populations while providing minimal recourse. These findings illustrate that community-informed auditing surfaces concrete, identity-specific harms that aggregate evaluation methods risk overlooking.
• Abstract（参考訳）: AIシステムは、多数グループのデフォルトをトレーニングデータ、評価指標、カテゴリ定義に組み込んで、消去、誤分類、差別を含むクイアコミュニティの文書化された害を生み出す。 標準的な技術監査は、しばしば総合的な措置に頼っており、影響のあるコミュニティの生きた経験を通してのみ見られる害を検出することはできない。 我々はEurIPS 2025で参加型オーディニングワークショップを実施し,4Cの有害分類(Content, Conduct, Contact, Contract)をAIライフサイクル全体に適用した4つのケーススタディを16名を対象に実施した。 参加者は構造化ワークシートとプレナリー合成を使用して害を分類し、開発パイプラインの原点まで追跡した。 4つのケースで、参加者は問題定義とデータ収集に害を及ぼし、弱い集団から価値を抽出し、最小限のリコースを提供しながら、契約構造を特定した。 これらの結果から, コミュニティインフォームド・オーディショニングは, 具体的な, アイデンティティ特異的な害を伴い, 評価手法が見落とされがちであることが示唆された。

関連論文リスト

• An Open Pipeline and Dashboard for Systemic-Risk Evidence under the EU AI Act's Code of Practice [9.104733371429601]
  Systemic Risk Indexはオープンな評価パイプラインとダッシュボードで、経験的エビデンスをより透明で、一般に追跡可能にする。 我々の研究は、19の公開ベンチマークを、EU GPAI Code of Practiceによって定義された4つのシステムリスクカテゴリにまとめています。 インタラクティブダッシュボードでは、平均的なアグリゲーションと最悪のアグリゲーションを切り替え、モデルの能力がアグリゲーションスコアにどのように影響するかを変更し、各リスク評価をベンチマークエビデンスにトレースすることができる。
  論文  参考訳（メタデータ） (2026-09-23T16:13:36Z)
• Boundary-targeted Membership Inference Attacks on Safety Classifiers [70.20833439671131]
  安全分類器は、セルフハームとメンタルヘルスの議論を含むセンシティブなデータセットに基づいて訓練される。 低信頼例を識別する新たな境界目標選択戦略を導入する。 実験により、相手は会話の19%を安全分類器が5%の偽陽性率でユーザーの苦痛を示すようにフラグ付けして回復できることが示された。 これは最先端のMIAメソッドだけで攻撃するより3.5ドル高い。
  論文  参考訳（メタデータ） (2026-05-21T12:05:22Z)
• Agents of Chaos [50.53354213047402]
  実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。 我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
  論文  参考訳（メタデータ） (2026-02-23T16:28:48Z)
• Challenges of Evaluating LLM Safety for User Welfare [0.3749446315124487]
  ユーザコンテキストを考慮した評価設計におけるユーザコンテキストの説明に関する根本的な疑問から,ユーザインタフェースの安全性評価の開発は簡単ではない,と我々は主張する。 我々は,GPT-5,Claude Sonnet 4,Gemini 2.5 Proから,さまざまな脆弱性のユーザプロファイルを通じて,財務と健康に関するアドバイスを評価した。 我々の研究は、多様なユーザプロファイルに対する応答を評価するために、効果的なユーザ・ウェルフェアの安全性評価が必要であることを証明している。
  論文  参考訳（メタデータ） (2025-12-11T14:34:40Z)
• Large Language Models' Complicit Responses to Illicit Instructions across Socio-Legal Contexts [54.15982476754607]
  大規模言語モデル(LLM)が前例のない規模に展開され、毎日のタスクで数百万のユーザを支援している。 本研究は、複雑なファシリテーションを、不正なユーザ指示を可能にするガイダンスやサポートの提供として定義する。 実世界の訴訟と確立された法的枠組みを用いて、269件の違法なシナリオと50件の違法な意図にまたがる評価ベンチマークを構築した。
  論文  参考訳（メタデータ） (2025-11-25T16:01:31Z)
• SORRY-Bench: Systematically Evaluating Large Language Model Safety Refusal [64.9938658716425]
  SORRY-Benchは、安全でないユーザ要求を認識し拒否する大規模言語モデル(LLM)能力を評価するためのベンチマークである。 まず、既存の手法では、安全でないトピックの粗い分類を使い、いくつかのきめ細かいトピックを過剰に表現している。 第二に、プロンプトの言語的特徴とフォーマッティングは、様々な言語、方言など、多くの評価において暗黙的にのみ考慮されているように、しばしば見過ごされる。
  論文  参考訳（メタデータ） (2024-06-20T17:56:07Z)
• Bound by the Bounty: Collaboratively Shaping Evaluation Processes for Queer AI Harms [14.872177285434999]
  我々は、クイアコミュニティに対して、彼らの立場と、監査プロセスへの欲求について尋ねる。 我々は,批判的,偏見的な報奨金に関する参加ワークショップを開催した。 我々は、報奨金のコミュニティ所有を提唱し、報奨金を参加プロセスで補完することで締めくくる。
  論文  参考訳（メタデータ） (2023-07-15T00:49:45Z)
• Measuring Fairness Under Unawareness of Sensitive Attributes: A Quantification-Based Approach [131.20444904674494]
  センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。 定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
  論文  参考訳（メタデータ） (2021-09-17T13:45:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。