論文の概要: Not Safe for All: Auditing the Dialect Penalty in Text-to-Image Safety Pipelines

• arxiv url: http://arxiv.org/abs/2608.29589v1
• Date: Sun, 30 Aug 2026 06:19:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.013821
• Title: Not Safe for All: Auditing the Dialect Penalty in Text-to-Image Safety Pipelines
• Title（参考訳）: 安全ではない:テキストから画像への安全パイプラインにおけるディレクトペナルティの検証
• Abstract要約: テキスト・トゥ・イメージ(T2I)の安全ガードレールは、標準でない方言に等しく一般化することができない。 我々はこの失敗を方言のペナルティとして定式化し、フィルタは意味的意図ではなく言語表面の特徴に基づいて引き起こす。 現在のパイプラインは、平均精度ベンチマークによって隠蔽された公平な失敗である方言話者を体系的に失敗する。
• 参考スコア（独自算出の注目度）: 27.330994245022698
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text-to-image (T2I) safety guardrails fail to generalize equitably to non-standard dialects. Evaluating 23,080 paired prompts across five English dialects, we formalize this failure as the dialect penalty, where filters trigger based on linguistic surface features rather than semantic intent. Text-level filters fail in opposing directions: NSFW-T over-flags benign dialect prompts and LatentGuard over-flags toxic ones (bias gaps up to +28.29 pp), while the OpenAI Moderation API under-detects them. A controlled typo ablation confirms this penalty originates from flagging dialectal features, not generic out-of-distribution sensitivity. The pixel-level generator is largely dialect-agnostic; the penalty enters at text processing and cascades unevenly to post-hoc guardrails. We show this bias tracks training data imbalance and is mitigable via group-balanced retraining, with an ablation attributing the gain to balanced exposure rather than to the worst-group objective of GroupDRO (group distributionally robust optimization). Current pipelines systematically fail dialect speakers, an equity failure masked by mean accuracy benchmarks. Our official code and dataset are publicly available at https://github.com/minguinho26/dialect-penalty-t2i. Content Warning: This paper contains offensive, toxic, or disturbing text prompts and generated images.
• Abstract（参考訳）: テキスト・トゥ・イメージ(T2I)の安全ガードレールは、標準でない方言に等しく一般化することができない。 23,080対のプロンプトを5つの英語方言で評価し、この失敗を方言のペナルティとして定式化し、そこでは、意味的意図ではなく、言語表面の特徴に基づいてフィルタをトリガーする。 NSFW-T over-flags beign dialect prompts and LatentGuard over-flags toxic ones (bias gaps to +28.29 pp) OpenAI Moderation APIはそれらを検出する。 コントロールされたタイポアブレーションは、このペナルティが一般的なアウト・オブ・ディストリビューション感受性ではなく、方言の特徴のフラグ付けに由来することを確認している。 ピクセルレベルのジェネレータは大部分が方言に依存しないが、ペナルティはテキスト処理とカスケードで、ポストホックガードレールに不均一に入る。 このバイアスはトレーニングデータの不均衡を追跡し,グループバランスの再トレーニングによって緩和可能であることを示す。 現在のパイプラインは、平均精度ベンチマークによって隠蔽された公平な失敗である方言話者を体系的に失敗する。 公式コードとデータセットはhttps://github.com/minguinho26/dialect-penalty-t2iで公開されています。 コンテンツ警告: 本論文は、攻撃的、有害、または乱雑なテキストプロンプトと生成された画像を含む。

関連論文リスト

• Transcription Policy as a Latent Variable: Activating Controllable Verbatim ASR with Word-Level Timing [8.921166277011347]
  モデルが既に両方のスタイルを符号化していることを示し、その課題はアクティベーションを制御することである。 パラレルな冗長/意図された転写文字ペアで訓練されたカバレッジ対応デコーダタスクトークンを用いて、ドイツの拡散F1を10%から79%ゼロショットに引き上げる。 完全な英語のみの微調整は、動詞の精度、拡散検出、および両方の言語にわたる意図されたモードの品質において、すべてのベースラインを超えている。
  論文  参考訳（メタデータ） (2026-07-21T10:19:17Z)
• Mind the Pause: Disfluency-Aware Objective Tuning for Multilingual Speech Correction with LLMs [32.94544776067079]
  ASRの書き起こしには、フィラー、繰り返し、偽の開始などの不一致がしばしば含まれている。 既存のアプローチのほとんどは、除去のための非流動的なトークンを特定することに焦点を当てた古典的なモデルに依存している。 本稿では,まずシーケンスタグが不自由なトークンをマークする多言語補正パイプラインを提案し,これらの信号はLLMの微調整を指導し,書き起こしを流用テキストに書き換える。
  論文  参考訳（メタデータ） (2026-05-12T15:11:36Z)
• Dialect vs Demographics: Quantifying LLM Bias from Implicit Linguistic Signals vs. Explicit User Profiles [0.42970700836450476]
  明示的なアイデンティティは、アクティブなセーフティフィルタをアクティベートし、拒否率を高め、ブラックユーザーの参照テキストと比較して意味的類似性を減少させる。 対照的に、暗黙の方言の手がかりは強力な方言のジェイルブレイクを引き起こします。 現在の安全アライメント技術は、明示的なキーワードに過剰にインデクシングされ、分岐したユーザエクスペリエンスを生み出していることが分かりました。
  論文  参考訳（メタデータ） (2026-04-22T23:33:18Z)
• Language models recognize dropout and Gaussian noise applied to their activations [74.06294367754748]
  我々は, (a) アンフマスクのアクティベーションをシミュレートし, あるいは (b) アンフガウス雑音を付加する。 Llama、Olmo、Qwenファミリーのモデルをテストする。
  論文  参考訳（メタデータ） (2026-04-19T14:30:13Z)
• CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
  我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。 静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。 LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
  論文  参考訳（メタデータ） (2026-02-04T00:12:30Z)
• Synthetic Voices, Real Threats: Evaluating Large Text-to-Speech Models in Generating Harmful Audio [63.18443674004945]
  この研究は、TSシステムを利用して有害なコンテンツを含む音声を生成する、コンテンツ中心の脅威を探究する。 HARMGENは、これらの課題に対処する2つのファミリーにまとめられた5つの攻撃群である。
  論文  参考訳（メタデータ） (2025-11-14T03:00:04Z)
• Provably Secure Disambiguating Neural Linguistic Steganography [66.30965740387047]
  サブワードに基づく言語モデルを使用する際に生じるセグメンテーションの曖昧さ問題は、時にはデコード障害を引き起こす。 そこで我々はSyncPoolという,セグメンテーションのあいまいさ問題に効果的に対処する,セキュアな曖昧さ回避手法を提案する。 SyncPoolは、候補プールのサイズやトークンの分布を変えないため、確実に安全な言語ステガノグラフィー手法に適用できる。
  論文  参考訳（メタデータ） (2024-03-26T09:25:57Z)
• Unlikelihood Tuning on Negative Samples Amazingly Improves Zero-Shot Translation [79.96416609433724]
  Zero-shot Translation (ZST)は、トレーニングデータにおいて、目に見えない言語ペア間の翻訳を目的としている。 推論中にゼロショット言語マッピングをガイドする一般的な方法は、ソースとターゲット言語IDを意図的に挿入することである。 近年の研究では、言語IDが時折ZSTタスクのナビゲートに失敗し、ターゲット外問題に悩まされることが示されている。
  論文  参考訳（メタデータ） (2023-09-28T17:02:36Z)
• Towards General Visual-Linguistic Face Forgery Detection [95.73987327101143]
  ディープフェイクは現実的な顔操作であり、セキュリティ、プライバシー、信頼に深刻な脅威をもたらす可能性がある。 既存の方法は、このタスクを、デジタルラベルまたはマスク信号を使用して検出モデルをトレーニングするバイナリ分類として扱う。 本稿では, 微粒な文レベルのプロンプトをアノテーションとして用いた, VLFFD (Visual-Linguistic Face Forgery Detection) という新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-07-31T10:22:33Z)
• Adversarial Training For Low-Resource Disfluency Correction [50.51901599433536]
  ディフルエンシ補正(DC)のための逆学習型シーケンスタグ付けモデルを提案する。 提案手法の利点は,3つのインド語でDCに対して評価することで,合成された非流動データに大きく依存することを示す。 また,本手法は,音声障害によって導入されたASR文字の破面的不一致の除去にも有効である。
  論文  参考訳（メタデータ） (2023-06-10T08:58:53Z)
• APEACH: Attacking Pejorative Expressions with Analysis on Crowd-Generated Hate Speech Evaluation Datasets [4.034948808542701]
  APEACHは、特定されていないユーザによって生成されるヘイトスピーチの収集を可能にする方法である。 ヘイトスピーチの群集生成を制御し,最小限のポストラベルのみを追加することにより,ヘイトスピーチ検出の一般化と公平な評価を可能にするコーパスを作成する。
  論文  参考訳（メタデータ） (2022-02-25T02:04:38Z)
• Data-Driven Mitigation of Adversarial Text Perturbation [1.3649494534428743]
  本研究では,NLPモデルを逆テキスト摂動に対して堅牢にするための難読化パイプラインを提案する。 CW2Vの埋め込みは、文字nグラムに基づく埋め込みよりも、テキストの摂動に対してより堅牢であることを示す。 我々のパイプラインはエンゲージメントベイト分類を0.70から0.67AUCに分類し、敵対的なテキストの摂動を発生させる。
  論文  参考訳（メタデータ） (2022-02-19T00:49:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。