論文の概要: Harm Is Behavioural, Moderation Is Lexical: How Language and Culture Decide Whom Automated Safety Systems Protect and Whom They Silence

• arxiv url: http://arxiv.org/abs/2610.31047v1
• Date: Thu, 22 Oct 2026 10:24:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.319126
• Title: Harm Is Behavioural, Moderation Is Lexical: How Language and Culture Decide Whom Automated Safety Systems Protect and Whom They Silence
• Title（参考訳）: Harmは行動的、モデレーションはレキシカル:言語と文化がいかにして安全システムを守るか
• Abstract要約: 自動化されたシステムは、どのメッセージが有害であるかをスケールで決定し、不均一に決定する。 メッセージが何をするかではなく、語彙や表面的な形式から害を判断することです。 本稿では,最善言語コミュニティと最悪の言語コミュニティのギャップを見出しとする評価プロトコルを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Content warning: this paper quotes slurs and hateful statements from published test suites; the racial slur among them is masked. Automated systems decide at scale which messages are harmful, and they decide unevenly. Classifiers label African American English as offensive up to twice as often as other English, the accounts of prominent drag queens can score as more toxic than those of white nationalists, and safety behaviour that holds in English collapses in low-resource languages. We argue that over-flagging and under-protection share one cause: deciding harm from vocabulary and surface form rather than from what a message does. We organise the evidence into seven failure modes and argue, as testable hypotheses, that harmful behaviours (a request for secrecy, a demand for payment, an attempt to isolate someone) travel across languages better than the words that express them. We propose an evaluation protocol that makes the gap between the best- and worst-served language communities a headline result, and show that the naive gap is inflated under equal service and that its usual bootstrap interval is unreliable. Applied to five open systems in eleven languages, from a keyword lexicon to two current multilingual guard models, the protocol finds that none reaches native-speaker accuracy at separating harmful function from harmless form (51 of 55 system-language pairs fall short); that greater capability raises discrimination in nine languages while leaving Arabic and romanised Hindi near chance, so the gap between the best- and worst-served languages grows with capability; that one system both over-flags and under-protects the same language most; and that a language a system reads worst can look the most fairly treated when only false positives are reported.
• Abstract（参考訳）: コンテンツ警告:本論文では、公開されたテストスイートのスラリーとヘイトフルステートメントを引用します。 自動化されたシステムは、どのメッセージが有害であるかをスケールで決定し、不均一に決定します。 クラシファイターはアフリカ系アメリカ人の英語を他の英語の2倍の頻度で攻撃的だとし、著名なドラッグクイーンの証言は白人ナショナリストのそれよりも毒性が高く、低資源言語における英語の崩壊に影響を及ぼす安全行動を示している。 オーバーフラッグとアンダープロテクトは、メッセージが何をするかではなく、語彙や表面的な形式から害を判断する、という1つの原因を共有している、と私たちは主張する。 証拠を7つの失敗モードに整理し、実証可能な仮説として、有害な行動(機密性の要求、支払いの要求、誰かを孤立させようとする試み)がそれらを表現する単語よりも言語を横断する、と主張している。 本稿では,最善言語コミュニティと最悪の言語コミュニティのギャップを見出しとする評価プロトコルを提案し,その間隙が平等なサービスの下で膨らみ,通常のブートストラップ間隔が信頼できないことを示す。 キーワードレキシコンから現在の2つの多言語ガードモデルまで、11言語の5つのオープンシステムに適用すると、有害な関数を無害な形式から分離するネイティブスピーカーの精度(55のシステム言語ペアのうち51は不足している)に到達できないこと、より大きな能力は、アラビア語とロマン化ヒンディー語に近づきながら9つの言語における差別を高めること、そして、最良の言語と最悪の言語の間のギャップは能力によって増大すること、一方のシステムはオーバーフラッグとアンダープロテクトの両方が同じ言語を最も保護していること、そして、あるシステムが最悪に読む言語は、偽陽性が報告された時に最も多く扱われている。

関連論文リスト

• Safety Alignment Illusion: The Cross-Lingual Safety Gap in LLMs [0.0]
  大規模な言語モデルの現在の安全アライメントトレーニングは英語中心である。 これはインドの言語学的に多様な人口に展開される言語技術にとって重要な失敗モードである。 インドの言語学的に多様な言語にまたがる言語技術にとって、これは致命的な失敗のモードである。
  論文  参考訳（メタデータ） (2026-07-26T08:23:25Z)
• Same Model, Different Weakness: How Language and Modality Reshape the Jailbreak Attack Surface in Frontier MLLMs [0.0]
  米国英語(en-US)とメキシコスペイン語(es-MX)のジェイルブレイク脆弱性を比較検討した最初の体系的言語横断型マルチモーダル型レッドチーム研究について述べる。 私たちの中心的な発見は、言語が脆弱性を均一にスケールしないことです。 これは、言語的および視覚的なアライメント障害が、異なるメカニズムを通して機能し、切り換え言語がその分離を公開するのに十分であることを示している。
  論文  参考訳（メタデータ） (2026-05-22T02:12:45Z)
• Refusal Direction is Universal Across Safety-Aligned Languages [66.64709923081745]
  本稿では,PolyRefuseを用いた14言語にわたる大規模言語モデル(LLM)の拒絶動作について検討する。 英語から抽出されたベクトルは、ほぼ完全な効果で他の言語での拒絶を回避できる。 この伝達性は、埋め込み空間における言語間の拒否ベクトルの並列性に起因し、言語間ジェイルブレイクの背後にあるメカニズムを同定する。
  論文  参考訳（メタデータ） (2025-05-22T21:54:46Z)
• MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
  大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。 この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。 素早い分類のための多言語ガードレールを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:06Z)
• Benchmarking LLM Guardrails in Handling Multilingual Toxicity [57.296161186129545]
  7つのデータセットと10以上の言語にまたがる包括的な多言語テストスイートを導入し、最先端ガードレールのパフォーマンスをベンチマークする。 近年の脱獄技術に対するガードレールの弾力性について検討し,ガードレールの性能に及ぼすコンテキスト内安全ポリシーと言語資源の可利用性の影響について検討した。 以上の結果から, 既存のガードレールは多言語毒性の処理に依然として効果がなく, 脱獄プロンプトに対する堅牢性が欠如していることが示唆された。
  論文  参考訳（メタデータ） (2024-10-29T15:51:24Z)
• Breaking the Silence Detecting and Mitigating Gendered Abuse in Hindi, Tamil, and Indian English Online Spaces [0.6543929004971272]
  チームCNLP-NITS-PPは、CNNとBiLSTMネットワークを組み合わせたアンサンブルアプローチを開発した。 CNNは、組み込み入力テキストに適用される畳み込みフィルタを通じて、乱用言語を表す局所的な特徴をキャプチャする。 BiLSTMは、単語とフレーズ間の依存関係について、このシーケンスを解析する。 評価スコアはf1尺度、特に英語0.84に対して高い性能を示した。
  論文  参考訳（メタデータ） (2024-04-02T14:55:47Z)
• Data Bootstrapping Approaches to Improve Low Resource Abusive Language Detection for Indic Languages [5.51252705016179]
  Indic言語における多言語乱用音声の大規模分析を実演する。 本研究では,異なる言語間伝達機構について検討し,様々な多言語モデルによる虐待的音声検出の性能について検討する。
  論文  参考訳（メタデータ） (2022-04-26T18:56:01Z)
• COLD: A Benchmark for Chinese Offensive Language Detection [54.60909500459201]
  COLDatasetは、37kの注釈付き文を持つ中国の攻撃的言語データセットである。 また、人気のある中国語モデルの出力攻撃性を研究するために、textscCOLDetectorを提案する。 我々の資源と分析は、中国のオンラインコミュニティを解毒し、生成言語モデルの安全性を評価することを目的としている。
  論文  参考訳（メタデータ） (2022-01-16T11:47:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。