論文の概要: Hard Negatives Reveal What Easy Negatives Hide: Cross-Lingual Harmfulness Representations Degrade with Resource Tier Under Hard Negatives
- arxiv url: http://arxiv.org/abs/2609.27758v1
- Date: Sat, 15 Aug 2026 18:03:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.959082
- Title: Hard Negatives Reveal What Easy Negatives Hide: Cross-Lingual Harmfulness Representations Degrade with Resource Tier Under Hard Negatives
- Title（参考訳）: 難しいネガティクスが隠すもの: 厳しいネガティクスの下で資源の負担を減らした言語間のハームフルネス表現
- Abstract要約: 言語間の拒絶は、主に表現品質よりもキャリブレーションを反映している。
簡単な負の移動は、強陰性の下でかなりの劣化と共存できることを示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Safety alignment in large language models is trained primarily in English, and recent work reports that the underlying harmfulness representation survives translation: English-trained probes separate harmful from harmless prompts almost as well in low-resource languages as in English. This has been taken as evidence that cross-lingual refusal failures mainly reflect calibration rather than representation quality. We show that this conclusion depends on the choice of negative examples. Across nine languages spanning three resource tiers, we replicate near-perfect transfer (AUROC > 0.98) when harmless prompts come from an unrelated distribution (easy negatives). With XSTest contrast prompts, which are benign but surface-similar to harmful requests (hard negatives), transfer collapses in low-resource languages while remaining largely stable in high-resource languages. On Qwen2.5-7B-Instruct, mean AUROC drop increases from 0.003 in English to 0.017 in high-resource, 0.042 in mid-resource, and 0.276 in low-resource languages. The pattern replicates on Aya Expanse. Back-translation chrF controls and a matched-chrF comparison across three languages reduce the likelihood that translation quality explains the effect. The collapse remains after controlling for chrF (partial r = 0.70, p = 0.03). Tokenizer fertility correlates with the collapse and explains part of the resource-tier effect, but not all of it. The results show that easy-negative transfer can coexist with substantial degradation under hard negatives. Easy-negative evaluation alone therefore cannot establish that the harmfulness representation survives translation.
- Abstract（参考訳）: 英語学習されたプローブは、有害なプロンプトと無害なプロンプトとを分離し、低リソースのプロンプトと英語でも同様に分離する。
このことは、言語間の断絶が表現品質よりもキャリブレーションを主に反映していることの証拠とされている。
この結論は、負の例の選択に依存することを示す。
3つのリソース層にまたがる9つの言語で、無害なプロンプトが無関係な分布(easy negatives)から来ると、ほぼ完全な転送(AUROC > 0.98)を複製する。
XSTestのコントラストプロンプトは、有害なリクエスト(ハードネガティブ)と表面的に似ているが、低リソース言語では転送が崩壊する一方で、高リソース言語では大部分が安定している。
Qwen2.5-7B-Instructでは、AUROCは英語で0.003から高リソースで0.017、中リソースで0.042、低リソース言語で0.276に減少する。
このパターンはAya Expanseで複製される。
バックトランスレーションのchrF制御とマッチしたchrF比較により、翻訳品質が効果を説明する可能性が低下する。
崩壊は chrF (partial r = 0.70, p = 0.03) の制御後に残る。
トケナイザーの施肥は崩壊と相関し、資源層の影響の一部を説明するが、全てではない。
以上の結果から, 容易な負転移は, 強陰性下での実質的な劣化と共存できることが示された。
したがって、容易な負の評価だけでは、有害性表現が翻訳を生き残ることは証明できない。
関連論文リスト
- Beyond the Name: Demographic Leakage in De-Identified Résumés and Evaluation Artifacts in LLM Bias Audits [4.736836688901646]
本研究では,9つのオープンウェイトモデルと620レサムモデルにおいて,言語フィールドの除去がリークを解消するか否かを検討する。
5つの民族的条件と3つのクエー・サリエンス層にまたがる非構造的散文を分離した。
目標グループの回復平均は0.757であり、高塩分下では1.000で飽和する。
論文 参考訳（メタデータ） (2026-09-15T01:48:44Z) - Interpretable Cross-Lingual Alignment in Small Language Models: Probing Cultural and Pragmatic Reasoning in Japanese-English Bilingual LLMs [0.0]
表面流速から4つの現象を分離する最小ペアのベンチマークであるJ-PragEval-v0を紹介する。
線形プローブと教師による対数確率評価を組み合わせて、TinySwallow-1.5B内のどのコントラストがライブであるかを問う。
論文 参考訳（メタデータ） (2026-08-14T21:04:21Z) - The Illusion of Cross-Lingual Safety in Low-Resource Languages [7.471112976694495]
大規模言語モデル (LLM) における安全性の整合性は、多言語設定にまたがって一般化されることを前提として、主に英語で開発されている。
文化的な局所的なプロンプトとリテラル翻訳を組み合わせた新しい安全データセットであるLoDNAを用いて,アフリカ4言語(Twi,Hausa,Amharic,Swahili)の言語間安全トランスファーを調査した。
実験の結果, 言語間の安全伝達は極めて限定的であり, 有害なプロンプトはほとんどの言語モデルペアで英語の拒絶信号の10%未満を維持していることがわかった。
論文 参考訳（メタデータ） (2026-08-11T17:05:26Z) - Aligned in Form, Not in Meaning: The Comprehension - Containment Decoupling of LLM Safety in Low-Resource Bangla Derogatory Speech [0.0]
6つのプロトコルで5つの大きな言語モデルをネイティブバングラ弁論音声(ガリ)で評価する。
本稿では, 現代安全アライメントが有害な意味ではなく, 高資源表面形状に結びついていることを提案する。
論文 参考訳（メタデータ） (2026-08-03T23:09:19Z) - Low-Resource Safety Failures Are Action Failures, Not Representation Failures [12.15943143346378]
高リソース言語で学んだ安全性アライメントは、低リソース言語への転送が不十分である。
AdaSteerとCASTはこの障害を相互に継承する。
私たちはこれを、高リソースのゲートであるリトレーニングではなく、リカレーションによって活用します。
論文 参考訳（メタデータ） (2026-05-31T12:19:40Z) - Crossing the Threshold: Idiomatic Machine Translation through Retrieval
Augmentation and Loss Weighting [66.02718577386426]
慣用的な翻訳と関連する問題を簡易に評価する。
我々は,変圧器をベースとした機械翻訳モデルが慣用的な翻訳に対して正しくデフォルトとなる点を明らかにするための合成実験を行った。
自然慣用句の翻訳を改善するために, 単純かつ効果的な2つの手法を導入する。
論文 参考訳（メタデータ） (2023-10-10T23:47:25Z) - Mitigating Hallucinations and Off-target Machine Translation with
Source-Contrastive and Language-Contrastive Decoding [53.84948040596055]
修正された復号化目標を用いて、障害ケースを緩和する2つの関連手法を提案する。
大規模多言語モデルM2M-100 (418M) とSMaLL-100の実験は、これらの手法が幻覚やターゲット外の翻訳を抑制することを示した。
論文 参考訳（メタデータ） (2023-09-13T17:15:27Z) - Do Multilingual Language Models Capture Differing Moral Norms? [71.52261949766101]
大量多言語文表現は、未処理データの大規模なコーパスに基づいて訓練される。
これは、高資源言語からの道徳的判断を含む文化的価値をモデルが把握する原因となる可能性がある。
特定の言語におけるデータ不足は、ランダムで潜在的に有害な信念を発達させる可能性がある。
論文 参考訳（メタデータ） (2022-03-18T12:26:37Z) - COLD: A Benchmark for Chinese Offensive Language Detection [54.60909500459201]
COLDatasetは、37kの注釈付き文を持つ中国の攻撃的言語データセットである。
また、人気のある中国語モデルの出力攻撃性を研究するために、textscCOLDetectorを提案する。
我々の資源と分析は、中国のオンラインコミュニティを解毒し、生成言語モデルの安全性を評価することを目的としている。
論文 参考訳（メタデータ） (2022-01-16T11:47:23Z) - On Negative Interference in Multilingual Models: Findings and A
Meta-Learning Treatment [59.995385574274785]
従来の信念に反して、負の干渉は低リソース言語にも影響を及ぼすことを示す。
メタ学習アルゴリズムは、より優れた言語間変換性を得、負の干渉を軽減する。
論文 参考訳（メタデータ） (2020-10-06T20:48:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。