論文の概要: Multilingual Safety Signals Are Multi-Layered: Filtering Safety-Degrading Data for Safer LLMs

• arxiv url: http://arxiv.org/abs/2609.22144v1
• Date: Wed, 26 Aug 2026 03:15:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.732046
• Title: Multilingual Safety Signals Are Multi-Layered: Filtering Safety-Degrading Data for Safer LLMs
• Title（参考訳）: マルチリンガル安全信号の多層化:サファーLCMにおける安全性劣化データのフィルタリング
• Abstract要約: 良質な微調整データでさえも、無音で安全性を損なう安全劣化サンプルを含んでいるかもしれない。 マルチランガル型安全劣化データ識別のための多層フレームワークMMSAFEを提案する。
• 参考スコア（独自算出の注目度）: 10.18941547139181
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Preserving safety alignment during large language models fine-tuning is critical, however, recent studies have demonstrated that even benign fine-tuning data may contain safety-degrading samples that silently undermine safety alignment. Existing approaches typically identify such samples using representations from a single safety-sensitive layer. While this assumption has shown effectiveness in monolingual settings, its validity for multilingual models remains unclear due to potential cross-lingual differences in representation patterns. Through a cross-lingual analysis, we show that sensitive layers are only partially shared across languages, with safety-relevant signals often distributed across multiple layers. Motivated by these observations, we propose MMSAFE, a multi-layer framework for multilingual safety-degrading data identification that captures both shared and language-specific safety signals. Extensive experiments across multiple models, languages, and safety benchmarks demonstrate that MMSAFE reduces the average harmful-response ratio by 60% compared with random filtering and achieves stronger average performance than the strongest single-layer baseline, demonstrating the effectiveness of multi-layer modeling for robust multilingual safety alignment.
• Abstract（参考訳）: 大規模な言語モデルにおける安全性の整合性を維持することは重要であるが、最近の研究では、良質な微調整データでさえ、無音で安全性の整合性を損なう安全劣化サンプルを含んでいることが示されている。 既存のアプローチでは、単一の安全に敏感な層からの表現を用いて、そのようなサンプルを識別するのが一般的である。 この仮定は単言語設定における有効性を示しているが、多言語モデルの有効性は、表現パターンの多言語間差異の可能性があるため、まだ不明である。 言語間分析により、センシティブな層は言語間でのみ部分的に共有され、安全関連信号は複数の層に分散していることがわかった。 これらの観測により,共有信号と言語固有の安全信号の両方をキャプチャする多言語安全劣化データ識別のための多層フレームワークMMSAFEを提案する。 複数のモデル、言語、安全ベンチマークにわたる大規模な実験により、MMSAFEはランダムフィルタリングと比較して平均有害応答比を60%削減し、最強の単一層ベースラインよりも高い平均性能を実現し、堅牢な多言語安全アライメントのための多層モデリングの有効性を実証した。

関連論文リスト

• One Anchor for All: Unified Multilingual and Multimodal Safety Alignment for LVLMs [63.29484454957031]
  モーダリティと言語共有型安全ニューロン(MLS-Neurons)によって駆動されるニューロンレベルのクロス次元安全アライメントフレームワークを提案する。 提案手法は,多言語およびマルチモーダルの安全性ベンチマークにおいて,最先端のアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2026-07-30T09:30:03Z)
• LLM Safety Alignment in Low-Resource Languages: A Systematic Literature Review [9.895109697164283]
  LLM(Large Language Models)は、安全性の大幅な向上を実現している。 安全性の保証は、低リソースおよび多言語設定において著しく弱いままである。
  論文  参考訳（メタデータ） (2026-07-20T21:11:00Z)
• Multilingual Safety Alignment via Self-Distillation [17.94152626632751]
  大規模言語モデル (LLM) は、重度の多言語的安全性のミスアライメントを示す。 マルチリンガル自己蒸留(Multilingual Self-Distillation:MSD)という,言語横断型セーフガード転送フレームワークを提案する。 私たちのフレームワークは柔軟で、さまざまな自己蒸留戦略に統合できます。
  論文  参考訳（メタデータ） (2026-05-03T14:22:49Z)
• Multilingual Refusal Alignment for Safer Large Language Models [53.64286756804503]
  単言語アライメントが言語横断的に伝達されるか,トレーニング中に言語一貫性が保たれるか,一般的な知識能力とのトレードオフが生じるかを検討する。 RefusEUは、12のヨーロッパ言語をカバーする新しい拒絶アライメントデータセットであり、現在の最先端モデルを評価するための専用のテストセットを含む。 制御された直接選好最適化(DPO)実験は、2つの重要な洞察を提供する: 英語でのみモデルを整列することは、同じハーネスカテゴリであっても、言語間安全を保証するには不十分である。
  論文  参考訳（メタデータ） (2026-04-24T09:29:14Z)
• Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance [64.18179414483966]
  実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。 危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。 この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
  論文  参考訳（メタデータ） (2026-04-10T02:42:52Z)
• MPO: Multilingual Safety Alignment via Reward Gap Optimization [88.76638442683391]
  大規模言語モデル(LLM)は、世界中でAIアプリケーションの中心となっている。 RLHFやDPOのような既存の安全アライメントのための選好学習手法は、主に単言語であり、ノイズの多い多言語データと競合する。 本稿では,複数言語間の安全アライメントを改善するために,支配言語(英語)の安全能力の整合性を活用した新しいアプローチである多言語報酬gaP Optimization(MPO)を紹介する。
  論文  参考訳（メタデータ） (2025-05-22T16:24:51Z)
• MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
  大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。 この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。 素早い分類のための多言語ガードレールを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。