論文の概要: How I Aligned Your Model: Scaling Up Multilingual Safety Training with Templates

• arxiv url: http://arxiv.org/abs/2610.40516v1
• Date: Thu, 29 Oct 2026 17:26:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.548989
• Title: How I Aligned Your Model: Scaling Up Multilingual Safety Training with Templates
• Title（参考訳）: モデルの調整方法:テンプレートによるマルチ言語安全トレーニングのスケールアップ
• Abstract要約: 本稿では,テンプレートベースの拡張パイプラインを提案し,多言語による大規模な拒絶と良性コーパスを生成する。 我々はMSafeTempをリリースした。MSafeTempは60言語にまたがる検証済みのコーパスで、多言語間の安全アライメントと評価に有用である。
• 参考スコア（独自算出の注目度）: 8.339116638824457
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety alignment for Large Language Models is heavily focused on English with limited multilingual representation, particularly damaging low-resource language performance. Related open training datasets are often limited in size or do not follow region-localized harmful topics to broaden the scope of alignment beyond cultures. We propose a scalable template-based augmentation pipeline to produce massive multilingual refusal and benign corpora, extracting safe templates from harmful prompts, translating them and then filling in the slots with culturally authentic entities, both harmful and benign. As a result, we release MSafeTemp, a validated corpus spanning 60 languages useful for multilingual safety alignment and evaluation. Using the dataset, we show that English-only evaluation misjudges multilingual safety: for several models, attacks that fail in English succeed once translated, while culturally localized variants expose further failures that translation alone misses. We also confirm that augmenting safety training data through templates allows for higher diversity and quality of alignment, resulting in improved safety performance beyond English. MSafeTemp and the respective pipeline are aimed at facilitating research and development of safer and more responsible models for less-represented cultures.
• Abstract（参考訳）: 大規模言語モデルの安全性アライメントは、英語に重点を置いており、多言語表現が限られており、特に低リソース言語のパフォーマンスを損なう。 関連するオープントレーニングデータセットは、サイズが制限される場合や、文化を超えてアライメントの範囲を広げるために、地域ごとに有害なトピックに従わない場合が多い。 本稿では,多言語的拒絶と良性コーパスを生成するスケーラブルなテンプレートベースの拡張パイプラインを提案し,有害なプロンプトから安全なテンプレートを抽出し,それらを翻訳し,そのスロットに有害かつ良性のある文化的実体を埋め込む。 その結果,MSafeTempは多言語間の安全アライメントと評価に有用な60言語にまたがる検証済みコーパスである。 いくつかのモデルでは、英語で失敗する攻撃は一度翻訳されると成功し、文化的な局所的な変異は翻訳だけで失敗するさらなる失敗を露呈する。 また,テンプレートによる安全性トレーニングデータの強化により,多様性とアライメントの質が向上し,英語以外の安全性能が向上することを確認した。 MSafeTempとそれぞれのパイプラインは、表現の少ない文化のための、より安全で責任のあるモデルの研究と開発を促進することを目的としています。

関連論文リスト

• The Illusion of Cross-Lingual Safety in Low-Resource Languages [7.471112976694495]
  大規模言語モデル (LLM) における安全性の整合性は、多言語設定にまたがって一般化されることを前提として、主に英語で開発されている。 文化的な局所的なプロンプトとリテラル翻訳を組み合わせた新しい安全データセットであるLoDNAを用いて,アフリカ4言語(Twi,Hausa,Amharic,Swahili)の言語間安全トランスファーを調査した。 実験の結果, 言語間の安全伝達は極めて限定的であり, 有害なプロンプトはほとんどの言語モデルペアで英語の拒絶信号の10%未満を維持していることがわかった。
  論文  参考訳（メタデータ） (2026-08-11T17:05:26Z)
• The Heterogeneous Safety Impacts of Benign Multilingual Fine-Tuning [13.578131927232292]
  大きな言語モデルを微調整すると、安全でない敵のプロンプトに反応する傾向が増す。 Llama-3.2, Qwen3, Gemma-3モデルの微調整による多言語設定におけるこの現象の総合的研究について述べる。 安全性は、微調整言語の選択と評価言語の選択の両方に非常に敏感であることがわかった。
  論文  参考訳（メタデータ） (2026-06-27T10:05:36Z)
• IndicGuard: A Multilingual Safety Guard Model and Dataset for Indic Languages [2.584263027095689]
  IndicGuardは、Indic言語のための多言語安全ガードモデルとデータセットである。 我々は10の主要なインド語を含む高ボリュームで文化的にニュアンスのある安全データセットを構築した。 Gemma-3-4B-ITをベースとした4Bパラメータ命令調整モデルを微調整し,多言語安全ガードレールとして機能させる。
  論文  参考訳（メタデータ） (2026-06-22T04:36:57Z)
• Schützen: Evaluating LLM Safety in Bulgarian and German Contexts [53.865251738592605]
  本稿では、リスク下でのモデル応答性を評価するために設計された、ドイツとブルガリアの安全データセットであるSchtzenを紹介する。 多言語および言語固有のLLMを用いた実験では、安全行動の言語間差が顕著である。
  論文  参考訳（メタデータ） (2026-06-09T18:01:19Z)
• Exploring Adversarial Robustness and Safety Alignment in Multilingual Multi-Modal Large Language Models [37.24612885977265]
  マルチモーダル大規模言語モデルでは、視覚認識を言語推論に統合し、敵対的攻撃を受けやすい連続的な攻撃面を導入する。 MLLMの以前の研究は、主に英語中心のタスクに焦点を合わせており、多言語的な振る舞いは未調査のままである。 本研究は,12言語にまたがる対向的ロバスト性とマルチモーダル安全性について検討し,インストラクションチューニングによる多言語能力を得るオープンソースMLLMを評価した。
  論文  参考訳（メタデータ） (2026-06-02T15:42:10Z)
• Multilingual Refusal Alignment for Safer Large Language Models [53.64286756804503]
  単言語アライメントが言語横断的に伝達されるか,トレーニング中に言語一貫性が保たれるか,一般的な知識能力とのトレードオフが生じるかを検討する。 RefusEUは、12のヨーロッパ言語をカバーする新しい拒絶アライメントデータセットであり、現在の最先端モデルを評価するための専用のテストセットを含む。 制御された直接選好最適化(DPO)実験は、2つの重要な洞察を提供する: 英語でのみモデルを整列することは、同じハーネスカテゴリであっても、言語間安全を保証するには不十分である。
  論文  参考訳（メタデータ） (2026-04-24T09:29:14Z)
• Bridging the Multilingual Safety Divide: Efficient, Culturally-Aware Alignment for Global South Languages [8.667909336164465]
  大規模言語モデル(LLM)がグローバル・サウスに展開されている。 日々の使用には、低リソース言語、コードミキシング、文化的に特定の規範が含まれる。 我々の目標は、多言語安全性を、未表現領域における適切なAIのアドオンではなく、コア要件とすることです。
  論文  参考訳（メタデータ） (2026-02-14T19:56:40Z)
• MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
  大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。 この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。 素早い分類のための多言語ガードレールを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:06Z)
• Multilingual Jailbreak Challenges in Large Language Models [96.74878032417054]
  本研究では,大規模言語モデル(LLM)における多言語ジェイルブレイク問題の存在を明らかにする。 我々は、意図しないシナリオと意図的なシナリオの2つを考えます。 安全な微調整のための多言語学習データを自動的に生成する新しいtextscSelf-Defense フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-10T09:44:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。