論文の概要: Aligning Large Language Models for Safety in African Languages: A Case Study of Hausa

• arxiv url: http://arxiv.org/abs/2610.37245v1
• Date: Tue, 27 Oct 2026 13:46:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.646567
• Title: Aligning Large Language Models for Safety in African Languages: A Case Study of Hausa
• Title（参考訳）: アフリカ言語における安全のための大規模言語モデルの調整 : ハウサを事例として
• Abstract要約: HausaSafeLMは,最初のHausa安全嗜好データセットの1つである。 教師付き微調整(SFT)と直接選好最適化(DPO)を比較した。 修正されていないベースモデルは、リフレクションレートのメトリクスだけで非常に安全なように見える。
• 参考スコア（独自算出の注目度）: 4.32504561680008
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety alignment research for large language models (LLMs) remains concentrated on high-resource languages, leaving open how existing alignment methods perform in low-resource, culturally distinct settings. We study this question for Hausa, a language spoken by more than 200 million people across West Africa. We introduce HausaSafeLM, one of the first Hausa safety preference dataset, built from 10,000 prompts derived from PKU-SafeRLHF: 3,000 human-corrected (gold) and 7,000 machine-translated (silver) examples spanning six harm macro-categories. Using Qwen2.5-7B-Instruct, we compare supervised fine-tuning (SFT) and SFT followed by Direct Preference Optimization (DPO) under both data regimes, evaluating on 500 harmful and 200 benign Hausa prompts.We find that the untuned base model appears highly safe by refusal-rate metrics alone, but this reflects limited Hausa generation ability rather than genuine alignment: its refusals are almost uniformly low quality. SFT improves both refusal fluency and precision and benefits substantially from the larger, noisier silver-tier data, while DPO sharpens refusal precision but comes at a steep, largely data-invariant cost to linguistic quality. No single configuration jointly maximizes safety, helpfulness, and fluency. Our results suggest that current alignment techniques teach models when to refuse more readily than how to do so fluently in underrepresented languages, and that refusal-rate metrics alone are an unreliable signal of safety in low-resource settings.
• Abstract（参考訳）: 大規模言語モデル(LLM)の安全性アライメント研究は、高リソース言語に集中しており、既存のアライメント手法が低リソースで文化的に異なる環境でどのように機能するかをオープンに残している。 We study this question for Hausa, a language by two million people across West Africa。 我々は、PKU-SafeRLHFから派生した1万のプロンプトから構築された、最初のHausaSafeLMデータセットであるHausaSafeLMを紹介した。 Qwen2.5-7B-Instructを用いて、教師付き微調整(SFT)とSFTを両データ体制下で比較し、500個の有害なハウスサプロンプトと200個の良性ハウサプロンプトで評価する。 SFTは断熱率と精度の両方を改善し、より大きくノイズの多い銀層データから実質的に利益を得る一方、DPOは断熱精度を鋭くするが、言語品質には急激で大半がデータ不変のコストがかかる。 安全性、有用性、および流線型性を両立させる単一の構成は存在しない。 以上の結果から,現状のアライメント手法は,低リソース環境下での信頼性の低い指標として,表現の少ない言語での処理方法よりも容易な拒否のタイミングをモデルに教えることが示唆された。

関連論文リスト

• The Illusion of Cross-Lingual Safety in Low-Resource Languages [7.471112976694495]
  大規模言語モデル (LLM) における安全性の整合性は、多言語設定にまたがって一般化されることを前提として、主に英語で開発されている。 文化的な局所的なプロンプトとリテラル翻訳を組み合わせた新しい安全データセットであるLoDNAを用いて,アフリカ4言語(Twi,Hausa,Amharic,Swahili)の言語間安全トランスファーを調査した。 実験の結果, 言語間の安全伝達は極めて限定的であり, 有害なプロンプトはほとんどの言語モデルペアで英語の拒絶信号の10%未満を維持していることがわかった。
  論文  参考訳（メタデータ） (2026-08-11T17:05:26Z)
• LLM Safety Alignment in Low-Resource Languages: A Systematic Literature Review [9.895109697164283]
  LLM(Large Language Models)は、安全性の大幅な向上を実現している。 安全性の保証は、低リソースおよび多言語設定において著しく弱いままである。
  論文  参考訳（メタデータ） (2026-07-20T21:11:00Z)
• To Predict or Not to Predict? Towards reliable uncertainty estimation in the presence of noise [1.9746060146273674]
  本研究では,多言語テキスト分類における不確実性推定(UE)手法の役割について,雑音条件および非話題条件下で検討した。 我々は、より堅牢な予測を行うための貢献を評価するために、様々な指標に対してUE手法の幅を評価した。
  論文  参考訳（メタデータ） (2026-03-07T20:22:20Z)
• Multilingual Safety Alignment Via Sparse Weight Editing [11.684928396991742]
  スパースウェイト編集に基づくトレーニングフリーアライメントフレームワークを提案する。 我々は、LRLの有害な表現をHRLの堅牢な安全部分空間に最適にマッピングする閉形式解を導出する。 本手法は, LRLにおける攻撃成功率(ASR)を大幅に低減し, 一般的な推論能力への影響を無視する。
  論文  参考訳（メタデータ） (2026-02-26T02:46:13Z)
• Can Large Language Models Express Uncertainty Like Human? [71.27418419522884]
  我々は,人間に注釈を付けた信頼スコアを持つヘッジ式の最初の多種多様な大規模データセットをリリースする。 現代大言語モデルにまたがる言語信頼に関する最初の体系的研究を行う。
  論文  参考訳（メタデータ） (2025-09-29T02:34:30Z)
• Do We Really Need Curated Malicious Data for Safety Alignment in Multi-modal Large Language Models? [83.53005932513155]
  MLLM(Multi-modal large language model)は大きな進歩を遂げているが、その安全性は依然として限られている。 そこで我々は, 単純明快な拒絶文に代えて, 少数の良性命令追従データに対して, MLLMを微調整する手法を提案する。
  論文  参考訳（メタデータ） (2025-04-14T09:03:51Z)
• Uncertainty in Language Models: Assessment through Rank-Calibration [65.10149293133846]
  言語モデル(LM)は、自然言語生成において有望な性能を示している。 与えられた入力に応答する際の不確実性を正確に定量化することは重要である。 我々は、LMの確実性と信頼性を評価するために、Rank$-$Calibration$と呼ばれる斬新で実用的なフレームワークを開発する。
  論文  参考訳（メタデータ） (2024-04-04T02:31:05Z)
• LaMDA: Language Models for Dialog Applications [75.75051929981933]
  LaMDAは、ダイアログに特化したトランスフォーマーベースのニューラルネットワークモデルのファミリーである。 注釈付きデータで微調整し、モデルが外部の知識ソースを参照できるようにすると、大幅な改善がもたらされる。
  論文  参考訳（メタデータ） (2022-01-20T15:44:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。