論文の概要: AfriGuard: Safety and Robust Refusal For African Languages

• arxiv url: http://arxiv.org/abs/2610.26474v1
• Date: Mon, 19 Oct 2026 14:21:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 03:00:58.336806
• Title: AfriGuard: Safety and Robust Refusal For African Languages
• Title（参考訳）: AfriGuard:アフリカの言語の安全性とロバストな拒絶
• Abstract要約: 安全なAIシステムを構築するには、安全性のリスクを検出し、その性質を理解し、適切な対応が必要である。 アフリカ語と英語の10言語を対象に,有害な意図,安全カテゴリー理解,拒絶行動について検討した。 最大30倍のモデルで性能を競う効率的なガードレールモデルを開発した。
• 参考スコア（独自算出の注目度）: 46.62986466409
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) designed to interact with users are typically trained to respond appropriately to harmful or toxic content. However, ensuring appropriate responses becomes more challenging in diverse linguistic and cultural contexts, where safety risks may be expressed or interpreted differently. Building safe AI systems therefore requires detecting safety risks, understanding their nature, and responding appropriately, while accounting for linguistic and cultural variations that add complexity to each stage. In this work, we introduce AfriGuard, a culturally grounded multilingual dataset for studying harmful intent, safety-category understanding, and refusal behavior across 10 African languages and English. Our findings reveal that guardrail models underperform both open- and closed-source LLMs on safety-intent and safety-category classification, while models show limited understanding of appropriate safety behavior, scoring below 60% F1. We further find that models often fail to respond appropriately to unsafe prompts not because they explicitly refuse, but because they produce linguistically inadequate responses that result in incidental non-assistance rather than proper refusals. Finally, using AfriGuard, we develop efficient guardrail models that achieve performance competitive with models up to 30x larger, introduce refusal detectors that improve average performance by 43.9% over existing detectors, and demonstrate that supervised fine-tuning can substantially improve overall safety performance.
• Abstract（参考訳）: ユーザと対話するように設計された大規模言語モデル(LLM)は、一般的に有害または有害なコンテンツに対して適切に応答するように訓練されている。 しかし、安全リスクの表現や解釈が異なる言語や文化の多様な文脈では、適切な対応の確保がより困難になる。 したがって、安全なAIシステムを構築するには、安全リスクの検出、その性質の理解、適切な対応が必要である。 AfriGuardは、有害な意図、安全カテゴリーの理解、そして10のアフリカ語と英語の拒絶行動を研究するための文化的基盤を持つ多言語データセットである。 その結果,ガードレールモデルは安全意図と安全カテゴリーの分類において,オープンソースLLMとクローズドソースLLMの両方で性能が低く,適切な安全行動の理解は限定的であり,F1は60%以下であった。 さらに、モデルが安全でないプロンプトに適切に応答しないのは、それらが明示的に拒否するからではなく、言語的に不十分な応答を生成し、適切な拒絶ではなく、偶発的な非支援をもたらすからである。 最後に、AfriGuardを用いて、最大30倍のモデルに匹敵する性能を達成する効率的なガードレールモデルを開発し、既存の検出器よりも43.9%高い平均性能を向上する拒絶検出器を導入し、教師付き微調整により全体的な安全性能を大幅に向上させることができることを示した。

関連論文リスト

• Safety Targeted Embedding Exploit via Refinement [1.384477926572109]
  本研究は、英語を主とする安全機構が多言語入力にまたがる一般化を想定できないことを示す。 STEERは、単語を低リソース言語に翻訳し、有害な意図を保ちながら拒絶を抑制する、勾配誘導攻撃である。 マルチリンガル安全性の向上にはアライメントとアウト・オブ・ディストリビューション・インプットを明示的に検出・棄却するメカニズムの広範な適用が必要であると論じる。
  論文  参考訳（メタデータ） (2026-07-02T08:17:57Z)
• Layer-wise Swapping for Generalizable Multilingual Safety [8.658596218544773]
  既存の安全データセットは主に英語中心であり、多言語安全アライメントの進歩を制限する。 本稿では、英語の安全専門家から低リソース言語専門家への安全アライメントを追加訓練なしで伝達する安全意識層スワップ手法を提案する。
  論文  参考訳（メタデータ） (2026-01-30T06:22:02Z)
• UbuntuGuard: A Culturally-Grounded Policy Benchmark for Equitable AI Safety in African Languages [18.40701733030824]
  現在のガーディアンモデルは、主に西洋中心で、高リソース言語に最適化されている。 我々はUbuntuGuardを紹介した。これは155のドメインエキスパートによって書かれた敵クエリから構築された、アフリカ初のポリシーベースの安全ベンチマークだ。
  論文  参考訳（メタデータ） (2026-01-19T03:37:56Z)
• A Safety Report on GPT-5.2, Gemini 3 Pro, Qwen3-VL, Grok 4.1 Fast, Nano Banana Pro, and Seedream 4.5 [101.4233736714284]
  大規模言語モデル(LLM)とマルチモーダル大規模言語モデル(MLLM)は、言語とビジョンをまたいだ推論、認識、生成において大きな進歩をもたらした。 GPT-5.2, Gemini 3 Pro, Qwen3-VL, Grok 4.1 Fast, Nano Banana Pro, Seedream 4.5-assesing each across language, vision- language and image generation。
  論文  参考訳（メタデータ） (2026-01-15T15:52:52Z)
• GuardEval: A Multi-Perspective Benchmark for Evaluating Safety, Fairness, and Robustness in LLM Moderators [9.212268642636007]
  大規模言語モデル(LLM)のトレーニングと評価のためのベンチマークデータセットであるGuardEvalを提案する。 GuardEvalでトレーニングされたGemma3-12Bの微調整版であるGemmaGuard(GGuard)も紹介し、詳細なラベルでコンテンツモデレーションを評価する。 マルチパースペクティブで人間中心の安全ベンチマークは、偏りと矛盾するモデレーションの決定を減らすために重要であることを示す。
  論文  参考訳（メタデータ） (2025-12-22T14:49:28Z)
• MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
  大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。 この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。 素早い分類のための多言語ガードレールを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:06Z)
• Safe to Serve: Aligning Instruction-Tuned Models for Safety and Helpfulness [0.0]
  大規模言語モデル (LLM) は複雑な推論やテキスト生成において顕著な能力を示した。 LLMは、問題のある入力を誘導すると、不安全または偏りの応答を不注意に生成することができる。 本研究は、有用なコンテンツと無害コンテンツの両方を生成する言語モデルを開発する上で、重要な課題に対処する。
  論文  参考訳（メタデータ） (2024-11-26T06:52:22Z)
• Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training [67.30423823744506]
  我々は,LLMに対して,いかなる応答位置においても有害なプロンプトへのコンプライアンスを拒否する権限を付与する,新しいアプローチであるDecoupled Refusal Training(DeRTa)を導入する。 DeRTaは,(1)安全応答の開始に有害な応答のセグメントを付加することにより,安全でないコンテンツの認識と回避をモデルに訓練する,(2)有害応答シーケンスを通して潜在的障害から安全拒絶へ移行する能力をモデルに装備する強化遷移最適化(RTO)という,2つの新しいコンポーネントを組み込んでいる。
  論文  参考訳（メタデータ） (2024-07-12T09:36:33Z)
• On Prompt-Driven Safeguarding for Large Language Models [172.13943777203377]
  表現空間では、入力クエリは通常、安全プロンプトによって「より高い拒絶」方向に移動される。 これらの知見に触発されて,安全性向上,すなわちDROの最適化手法を提案する。 安全性プロンプトを継続的かつトレーニング可能な埋め込みとして扱うことで、DROは、その有害性に応じて、クエリの表現を拒否方向に沿ってあるいは反対に移動させることを学ぶ。
  論文  参考訳（メタデータ） (2024-01-31T17:28:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。