論文の概要: When Safety Speaks a Language: A Mechanistic Analysis of Safety-Language Identity Entanglement in LLMs

• arxiv url: http://arxiv.org/abs/2608.29936v1
• Date: Sun, 30 Aug 2026 18:07:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.124686
• Title: When Safety Speaks a Language: A Mechanistic Analysis of Safety-Language Identity Entanglement in LLMs
• Title（参考訳）: 言語を話すときの安全-Language Identity Entanglementの機械的解析-
• Abstract要約: 安全関連機能は、どこに位置し、どのように層に分散するかという点で、アーキテクチャに依存します。 この安全言語の絡み合いは、安全性を損なうことが有害な反応速度だけでなく、標的言語にも影響を及ぼすという直接的な結果をもたらす。 本研究は,安全アライメントの言語多様性をアーキテクチャ依存とみなし,多言語的安全介入の機械的説明を提供する。
• 参考スコア（独自算出の注目度）: 4.92475688183711
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety alignment of large language models (LLMs) degrades across languages, yet the internal mechanism driving this asymmetry remains poorly understood. Our work, therefore, presents a systematic mechanistic analysis of multilingual safety using sparse autoencoder (SAE) features, sparse interpretable directions in the residual stream associated with harmful and harmless model behavior across three instruction-tuned LLMs, eight languages, and all model layers. We observe that safety-relevant features are architecture-dependent in terms of where they are located and how they are distributed across layers. Additionally, they are geometrically entangled with language identity and exhibit cross-lingual sharing patterns, i.e., languages share safety features to varying degrees across model depths and architectures. This safety-language entanglement has direct consequences such that ablating safety features impacts not only harmful response rates but also target language, with the degree of intervention predicted by the relationship between safety and language features. Our findings qualify the language-universality of safety alignment as architecture-dependent and offer a mechanistic account of multilingual safety interventions.
• Abstract（参考訳）: 大きな言語モデル(LLM)の安全性の整合性は言語間で低下するが、この非対称性を駆動する内部メカニズムはいまだに理解されていない。 そこで本研究では,3つのLLM,8言語,およびすべてのモデル層にまたがる有害かつ無害なモデル挙動に関連する残差ストリームにおけるスパースオートエンコーダ(SAE)特徴を用いて,多言語安全性の系統的機構解析を行った。 安全関連機能は、どこに位置し、どのように層に分散するかという点で、アーキテクチャに依存している。 さらに、それらは幾何学的に言語アイデンティティと絡み合っており、言語間の共有パターン、すなわち、言語はモデルの深さとアーキテクチャにわたって様々な程度に安全特徴を共有する。 この安全言語の絡み合いは、安全の特徴を損なうことが、有害な応答率だけでなく、標的言語にも影響し、安全と言語の特徴の関係によって予測される介入の程度に影響を及ぼすという直接的な結果をもたらす。 本研究は,安全アライメントの言語多様性をアーキテクチャ依存とみなし,多言語的安全介入の機械的説明を提供する。

関連論文リスト

• Who Bridges Safety? Identifying and Targeting Cross-Lingual Shared Safety Pathways [44.23839982612062]
  安全信号伝搬中に形成される多層機能経路を同定し,標的とする。 言語間共有安全経路に基づく経路目標アライメント手法を提案する。 実験結果から,NHR言語の安全性が著しく向上することが示唆された。
  論文  参考訳（メタデータ） (2026-08-10T03:48:47Z)
• Exploring Adversarial Robustness and Safety Alignment in Multilingual Multi-Modal Large Language Models [37.24612885977265]
  マルチモーダル大規模言語モデルでは、視覚認識を言語推論に統合し、敵対的攻撃を受けやすい連続的な攻撃面を導入する。 MLLMの以前の研究は、主に英語中心のタスクに焦点を合わせており、多言語的な振る舞いは未調査のままである。 本研究は,12言語にまたがる対向的ロバスト性とマルチモーダル安全性について検討し,インストラクションチューニングによる多言語能力を得るオープンソースMLLMを評価した。
  論文  参考訳（メタデータ） (2026-06-02T15:42:10Z)
• Multilingual Safety Alignment via Self-Distillation [17.94152626632751]
  大規模言語モデル (LLM) は、重度の多言語的安全性のミスアライメントを示す。 マルチリンガル自己蒸留(Multilingual Self-Distillation:MSD)という,言語横断型セーフガード転送フレームワークを提案する。 私たちのフレームワークは柔軟で、さまざまな自己蒸留戦略に統合できます。
  論文  参考訳（メタデータ） (2026-05-03T14:22:49Z)
• Multilingual Refusal Alignment for Safer Large Language Models [53.64286756804503]
  単言語アライメントが言語横断的に伝達されるか,トレーニング中に言語一貫性が保たれるか,一般的な知識能力とのトレードオフが生じるかを検討する。 RefusEUは、12のヨーロッパ言語をカバーする新しい拒絶アライメントデータセットであり、現在の最先端モデルを評価するための専用のテストセットを含む。 制御された直接選好最適化(DPO)実験は、2つの重要な洞察を提供する: 英語でのみモデルを整列することは、同じハーネスカテゴリであっても、言語間安全を保証するには不十分である。
  論文  参考訳（メタデータ） (2026-04-24T09:29:14Z)
• LASA: Language-Agnostic Semantic Alignment at the Semantic Bottleneck for LLM Safety [88.98698230989186]
  大規模言語モデル(LLM)は、しばしば高リソース言語で強力な安全性性能を示すが、低リソース言語では深刻な脆弱性を示す。 このギャップは、言語に依存しない意味理解能力と、高リソース言語に偏った言語に支配的な安全アライメントのミスマッチによるものと考えられる。 セマンティック・アライメント(LASA)を提案し,セマンティック・ボトルネックに直接安全アライメントを固定する。
  論文  参考訳（メタデータ） (2026-04-13T15:59:50Z)
• Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance [64.18179414483966]
  実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。 危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。 この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
  論文  参考訳（メタデータ） (2026-04-10T02:42:52Z)
• LinguaSafe: A Comprehensive Multilingual Safety Benchmark for Large Language Models [22.273388934888278]
  私たちのデータセットは、ハンガリー語からマレー語まで、12言語で45万のエントリで構成されています。 我々のベンチマークは、詳細な安全性評価のための総合的なメトリクススイートを提供する。
  論文  参考訳（メタデータ） (2025-08-18T08:59:01Z)
• MPO: Multilingual Safety Alignment via Reward Gap Optimization [88.76638442683391]
  大規模言語モデル(LLM)は、世界中でAIアプリケーションの中心となっている。 RLHFやDPOのような既存の安全アライメントのための選好学習手法は、主に単言語であり、ノイズの多い多言語データと競合する。 本稿では,複数言語間の安全アライメントを改善するために,支配言語(英語)の安全能力の整合性を活用した新しいアプローチである多言語報酬gaP Optimization(MPO)を紹介する。
  論文  参考訳（メタデータ） (2025-05-22T16:24:51Z)
• MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
  大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。 この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。 素早い分類のための多言語ガードレールを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:06Z)
• LLMs Lost in Translation: M-ALERT uncovers Cross-Linguistic Safety Inconsistencies [63.10843814055688]
  M-ALERTは5つの言語における大規模言語モデルの安全性を評価するベンチマークである。 M-ALERTには言語毎に15kの高品質なプロンプトが含まれており、合計で75k、カテゴリワイドアノテーションがある。 39種類のLLMに関する実験は,言語固有の安全性解析の重要性を強調した。
  論文  参考訳（メタデータ） (2024-12-19T16:46:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。