論文の概要: Safety Kernel: Mechanistic Alignment for Cross-Lingual Defense in LLMs

• arxiv url: http://arxiv.org/abs/2610.24614v1
• Date: Sat, 17 Oct 2026 10:39:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-22 17:17:58.898921
• Title: Safety Kernel: Mechanistic Alignment for Cross-Lingual Defense in LLMs
• Title（参考訳）: 安全カーネル:LLMにおける言語間防衛のための機械的アライメント
• Abstract要約: 我々は、ニューロンレベルでの言語間安全行動を分析し、安全カーネル(SK)と呼ばれる言語間で共有される安全関連ニューロンのコンパクトな集合を同定する。 SK-Masked LoRAは、SKに対応するフィードフォワードネットワーク(FFN)出力次元へのLoRA適応を制約し、それによって、交叉交叉共有ニューロン座標に安全関連の変化を集中させる。
• 参考スコア（独自算出の注目度）: 15.317801608919057
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The safety capabilities of large language models (LLMs) are highly uneven across different languages, often allowing cross-lingual attacks to bypass safety guardrails. Existing alignment methods predominantly rely on external alignment signals and provide limited insight into underlying neuron-level mechanisms, making it difficult to provide a unified internal target for cross-lingual safety interventions. To address this, we analyze cross-lingual safety behavior at the neuron level and identify a compact set of safety-related neurons shared across languages, termed the safety kernel (SK). Specifically, we first utilize multilingual parallel safe and unsafe prompts to compute safety contrast with activation responsiveness (SCAR) scores, identifying language-wise safety-neuron candidates from internal activation patterns. We then intersect the resulting language-wise safety-neuron sets to obtain the SK, and validate its functional relevance to cross-lingual safety behavior through activation suppression and activation-state transfer interventions. Finally, building on the SK coordinates, we introduce SK-Masked LoRA, which constrains LoRA adaptation to the feed-forward network (FFN) output dimensions corresponding to the SK, thereby focusing safety-related changes on the cross-lingually shared neuron coordinates. Extensive experiments demonstrate that SK-Masked LoRA substantially reduces attack success rates across multiple languages, including languages excluded from SK discovery, while intervening on only a small fraction of internal neuron coordinates and producing generally limited changes in the model's general capabilities.
• Abstract（参考訳）: 大きな言語モデル(LLM)の安全性は、様々な言語で非常に不均一であり、しばしば言語間攻撃によって安全ガードレールをバイパスすることができる。 既存のアライメント法は主に外部アライメント信号に依存し、基礎となるニューロンレベルのメカニズムについて限られた洞察を与えるため、言語間安全介入のための統一された内部ターゲットを提供することが困難である。 そこで我々は,言語間の安全行動をニューロンレベルで解析し,安全カーネル(SK)と呼ばれる言語間で共有される安全関連ニューロンのコンパクトな集合を同定した。 具体的には、まず多言語並列安全性と安全でないプロンプトを用いて、アクティベーション応答性(SCAR)スコアと安全コントラストを計算し、言語学的に安全なニューロン候補を内部アクティベーションパターンから同定する。 次に、得られた言語系安全ニューロン集合をインターセプトしてSKを得るとともに、アクティベーション・アクティベーションとアクティベーション・ステート・トランスファーの介入を通じて、言語間安全行動に対する機能的関連性を検証する。 最後に、SK座標に基づいて、SKに対応するフィードフォワードネットワーク(FFN)出力次元へのLoRA適応を制約するSK-Masked LoRAを導入する。 大規模な実験により、SK-Masked LoRAは、SK発見から除外された言語を含む複数の言語での攻撃成功率を大幅に低下させ、内部ニューロン座標のごく一部に介入し、モデル全体の機能に一般的に制限された変化をもたらすことを示した。

関連論文リスト

• ACTR: Aligning Thoughts and Responses for Multilingual Safety in Reasoning LLMs [43.102386671337634]
  本稿では,既存の安全推論の利用を強化することで,多言語間の安全アライメントを改善するフレームワークを提案する。 ACTRはAdvBench-XとMultiJailの最先端手法よりも平均攻撃成功率が低い。
  論文  参考訳（メタデータ） (2026-09-29T08:58:55Z)
• Who Bridges Safety? Identifying and Targeting Cross-Lingual Shared Safety Pathways [44.23839982612062]
  安全信号伝搬中に形成される多層機能経路を同定し,標的とする。 言語間共有安全経路に基づく経路目標アライメント手法を提案する。 実験結果から,NHR言語の安全性が著しく向上することが示唆された。
  論文  参考訳（メタデータ） (2026-08-10T03:48:47Z)
• No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks [61.07406641465909]
  複数の計算ニューロンにまたがる安全性を符号化した分散安全アライメントを提案する。 DSAは、汎用言語とマルチモーダルユーティリティを保ちながら、ホワイトボックスニューロンレベルの安全攻撃に対して大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2026-08-02T17:49:07Z)
• SafeNexus: Discovering and Steering Modality-Universal Safety Neurons in MLLMs [69.51621286001262]
  我々は、専用のニューロンレベルの介入戦略を採用する、モーダル間安全アライメントフレームワークであるSafeNexusを紹介する。 我々は、モダリティ結合型安全ニューロン(BS-Neurons)を同定し、各モダリティ内の安全行動の調節におけるそれらの役割を検証した。 我々は,アクティベーションレベル安全増幅器と安全ニューロン校正器の2つの安全アライメント戦略を提案する。
  論文  参考訳（メタデータ） (2026-07-31T02:45:56Z)
• One Anchor for All: Unified Multilingual and Multimodal Safety Alignment for LVLMs [63.29484454957031]
  モーダリティと言語共有型安全ニューロン(MLS-Neurons)によって駆動されるニューロンレベルのクロス次元安全アライメントフレームワークを提案する。 提案手法は,多言語およびマルチモーダルの安全性ベンチマークにおいて,最先端のアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2026-07-30T09:30:03Z)
• Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance [64.18179414483966]
  実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。 危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。 この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
  論文  参考訳（メタデータ） (2026-04-10T02:42:52Z)
• Who Transfers Safety? Identifying and Targeting Cross-Lingual Shared Safety Neurons [49.772147495578736]
  言語間共有安全ニューロン(SS-Neurons)は、言語間の安全行動を制御する。 本稿では,言語資源分布とモデルアーキテクチャに基づいて,SS-Neuronsをターゲットにしたニューロン指向のトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2026-02-01T15:28:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。