論文の概要: ACTR: Aligning Thoughts and Responses for Multilingual Safety in Reasoning LLMs

• arxiv url: http://arxiv.org/abs/2609.37054v2
• Date: Wed, 30 Sep 2026 09:15:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.212915
• Title: ACTR: Aligning Thoughts and Responses for Multilingual Safety in Reasoning LLMs
• Title（参考訳）: ACTR:LLMにおける多言語安全のための考え方と対応
• Abstract要約: 本稿では,既存の安全推論の利用を強化することで,多言語間の安全アライメントを改善するフレームワークを提案する。 ACTRはAdvBench-XとMultiJailの最先端手法よりも平均攻撃成功率が低い。
• 参考スコア（独自算出の注目度）: 43.102386671337634
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Ensuring the safety of reasoning large language models (LLMs) across languages is essential for their reliable deployment. However, when exposed to jailbreak attacks in non-high-resource languages, these models may generate unsafe responses even when their reasoning traces identify safety risks. To address this issue, we propose aligning cross-lingual thoughts and responses (ACTR), a framework that improves multilingual safety alignment by strengthening the use of existing safety reasoning. Specifically, we first present the think gap score (TGS) to compare the normalized contributions of reasoning traces to attention outputs during response generation across languages, and use reasoning- trace substitution to measure the cross-lingual safety gap. Next, using a corpus of jailbreak queries, we assess neuron importance through changes in response representations caused by neuron masking and compare the high-importance neuron sets obtained with reasoning enabled and disabled to identify safety think neurons that support the use of safety reasoning. Finally, we devise neuron-selective consistency optimization (NSCO), which uses a frozen judge model to reward agreement between the safety categories of reasoning traces and responses while updating only the parameters associated with the selected neurons, requiring no human-annotated responses or preference data. Across two reasoning models, ACTR achieves lower average attack success rates than the evaluated state-of-the-art methods on AdvBench-X and MultiJail, with safety gains extending to unseen languages, while preserving or improving average performance on multilingual knowledge and mathematical reasoning tasks and limiting false refusals of benign requests. Warning: this paper contains examples with unsafe content.
• Abstract（参考訳）: 言語全体にわたって大きな言語モデル(LLM)を推論する安全性を保証することは、信頼性の高いデプロイメントに不可欠である。 しかし、非オープンソースの言語でジェイルブレイク攻撃に晒されると、これらのモデルが安全性のリスクを特定したとしても、安全でない応答を発生させる可能性がある。 この問題に対処するため,既存の安全推論の利用を強化することで,多言語間の安全アライメントを改善するフレームワークであるACTRを提案する。 具体的には、まず思考ギャップスコア(TGS)を、言語間の応答生成中の注意出力に対する推論トレースの正規化コントリビューションと、言語間の安全ギャップを測定するための推論トレース置換を用いて比較する。 次に、ジェイルブレイククエリーのコーパスを用いて、ニューロンマスキングによる応答表現の変化を通じてニューロンの重要性を評価し、安全推論を補助する安全思考ニューロンを識別するために、推論を有効化し、無効にすることで得られる高重要性のニューロン集合を比較した。 最後に, ニューロン選択整合性最適化(NSCO)を提案し, 凍結判定モデルを用いて, 選択したニューロンに関連するパラメータのみを更新しながら, 推論トレースと応答の安全カテゴリ間の一致を報知する。 2つの推論モデル全体で、ACTRはAdvBench-XとMultiJailで評価された平均攻撃成功率よりも低い平均攻撃成功率を達成する。 警告: この論文には、安全でないコンテンツの例が含まれている。

関連論文リスト

• Who Bridges Safety? Identifying and Targeting Cross-Lingual Shared Safety Pathways [44.23839982612062]
  安全信号伝搬中に形成される多層機能経路を同定し,標的とする。 言語間共有安全経路に基づく経路目標アライメント手法を提案する。 実験結果から,NHR言語の安全性が著しく向上することが示唆された。
  論文  参考訳（メタデータ） (2026-08-10T03:48:47Z)
• One Anchor for All: Unified Multilingual and Multimodal Safety Alignment for LVLMs [63.29484454957031]
  モーダリティと言語共有型安全ニューロン(MLS-Neurons)によって駆動されるニューロンレベルのクロス次元安全アライメントフレームワークを提案する。 提案手法は,多言語およびマルチモーダルの安全性ベンチマークにおいて,最先端のアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2026-07-30T09:30:03Z)
• Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance [64.18179414483966]
  実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。 危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。 この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
  論文  参考訳（メタデータ） (2026-04-10T02:42:52Z)
• Who Transfers Safety? Identifying and Targeting Cross-Lingual Shared Safety Neurons [49.772147495578736]
  言語間共有安全ニューロン(SS-Neurons)は、言語間の安全行動を制御する。 本稿では,言語資源分布とモデルアーキテクチャに基づいて,SS-Neuronsをターゲットにしたニューロン指向のトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2026-02-01T15:28:02Z)
• ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
  ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。 ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
  論文  参考訳（メタデータ） (2025-07-14T09:05:54Z)
• Reasoning-to-Defend: Safety-Aware Reasoning Can Defend Large Language Models from Jailbreaking [54.10710423370126]
  本稿では,大規模言語モデルの生成プロセスに安全性を考慮した推論機構を統合する訓練パラダイムであるReasoning-to-Defend(R2D)を提案する。 CPOは、与えられた対話の安全性に対するモデルの認識を高める。 実験によると、R2Dは様々な攻撃を効果的に軽減し、元の性能を維持しながら全体の安全性を向上させる。
  論文  参考訳（メタデータ） (2025-02-18T15:48:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。