論文の概要: Safe at One Loop, Risky at Another: Aligning Safety Across Recurrent Depths in Looped Language Models

• arxiv url: http://arxiv.org/abs/2610.10625v1
• Date: Wed, 07 Oct 2026 10:48:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.577972
• Title: Safe at One Loop, Risky at Another: Aligning Safety Across Recurrent Depths in Looped Language Models
• Title（参考訳）: 1ループで安全、もう1ループでリスク:ループ言語モデルにおける繰り返し深さの安全性の調整
• Abstract要約: 本報告では,異なる再帰深さをターゲットとした脱獄攻撃におけるLoopLMの総合的安全性評価について述べる。 本稿では,共有再帰層を軽量に制御するSafeBridgeについて紹介する。 以上の結果から,LoopLMの安全性は1回の繰り返し深度から推定できないことが示唆された。
• 参考スコア（独自算出の注目度）: 34.61188922792298
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Looped Language Models (LoopLMs) provide a parameter efficient approach to scaling model capabilities through repeated use of shared parameters across recurrent steps. Since each recurrent depth can be read out independently, a single LoopLM exposes a broader output space across inference depths, raising an important question: whether safety is preserved throughout recurrent computation. Prior evaluations suggest that deeper recurrence can improve safety on harmful queries, but robustness under jailbreak attacks remains unclear. We therefore conduct a comprehensive safety evaluation of LoopLMs under jailbreak attacks targeting different recurrent depths. We find that attack success can increase at deeper inference depths, the same query can elicit different safety behaviors across depths, and attacks constructed against one depth can transfer to others. Moreover, SFT and preference alignment do not eliminate these safety gaps, motivating an alignment method designed for LoopLMs. We introduce SafeBridge, which combines lightweight depth specific control of shared recurrent layers, selective state bridging, and joint safety supervision across recurrent depths. Across model scales, multiple attack methods, and safety benchmarks, SafeBridge substantially reduces attack success for both matched-depth and cross-depth attacks. It also improves general utility over the vanilla models while maintaining comparable over-refusal behavior. Our results show that the safety of a LoopLM cannot be inferred from a single recurrent depth, motivating safety alignment across recurrent computation. Our code and model checkpoints will be released upon acceptance.
• Abstract（参考訳）: Looped Language Models (LoopLMs) は、反復的なステップをまたいだ共有パラメータの繰り返し使用を通じて、モデルの機能を拡張するためのパラメータ効率のよいアプローチを提供する。 各リカレント深さを独立に読み出すことができるため、単一のLoopLMは推論深度にわたって広い出力空間を公開し、リカレント計算を通して安全性が維持されるかどうかという重要な疑問を提起する。 以前の評価では、より深い再発は有害なクエリの安全性を改善する可能性があるが、ジェイルブレイク攻撃による堅牢性はまだ不明である。 そこで我々は,異なる再帰深さを標的としたジェイルブレイク攻撃において,LoopLMの包括的安全性評価を行う。 攻撃の成功は、深い推論深度で増加し、同じクエリは、深さにわたって異なる安全行動を引き出すことができ、一方の深さに対して構築された攻撃は、他の人に転送できる。 さらに、SFTと優先アライメントはこれらの安全ギャップを排除せず、LoopLM用に設計されたアライメント手法を動機付けている。 本稿では,共有再帰層を軽量に制御するSafeBridgeについて紹介する。 モデルスケール、複数の攻撃方法、安全ベンチマークの他、SafeBridgeはマッチした深度と深度の両方の攻撃の成功を大幅に削減する。 また、バニラモデルよりも汎用性を向上し、同等のオーバーリフレア動作を維持している。 以上の結果から,LoopLMの安全性は1回の繰り返し深度から推定できないことが示唆された。 私たちのコードとモデルチェックポイントは受け入れ次第リリースされます。

関連論文リスト

• UnsafeChain: Enhancing Reasoning Model Safety via Hard Cases [57.69882799751655]
  さまざまなソースを持つハードプロンプトから構築された安全アライメントデータセットであるUnsafeChainをリリースする。 我々は3つの大きな推論モデル(LRM)を微調整し、それらを最近のSafeChainとSTAR-1と比較する。 UnsafeChainは、1Kサブセットのマッチングやベースラインのパフォーマンスを越えながら、従来よりも一貫してパフォーマンスが向上している。
  論文  参考訳（メタデータ） (2025-07-29T10:08:52Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• One Trigger Token Is Enough: A Defense Strategy for Balancing Safety and Usability in Large Language Models [20.42976162135529]
  大規模言語モデル(LLM)は、仮想アシスタント、自動コード生成、科学研究など、さまざまな領域で広く使われている。 我々は,与えられた安全対応LLMの安全トリガトークンを識別し,明示的に復号する,シンプルで効果的な防衛アルゴリズムであるtextttD-STT を提案する。
  論文  参考訳（メタデータ） (2025-05-12T01:26:50Z)
• Steering Dialogue Dynamics for Robustness against Multi-turn Jailbreaking Attacks [59.300698230887114]
  大規模言語モデル(LLM)は、有害な応答を誘発するために敵のプロンプトが設計されたジェイルブレイク攻撃に対して脆弱であることが示されている。 安全制御理論に基づく安全ステアリングフレームワークを提案し,マルチターン対話における不変安全性を保証する。
  論文  参考訳（メタデータ） (2025-02-28T21:10:03Z)
• Separate the Wheat from the Chaff: A Post-Hoc Approach to Safety Re-Alignment for Fine-Tuned Language Models [30.93821289892195]
  IRR (Identify, Remove, and Recalibrate for Safety Realignment) を提案する。 IRRの中核は、保持されたパラメータを再調整しながら、微調整されたモデルから安全でないデルタパラメータを特定し、除去することである。 この結果から,IRRは有害なクエリやジェイルブレイク攻撃などの安全性ベンチマークにおいて,微調整モデルの安全性を著しく向上することが示された。
  論文  参考訳（メタデータ） (2024-12-15T03:58:38Z)
• Provable Safe Reinforcement Learning with Binary Feedback [62.257383728544006]
  状態, アクションペアの安全性に対するバイナリフィードバックを提供するオフラインオラクルへのアクセスを与えられた場合, 証明可能な安全なRLの問題を考える。 我々は,その設定に対してブラックボックスPAC RLアルゴリズムに与えられた任意のMDP設定に適用可能な,新しいメタアルゴリズムSABREを提案する。
  論文  参考訳（メタデータ） (2022-10-26T05:37:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。