Fugu-MT 論文翻訳(概要): EASE: Practical and Efficient Safety Alignment for Small Language Models

論文の概要: EASE: Practical and Efficient Safety Alignment for Small Language Models

arxiv url: http://arxiv.org/abs/2511.06512v1
Date: Sun, 09 Nov 2025 19:46:54 GMT
ステータス: 翻訳完了
システム内更新日: 2025-11-11 21:18:44.985626
Title: EASE: Practical and Efficient Safety Alignment for Small Language Models
Title（参考訳）: EASE: 小型言語モデルのための実用的で効率的な安全アライメント
Authors: Haonan Shi, Guoli Wang, Tu Ouyang, An Wang,
Abstract要約: 小型言語モデル(SLM)は、エッジデバイスにますますデプロイされ、安全性の整合性は重要でありながら困難である。小型ランガグモデルに対する実用的で効率的な安全アライメントを実現するための新しいフレームワークであるEASEを提案する。
参考スコア（独自算出の注目度）: 4.839980912290382
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Small language models (SLMs) are increasingly deployed on edge devices, making their safety alignment crucial yet challenging. Current shallow alignment methods that rely on direct refusal of malicious queries fail to provide robust protection, particularly against adversarial jailbreaks. While deliberative safety reasoning alignment offers deeper alignment for defending against sophisticated attacks, effectively implanting such reasoning capability in SLMs with limited capabilities remains an open challenge. Moreover, safety reasoning incurs significant computational overhead as models apply reasoning to nearly all queries, making it impractical for resource-constrained edge deployment scenarios that demand rapid responses. We propose EASE, a novel framework that enables practical and Efficient safety Alignment for Small languagE models. Our approach first identifies the optimal safety reasoning teacher that can effectively distill safety reasoning capabilities to SLMs. We then align models to selectively activate safety reasoning for dangerous adversarial jailbreak queries while providing direct responses to straightforward malicious queries and general helpful tasks. This selective mechanism enables small models to maintain robust safety guarantees against sophisticated attacks while preserving computational efficiency for benign interactions. Experimental results demonstrate that EASE reduces jailbreak attack success rates by up to 17% compared to shallow alignment methods while reducing inference overhead by up to 90% compared to deliberative safety reasoning alignment, making it practical for SLMs real-world edge deployments.
Abstract（参考訳）: 小型言語モデル(SLM)は、エッジデバイスにますますデプロイされ、安全性の整合性は重要でありながら困難である。悪意のあるクエリの直接の拒否に依存する現在の浅層アライメントメソッドは、特に敵のジェイルブレイクに対する堅牢な保護を提供していない。デリバティブな安全推論アライメントは高度な攻撃に対してより深いアライメントを提供するが、そのような推論能力を限られた能力を持つSLMに効果的に組み込むことは、未解決の課題である。さらに、モデルがほぼすべてのクエリに推論を適用するため、安全性推論は重大な計算オーバーヘッドを引き起こすため、迅速な応答を要求するリソース制約のあるエッジデプロイメントシナリオでは現実的ではない。小型ランガグモデルのための実用的で効率的な安全アライメントを実現する新しいフレームワークであるEASEを提案する。提案手法はまず,安全推論能力をSLMに効果的に活用できる最適な安全推論教師を同定する。次に、危険なジェイルブレイククエリに対する安全推論を選択的に活性化すると同時に、単純な悪意のあるクエリや一般的な有用なタスクへの直接応答を提供するようにモデルを調整する。この選択的なメカニズムにより、小さなモデルでは、良質な相互作用の計算効率を保ちながら、高度な攻撃に対する堅牢な安全性を保証することができる。実験結果から,EASEは脱獄攻撃成功率を浅いアライメント法に比べて最大17%削減し,推論オーバーヘッドを最大90%削減し,検討安全推論アライメントよりも90%低減し,現実のエッジデプロイメントにおいて実用的であることが示された。

関連論文リスト

ReasoningGuard: Safeguarding Large Reasoning Models with Inference-time Safety Aha Moments [18.198349215500183]
ReasoningGuardは、タイムリーな安全アハモーメントを注入し、無害な理由づけプロセスを実行します。弊社のアプローチは、既存の7つの安全ガードを上回り、最先端の安全防衛を達成している。
論文参考訳（メタデータ） (2025-08-06T08:35:10Z)
ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。 ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
論文参考訳（メタデータ） (2025-07-14T09:05:54Z)
Safety is Not Only About Refusal: Reasoning-Enhanced Fine-tuning for Interpretable LLM Safety [41.32331563680919]
大きな言語モデル(LLM)は、従来の安全アライメントの弱点を利用するジェイルブレイク攻撃に対して脆弱である。解釈可能なLLM安全性のための推論強化ファインタニング(Rational)を提案する。合理的列車は、応答前に明確な安全な推論を行うようにモデル化する。
論文参考訳（メタデータ） (2025-03-06T22:47:45Z)
Reasoning-to-Defend: Safety-Aware Reasoning Can Defend Large Language Models from Jailbreaking [54.10710423370126]
本稿では,大規模言語モデルの生成プロセスに安全性を考慮した推論機構を統合する訓練パラダイムであるReasoning-to-Defend(R2D)を提案する。 CPOは、与えられた対話の安全性に対するモデルの認識を高める。実験によると、R2Dは様々な攻撃を効果的に軽減し、元の性能を維持しながら全体の安全性を向上させる。
論文参考訳（メタデータ） (2025-02-18T15:48:46Z)
Superficial Safety Alignment Hypothesis [15.215130286922564]
本稿では,安全アライメントが安全でないモデルに正しい推論方向を選択することを示唆する,表層安全アライメント仮説(SSAH)を提案する。属性クリティカルなコンポーネントは,安全性クリティカルユニット(SCU),ユーティリティクリティカルユニット(UCU),コンプレックスユニット(CU),冗長ユニット(RU)の4種類に分類する。実験結果から, 微調整中に特定の安全クリティカル成分を凍結することで, 新たな作業に適応しながら, 安全性特性を維持できることが判明した。
論文参考訳（メタデータ） (2024-10-07T19:53:35Z)
SCANS: Mitigating the Exaggerated Safety for LLMs via Safety-Conscious Activation Steering [56.92068213969036]
悪意のある命令から脅威を守るために、LLM(Large Language Models)には安全アライメントが不可欠である。近年の研究では、過大な安全性の問題により、安全性に配慮したLCMは、良質な問い合わせを拒否する傾向にあることが明らかになっている。過大な安全性の懸念を和らげるために,SCANS法を提案する。
論文参考訳（メタデータ） (2024-08-21T10:01:34Z)
Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training [67.30423823744506]
我々は,LLMに対して,いかなる応答位置においても有害なプロンプトへのコンプライアンスを拒否する権限を付与する,新しいアプローチであるDecoupled Refusal Training(DeRTa)を導入する。 DeRTaは,(1)安全応答の開始に有害な応答のセグメントを付加することにより,安全でないコンテンツの認識と回避をモデルに訓練する,(2)有害応答シーケンスを通して潜在的障害から安全拒絶へ移行する能力をモデルに装備する強化遷移最適化(RTO)という,2つの新しいコンポーネントを組み込んでいる。
論文参考訳（メタデータ） (2024-07-12T09:36:33Z)
On Prompt-Driven Safeguarding for Large Language Models [172.13943777203377]
表現空間では、入力クエリは通常、安全プロンプトによって「より高い拒絶」方向に移動される。これらの知見に触発されて,安全性向上,すなわちDROの最適化手法を提案する。安全性プロンプトを継続的かつトレーニング可能な埋め込みとして扱うことで、DROは、その有害性に応じて、クエリの表現を拒否方向に沿ってあるいは反対に移動させることを学ぶ。
論文参考訳（メタデータ） (2024-01-31T17:28:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。