論文の概要: RAS: Measuring LLM Safety Through Refusal Alignment

• arxiv url: http://arxiv.org/abs/2606.25750v1
• Date: Wed, 24 Jun 2026 12:19:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 17:05:30.323701
• Title: RAS: Measuring LLM Safety Through Refusal Alignment
• Title（参考訳）: RAS:リフレクションアライメントによるLCMの安全性の測定
• Abstract要約: 大規模言語モデル(LLM)の安全性評価は、安全でないプロンプトやジェイルブレイクプロンプトでモデルに問い合わせることが一般的である。 生成した回答ではなく内部表現から安全性を測定するホワイトボックス評価手法である*SafeVec*を提案する。
• 参考スコア（独自算出の注目度）: 7.0274619825425395
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety evaluation of large language models (LLMs) is commonly performed by querying models with unsafe or jailbreak prompts and judging whether their outputs violate a safety policy. Although useful, output-level evaluation is expensive, sensitive to judge choice, and easily tied to fixed question banks. We propose **SafeVec**, a white-box evaluation procedure that measures safety from internal representations rather than generated answers. **SafeVec** first extracts layer-wise refusal directions from a safety-aligned reference model, then selects stable layer windows where safe and unsafe behaviors are separable, and finally scores a target model by measuring whether its hidden states align with these refusal directions under unsafe and jailbreak prompts. The resulting metric, **RAS** (**R**efusal **A**lignment **S**core), maps representation-level refusal alignment to a calibrated 0-100 safety score. Across `Llama`, `Gemma`, and `Qwen` model families, RAS separates aligned models from uncensored and abliterated variants, tracks output-level attack success rate, and is substantially faster than judge-based evaluation. These results suggest that refusal alignment provides a compact and efficient signal for white-box LLM safety evaluation.
• Abstract（参考訳）: 大規模言語モデル(LLM)の安全性評価は、安全でないプロンプトやジェイルブレイクプロンプトでモデルをクエリし、その出力が安全ポリシーに違反しているかどうかを判断することで一般的に行われる。 有用ではあるが、アウトプットレベルの評価は高価であり、判断の選択に敏感であり、固定された質問銀行と簡単に結びつく。 生成した回答ではなく内部表現から安全性を測定するホワイトボックス評価手法である*SafeVec*を提案する。 *SafeVec** は、安全に整合した参照モデルから、まず階層的拒否方向を抽出し、安全で安全でない振る舞いが分離可能な安定したレイヤウィンドウを選択し、最後に、その隠された状態が、安全でジェイルブレイクのプロンプトの下でこれらの拒絶方向と一致しているかどうかを測定することによって、ターゲットモデルを取得する。 結果の計量**RAS**(**R**efusal **A**lignment **S**core)は、表示レベルの拒絶アライメントを、校正された0-100の安全スコアにマッピングする。 Llama`, `Gemma`, `Qwen` モデルファミリ全体において、RASは、アライメントモデルとアンセンセードモデルとアブリーブモデルとを分離し、アウトプットレベルの攻撃成功率を追跡し、ジャッジベースの評価よりも大幅に高速である。 これらの結果から,リフレクションアライメントは,ホワイトボックスLLMの安全性評価のためのコンパクトで効率的な信号となることが示唆された。

関連論文リスト

• Benchmarking the Benchmarks: Evaluating Automated Safety Benchmarks for Small Language Models [10.539135916505133]
  小言語モデル(SLM)は、リソースに制約のある、プライバシに敏感な設定にますますデプロイされている。 既存のAIセーフスラッシュセキュリティスラッシュコンプライアンスベンチマークは、SLMに確実に移行できない大きな言語モデルのために設計されている。 これらのベンチマークは、SLMを効果的かつ確実に評価できますか?
  論文  参考訳（メタデータ） (2026-08-17T22:47:14Z)
• Robust Multimodal Safety via Conditional Decoding [52.92816441364308]
  マルチモーダル大規模言語モデル(MLLM)は、有害なクエリが相互モーダル相互作用を悪用した場合、しばしば安全性の低下を経験する。 本稿では,MLLMの内部表現を利用して応答生成前の二項安全トークンを予測する,シンプルな条件付きデコード戦略であるCASAを提案する。
  論文  参考訳（メタデータ） (2026-03-31T23:19:50Z)
• A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
  本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。 我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。 本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
  論文  参考訳（メタデータ） (2025-10-03T07:01:45Z)
• SABER: Uncovering Vulnerabilities in Safety Alignment via Cross-Layer Residual Connection [16.38885847999291]
  セーフアライメントトレーニングを備えた大規模言語モデル(LLM)は、堅牢な言語理解能力を備えた強力な機器である。 2つの中間層を$s$と$e$で接続し、残余接続を通じて$s e$と$e$を接続する新しいホワイトボックスジェイルブレイク手法であるSABERを導入する。 提案手法は,HarmBenchテストセット上での最高性能ベースラインよりも51%向上する。
  論文  参考訳（メタデータ） (2025-09-19T15:10:19Z)
• Turning the Spell Around: Lightweight Alignment Amplification via Rank-One Safety Injection [47.347413305965006]
  大規模言語モデル(LLM)における安全性の整合性は、しばしば有害な要求を拒否するために内部表現を仲介する。 近年の研究では、これらの安全メカニズムは特定の表現方向を非難したり削除したりすることで回避可能であることが示されている。 そこで本研究では,リファレンシャル・メディア・サブスペースへのアクティベーションを永久に操り,モデルの安全アライメントを向上する手法であるランクワン・セーフティ・インジェクション(ROSI)を提案する。
  論文  参考訳（メタデータ） (2025-08-28T13:22:33Z)
• UnsafeChain: Enhancing Reasoning Model Safety via Hard Cases [57.69882799751655]
  さまざまなソースを持つハードプロンプトから構築された安全アライメントデータセットであるUnsafeChainをリリースする。 我々は3つの大きな推論モデル(LRM)を微調整し、それらを最近のSafeChainとSTAR-1と比較する。 UnsafeChainは、1Kサブセットのマッチングやベースラインのパフォーマンスを越えながら、従来よりも一貫してパフォーマンスが向上している。
  論文  参考訳（メタデータ） (2025-07-29T10:08:52Z)
• ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
  ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。 ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
  論文  参考訳（メタデータ） (2025-07-14T09:05:54Z)
• Advancing LLM Safe Alignment with Safety Representation Ranking [21.525021778951313]
  モデル自体から隠れ状態を用いて安全な応答を選択するリストワイズランキングフレームワークを提案する。 本手法は、内部モデル状態とリストレベルの監督を直接利用して、微妙な安全信号を捕捉する。
  論文  参考訳（メタデータ） (2025-05-21T16:21:29Z)
• Safe Vision-Language Models via Unsafe Weights Manipulation [75.04426753720551]
  我々は、異なるレベルの粒度で安全性を評価する新しい指標セットであるSafe-Groundを導入し、安全性の評価を見直した。 我々は異なる方向を採り、トレーニングなしでモデルをより安全にできるかどうかを探り、Unsafe Weights Manipulation (UWM)を導入します。 UWMは、セーフとアンセーフのインスタンスのキャリブレーションセットを使用して、セーフとアンセーフのコンテンツのアクティベーションを比較し、後者を処理する上で最も重要なパラメータを特定する。
  論文  参考訳（メタデータ） (2025-03-14T17:00:22Z)
• Do LLMs Understand the Safety of Their Inputs? Training-Free Moderation via Latent Prototypes [1.0779346838250028]
  ラテントプロトタイプモデレータ (LPM) は、ラテント空間におけるマハラノビス距離を用いて入力安全性を評価する訓練のないモデレーション手法である。 LPMは、複数の安全ベンチマークで最先端のガードモデルと一致または超えている。
  論文  参考訳（メタデータ） (2025-02-22T10:31:50Z)
• STAIR: Improving Safety Alignment with Introspective Reasoning [44.780098674618614]
  SafeTyアライメントとItrospective Reasoningを統合したフレームワークSTAIRを提案する。 その結果,STAIRは本能的アライメント戦略と比較して,有害なアウトプットを効果的に軽減し,有用性を保っていることがわかった。 テスト時のスケーリングでは、STAIRは一般的なジェイルブレイク攻撃に対して、Claude-3.5に匹敵する安全性能を達成する。
  論文  参考訳（メタデータ） (2025-02-04T15:02:55Z)
• Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training [67.30423823744506]
  我々は,LLMに対して,いかなる応答位置においても有害なプロンプトへのコンプライアンスを拒否する権限を付与する,新しいアプローチであるDecoupled Refusal Training(DeRTa)を導入する。 DeRTaは,(1)安全応答の開始に有害な応答のセグメントを付加することにより,安全でないコンテンツの認識と回避をモデルに訓練する,(2)有害応答シーケンスを通して潜在的障害から安全拒絶へ移行する能力をモデルに装備する強化遷移最適化(RTO)という,2つの新しいコンポーネントを組み込んでいる。
  論文  参考訳（メタデータ） (2024-07-12T09:36:33Z)
• GradSafe: Detecting Jailbreak Prompts for LLMs via Safety-Critical Gradient Analysis [9.225253610200207]
  LLMにおける安全クリティカルパラメータの勾配を精査し,脱獄プロンプトを効果的に検出するGradSafeを提案する。 LLMのジェイルブレイクに対する損失の勾配は、コンプライアンス応答と組み合わせることで、特定の安全クリティカルパラメータに類似したパターンを示す。 GradSafeはLlama Guardよりも優れていますが、大きなデータセットで微調整されています。
  論文  参考訳（メタデータ） (2024-02-21T03:09:21Z)
• Fake Alignment: Are LLMs Really Aligned Well? [91.26543768665778]
  本研究では,複数質問とオープンエンド質問の相違点について検討した。 ジェイルブレイク攻撃パターンの研究にインスパイアされた我々は、これが不一致の一般化によって引き起こされたと論じている。
  論文  参考訳（メタデータ） (2023-11-10T08:01:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。