論文の概要: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models

• arxiv url: http://arxiv.org/abs/2610.22754v1
• Date: Thu, 15 Oct 2026 23:45:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.715777
• Title: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
• Title（参考訳）: 拒絶はロバスト性ではない - 自己回帰型言語モデルにおける有害な到達性の測定
• Abstract要約: 境界連続解析(BCA)による隠れ構造の研究 BCAは、サンプルされた安全な反応の下でどれだけ有害な行動がアクセス可能であるかを測定する。 我々は,BCAが隠れた有害な行動を効果的に定量化し,レッド・チームリングをガイドする有用な信号を提供することを示した。
• 参考スコア（独自算出の注目度）: 8.351463565589327
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: LLM safety evaluations via jailbreaking typically index on attack success rate (ASR): whether a generated response violates safeguards. However, ASR only evaluates sampled outputs and provides little information on the underlying generation process. Autoregressive language models define distributions over possible outputs, and a sampled refusal can coexist with substantial probability mass on harmful generation paths. We study this hidden structure through bounded continuation analysis (BCA), which models autoregressive generation as a stochastic process over token prefixes and computes the finite-horizon probability that generation reaches a harmful continuation. BCA constructs a bounded continuation tree, labels terminal continuations with a semantic harm evaluator, and estimates harmful reachability using exact probabilistic model checking. BCA complements ASR by measuring how much harmful behavior remains accessible beneath a sampled safe response. This makes it useful for distinguishing models that look identical under measured ASR values, and allocating red-team effort toward regions of the generation process with greater hidden risk. Across four instruction-tuned LLMs and 100 JailbreakBench behaviors, we show that BCA effectively quantifies hidden harmful behavior and provides a useful signal to guide red teaming.
• Abstract（参考訳）: LLMの安全性評価は、通常、攻撃成功率(ASR)を指標として行われる。 しかし、ASRはサンプル出力のみを評価し、基礎となる生成プロセスについてはほとんど情報を提供しない。 自己回帰言語モデルは、可能な出力の上の分布を定義し、サンプルの拒絶は有害な生成経路上でかなりの確率質量と共存することができる。 本研究では, この隠れ構造を, 自己回帰生成をトークンプレフィックス上の確率過程としてモデル化した有界連続解析(BCA)を用いて検討し, 生成が有害な継続に達する有限水平確率を計算する。 BCAは有界継続木を構築し、意味調和評価器を用いて終端継続をラベル付けし、正確な確率的モデル検査を用いて有害到達可能性を推定する。 BCAは、サンプルされた安全な応答の下でどれだけ有害な行動がアクセス可能であるかを測定することで、ASRを補完する。 これにより、測定されたASR値の下で同一に見えるモデルを識別し、より隠れたリスクで生成プロセスの領域へのレッドチームの取り組みを割り当てるのに役立ちます。 4つの命令調整されたLLMと100個のJailbreakBenchの挙動に対して、BCAは隠れた有害な振る舞いを効果的に定量化し、レッド・チームリングを誘導するのに有用な信号であることを示す。

関連論文リスト

• Local Sparsity Enables Unsupervised LLM Safety Detection [72.36186449615774]
  大規模言語モデル(LLM)のデプロイ時の安全性メソッドは、主に教師付きであり、安全でないトレーニングデータへのアクセスを前提としている。 新たな攻撃や危害のカテゴリーは定期的に発生し、そのような教師付き方式で訓練されたモデルでは捕捉されない。 本稿では,理論的正当性に支えられた局所的なSAEによる異常検出のための枠組みを提案する。
  論文  参考訳（メタデータ） (2026-09-17T12:23:04Z)
• From Sparse Features to Trustworthy Proxies: Certifying SAE-Based Interpretability [53.681678236115836]
  我々は,SAEに基づく説明を,基盤となる凍結LMの忠実な見方として扱うことができるかを検討した。 この枠組みは, 4つの測定可能な量を用いて, 基本モデルの予測リスクの上限を導出する。 我々は, GPT-2 Small, Gemma-2B, Llama-3-8B のサンプルサイズにおいて, 境界が非空洞となることを示す。
  論文  参考訳（メタデータ） (2026-06-16T18:28:23Z)
• Statistical Estimation of Adversarial Risk in Large Language Models under Best-of-N Sampling [50.872910438715486]
  大規模言語モデル(LLM)は、通常、単一ショットまたは低予算の逆のプロンプトの下で安全性を評価する。 我々は,Best-of-Nサンプリングの下でのジェイルブレイク脆弱性をモデル化するための,スケーリング対応のリスク推定手法であるSABERを提案する。
  論文  参考訳（メタデータ） (2026-01-30T06:54:35Z)
• The 'Sure' Trap: Multi-Scale Poisoning Analysis of Stealthy Compliance-Only Backdoors in Fine-Tuned Large Language Models [10.377264470934843]
  大きな言語モデルに対するバックドア攻撃は、通常、暗黙の悪意のある出力に秘密のトリガーを伴います。 我々はコンプライアンスのみのバックドアを導入し、ほぼ良質なデータセットで教師付き微調整を行い、プロンプトの小さなサブセットを任意の単一ワードトリガでサフィックスする。 本研究は, 毒性予算, 総微調整データセットサイズ, モデルサイズにまたがる, この良性ラベル中毒行動のマルチスケール解析を行った。
  論文  参考訳（メタデータ） (2025-11-16T02:01:58Z)
• Randomized Smoothing Meets Vision-Language Models [6.224335082856828]
  ランダムスムーシング(RS)は、機械学習モデルの正確性を保証するために使用される。 生成モデルではRSが引き続き有効であることを示す。 我々は,検体数に対する検体半径と精度を解析的に関連づけたスケーリング法を導出した。 これらの進歩は、最先端のVLMに対して、明確に定義され、計算的に実現可能なロバストネス認証を実現する。
  論文  参考訳（メタデータ） (2025-09-19T15:33:22Z)
• Uncertainty-Aware Decoding with Minimum Bayes Risk [70.6645260214115]
  予測されたリスクに応じてモデル生成を選択する最小ベイズリスク復号法を,原理化された不確実性認識復号法に一般化する方法を示す。 この修正された予測リスクは、出力の選択と生成をいつ中止するかの判断の両方に有用であり、オーバーヘッドを発生させることなく改善を提供できることを示す。
  論文  参考訳（メタデータ） (2025-03-07T10:55:12Z)
• A Generative Approach to LLM Harmfulness Mitigation with Red Flag Tokens [26.119521867045616]
  モデルの語彙を特別な赤いフラグトークンで拡張することを提案する。 有害なコンテンツが生成または差し迫ったときに、このトークンを挿入するようにモデルをトレーニングします。 このアプローチは,既存の安全技術と補完するものだ。
  論文  参考訳（メタデータ） (2025-02-22T21:48:48Z)
• Model Tampering Attacks Enable More Rigorous Evaluations of LLM Capabilities [49.09703018511403]
  大規模言語モデル(LLM)のリスクと能力の評価は、AIのリスク管理とガバナンスフレームワークにますます取り入れられている。 現在、ほとんどのリスク評価は、システムから有害な振る舞いを誘発する入力を設計することで実施されている。 本稿では,遅延活性化や重みへの修正が可能なモデル改ざん攻撃を用いたLCMの評価を提案する。
  論文  参考訳（メタデータ） (2025-02-03T18:59:16Z)
• Constraining Representations Yields Models That Know What They Don't Know [2.729898906885749]
  ニューラルネットワークのよく知られた障害モードは、誤った予測を確実に返すことである。 この研究は、これらの問題に広く一般的な方法で対処するための新しい方向性を示す。 私たちは各クラスにユニークな、固定された、ランダムに生成されたバイナリベクタを割り当てます。 我々は、入力サンプルのクラスに従って、そのクロスディープなアクティベーションパターンが適切なクラスコードを予測するようにモデルを訓練する。
  論文  参考訳（メタデータ） (2022-08-30T18:28:00Z)
• On Trace of PGD-Like Adversarial Attacks [77.75152218980605]
  敵対的攻撃は、ディープラーニングアプリケーションに対する安全性とセキュリティ上の懸念を引き起こす。 モデルの勾配一貫性を反映した適応応答特性(ARC)特性を構築する。 私たちの方法は直感的で、軽量で、非侵襲的で、データ不要です。
  論文  参考訳（メタデータ） (2022-05-19T14:26:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。