論文の概要: Refusing Intent, Not Form: Wrapper-Based Intent-Group Supervision for LLM Safety

• arxiv url: http://arxiv.org/abs/2608.13304v1
• Date: Thu, 13 Aug 2026 14:33:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.558284
• Title: Refusing Intent, Not Form: Wrapper-Based Intent-Group Supervision for LLM Safety
• Title（参考訳）: LLM安全のためのラッパーベースIntent-Groupスーパービジョン
• Abstract要約: 本研究では, 組込み有害事例と構造整合したベニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグナグニグニグナグニグニグナグニグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナ Llamaは、データ構造、二段階順序、およびA-GCRTコンポーネントについて、普遍的なサブベースオーバーリフレクションを主張することなく、このインテントグループ解釈をサポートする。
• 参考スコア（独自算出の注目度）: 28.79424245844722
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safety tuning can improve harmful refusal, but models may learn surface-form shortcuts: wrapped harmful prompts bypass safety, while similarly wrapped benign prompts are over-refused. We propose Wrapper-Based Intent-Form Augmentation (WIFA), an automatic intent-group augmentation method that pairs wrapped harmful examples with structurally matched wrapped benign counterexamples, requiring no external teacher or manual per-wrapper intent labels. We use WIFA as a common data layer for two complementary fine-tuning routes: WIFA-Boost, a two-stage high-safety recipe, and Anchored Group-Consistent Refusal Training (A-GCRT), which regularizes refusal/compliance decision scores across same-intent wrappers and anchors harmful and benign groups on opposite sides of a margin. In the Qwen setting, WIFA-Boost reaches the strongest transformed-harmful refusal, while A-GCRT reduces OR-Bench over-refusal from 25.7\% for the base model to 17.4\%; reproduced baselines do not match these operating points. Llama results and ablations over data structure, two-stage order, and A-GCRT components support this intent-group interpretation without claiming universal below-base over-refusal.
• Abstract（参考訳）: 安全チューニングは有害な拒絶を改善することができるが、モデルでは表面的なショートカットを学習することができる。 Wrapper-based Intent-Form Augmentation (WIFA) は, 有害なサンプルと構造整合した良性逆例をペアリングし, 外部教師や手動のラッパー毎のインテントラベルを必要としない自動インテントグループ拡張法である。 WIFAを2段階の高安全性レシピであるWIFA-BoostとAnchored Group-Consistent Refusal Training(A-GCRT)の2つの相補的な微調整ルートの共通データ層として使用し,同伴ラッパー間の拒絶/コンプライアンス判定スコアを規則化し,有害かつ良性なグループをマージンの反対側に固定する。 Qwen設定では、WIFA-Boostは最も強力な変換されたハーモフルな拒絶に達し、A-GCRTはOR-Benchオーバーリファレンスを25.7\%から17.4\%に減らし、再生されたベースラインはこれらの動作点と一致しない。 Llamaは、データ構造、二段階順序、およびA-GCRTコンポーネントについて、普遍的なサブベースオーバーリフレクションを主張することなく、このインテントグループ解釈をサポートする。

関連論文リスト

• Automatic Red Teaming for Implicit Vulnerabilities of Text-to-Image Models [58.59008920408855]
  本稿では,ターゲットモデルのパラメータへのアクセスを必要とせずに,暗黙の脆弱性を明らかにするためのAdvPIE(Adversarial Probing for Implicit VulnErabilities)を提案する。 AdvPIEは、審査員からのフィードバックに基づいて暗黙の敵のプロンプトを生成し、洗練するためのポリシーエージェントを採用する。 標準および安全性に適合したT2Iモデルの実験では、AdvPIE1が暗黙の脆弱性を効果的に発見している。
  論文  参考訳（メタデータ） (2026-09-05T13:45:09Z)
• Cross-Session Decomposition Attacks: Scaling Risk and Intent-Aligned Retrieval Defense [49.05879299987137]
  言語モデリングの損失の低減は、より有用なモデルを生み出します。 本研究は,このメカニズムの安全性について,独立した相互作用を通じて,良質なサブクエリが要求され,後に禁忌の対象へと再帰される,エンフクロス・セッション分解攻撃(enmphcross-session decomposition attack)における研究である。 我々は、この設定をEmphcompositional safety riskとして定式化し、条件付きリスク-転送境界を証明する。
  論文  参考訳（メタデータ） (2026-08-28T05:39:29Z)
• Asymmetric Collapse in Model Merging: When Refusal Over- writes Recognition [4.800831341795478]
  Gemma-3-1B-ITファインタインを2つの相補的安全目標,CARESハーモレベル分類とWildJailbreakの回避に使用した。 リニア, SLERP, TIES, DARE-TIES の2つのファインチューンをマージし, 分類精度, 攻撃抵抗, 良性コンプライアンスに関する統合モデルの評価を行った。
  論文  参考訳（メタデータ） (2026-07-26T19:10:34Z)
• Defending Against Harmful Supervision Hidden in Benign Samples [61.51852972402142]
  既存の防御は、有害なコンテンツを下流の微調整データに明示的に混入した場合に有効であるが、工芸品のサンプルは、良質なタスクの中で有害な監視を隠すことができる。 本稿では,有害なQAペアを良質なトレーニングサンプルに埋め込んだ組込み攻撃を提案する。
  論文  参考訳（メタデータ） (2026-06-29T13:11:49Z)
• Towards Context-Invariant Safety Alignment for Large Language Models [37.23800025875439]
  我々は,検証可能なプロンプトをアンカーとして扱うアンカー不変性正規化(AIR)を導入し,アンカー性能に対するオープンエンド変種のみを正規化するために,停止段階のターゲットを用いる。 AIRは、流通グループの精度を12.71%向上し、流通の一貫性を33.49%向上させ、敵のフレーミングに対する安全性の制約を堅牢にする。
  論文  参考訳（メタデータ） (2026-05-20T10:33:11Z)
• BalanceRAG: Joint Risk Calibration for Cascaded Retrieval-Augmented Generation [8.129733777508434]
  大規模言語モデル(LLM)は、検索強化世代(RAG)を通して事実性を高めることができる モデルのみの回答が信頼できる場合には、すべてのクエリにRAGを適用する必要はない。 我々は、しきい値ペアを目標リスクレベルで認証する BalanceRAG を開発した。
  論文  参考訳（メタデータ） (2026-05-19T16:38:55Z)
• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• Structured Semantic Cloaking for Jailbreak Attacks on Large Language Models [28.741175254258422]
  本研究では,新しい多次元ジェイルブレイク攻撃フレームワークであるStructured Semantic Cloaking (S2C)を提案する。 S2Cはマルチステップ推論を必要とするようなセマンティックキューを戦略的に分散し、再結合する。 我々は、HarmBench と JBB-Behaviors を用いて、複数のオープンソースおよびプロプライエタリ LLM 上でS2Cを評価した。
  論文  参考訳（メタデータ） (2026-03-17T07:20:48Z)
• From Shallow to Deep: Pinning Semantic Intent via Causal GRPO [40.89749712474356]
  インテントピンニングを実現するためのフレームワークである Two-Stage Causal-GRPO を提案する。 TSC-GRPOは, 汎用性を保ちつつ, ジェイルブレイク攻撃に対する防御において, ベースラインを著しく上回っていることを示す。
  論文  参考訳（メタデータ） (2026-03-03T07:02:20Z)
• Improving LLM Safety Alignment with Dual-Objective Optimization [81.98466438000086]
  大規模言語モデル(LLM)の既存のトレーニング時間安全アライメント技術は、ジェイルブレイク攻撃に対して脆弱なままである。 本研究では,DPOの目的を2つの構成要素にまとめる安全アライメントの改善について提案する。(1) 安全でない世代が部分的に発生しても拒否を促す頑健な拒絶訓練,(2) 有害な知識の未学習。
  論文  参考訳（メタデータ） (2025-03-05T18:01:05Z)
• REINFORCE Adversarial Attacks on Large Language Models: An Adaptive, Distributional, and Semantic Objective [57.57786477441956]
  応答の個体群に対する適応的・意味的最適化問題を提案する。 我々の目標は、Llama3の攻撃成功率(ASR)を2倍にし、サーキットブレーカー防御でASRを2%から50%に向上させることである。
  論文  参考訳（メタデータ） (2025-02-24T15:34:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。