論文の概要: Is Abliteration Getting Harder? Not Uniformly: Refusal Removal by Direction-Based Ablation and ARA in Heretic on the Qwen3.8, Gemma 4, Olmo 3.1 and Mistral Small 3.2 LLMs Versus Their Predecessors
- arxiv url: http://arxiv.org/abs/2611.17846v1
- Date: Fri, 13 Nov 2026 07:29:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.326216
- Title: Is Abliteration Getting Harder? Not Uniformly: Refusal Removal by Direction-Based Ablation and ARA in Heretic on the Qwen3.8, Gemma 4, Olmo 3.1 and Mistral Small 3.2 LLMs Versus Their Predecessors
- Title(参考訳): 消毒は難しくなっているか? 一様ではない: ヘレティックにおける方向ベースアブレーションとARAによる拒絶除去 : Qwen3.8, Gemma 4, Olmo 3.1, Mistral Small 3.2 LLMs Versus
- Abstract要約: 微調整不要なウェイト編集であるAbliterationは、大きな言語モデルからの拒絶を除去する。
方向に基づく消灯は、拒絶方向を非難するが、新しいモデルではますます失敗する。
新しいリリースでは、-1~+37ポイントがより拒絶され、ARA-26から+34。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Abliteration, a fine-tuning-free weight edit, removes refusal from open-weight large language models (LLMs). The developer of Arbitrary-Rank Ablation (ARA), an optimisation-based variant, reports that direction-based abliteration, which ablates a refusal direction, increasingly fails on newer models. On five release pairs, refusal removal did not become uniformly harder. Qwen2.5-32B and Qwen3.8-27B, Gemma-2-27B and Gemma-4-31B, OLMo-2-32B and Olmo-3.1-32B, Mistral-Small-2409 and Mistral-Small-3.2, and Qwen2.5-7B and Qwen3.5-4B were edited in Heretic 2.0 by three or four direction-based methods (difference-in-means, MPOA, SOM and, on the small pair, J-space) and ARA under the same prompts, nominal search budget, first-token KL divergence cap and selection rule; removal counted as harder when the automatic WildGuard judge found more of 972 held-out harmful prompts (JailbreakBench, XSTest, StrongREJECT, HarmBench and an author-compiled malicious-code bank) still refused. After direction-based removal, newer releases retained -1 to +37 percentage points more refusal, and after ARA -26 to +34. With run-to-run variance included, between-pair heterogeneity of the direction-based effect ranged from high to low with the scale and variance model (I^2 20-80%). ARA lost less effectiveness than direction-based methods in Gemma and OLMo and more in Qwen; each verdict rests on one ARA run, and some changed with the divergence budget or variance model. In Gemma the direction-based increase came from the malicious-code bank and reversed on public sets. Contrary to prediction, keyword counts at the tool's window did not undercount judged refusal on average, but differed by a mean 7 points per model. Audits of a single pair, method or prompt source can reach opposite conclusions. Whether a newer model resisted removal depended on the release pair, method and budget, not on generation alone.
- Abstract(参考訳): 微調整不要なウェイト編集であるAbliterationは、オープンウェイトな大規模言語モデル(LLM)からの拒絶を除去する。
最適化ベースの変種であるArbitrary-Rank Ablation (ARA)の開発者は、方向に基づく消灯は、新しいモデルではますます失敗する、と報告している。
5つのリリースペアでは、拒絶除去が一様に難しくなることはなかった。
Qwen2.5-32B and Qwen3-32B, Gemma-2-27B and Gemma-4-31B, OLMo-2-32B and Olmo-3.1-32B, Mistral-Small-2409 and Mistral-Small-3.2, and Qwen2.5-7B and Qwen3.5-4BはHeretic 2.0で3つまたは4つの方向ベースの方法(Difference-in-means, MPOA, SOM, そしてJ-space)で編集された。
方向性に基づく除去後, 新しいリリースでは, -1~+37ポイントが拒絶され, ARA-26~+34が拒絶された。
ラン・ツー・ランの分散を含む場合, 方向ベース効果の対不均一性は, スケールと分散モデル(I^2 20-80%)で高い値から低い値に変化した。
ARA は Gemma や OLMo など Qwen では方向に基づく手法よりも効率が悪く,各判定は 1 つの ARA ランで行われ,一部は分散予算や分散モデルで変化した。
Gemmaでは、方向に基づく増加は悪意のあるコードバンクから生まれ、公開セットで逆になった。
予測とは対照的に、ツールのウィンドウでのキーワードカウントは、平均的な拒絶判断を下さなかったが、1モデル平均7ポイントの違いがあった。
単一のペア、メソッドまたはプロンプトソースの監査は、反対の結論に達することができる。
新たなモデルが削除に抵抗したかどうかは、リリースペア、メソッド、予算に依存しており、世代のみに依存していない。
関連論文リスト
- Systematic Evaluation of Adversarial Jailbreaking Attacks and Defenses Across Seven Large Language Models [0.0]
大規模言語モデル (LLM) は、有害な出力を引き出すために設計された敵の入力に抵抗しなければならない。
本研究では,5つの敵対的ジェイルブレイク攻撃家族の直接要求,ロールプレイに基づくジェイルブレイク,仮説フレーミング,命令オーバーライドの系統的評価を行った。
モデルサイズは敵の強靭性を著しく予測しない。
論文 参考訳(メタデータ) (2026-10-29T07:07:58Z) - Decodable but Misrouted: Sparse Features Uncover a Readout Gap in Vision-Language Models for Harmful Meme Detection [11.020614074201346]
Gemma-3 と Qwen3.5 では,スパースオートエンコーダ,ロールコンディショニングプローブ,因果介入,リカバリ実験を用いて区別を行った。
スパース読み込みは6つのプライマリバイナリタスクすべてでネイティブ予測を上回っている。
ルーティングは、表現のみではなく、有害なミーム分類において、繰り返し発生するボトルネックである。
論文 参考訳(メタデータ) (2026-09-16T16:00:36Z) - How Fragile Is Safety Alignment at Frontier Scale? A Single-Direction Attack on a 320B MoE [9.309878989186581]
指示アブレーションは、残余ストリームを記述する重みから1つの"拒絶方向"を投影することで、整列言語モデルの拒否する能力を取り除く。
残留ストリームがもはや1つのテンソルではなく、重量船が定量化されるような、フロンティア・オブ・エキスパート・ミックスへのシフトを生き残るかどうかを考察する。
論文 参考訳(メタデータ) (2026-09-09T06:48:08Z) - Do Small Models Use the Law You Give Them? Measuring Context Use on a Bilingual Bangladesh Legal Benchmark [2.062723244880136]
微調整は、文脈で供給される法律の使用方法を改善することなく、法的質問応答精度を向上させることができる。
我々は,階層保存法定コーパス,2,165個のバイリンガル微調整例,150項目の供給法則制御を構築した。
論文 参考訳(メタデータ) (2026-08-31T06:45:16Z) - DarwinX: Evolving Agent Harnesses Through Natural Selection [48.64258219266629]
ダーウィンXは自己進化を、モデルが凍結されたハーネスの集団の選択として扱う。
一般的なエージェント能力はベンチマーク固有のパッチではなく、タスク、検証、ベースモデルの変更を生き残る。
論文 参考訳(メタデータ) (2026-07-31T05:34:02Z) - Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。
ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。
3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI)
4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
論文 参考訳(メタデータ) (2026-07-19T22:27:00Z) - Output Vector Editing for Memorization Mitigation in Large Language Models [68.30351930772788]
大規模な言語モデルは、トレーニングデータからシーケンスを記憶し、再現し、プライバシ、著作権、セキュリティリスクを生み出す。
既存のニューロンレベルの緩和方法は、ニューロンの活性化をゼロにすることで編集を等しくするが、活性化はニューロンが関与するかどうかのみを制御する。
記憶継続に責任を負うニューロンの小さな集合を探索する制約最適化編集である出力ベクトル編集を提案する。
論文 参考訳(メタデータ) (2026-06-17T07:29:18Z) - Off-the-Shelf LLMs as Process Scorers: Training-Free Alternative to PRMs for Mathematical Reasoning [51.88950852117154]
Chunk-Level Guided Generationは、既製の大規模言語モデルをプロセススコアラとして使用する、トレーニング不要の代替手段である。
本研究では,系統的な長さバイアスのため,大モデル確率の可変長推論ステップが信頼できないことを示す。
Chunk-Level Guided Generation は PRM guided search よりもかなり短い推論トレースを生成する。
論文 参考訳(メタデータ) (2026-06-01T04:43:36Z) - Emulated Disalignment: Safety Alignment for Large Language Models May Backfire! [65.06450319194454]
大きな言語モデル(LLM)は、人間との安全な会話を確保するために安全アライメントを行う。
本稿では,安全アライメントの反転が可能なトレーニングフリーアタック手法を提案する。
本手法をエミュレートした脱アライメント (ED) と呼ぶのは, このコントラスト分布からのサンプリングは, 安全報酬を最小限に抑えるため, 微調整の結果を確実にエミュレートするからである。
論文 参考訳(メタデータ) (2024-02-19T18:16:51Z) - Confidence-Based Model Selection: When to Take Shortcuts for
Subpopulation Shifts [119.22672589020394]
モデル信頼度がモデル選択を効果的に導くことができるConfidence-based Model Selection (CosMoS)を提案する。
我々はCosMoSを,データ分散シフトのレベルが異なる複数のテストセットを持つ4つのデータセットで評価した。
論文 参考訳(メタデータ) (2023-06-19T18:48:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。