論文の概要: Divide, Consult, Conquer: Capability Laundering Through Aligned LLMs
- arxiv url: http://arxiv.org/abs/2609.15383v1
- Date: Mon, 14 Sep 2026 11:10:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.293892
- Title: Divide, Consult, Conquer: Capability Laundering Through Aligned LLMs
- Title（参考訳）: Divide、Consul、Conquer: 標準化されたLLMによる機能洗浄
- Abstract要約: より弱い非整合モデルにより、有害なタスクを良さそうなサブプロブレムに分割し、互いに独立してより強い整合モデルを参照し、局所的に回答を組み合わせることができることを示す。
我々は,原フロンティアモデルが解決するタスク,整列フロンティアが拒否するタスク,無支援オーケストレータが失敗するタスクを用いて,コンサルテーション支援の隆起を測定する。
- 参考スコア（独自算出の注目度）: 5.665336335540464
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Language model safety is typically evaluated one interaction at a time. We show that a weaker, unaligned model can split a harmful task into benign-looking subproblems, consult a stronger aligned model independently on each, and combine the answers locally. We call this attack capability laundering. Unlike a jailbreak, no single response is a harmful task. We measure consultation-aided uplift using tasks that a raw frontier model solves, the aligned frontier refuses, and the unassisted orchestrator fails. We evaluate GPT-5.5, Claude Opus 4.8, and Grok-4.3 as consultants to four local orchestrators on CyBench, BountyBench, and harmful CBRN requests. On CyBench, Gemma-4-31B recovers 8/14 candidates with GPT-5.5 and 7/9 with Opus, compared with 2/21 and 4/15 for Gemma-4-12B. On BountyBench, Gemma-4-31B recovers 3/9 and 2/3 candidates, while Muse-Glimmer-30B recovers none of 22 and 13. For CBRN, we measure uplift across eight steps of a hypothetical bioweapon attack chain and find that consultation raises Gemma-4-31B's mean rubric score from 62.3 to 83.1 on a 100-point rubric scale. These results expose a gap in current defenses: refusing a harmful task does not prevent frontier capabilities from being transferred and composed across many individually permitted interactions.
- Abstract（参考訳）: 言語モデルの安全性は通常、一度に1つの相互作用を評価する。
より弱い非整合モデルにより、有害なタスクを良さそうなサブプロブレムに分割し、互いに独立してより強い整合モデルを参照し、局所的に回答を組み合わせることができることを示す。
私たちはこの攻撃能力を洗浄と呼ぶ。
ジェイルブレイクとは異なり、単一の応答は有害なタスクではない。
我々は,原フロンティアモデルが解決するタスク,整列フロンティアが拒否するタスク,無支援オーケストレータが失敗するタスクを用いて,コンサルテーション支援の隆起を測定する。
我々は,GPT-5.5,Claude Opus 4.8,Grok-4.3を,CyBench,BountyBench,および有害CBRN要求に関する4つのローカルオーケストレータのコンサルタントとして評価した。
CyBench では、Gemma-4-31B は GPT-5.5 と Opus で 8/14 の候補を回収し、Gemma-4-12B では 2/21 と 4/15 の候補を回復した。
BountyBenchでは、Gemma-4-31Bは3/9と2/3の候補を、Muse-Glimmer-30Bは22と13の候補を回復しない。
CBRNでは,仮説的バイオウェポンアタックチェーンの8段階にわたるアップリフトを測定し,100点のルーリックスケールでGemma-4-31Bの平均ルーリックスコアが62.3から83.1に上昇することが確認された。
有害なタスクを拒否しても、フロンティア能力の移動を防ぎ、個別に許可された多くの相互作用にまたがって構成されることはない。
関連論文リスト
- SearchAuditor: Auditing and Attributing Failures in Long-Horizon Search Agents [56.400332595452966]
我々は、監査人が検索エージェントの障害をローカライズ、属性付け、修復できるかどうかを評価するベンチマークであるSearchAuditBenchを紹介する。
SearchAuditBenchは1,243の障害トラックで構成され、平均73.1メッセージと65.1Kトークンを5つのディープサーチベンチマークで8つのオープンウェイトモデルから収集している。
本稿では,検索エージェントの障害を効果的にローカライズ,属性,修復するマルチパースペクティブ監査フレームワークであるSearchAuditorを提案する。
論文 参考訳（メタデータ） (2026-08-05T09:09:00Z) - Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。
ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。
3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI)
4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
論文 参考訳（メタデータ） (2026-07-19T22:27:00Z) - Knowledge Index of Noah's Ark [63.143852586221534]
KINAは,261分野にわたる899項目のベンチマークである。
ボーナス・オン・バートーナメントがFOSDを弱く支配していることを示す。
トップモデルであるGemini-3.1-Pro-Previewは53.17%、Claude-Opus-4.6は49.92%、GPT-5.4は48.55%に達した。
論文 参考訳（メタデータ） (2026-06-03T17:06:49Z) - BioRefusalAudit: Auditing Biosecurity Refusal Depth Using General and Domain-Fine-Tuned Sparse Autoencoders [0.0]
5つのアーキテクチャにまたがって、モデルでは、危険から良性をきれいに区別することはできません。
我々はスケジュールIのパネルを試験したが、生物学的には毒性のない化合物を試験した。
予備的な証拠は、アクティベーションレベルの監査が行動評価に見えない障害モードを表面化する可能性を示唆している。
論文 参考訳（メタデータ） (2026-05-28T16:18:07Z) - RefusalBench: Why Refusal Rate Misranks Frontier LLMs on Biological Research Prompts [0.0]
厳格な拒絶率は、同じプロンプトで0.1%から94.6%である。
18のフロンティアモデルのうち9つは、バイナリーリフェールメトリクスが検出できないデュアルユース層で、ヘッジ・ブット・ヘルプ部分コンプライアンスパターンを示す。
論文 参考訳（メタデータ） (2026-05-20T09:53:31Z) - ContractBench: Can LLM Agents Preserve Observation Contracts? [9.057486468322933]
観察契約の遵守は、緊急かつ回帰的な能力であることを示す。
ContractBenchは、2つの障害モードを探索する33の二重軸タスクのベンチマークである。
i)評価モデルが80%,Claude-Opus-4.6が77.8%, (ii)Qwen 3.5で4B (0%) から9B (56.6%) の急激な家庭内能力崖が397B-A17Bで70.7%, (iii) GPT-5ファミリーでの非単調性スケーリングが消失した。
論文 参考訳（メタデータ） (2026-05-17T06:37:04Z) - Can LLM Agents Respond to Disasters? Benchmarking Heterogeneous Geospatial Reasoning in Emergency Operations [55.251494694783894]
災害対応エージェントベンチマーク(DORA)は、エンド・ツー・エンドの災害対応のための最初のエージェントベンチマークである。
タスクは、災害認識、空間関係分析、救助・避難計画、時間的進化推論、マルチモーダルレポート合成という、災害対応パイプラインをカバーする5つの次元にまたがる。
DORAは、運用上の信頼性の高い災害対応エージェントのための厳格なテストベッドを確立する。
論文 参考訳（メタデータ） (2026-05-12T06:57:41Z) - Breaking Safety at the Token Boundary: How BPE Tokenization Creates Exploitable Gaps in LLM Alignment [9.127363793428119]
文字レベルの摂動は、人間を可読化しているにもかかわらず、現代のLLMの安全アライメントを回避している。
BPEトークン化は、安全クリティカルな単語をサブワードに断片化する。
論文 参考訳（メタデータ） (2026-05-01T18:57:03Z) - Gemma 4, Phi-4, and Qwen3: Accuracy-Efficiency Tradeoffs in Dense and MoE Reasoning Language Models [6.396911723204044]
Mixture-of-experts (MoE)言語モデルは、高密度モデルよりも優れた品質と効率のトレードオフをもたらすことがしばしば期待されている。
そこで本研究では,高密度および高密度なMoE設計にまたがる7つの推論指向命令調整モデルのベンチマークを示す。
論文 参考訳（メタデータ） (2026-04-08T12:50:52Z) - Internal Safety Collapse in Frontier Large Language Models [65.00730294617382]
この研究は、フロンティア大言語モデル(LLM)における重要な障害モードを特定する。
特定のタスク条件下では、モデルは有害なコンテンツを連続的に生成し、そうでなければ良質なタスクを実行する状態に入る。
有害なコンテンツを生成することが唯一有効な完了であるドメインタスクを通じてISCをトリガーするフレームワークであるTVDを紹介する。
論文 参考訳（メタデータ） (2026-03-04T12:55:34Z) - Jigsaw Puzzles: Splitting Harmful Questions to Jailbreak Large Language Models [50.89022445197919]
大規模言語モデル(LLM)は、人間との関わりにおいて卓越した性能を示した。
LLMは脱獄攻撃に弱いため、有害な反応が生じる。
我々は,高度LLMに対する単純かつ効果的なマルチターンジェイルブレイク戦略であるJigsaw Puzzles (JSP)を提案する。
論文 参考訳（メタデータ） (2024-10-15T10:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。