論文の概要: Towards Architectural-Level Safety Control: Relocating Hazardous Knowledge into Removable Experts in Mixture-of-Experts Models

• arxiv url: http://arxiv.org/abs/2610.25791v1
• Date: Mon, 19 Oct 2026 04:55:27 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:30:20.755843
• Title: Towards Architectural-Level Safety Control: Relocating Hazardous Knowledge into Removable Experts in Mixture-of-Experts Models
• Title（参考訳）: 建築レベルの安全管理に向けて--混成実験モデルにおける有害な知識を除去可能な専門家に移動させる
• Abstract要約: 大規模言語モデルは、事前訓練中にWebスケールコーパスから幅広い知識を取得し、誤用した場合に有害な知識を含む。 既存の安全アライメントと未学習の手法は、これらの共有パラメータを調整し、それを取り除くよりも有害な知識の表現を抑える傾向にある。 アーキテクチャレベルでの汎用能力から有害な知識を分離する知識移動手法であるREX(Relocating into Removable Experts)を提案する。
• 参考スコア（独自算出の注目度）: 39.01420538171984
• License:
• Abstract: Large language models acquire broad knowledge from web-scale corpora during pretraining, including knowledge that could be hazardous if misused. Removing such knowledge from the model itself without degrading general capability is desirable but difficult, as it is deeply entangled with general capability within the same parameters. Existing safety alignment and unlearning methods typically adjust these shared parameters, tending to suppress the expression of hazardous knowledge rather than remove it. As a result, the knowledge remains in the model and is readily recoverable by subsequent fine-tuning. To address this limitation, we propose REX (Relocating into Removable EXperts), a knowledge relocation method that separates hazardous knowledge from general capability at the architectural level. Exploiting the modular structure of Mixture-of-Experts models, REX expands the model with a set of new, physically removable experts designated to hold hazardous knowledge. Through expert expansion, selective gradient masking and routing differentiation, it relocates hazardous knowledge out of the original experts and concentrates it in the new ones. Excising these new experts yields a model suitable for public release. This removal holds consistently across Intern-S2, Qwen3.5-35B-A3B and Gemma-4-26B-A4B; on Qwen3.5-35B-A3B, for instance, excision lowers WMDP-Bio accuracy by 48.4 points while MMLU changes by less than 3 points. The excised model matches the strongest of nine unlearning baselines in removing hazardous knowledge, and it is the only one that preserves this removal under subsequent fine-tuning. After 250M tokens of standard fine-tuning on Qwen3.5, the best baseline rebounds on WMDP-Bio from 44.1% to 78.3%, whereas REX rises only from 32.4% to 42.8%.
• Abstract（参考訳）: 大規模言語モデルは、事前訓練中にWebスケールコーパスから幅広い知識を取得し、誤用した場合に有害な知識を含む。 一般能力を低下させることなくモデル自体からそのような知識を取り除くことは望ましいが、同じパラメータ内の一般能力と深く絡み合っているため困難である。 既存の安全アライメントと未学習の手法は、一般的にこれらの共有パラメータを調整し、それを取り除くよりも有害な知識の表現を抑える傾向にある。 結果として、知識はモデルに留まり、その後の微調整によって容易に回復できる。 この制限に対処するため,アーキテクチャレベルでの一般能力から有害な知識を分離する知識移動手法であるREX(Relocating into Removable Experts)を提案する。 REXは、Mixture-of-Expertsモデルのモジュラー構造をエクスプロイトし、有害な知識を保持するために、新しい物理的に取り外し可能な専門家のセットでモデルを拡張した。 エキスパート拡張、選択的勾配マスキング、ルーティングの区別を通じて、元のエキスパートから有害な知識を移動させ、それを新しい専門家に集中させる。 これらの新しい専門家を発掘すると、パブリックリリースに適したモデルが得られる。 この除去は、Intern-S2、Qwen3.5-35B-A3B、Gemma-4-26B-A4Bで一貫して行われ、例えばQwen3.5-35B-A3Bでは、MMLUは3ポイント以下でWMDP-Bioの精度を48.4ポイント下げる。 抽出されたモデルは、有害な知識を除去する上で、9つの非学習ベースラインのうち最強のものと一致し、この除去を後続の微調整の下で保持する唯一のモデルである。 Qwen3.5の250Mトークンの標準微調整の後、WMDP-Bioのベースラインは44.1%から78.3%にリバウンドし、ReXは32.4%から42.8%に上昇した。

関連論文リスト

• RAZOR: Pruning Replaceable Experts in LLMs [19.95776080082138]
  本稿では,コンセンサス残差に基づく訓練不要プルーニング手法であるRAZORを紹介する。 RAZORは条件付きルート平均平方度で損傷を集約し、階層的な予算の下で専門家を選択する。 4つのモデル予算設定の中で、9つ以上の推論集約的なタスクでマクロ平均を達成している。
  論文  参考訳（メタデータ） (2026-09-24T19:02:55Z)
• Test-Time Unlearning via Sparse Autoencoder [55.4290003355764]
  ARIAは,モデルウェイトをそのまま残して,世代が無視関連状態に入る場合にのみ,不要な知識へのアクセスをゲートするテスト時アンラーニング手法である。 ARIAは、思考モデルと命令モデルの両方にわたるウェイトベースベースラインに対する忘れがちなトレードオフを改善します。
  論文  参考訳（メタデータ） (2026-09-14T18:58:09Z)
• From Sparse Features to Trustworthy Proxies: Certifying SAE-Based Interpretability [53.681678236115836]
  我々は,SAEに基づく説明を,基盤となる凍結LMの忠実な見方として扱うことができるかを検討した。 この枠組みは, 4つの測定可能な量を用いて, 基本モデルの予測リスクの上限を導出する。 我々は, GPT-2 Small, Gemma-2B, Llama-3-8B のサンプルサイズにおいて, 境界が非空洞となることを示す。
  論文  参考訳（メタデータ） (2026-06-16T18:28:23Z)
• Attribution-Guided and Coverage-Maximized Pruning for Structural MoE Compression [74.00650541246374]
  そこで本研究では,MoEモデルに適した構造解析フレームワークを提案する。 我々のアプローチはメモリフットプリントを5.27$times削減し、最先端のベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-06-16T06:53:27Z)
• Don't Forget Your Embeddings: Robust Knowledge Erasure via Precise Editing of Embeddings [23.31466528406221]
  EMBedding ERasure (EMBER) は,Sparse Matrix Factorization を利用してトークン埋め込みから概念関連機能を正確に消去するプラグイン-n-play消去モジュールである。 EMBERによる既存手法の拡張により,タスクフォーマット間の消去効率と特異性が向上し,コヒーレンス損失が最小となることがわかった。 我々の研究は、ロバストな概念消去には正確な埋め込みレベルの介入が必要であることを証明し、既存の方法がそのような拡張の恩恵を受けることを実証する。
  論文  参考訳（メタデータ） (2026-06-02T14:15:25Z)
• CoreUnlearn: Rethinking Concept Unlearning through Disentangled Component-Level Erasure in Text-guided Diffusion Models [72.22994966489551]
  CoreUnlearnは、望ましくないコンセプトの消去クリティカルなコンポーネントを混乱させ、取り除くことを目的としている。 モデル全体のパフォーマンスへの影響を最小限に抑えて、効果的な概念消去を実現する。
  論文  参考訳（メタデータ） (2026-06-01T04:09:45Z)
• Fine-Tuned LLMs Know They Don't Know: A Parameter-Efficient Approach to Recovering Honesty [48.593888815135934]
  大規模言語モデル(LLM)は、高い領域での安全なデプロイメントにおいてますます重要になっている。 既存のリカバリ手法はデータ集約的なグローバルパラメータ調整に依存しており、SFTがモデルの知識境界を認識する能力を深く損なうことを暗黙的に仮定している。 我々は,この抑制された能力を外科的に修復するために,Honesty-Critical Neurons Restoration (HCNR)を提案する。
  論文  参考訳（メタデータ） (2025-11-17T05:30:48Z)
• SAFEx: Analyzing Vulnerabilities of MoE-Based LLMs via Stable Safety-critical Expert Identification [27.13765502389987]
  MoE固有の位置脆弱性の安全性リスクは、形式化され、体系的に分析される。 分析フレームワークであるSAFExは、安全クリティカルな専門家をしっかりと識別し、特徴付け、検証するために提示される。 専門家レベルの介入は因果関係を調査し、緩和をテストするために行われる。
  論文  参考訳（メタデータ） (2025-06-20T15:09:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。