論文の概要: Towards Merging-conditional Backdoor Unalignment against Large Language Models

• arxiv url: http://arxiv.org/abs/2610.14701v1
• Date: Sat, 10 Oct 2026 08:19:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.092083
• Title: Towards Merging-conditional Backdoor Unalignment against Large Language Models
• Title（参考訳）: 大規模言語モデルに対する統合条件付きバックドアアンアライメントの実現に向けて
• Abstract要約: OMCB(One-sided Merging-Conditional Backdoor) OMCBは1つのスタンドアロンモデル内では休眠状態であり、検出できないが、マージによって安全性が低下する。 この知見に基づいて,メタラーニングに基づく攻撃フレームワークSMOKEを提案する。
• 参考スコア（独自算出の注目度）: 36.003265405789726
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Model merging has become widely adopted for enhancing the task-specific performance of Large Language Models (LLMs) without additional training. While the specialized model from third-party platforms may undergo safety audits (e.g., backdoor detection), we reveal a novel and critical threat: One-sided Merging-Conditional Backdoor (OMCB). OMCB remains dormant and undetectable within one standalone model but activates upon merging, triggering safety unalignment. We first theoretically analyze the existence and geometric location of OMCB, revealing that the parameter shift crossing safety decision boundaries is the main cause of backdoor activation. Building upon this insight, we propose SMOKE, a meta-learning-based attack framework. SMOKE implants OMCB via a bi-level optimization strategy: the inner loop synthesizes surrogate meta-vectors through random low-rank initialization and finite-step maximization, while the outer loop optimizes the target model by simulating the merging process. Furthermore, preliminary analysis shows that the injected OMCB has bounded generalization loss under unknown merging configurations. Extensive experiments across diverse model architectures and merging techniques validate the effectiveness of SMOKE and its resistance to existing backdoor detections, highlighting a significant yet previously overlooked vulnerability in the model merging paradigm.
• Abstract（参考訳）: モデルマージは大規模言語モデル(LLM)のタスク固有の性能を高めるために、追加のトレーニングなしで広く採用されている。 サードパーティプラットフォームからの特別なモデルでは,安全性監査(バックドア検出など)が実施される可能性があるが,新たな脅威が明らかにされている。 OMCBは1つのスタンドアロンモデル内では休眠状態であり、検出不能であるが、マージ時に活性化し、安全性の低下を引き起こす。 我々はまず,OMCBの存在と幾何学的位置を理論的に解析し,パラメータシフトがバックドアアクティベーションの主な原因であることを明らかにした。 この知見に基づいて,メタラーニングに基づく攻撃フレームワークSMOKEを提案する。 内ループはランダムな低ランク初期化と有限ステップの最大化によって準ゲートメタベクターを合成し、外ループは融合過程をシミュレートしてターゲットモデルを最適化する。 さらに, 予備解析の結果, OMCBは未知のマージ条件下での一般化損失が有界であることがわかった。 多様なモデルアーキテクチャとマージ技術にわたる広範な実験は、SMOKEの有効性と既存のバックドア検出に対する耐性を検証し、モデルマージパラダイムにおいて、これまで見過ごされていた重大な脆弱性を浮き彫りにした。

関連論文リスト

• Prototype-Anchored Generalized Manifold Regression for Unknown-Domain Object Detection [58.25418970608328]
  単一ソースドメイン上でトレーニングされた検出器を複数の未確認領域に転送することを目的としたシングルドメイン一般化オブジェクト検出(Single-DGOD)について検討する。 既存の手法は主に、トレーニング分布を拡大するために、データ拡張やテキストプロンプトといったシミュレーション駆動の戦略に依存している。 本稿では, 未知領域の一般化を多様体回帰問題として定式化する, Visual-Text Dual Chain-of-Thought (MR-DCoT) を用いたマニフォールド回帰を提案する。
  論文  参考訳（メタデータ） (2026-07-08T09:27:15Z)
• When Safe Models Merge into Danger: Exploiting Latent Vulnerabilities in LLM Fusion [15.004295056225002]
  モデルマージは、追加の訓練コストなしで複数の微調整 LLM の特殊能力を組み合わせるための強力な技術として登場した。 私たちはTrojanMergeというフレームワークを紹介します。これは、潜伏する悪意のあるコンポーネントをソースモデルに埋め込むフレームワークで、個別に良性のままですが、マージ時にひどいミスアライメントモデルを生成します。
  論文  参考訳（メタデータ） (2026-04-01T08:32:46Z)
• Unsafe by Reciprocity: How Generation-Understanding Coupling Undermines Safety in Unified Multimodal Models [53.41258113970795]
  統一マルチモーダルモデル(UMM)における相互機能相互性自体が脆弱性の構造的源となっているかを検討する。 相互相互作用に基づくクロスファンクショナル・ファンクショナル・エクスプロイテーションは, 理解と生成の間の双方向の相互作用を明示的に活用する, 新たな攻撃パラダイムである。
  論文  参考訳（メタデータ） (2026-03-28T16:28:39Z)
• The Trojan in the Vocabulary: Stealthy Sabotage of LLM Composition [31.827344197678126]
  トケナイザー移植はサプライチェーンの脆弱性を導入する。 係数再利用の幾何学を利用して、我々の攻撃は非対称的な実現可能性ギャップを生み出す。 実験的に、攻撃は訓練なしで、スペクトルの模倣を達成し、異常検出を回避する。
  論文  参考訳（メタデータ） (2025-12-31T19:00:03Z)
• Bridging Symmetry and Robustness: On the Role of Equivariance in Enhancing Adversarial Robustness [9.013874391203453]
  敵対的な例では、知覚不能な入力摂動に対する感度を利用して、ディープニューラルネットワークの重大な脆弱性を明らかにしている。 本研究では,群-同変畳み込みを組込み,対向ロバスト性に対するアーキテクチャ的アプローチについて検討する。 これらの層は、モデル行動と入力空間の構造化変換を整合させる対称性の先行を符号化し、よりスムーズな決定境界を促進する。
  論文  参考訳（メタデータ） (2025-10-17T19:26:58Z)
• Merger-as-a-Stealer: Stealing Targeted PII from Aligned LLMs with Model Merging [49.270050440553575]
  この攻撃を実現するための2段階フレームワークである textttMerger-as-a-Stealer を提案する。 まず、攻撃者は悪意のあるモデルを微調整し、PII関連のクエリに応答するよう強制する。 次に、攻撃者は直接PII関連クエリをマージしたモデルに入力し、ターゲットPIIを抽出する。
  論文  参考訳（メタデータ） (2025-02-22T05:34:53Z)
• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。