論文の概要: MOMAT: Mixture of Multiple Atlases for Low-Power Jailbreak Defense of Quantized LLMs

• arxiv url: http://arxiv.org/abs/2610.01058v1
• Date: Thu, 01 Oct 2026 04:55:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.908657
• Title: MOMAT: Mixture of Multiple Atlases for Low-Power Jailbreak Defense of Quantized LLMs
• Title（参考訳）: MOMAT:量子化LDMの低出力ジェイルブレイク防御のための複数のアトラスの混合
• Abstract要約: 量子化された大規模言語モデルは、低レイテンシとエネルギー効率のために、エッジデバイスにますますデプロイされている。 MoMATは、構造化知識検索と低消費電力防衛加速を組み合わせたハードウェア強化安全フレームワークである。
• 参考スコア（独自算出の注目度）: 15.17335840486608
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Quantized large language models are increasingly deployed on edge devices for their low latency and energy efficiency. However, model quantization weakens alignment safeguards, leaving qLLMs (quantized large language models) highly vulnerable to jailbreak attacks. To address this challenge, we present MOMAT (Mixture of Multiple Atlases), a hardware-enhanced safety framework that combines structured knowledge retrieval with low-power defense acceleration. Each atlas represents a semantic cluster of harmful or benign sample sets and policy templates, enabling domain-localized Retrieval-Augmented Generation guarding that mitigates the curse of dimensionality and the resulting semantic sparsity problem in large, heterogeneous safety databases. MOMAT retrieves top-$k$ similarity features from all atlases for each prompt and evaluates them using a lightweight MoE (Mixture of Experts) detector, while a CiM (Compute-in-Memory)-accelerated similarity engine performs fast, low-power atlas-local retrieval. MOMAT's CiM-based retrieval accelerates a 100-query batch from 15,052.44 ms to 3,207.21 ns (a $4.69 \times 10^6\times$ speedup) and reduces energy from $8.1 \times 10^7$ $μ$J to 3.32 $μ$J, yielding an approximately $2.5 \times 10^5\times$ energy reduction over DRAM-based (Raspberry Pi) baselines. Red-team evaluations across standard benchmarks show that MOMAT matches the defense performance of state-of-the-art methods while avoiding benign overkill and providing substantial efficiency gains, demonstrating that CiM-based modular defenses can make edge-deployed qLLMs both safer and more energy-efficient. We will release the full 223.2k-sample dataset to foster future research.
• Abstract（参考訳）: 量子化された大規模言語モデルは、低レイテンシとエネルギー効率のために、エッジデバイスにますますデプロイされている。 しかし、モデル量子化はアライメントセーフガードを弱め、qLLM(量子化された大言語モデル)はジェイルブレイク攻撃に対して非常に脆弱である。 この課題に対処するために、構造化知識検索と低消費電力防衛加速度を組み合わせたハードウェア強化安全フレームワークであるMOMAT(Mixture of Multiple Atlases)を提案する。 それぞれのアトラスは有害または良質なサンプルセットとポリシーテンプレートのセマンティッククラスタを表しており、大規模な異種安全データベースにおいて、次元の呪いと結果として生じるセマンティック・スペーサリティ問題を緩和するドメイン局所化された検索・拡張ジェネレーション(Retrieval-Augmented Generation)を保護している。 MOMATは各プロンプト毎にすべてのアトラスからトップ$kの類似機能を検索し、軽量なMoE検出器を用いて評価する。 MOMATのCiMベースの検索は、100クエリのバッチを15,052.44 msから3,207.21 ns(4.69 \times 10^6\times$ speedup)に加速し、エネルギーを8.1 \times 10^7$μ$Jから3.32 $μ$Jに削減し、約2.5 \times 10^5\times$DRAMベースの(Raspberry Pi)ベースラインよりもエネルギーを削減した。 標準ベンチマークによるレッドチーム評価では、MOMATは最先端メソッドの防御性能と一致し、良質なオーバースキルを回避し、相当な効率向上をもたらすことを示し、CiMベースのモジュールディフェンスがエッジデプロイされたqLLMをより安全かつエネルギー効率の良いものにすることができることを示した。 将来の研究を促進するために、完全な223.2kサンプルデータセットをリリースします。

関連論文リスト

• ELMoE-3D: Leveraging Intrinsic Elasticity of MoE for Hybrid-Bonding-Enabled Self-Speculative Decoding in On-Premises Serving [3.8457393423256363]
  本稿では,キャッシュベースのアクセラレーションと投機的復号化を統一するハイブリッドボンディングフレームワークELMoE-3Dを提案する。 私たちの3Dスタックハードウェアでは、ELMoE-3DはxPU 1-16で提供される単純なMoEよりも平均6.6倍のスピードアップと4.4倍のエネルギー効率向上を実現しています。
  論文  参考訳（メタデータ） (2026-04-16T05:12:51Z)
• Good-Enough LLM Obfuscation (GELO) [0.0]
  大きな言語モデル(LLM)は、デバイスメモリに読み取りアクセスする敵がKVキャッシュや隠された状態を観測できるような共有アクセラレーターで提供されることが多い。 本稿では、信頼できない加速器観測からの情報漏洩を制限するプライバシー保護推論プロトコルであるGELOを提案する。
  論文  参考訳（メタデータ） (2026-03-05T10:33:48Z)
• A Dynamic Retrieval-Augmented Generation System with Selective Memory and Remembrance [0.0]
  Emph Adaptive RAG Memory (ARM) は,静的ベクトルインデックスをEmphdynamicメモリ基板に置き換える検索拡張生成(RAG)フレームワークである。 ARMは、軽量な検索ベンチマークで最先端のパフォーマンスに近づいた。 ARMは、ジェネレータカラーブラックを再トレーニングすることなく、競合精度、自己正規化メモリ成長、解釈可能な保持ダイナミクスを出力し、生産・研究RAGシステムの品質、レイテンシ、メモリ効率のトレードオフを実践する。
  論文  参考訳（メタデータ） (2026-01-04T21:51:41Z)
• Hierarchical Federated Graph Attention Networks for Scalable and Resilient UAV Collision Avoidance [0.5505634045241287]
  衝突回避を実践するためにバランスをとる必要がある最も重要な指標は、リアルタイムのパフォーマンス、敵のレジリエンス、プライバシー保護である。 我々は適応型微分プライバシー機構を提案し,実時間脅威の評価に基づいて雑音レベル$(in [0.1, 1.0])$を動的に低減する。 このアーキテクチャは500UAVのスケーラブルなシナリオを提供し、衝突速度は2.0%$、ビザンティンの耐障害性は$f n/3$である。
  論文  参考訳（メタデータ） (2025-11-05T12:01:00Z)
• ELBA-Bench: An Efficient Learning Backdoor Attacks Benchmark for Large Language Models [55.93380086403591]
  生成可能な大規模言語モデルは、バックドアアタックに対して脆弱である。 $textitELBA-Bench$は、パラメータを効率的に微調整することで攻撃者がバックドアを注入できるようにする。 $textitELBA-Bench$は1300以上の実験を提供する。
  論文  参考訳（メタデータ） (2025-02-22T12:55:28Z)
• Iterative Self-Tuning LLMs for Enhanced Jailbreaking Capabilities [50.980446687774645]
  本稿では,対戦型LDMをジェイルブレイク能力に富んだ反復的自己調整プロセスであるADV-LLMを紹介する。 我々のフレームワークは,様々なオープンソース LLM 上で ASR を100% 近く達成しながら,逆接接尾辞を生成する計算コストを大幅に削減する。 Llama3のみに最適化されているにもかかわらず、GPT-3.5では99%のASR、GPT-4では49%のASRを達成している。
  論文  参考訳（メタデータ） (2024-10-24T06:36:12Z)
• Bridging Models to Defend: A Population-Based Strategy for Robust Adversarial Defense [70.39517230717126]
  敵の堅牢性(Adrial robustness)は、ニューラルネットワークが推論時に敵の攻撃に耐える能力の重要な尺度である。 本稿では,新しいロバストモード接続性(RMC)指向の対角防御フレームワークを提案する。 提案手法は, $ell_infty$, $ell$, およびハイブリッド攻撃に対するロバスト性を大幅に向上させることを示す。
  論文  参考訳（メタデータ） (2023-03-17T19:49:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。