論文の概要: RoME: Robust Mixture of Low-Rank Experts against Multiple Adversarial Perturbations
- arxiv url: http://arxiv.org/abs/2607.06109v1
- Date: Tue, 07 Jul 2026 10:20:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 21:24:51.492064
- Title: RoME: Robust Mixture of Low-Rank Experts against Multiple Adversarial Perturbations
- Title（参考訳）: RoME: 複数対角的摂動に対する低ランク専門家のロバストな混在
- Abstract要約: 私たちは、異なるモデルパスを通じて異なる脅威をルーティングするために、専門家の混在を採用しています。
専門家は脅威固有の機能を見落とし、脅威間で共有される機能を冗長にキャプチャする傾向がある。
本稿では,脅威特有の情報に注目する一方で,脅威に共通する特徴を捉えるためにローランドエキスパートのロバスト・ミキチャーを提案する。
- 参考スコア（独自算出の注目度）: 26.856076506423353
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Multi-perturbation adversarial training (MAT) aims to achieve robustness against multiple $\ell_p$ perturbations but suffers from robustness trade-offs between different threats. To address this, we employ a mixture of experts (MoE) to route different threats through distinct model pathways. However, naive application of MoE encounters two critical challenges: experts tend to overlook threat-specific features and redundantly capture features shared across threats, and gating networks suffer from threat-agnostic routing where they learn nearly identical routing patterns across threats, thus preventing the construction of threat-specific model pathways. To this end, we propose Robust Mixture of Low-Rank Experts (RoME), where each expert is a low-rank additive update to the shared backbone, allowing it to capture threat-common features while experts focus on threat-specific information. To address threat-agnostic routing, RoME introduces (i) dual-scale gating that exploits threat-discriminative signals from local and global level features, and (ii) threat-guided gating diversification that enforces diverse expert utilization across threats. Extensive experiments demonstrate that RoME outperforms existing state-of-the-art MAT in union robustness and natural accuracy and improves robustness against unseen threats. Codes are available at https://github.com/wkim97/RoME.
- Abstract（参考訳）: マルチ摂動対人訓練(MAT)は、複数の$\ell_p$摂動に対して堅牢性を達成することを目的としているが、異なる脅威間の堅牢性トレードオフに悩まされている。
これを解決するために、異なるモデル経路を介して異なる脅威をルーティングするために、専門家(MoE)が混在している。
専門家は脅威固有の特徴を見落とし、脅威間で共有される特徴を冗長にキャプチャする傾向があり、ゲーティングネットワークは脅威に依存しないルーティングに悩まされ、脅威間のほぼ同一のルーティングパターンを学ぶため、脅威固有のモデルパスの構築が妨げられる。
この目的のために、ロバスト・ミックス・オブ・ローランク・エキスパートズ(RoME)を提案する。各専門家は、共有バックボーンへの低ランクの付加的な更新であり、脅威固有の情報に焦点を当てながら、脅威に共通の特徴をキャプチャすることができる。
脅威に依存しないルーティングに対処するRoME
一 地域及びグローバルレベルの特徴から脅威識別信号を利用する二重スケールゲーティング
(二)脅威にまたがる多様な専門家の活用を強制する脅威誘導ゲーティングの多様化。
大規模な実験により、RoMEは既存の最先端のMATよりも、組合の堅牢性と自然な正確性に優れており、目に見えない脅威に対する堅牢性を向上させることが示されている。
コードはhttps://github.com/wkim97/RoMEで入手できる。
関連論文リスト
- Band Together: Untargeted Adversarial Training with Multimodal Coordination against Evasion-based Promotion Attacks [43.692750193227674]
マルチモーダルレコメンダシステムは、回避ベースのプロモーション攻撃に対して脆弱である。
本稿では,マルチモーダルコーディネート(UAT-MC)を用いた非ターゲット適応トレーニングを提案し,この問題に対処する。
論文 参考訳（メタデータ） (2026-05-07T13:24:40Z) - Transient Turn Injection: Exposing Stateless Multi-Turn Vulnerabilities in Large Language Models [0.0]
本稿では,新しいマルチターン攻撃技術であるTransient Turn Injection (TTI)を紹介する。
TTIは、孤立した相互作用に反する意図を分散することで、ステートレスなモデレーションを利用する。
本研究は, 包括的, 文脈対応型防衛の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2026-04-23T16:56:14Z) - Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming [64.48633529149579]
本稿では,VLA(Vision-Language-Action)モデルの言語的変異に対する脆弱性を明らかにするための新しいフレームワークを提案する。
本手法は, ストレス試験用VLAエージェントへのスケーラブルなアプローチを示すため, 平均作業成功率を93.33%から5.85%に下げる。
論文 参考訳（メタデータ） (2026-04-07T08:43:36Z) - Debiased Dual-Invariant Defense for Adversarially Robust Person Re-Identification [52.63017280231648]
人物再識別(ReID)は、歩行者軌道追跡などの現実の多くの応用において、基本的な課題である。
Person ReIDモデルは、歩行者画像に対する知覚不能な摂動が完全に誤った予測を引き起こすような、敵の攻撃に非常に敏感である。
本稿では,2つの相からなる二重不変防衛フレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-13T03:56:40Z) - Backdoor or Manipulation? Graph Mixture of Experts Can Defend Against Various Graph Adversarial Attacks [11.295664927673398]
我々は、Mixture of Experts(MoE)アーキテクチャの柔軟性を活用して、バックドア、エッジ操作、ノードインジェクション攻撃に対して、スケーラブルで統一されたフレームワークを設計します。
具体的には、個々の専門家が意思決定プロセスにおいて異なる近傍構造に注目するよう促すMIベースの論理多様性損失を提案する。
本稿では、乱れパターンを特定し、乱れノードを対応するロバストな専門家に適応的にルーティングするロバストネス対応ルータを提案する。
論文 参考訳（メタデータ） (2025-10-17T05:51:02Z) - Real-Time Detection of Insider Threats Using Behavioral Analytics and Deep Evidential Clustering [0.0]
本稿では,行動分析と深層的クラスタリングを組み合わせた,インサイダー脅威をリアルタイムに検出するフレームワークを提案する。
本システムは,ユーザの行動を捉え,分析し,文脈に富んだ行動特徴を適用し,潜在的な脅威を分類する。
我々は,CERTやTWOSなどのベンチマークインサイダー脅威データセットについて,平均検出精度94.7%,偽陽性率38%を従来のクラスタリング手法と比較し評価した。
論文 参考訳（メタデータ） (2025-05-21T11:21:33Z) - Manipulating Multimodal Agents via Cross-Modal Prompt Injection [34.35145839873915]
マルチモーダルエージェントにおいて、これまで見過ごされていた重要なセキュリティ脆弱性を特定します。
攻撃者が複数のモードにまたがって敵の摂動を埋め込む新たな攻撃フレームワークであるCrossInjectを提案する。
本手法は,攻撃成功率を少なくとも30.1%向上させることで,最先端の攻撃よりも優れる。
論文 参考訳（メタデータ） (2025-04-19T16:28:03Z) - MM-PoisonRAG: Disrupting Multimodal RAG with Local and Global Poisoning Attacks [104.50239783909063]
Retrieval Augmented Generation (RAG) を用いた多モーダル大規模言語モデルは、多モーダル質問応答のようなかなり高度なタスクを持つ。
この外部知識への依存は、知識中毒攻撃(英語版)という、危険だが未発見の安全リスクを引き起こす。
マルチモーダルRAGにおける知識中毒を体系的に設計する最初のフレームワークであるMM-PoisonRAGを提案する。
論文 参考訳（メタデータ） (2025-02-25T04:23:59Z) - Multi-granular Adversarial Attacks against Black-box Neural Ranking Models [111.58315434849047]
多粒性摂動を取り入れた高品質な逆数例を作成する。
我々は,多粒体攻撃を逐次的意思決定プロセスに変換する。
本手法は,攻撃の有効性と非受容性の両方において,一般的なベースラインを超えている。
論文 参考訳（メタデータ） (2024-04-02T02:08:29Z) - Learning to Generate Noise for Multi-Attack Robustness [126.23656251512762]
対人学習は、対人摂動に対する既存の方法の感受性を回避できる手法の1つとして登場した。
安全クリティカルなアプリケーションでは、攻撃者は様々な敵を採用してシステムを騙すことができるため、これらの手法は極端に便利である。
本稿では,複数種類の攻撃に対するモデルの堅牢性を改善するために,ノイズ発生を明示的に学習するメタラーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-22T10:44:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。