論文の概要: Band Together: Untargeted Adversarial Training with Multimodal Coordination against Evasion-based Promotion Attacks

• arxiv url: http://arxiv.org/abs/2605.06238v1
• Date: Thu, 07 May 2026 13:24:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.840874
• Title: Band Together: Untargeted Adversarial Training with Multimodal Coordination against Evasion-based Promotion Attacks
• Title（参考訳）: バンド連携:マルチモーダルコーディネートによる非目標対人訓練
• Authors: Guanmeng Xian, Ning Yang, Philip S. Yu,
• Abstract要約: マルチモーダルレコメンダシステムは、回避ベースのプロモーション攻撃に対して脆弱である。 本稿では,マルチモーダルコーディネート(UAT-MC)を用いた非ターゲット適応トレーニングを提案し,この問題に対処する。
• 参考スコア（独自算出の注目度）: 43.692750193227674
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal recommender systems exploit visual and textual signals to alleviate data sparsity, but this also makes them more vulnerable to evasion-based promotion attacks. Existing defenses are largely limited to single-modal settings and mainly focus on poisoning-based threats, leaving evasion-based threats underexplored. In this work, we first identify a cross-modal gradient mismatch under the multi-user promotion setting, where visual and textual perturbations are optimized in inconsistent directions due to the dominance of distinct user groups. This phenomenon dilutes the attack effectiveness and leads robust training to underestimate worst-case risks. To address this issue, we propose Untargeted Adversarial Training with Multimodal Coordination (UAT-MC). UAT-MC tackles the challenge of unknown targeted items in evasion-based attacks (as opposed to poisoning-based attacks) by treating all items as potential targets, and introduces a gradient alignment mechanism to explicitly correct this mismatch. This design ensures synchronized perturbations across modalities, thereby maximizing adversarial strength for robust training. Extensive experiments demonstrate that UAT-MC significantly improves robustness against promotion attacks while maintaining acceptable recommendation performance under the defense-accuracy trade-off. Code is available at https://github.com/gmXian/UAT-MC.
• Abstract（参考訳）: マルチモーダルレコメンダシステムは、視覚的およびテキスト的信号を利用してデータの分散を緩和するが、それによって、回避ベースのプロモーション攻撃に対してより脆弱になる。 既存の防衛は、主に単一モードの設定に限られており、主に毒殺による脅威に焦点を当てており、回避に基づく脅威は未調査のままである。 本研究では,視覚的およびテキスト的摂動を,異なるユーザグループの優位性により不整合方向に最適化するマルチユーザプロモーション設定の下で,まずクロスモーダルな勾配ミスマッチを同定する。 この現象は攻撃効果を希薄化し、強靭な訓練によって最悪のリスクを過小評価する。 この問題に対処するため,UAT-MC(Untargeted Adversarial Training with Multimodal Coordination)を提案する。 UAT-MCは、全てのアイテムを潜在的ターゲットとして扱うことで、(毒素ベースの攻撃とは対照的に)回避ベースの攻撃において未知の対象アイテムに挑戦し、このミスマッチを明示的に修正するための勾配調整機構を導入する。 この設計により、モダリティ間の同期摂動が保証され、堅牢なトレーニングのための対向強度を最大化する。 大規模な実験により、UAT-MCは、防御精度トレードオフの下で許容される推奨性能を維持しながら、プロモーション攻撃に対する堅牢性を大幅に向上することが示された。 コードはhttps://github.com/gmXian/UAT-MCで入手できる。

関連論文リスト

• Prompt-Unknown Promotion Attacks against LLM-based Sequential Recommender Systems [51.504307822017985]
  大規模言語モデルを用いたシーケンシャルレコメンデータシステム(LLM-SRS)は,最近顕著な性能を示した。 本稿では, LLM-SRSにおけるアイテムプロモーション攻撃について, 攻撃者に対してシステムプロンプトと被害者モデルの両方が未知な状況下で, より現実的な状況下で検討する。
  論文  参考訳（メタデータ） (2026-04-26T10:09:26Z)
• Diversifying Counterattacks: Orthogonal Exploration for Robust CLIP Inference [45.723695657400576]
  反撃の多様性とカバレッジの向上は、テスト時間防衛における敵の堅牢性向上に不可欠である。 直交直交対向攻撃(DOC)は、傾き方向と運動量に基づく更新を組み込むことで、対向最適化を強化する。 平均コサイン類似度に基づく指向性感度スコアを,サンプル識別を改善し,反撃強度を適応的に調節することによりDOCを増強する。
  論文  参考訳（メタデータ） (2025-11-12T07:40:16Z)
• DOPA: Stealthy and Generalizable Backdoor Attacks from a Single Client under Challenging Federated Constraints [2.139012072214621]
  フェデレーテッド・ラーニング(FL)は、プライバシー保護のための協調トレーニングにますます採用されているが、その分散した性質は、バックドア攻撃の影響を受けやすい。 しかし、既存の攻撃方法は、しばしば理想化された仮定に依存し、現実の制約の下で有効に保たない。 異種ローカルトレーニングのダイナミクスをシミュレートし,多種多様な最適化トラジェクトリ間のコンセンサスを求める新しいフレームワークであるDOPAを提案する。
  論文  参考訳（メタデータ） (2025-08-20T08:39:12Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Multi-granular Adversarial Attacks against Black-box Neural Ranking Models [111.58315434849047]
  多粒性摂動を取り入れた高品質な逆数例を作成する。 我々は,多粒体攻撃を逐次的意思決定プロセスに変換する。 本手法は,攻撃の有効性と非受容性の両方において,一般的なベースラインを超えている。
  論文  参考訳（メタデータ） (2024-04-02T02:08:29Z)
• Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
  本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
  論文  参考訳（メタデータ） (2023-12-20T05:06:01Z)
• Saliency Diversified Deep Ensemble for Robustness to Adversaries [1.9659095632676094]
  本研究は,深層アンサンブルのための新しい多様性促進学習手法を提案する。 この考え方は、アンサンブルのメンバーが一度にすべてのアンサンブルメンバーを標的にしないよう、サリエンシマップの多様性(SMD)を促進することである。 アンサンブル構成員間の移動性が低下し,最先端のアンサンブル防御よりも性能が向上したことを実証的に示す。
  論文  参考訳（メタデータ） (2021-12-07T10:18:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。