論文の概要: BYORn: Bootstrap Your Own Responses to Defend Large Vision-Language Models Against Backdoor Attacks

• arxiv url: http://arxiv.org/abs/2606.02947v1
• Date: Mon, 01 Jun 2026 22:58:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:04.633
• Title: BYORn: Bootstrap Your Own Responses to Defend Large Vision-Language Models Against Backdoor Attacks
• Title（参考訳）: BYORn: バックドア攻撃に対する大規模なビジョンランゲージモデルを守るために、独自のレスポンスをブートストラップする
• Authors: Ivan Sabolić, Marin Oršić, Josip Šarić, Sven Lončarić,
• Abstract要約: 教師付き微調整は、下流タスクに自動回帰視覚言語モデルを適用する主要なアプローチである。 近年の研究では、このパラダイムはバックドア攻撃に対して非常に脆弱であることが示されている。 本研究では, 有害な標的応答が意味論的に理解できない場合が多いという観察に動機づけられた, バックドア・ローバスト微調整フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Supervised fine-tuning is the predominant approach for adapting autoregressive vision-language models to downstream tasks. Recent work has shown that this paradigm is highly vulnerable to backdoor attacks, and that existing defenses are ineffective in open-ended generation settings. In response, we propose BYORn, a backdoor-robust fine-tuning framework motivated by the observation that poisoned target responses are often semantically implausible given the corresponding image-text inputs and a pretrained model. BYORn identifies such misaligned responses and dynamically replaces them with alternative responses generated by the model, thereby breaking the correlation between triggers and target outputs. The resulting objective gradient corresponds to the gradient of the empirical estimate of the population risk upper bound over the clean data distribution. Empirically, BYORn consistently improves robustness to backdoor attacks while preserving clean-task performance, establishing a new trade-off frontier between generalization and attack success rate. Finally, we demonstrate that BYORn remains effective against adaptive attacks specifically designed to circumvent the proposed defense.
• Abstract（参考訳）: 教師付き微調整は、下流タスクに自動回帰視覚言語モデルを適用する主要なアプローチである。 近年の研究では、このパラダイムはバックドア攻撃に対して非常に脆弱であり、既存の防御はオープンエンド世代設定では効果がないことが示されている。 そこで本研究では, 有害なターゲット応答が, 対応する画像テキスト入力と事前学習モデルから意味的に理解できない場合が多いという観察を動機とした, バックドア・ロバストな微調整フレームワークであるBYORnを提案する。 BYORnはそのような不一致の応答を識別し、モデルによって生成された代替の応答に動的に置き換えることで、トリガーとターゲット出力の相関を断ち切る。 得られた目的勾配は、クリーンなデータ分布上の集団リスク上限の実証的推定値の勾配に対応する。 実証的には、BYORnはクリーンタスクのパフォーマンスを維持しながら、バックドア攻撃に対する堅牢性を一貫して改善し、一般化とアタック成功率の間の新たなトレードオフフロンティアを確立する。 最後に、BYORnは、提案した防御を回避するために特別に設計された適応攻撃に対して有効であることを示す。

関連論文リスト

• A Patch-based Cross-view Regularized Framework for Backdoor Defense in Multimodal Large Language Models [10.372037861522783]
  本稿では,パッチ拡張とクロスビュー規則性に基づく統一型防衛フレームワークを提案する。 我々の研究は、現実的な低周波中毒と隠蔽トリガーシナリオにおける大規模マルチモーダルモデルの安全かつ制御された展開を可能にする。
  論文  参考訳（メタデータ） (2026-04-06T07:27:04Z)
• Dashed Line Defense: Plug-And-Play Defense Against Adaptive Score-Based Query Attacks [3.206339985805037]
  ダッシュラインディフェンス(Dashed Line Defense, DLD)は、適応的なクエリ戦略に対処するために設計された、プラグアンドプレイのポストプロセッシング手法である。 DLDは、観測された損失がどのように真の敵の強さを反映しているかの曖昧さを導入することで、攻撃者がクエリを確実に分析し、適応することを防ぐ。 我々は,DLDの防御能力を理論的に保証し,ImageNetの実験を通じてその有効性を検証する。
  論文  参考訳（メタデータ） (2026-02-09T14:02:32Z)
• MARS: A Malignity-Aware Backdoor Defense in Federated Learning [51.77354308287098]
  最近提案されたSOTA攻撃(3DFed)は、ディフェンダーがバックドアモデルを受け入れたかどうかを判断するためにインジケータ機構を使用する。 本稿では,各ニューロンの有害な範囲を示すためにバックドアエネルギーを利用するMARS(Maignity-Aware backdooR defenSe)を提案する。 実験により、MARSはSOTAのバックドア攻撃に対して防御でき、既存の防御を著しく上回っていることが示された。
  論文  参考訳（メタデータ） (2025-09-21T14:50:02Z)
• Sampling-aware Adversarial Attacks Against Large Language Models [52.30089653615172]
  既存の敵攻撃は、通常、単一点の欲望世代において有害な反応を標的とする。 本研究では,有害な応答を抽出する目的のために,攻撃時のモデル出力の繰り返しサンプリングを行う。 既存の攻撃にサンプリングを統合することで、成功率が最大37%向上し、最大2桁の効率が向上することを示す。
  論文  参考訳（メタデータ） (2025-07-06T16:13:33Z)
• Explainer-guided Targeted Adversarial Attacks against Binary Code Similarity Detection Models [12.524811181751577]
  我々は,BCSDモデルに対する敵攻撃に対する新たな最適化を提案する。 特に,攻撃目標は,モデル予測を特定の範囲に制限することである。 我々の攻撃は、モデル決定境界の解釈において、ブラックボックス、モデルに依存しない説明器の優れた能力を活用する。
  論文  参考訳（メタデータ） (2025-06-05T08:29:19Z)
• Neural Antidote: Class-Wise Prompt Tuning for Purifying Backdoors in CLIP [51.04452017089568]
  CBPT(Class-wise Backdoor Prompt Tuning)は、テキストプロンプトでCLIPを間接的に浄化する効率的な防御機構である。 CBPTは、モデルユーティリティを保持しながら、バックドアの脅威を著しく軽減する。
  論文  参考訳（メタデータ） (2025-02-26T16:25:15Z)
• REINFORCE Adversarial Attacks on Large Language Models: An Adaptive, Distributional, and Semantic Objective [57.57786477441956]
  応答の個体群に対する適応的・意味的最適化問題を提案する。 我々の目標は、Llama3の攻撃成功率(ASR)を2倍にし、サーキットブレーカー防御でASRを2%から50%に向上させることである。
  論文  参考訳（メタデータ） (2025-02-24T15:34:48Z)
• Revisiting Backdoor Attacks against Large Vision-Language Models from Domain Shift [104.76588209308666]
  本稿では,LVLMの学習訓練におけるバックドア攻撃について検討する。 我々は,攻撃の堅牢性を評価するために,新たな評価次元,バックドア領域の一般化を導入する。 本稿では,ドメイン非依存的トリガを臨界領域に注入するマルチモーダルアトリビューションバックドアアタック(MABA)を提案する。
  論文  参考訳（メタデータ） (2024-06-27T02:31:03Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
  本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
  論文  参考訳（メタデータ） (2020-06-05T03:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。