論文の概要: Understanding Backdoor Vulnerabilities in Vertical Federated Learning: The Gap Between Research and Practice

• arxiv url: http://arxiv.org/abs/2608.12962v1
• Date: Thu, 13 Aug 2026 08:46:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.443631
• Title: Understanding Backdoor Vulnerabilities in Vertical Federated Learning: The Gap Between Research and Practice
• Title（参考訳）: 垂直的フェデレーション学習におけるバックドア脆弱性の理解 : 研究と実践のギャップ
• Abstract要約: Vertical Federated Learning (VFL)は、共有エンティティの補完的な機能を持つ組織が協力し、モデルをトレーニングすることを可能にする。 特にバックドア攻撃は、悪意のあるコントリビュータがトレーニング中にモデルに毒を盛るだけでなく、推論時にバックドアをアクティベートして予測を操作できるためである。 本稿では,VFLにおけるバックドア脆弱性の体系的,実践的な研究を行い,方法論的設計と評価の両実践のギャップを明らかにした。
• 参考スコア（独自算出の注目度）: 12.665150044434606
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vertical Federated Learning (VFL) enables organizations holding complementary features of shared entities to collaborate and train models. In this setting, the initiator can withhold information about the learning task, while other contributors participate without exposing their local datasets, creating an asymmetric information structure aligned with growing privacy demands. However, this asymmetry is a double-edged sword. Among various threats, backdoor attacks are particularly concerning because VFL not only enables malicious contributors to poison the model during training, but also allows them to activate the backdoor at inference time to manipulate predictions. Although prior work has reported near-perfect attack success rates and proposed effective defenses, we find that most findings fail to hold under realistic conditions, exposing a fundamental gap between research and practice. In this paper, we present a systematic, practice-oriented study of backdoor vulnerabilities in VFL, revealing this gap in both methodological design and evaluation practices. We show that existing approaches overlook key practical constraints and therefore rely on unrealistic prior knowledge. Furthermore, these limitations have remained hidden due to poorly designed evaluation practices in the literature. To bridge this gap, we redefine threat models under realistic constraints, propose practical backdoor workflows, and introduce BVBench, a backdoor-centric benchmark that enables fair, practical, and comprehensive evaluation, preloaded with state-of-the-art baselines. BVBench provides strong evidence of the fragility of the current understanding of VFL backdoor risks and establishes a foundation for steering research toward uncovering practical vulnerabilities and developing more meaningful defenses.
• Abstract（参考訳）: Vertical Federated Learning (VFL)は、共有エンティティの補完的な機能を持つ組織が協力し、モデルをトレーニングすることを可能にする。 この設定では、開始者は学習タスクに関する情報を保持でき、他のコントリビュータはローカルデータセットを公開せずに参加し、プライバシー要求の増加に合わせて非対称な情報構造を作成する。 しかし、この非対称性は両刃の剣である。 様々な脅威の中で、バックドア攻撃は特に関係している。VFLは悪意のあるコントリビュータがトレーニング中にモデルに毒を盛るだけでなく、推論時にバックドアを活性化して予測を操作できるようにするためである。 これまでの研究では、ほぼ完璧な攻撃成功率と効果的な防御策が提案されていたが、ほとんどの発見は現実的な条件下では成立せず、研究と実践の根本的なギャップが露呈している。 本稿では,VFLにおけるバックドア脆弱性の体系的,実践的な研究を行い,方法論設計と評価の両実践のギャップを明らかにする。 既存のアプローチは重要な実践的制約を無視し,非現実的な事前知識に依存していることを示す。 さらに、これらの制限は、文献であまり設計されていない評価慣行のために隠されている。 このギャップを埋めるために、現実的な制約の下で脅威モデルを再定義し、実用的なバックドアワークフローを提案し、最先端のベースラインでプリロードされた公正で実践的で包括的な評価を可能にするバックドア中心のベンチマークであるBVBenchを導入します。 BVBenchは、現在のVFLバックドアリスクの理解の脆弱さの強い証拠を提供し、実用的脆弱性の解明とより意味のある防御開発に向けた研究の基盤を確立する。

関連論文リスト

• Rethinking Backdoor Adversarial Unlearning through the Lens of Catastrophic Forgetting in Continual Learning [7.959552018607674]
  現在のバックドア防御は、限られた堅牢性を示し、しばしば特定の種類の攻撃に対して失敗する。 連続的な学習の観点から,バックドア学習とアンラーニングの新たな定式化を逐次3段階のプロセスとして提示する。 本手法は,バックドア攻撃の幅広い範囲に適用可能であり,バックドアモデルからバックドア効果を効果的かつ徹底的に除去することができる。
  論文  参考訳（メタデータ） (2026-06-12T03:55:04Z)
• Anchoring Refusal Direction: Mitigating Safety Risks in Tuning via Projection Constraint [52.878820730054365]
  インストラクションファインチューニング(IFT)は,大規模言語モデル(LLM)の能力向上のための効果的なポストトレーニング戦略として広く採用されている。 LLMの内部機構に関する最近の研究は、隠蔽状態における拒絶方向(r方向)を同定し、拒絶行動の制御において重要な役割を担っている。 このようなドリフトを緩和するため,提案手法では,各トレーニングサンプルの隠れ状態のr方向への投射の大きさを規則化する投射制約損失項を導入する。
  論文  参考訳（メタデータ） (2025-09-08T15:24:33Z)
• BackFed: An Efficient & Standardized Benchmark Suite for Backdoor Attacks in Federated Learning [5.924780594614676]
  Federated Learning (FL) システムは、バックドア攻撃に対して脆弱である。 BackFedはFLのバックドア攻撃と防御を標準化し、合理化し、確実に評価するためのベンチマークスイートである。 BackFedは、研究者が新しい攻撃と防御を包括的かつ確実に評価するための、プラグアンドプレイ環境である。
  論文  参考訳（メタデータ） (2025-07-07T11:40:45Z)
• ICLShield: Exploring and Mitigating In-Context Learning Backdoor Attacks [61.06621533874629]
  In-context Learning (ICL)は、大規模言語モデル(LLM)において顕著な成功を収めた。 本稿では,LLMがタスク関連潜伏概念とバックドア関連潜伏概念の両方を同時に学習する,という二重学習仮説を初めて提案する。 そこで本研究では,概念選好比を動的に調整する防衛機構であるICLShieldを提案する。
  論文  参考訳（メタデータ） (2025-07-02T03:09:20Z)
• To Think or Not to Think: Exploring the Unthinking Vulnerability in Large Reasoning Models [56.19026073319406]
  大規模推論モデル (LRM) は、最終的な答えを生成する前に明確な推論トレースを生成することで複雑なタスクを解決するように設計されている。 LRM(Unthinking)と呼ばれる重要な脆弱性を明らかにし、特別なトークンを操作することで思考プロセスを回避できます。 本稿では,この脆弱性を悪意と有益の両方の観点から検討する。
  論文  参考訳（メタデータ） (2025-02-16T10:45:56Z)
• FEDLAD: Federated Evaluation of Deep Leakage Attacks and Defenses [50.921333548391345]
  フェデレーテッド・ラーニング(Federated Learning)は、分散型機械学習パラダイムをプライバシ保護するものだ。 近年の研究では、Deep Leakageと呼ばれる勾配技術によって、民間の真実データを復元できることが判明している。 本稿では、Deep Leakage攻撃と防御を評価するための総合的なベンチマークであるFEDLAD Framework(Federated Evaluation of Deep Leakage Attacks and Defenses)を紹介する。
  論文  参考訳（メタデータ） (2024-11-05T11:42:26Z)
• GANcrop: A Contrastive Defense Against Backdoor Attacks in Federated Learning [1.9632700283749582]
  本稿では,GANcrop という,協調学習におけるバックドア攻撃に対する防御機構について紹介する。 実験的には、特に非IIDシナリオにおいて、ガンクロップはバックドア攻撃に対して効果的に保護されていることが示されている。
  論文  参考訳（メタデータ） (2024-05-31T09:33:16Z)
• Unveiling the Misuse Potential of Base Large Language Models via In-Context Learning [61.2224355547598]
  大規模言語モデル(LLM)のオープンソース化は、アプリケーション開発、イノベーション、科学的進歩を加速させる。 我々の調査は、この信念に対する重大な監視を露呈している。 我々の研究は、慎重に設計されたデモを配置することにより、ベースLSMが悪意のある命令を効果的に解釈し実行できることを実証する。
  論文  参考訳（メタデータ） (2024-04-16T13:22:54Z)
• Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
  マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。 バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む 我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
  論文  参考訳（メタデータ） (2024-03-24T18:33:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。