論文の概要: Color Matters: Trigger Color Affects Success in Federated Backdoor Attacks
- arxiv url: http://arxiv.org/abs/2606.25858v1
- Date: Wed, 24 Jun 2026 14:07:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.354821
- Title: Color Matters: Trigger Color Affects Success in Federated Backdoor Attacks
- Title（参考訳）: トレーガーカラーがバックドア攻撃の成功に影響を及ぼす
- Abstract要約: フェデレーション学習は、悪意のあるクライアントが悪質なタスクのパフォーマンスを維持しながら悪意のある更新を注入するバックドア攻撃に対して脆弱である。
本研究では、攻撃者が自然な視覚アクセサリーをトリガーとして使用し、攻撃パイプラインを固定しながらトリガー色のみを操作できるセマンティクス駆動のバックドア機構について検討する。
本フレームワークでは,マスクやサングラスなどの意味的トリガーオブジェクトを黒と白の変種でインスタンス化し,その効果を制御学習環境で評価する。
- 参考スコア（独自算出の注目度）: 8.674923881304043
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning is vulnerable to backdoor attacks in which malicious clients inject poisoned updates while preserving benign-task performance. In this paper, we study a semantics-driven backdoor mechanism in which attackers use natural visual accessories as triggers and manipulate only the trigger color while keeping the attack pipeline fixed. Our framework considers semantic trigger objects such as masks and sunglasses, instantiated in black and white variants, and evaluates their effect in a controlled federated learning setting. Malicious clients construct poisoned samples by applying a trigger to source-class images and relabeling them to an attacker-chosen target class, while benign clients train only on clean data. We analyze this mechanism under both a standard poisoning objective and a stronger SABLE-based objective that combines clean classification loss, triggered target loss, feature-separation loss in the penultimate representation space, and regularization to keep malicious updates close to the global model. This design enables the attack to remain effective while reducing excessive update drift. Experiments on a four-class CelebA hair-color task show that trigger color significantly changes attack success rate even when trigger semantics, placement, and poisoning budget are unchanged. White triggers are more effective for attacks targeting the blond class, whereas black triggers perform better for attacks targeting the black class. The same trend persists under robust aggregation, showing that trigger color is a meaningful factor in the operation, persistence, and evaluation of semantic backdoor mechanisms in federated learning.
- Abstract（参考訳）: フェデレーション学習は、悪意のあるクライアントが悪質なタスクのパフォーマンスを維持しながら悪意のある更新を注入するバックドア攻撃に対して脆弱である。
本稿では、攻撃者が自然な視覚アクセサリーをトリガーとして使用し、攻撃パイプラインを固定しながらトリガー色のみを操作できるセマンティックス駆動のバックドア機構について検討する。
本フレームワークでは, マスクやサングラスなどの意味的トリガーオブジェクトを黒と白の変種でインスタンス化し, 制御されたフェデレート学習環境においてその効果を評価する。
悪意のあるクライアントは、ソースクラスイメージにトリガーを適用して、アタッカー-チョーゼンターゲットクラスにレバレッジすることで、有毒なサンプルを構築し、良質なクライアントはクリーンなデータのみをトレーニングする。
我々は,このメカニズムを,クリーンな分類損失,ターゲット損失の誘発,ペナルティ表現空間における特徴分離損失と,悪意のある更新をグローバルモデルに近づける正規化とを両立させる,SABLEに基づくより強力な目的の両方の下で分析する。
この設計により、過剰な更新ドリフトを減らしながら攻撃を効果的に保つことができる。
4種類のCelebAヘアカラータスクの実験では、トリガーカラーは、トリガーセマンティクス、配置、中毒予算が変更されていない場合でも、攻撃の成功率を著しく変化させることが示された。
白のトリガーはブロンドのクラスをターゲットにした攻撃に効果があるが、黒のトリガーは黒のクラスをターゲットにした攻撃に効果がある。
同じ傾向は頑健な凝集の下で持続し、連合学習における意味的なバックドア機構の操作、持続性、評価においてトリガーカラーが意味のある要素であることを示している。
関連論文リスト
- Localization then Neutralization: Gradient-guided Token Suppression against Visual Prompt Injection Attack [78.02110947708535]
敵対的なイメージは、プロンプトインジェクションを通じて、マルチモーダルな大規模言語モデルに深刻なセキュリティ上の脅威をもたらす。
敵の攻撃を成功させるには、画像全体を一様に依存するのではなく、重要な画像トークンの小さなサブセットに依存していることを示す。
本稿では,これらのトークンを勾配解析により局所化し,マスキングにより中和するグラディエントトークンマスキング(GTM)を提案する。
論文 参考訳（メタデータ） (2026-05-24T17:51:34Z) - Unmasking Backdoors: An Explainable Defense via Gradient-Attention Anomaly Scoring for Pre-trained Language Models [6.182793047410624]
バックドア型事前学習言語モデルの内部挙動について検討する。
本稿では,トークンレベルの注意と勾配情報を組み合わせることで,異常スコアを構成する推論時間ディフェンスを提案する。
論文 参考訳（メタデータ） (2025-10-05T20:15:56Z) - Multi-Target Federated Backdoor Attack Based on Feature Aggregation [4.0048516930686535]
本稿では,特徴集約に基づく裏口攻撃のための新しいベンチマークを提案する。
対象クラスに対するバックドアトリガの同時生成を提案する。
パッチベースの手法が失敗しても, 防御方法の検出を回避できるだけでなく, 77.39%の成功率でゼロショットバックドア攻撃を達成できることを示した。
論文 参考訳（メタデータ） (2025-02-23T11:47:52Z) - Backdoor Contrastive Learning via Bi-level Trigger Optimization [45.41485634654881]
コントラスト学習(CL)は、教師なし表現学習における顕著な能力により、大きな注目を集めている。
最近の研究により、CLのバックドア攻撃に対する脆弱性が明らかになった。
本稿では,この目的を達成するための二段階最適化手法を提案する。
論文 参考訳（メタデータ） (2024-04-11T15:55:53Z) - Silent Killer: A Stealthy, Clean-Label, Black-Box Backdoor Attack [10.047470656294335]
我々は、クリーンラベルでブラックボックスの設定で動作する新しい攻撃であるSilent Killerを紹介します。
クリーンラベル攻撃の引き金としてユニバーサル・逆境摂動を用いた場合について検討する。
高い成功率を確保するためには、毒を製造するための勾配調整が必要である。
論文 参考訳（メタデータ） (2023-01-05T15:11:05Z) - Just Rotate it: Deploying Backdoor Attacks via Rotation Transformation [48.238349062995916]
回転に基づく画像変換により,高い効率のバックドアを容易に挿入できることが判明した。
私たちの研究は、バックドア攻撃のための、新しく、シンプルで、物理的に実現可能で、非常に効果的なベクターに焦点を当てています。
論文 参考訳（メタデータ） (2022-07-22T00:21:18Z) - Narcissus: A Practical Clean-Label Backdoor Attack with Limited
Information [22.98039177091884]
クリーンラベル」バックドア攻撃には、トレーニングセット全体の知識が必要である。
本稿では,対象クラスの代表例の知識のみに基づいて,クリーンラベルバックドア攻撃をマウントするアルゴリズムを提案する。
私たちの攻撃は、物理的な世界にトリガーが存在する場合でも、データセットやモデル間でうまく機能します。
論文 参考訳（メタデータ） (2022-04-11T16:58:04Z) - Sleeper Agent: Scalable Hidden Trigger Backdoors for Neural Networks
Trained from Scratch [99.90716010490625]
バックドア攻撃者は、トレーニングデータを改ざんして、そのデータに基づいてトレーニングされたモデルに脆弱性を埋め込む。
この脆弱性は、モデル入力に"トリガー"を配置することで、推論時にアクティベートされる。
我々は,工芸過程において,勾配マッチング,データ選択,ターゲットモデル再トレーニングを利用した新しい隠れトリガ攻撃,Sleeper Agentを開発した。
論文 参考訳（メタデータ） (2021-06-16T17:09:55Z) - Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。
我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。
実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
論文 参考訳（メタデータ） (2021-03-06T05:50:29Z) - Local Black-box Adversarial Attacks: A Query Efficient Approach [64.98246858117476]
アドリアックは、セキュリティに敏感なシナリオにおけるディープニューラルネットワークの適用を脅かしている。
ブラックボックス攻撃における限られたクエリ内でのみクリーンな例の識別領域を摂動させる新しいフレームワークを提案する。
攻撃成功率の高いブラックボックス摂動時のクエリ効率を大幅に改善できることを示すため,広範な実験を行った。
論文 参考訳（メタデータ） (2021-01-04T15:32:16Z) - Poisoned classifiers are not only backdoored, they are fundamentally
broken [84.67778403778442]
一般的に研究されている、分類モデルに対するバックドア中毒攻撃の下で、攻撃者はトレーニングデータのサブセットに小さなトリガーを追加する。
毒を盛った分類器は、引き金を持つ敵のみに弱いと推定されることが多い。
本稿では,このバックドア型分類器の考え方が誤りであることを実証的に示す。
論文 参考訳（メタデータ） (2020-10-18T19:42:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。