論文の概要: Understanding Backdoor Attacks in Scene Graph Generation via Global Context Pathway
- arxiv url: http://arxiv.org/abs/2611.04379v1
- Date: Tue, 03 Nov 2026 06:05:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-10 01:02:48.731992
- Title: Understanding Backdoor Attacks in Scene Graph Generation via Global Context Pathway
- Title(参考訳): グローバルコンテキストパスを用いたシーングラフ生成におけるバックドアアタックの理解
- Abstract要約: シーングラフ生成(SGG)は、構造化されたシーン表現を生成するが、トレーニング時のバックドアリスクは未調査のままである。
近年のSGGアーキテクチャは、シーンモデリングを改善するためにグローバルなコンテキストを取り入れている。
力学解析により、明示的なグローバルな文脈経路がバックドア効果の主要な担体であることが明らかになった。
- 参考スコア(独自算出の注目度): 32.65118464512108
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scene Graph Generation (SGG) produces structured scene representations, yet its training-time backdoor risk remains unexplored. Unlike classification, SGG exposes a pair-level attack surface that enables selective corruption of relations involving a designated object category. However, because SGG largely relies on localized evidence, globally placed triggers may face difficulty in manipulating such predictions. Recent SGG architectures increasingly incorporate global context to improve scene modeling, which may in turn facilitate such attacks. In this paper, we systematically study this backdoor risk and investigate the role of the global context pathway in backdoor behavior. Concretely, we first instantiate this attack with an effective method, and propose a three-axis evaluation protocol to characterize backdoor behavior. Experiments on Visual Genome with representative open-vocabulary and closed-set SGG models demonstrate the effectiveness of the attack. Mechanistic analyses reveal that the explicit global context pathway serves as a major carrier of the backdoor effect across the evaluated SGG models. In particular, replacing the poisoned global context representation with its clean counterpart during inference sharply suppresses the attack, yielding 100% and 97% reductions in attack success for the OvSGTR family and RelationFormer, respectively. Moreover, training-time interventions in the OvSGTR family show that suppressing trigger signals in this pathway either reduces attack success or substantially degrades utility. Together, these findings suggest that explicit global context designs may pose a backdoor risk in SGG architectures.
- Abstract(参考訳): シーングラフ生成(SGG)は、構造化されたシーン表現を生成するが、トレーニング時のバックドアリスクは未調査のままである。
分類とは異なり、SGGは、指定された対象カテゴリを含む関係の選択的破壊を可能にするペアレベルの攻撃面を公開する。
しかし、SGGは局所的な証拠に大きく依存しているため、世界中に配置されたトリガーはそのような予測を操作するのに困難に直面している可能性がある。
近年のSGGアーキテクチャは、シーンモデリングを改善するためにグローバルなコンテキストを取り入れている。
本稿では,このバックドアリスクを体系的に研究し,バックドア行動におけるグローバルコンテキスト経路の役割について検討する。
具体的には,まずこの攻撃を効果的な方法でインスタンス化し,バックドアの挙動を特徴付けるための3軸評価プロトコルを提案する。
オープンボキャブラリとクローズドセットSGGモデルを用いた視覚ゲノム実験により,攻撃の有効性が示された。
メカニスティック解析により、明示的なグローバルな文脈経路が、評価されたSGGモデル全体にわたるバックドア効果の主要な担体であることが明らかとなった。
特に、推論中に汚染されたグローバルコンテキスト表現をクリーンなコンテキスト表現に置き換えると、攻撃を著しく抑制し、OvSGTRファミリーとRelationFormerの攻撃成功率は100%と97%減少する。
さらに、OvSGTRファミリーの訓練時間の介入は、この経路におけるトリガーシグナルの抑制が攻撃の成功を減少させるか、実用性を著しく低下させることを示している。
これらの結果から,グローバルなコンテキスト設計がSGGアーキテクチャのバックドアリスクを引き起こす可能性が示唆された。
関連論文リスト
- Merging Cyber Threat Intelligence Through Retrieval-Augmented Generation and Small Language Models for Rich Threat Representation [37.97052739331593]
我々は、異種CTIソースからのサイバー攻撃の実行可能な表現を導出する自動パイプラインを提案する。
このパイプラインは、RAGアーキテクチャとローカルにデプロイ可能なSLMを組み合わせることで、これらのエビデンスを統合し、運用上の詳細を推測する。
10の実世界のケーススタディのマニュアルアセスメントは、生成されたグラフが予想される攻撃進行と一致しているという最初の証拠を提供する。
論文 参考訳(メタデータ) (2026-09-07T09:46:26Z) - Beyond Homophily: Towards Generalized Graph Reconstruction Attack and Defense [80.28330585803133]
グラフニューラルネットワーク(GNN)は、計算データに広くデプロイされているが、トレーニンググラフの隣接性に関する機密情報やプロプライエタリ情報を漏洩することができる。
本研究は、訓練されたGNNからトレーニング隣接性を再構築するモデル逆転の一形態であるグラフ再構成攻撃(GRA)について研究する。
本稿では, MC-GRA(+)を提案する。これは, GNNにより誘導される表現が対象モデルのそれと一致した代理隣接を最適化することにより, 隣接性を再構築する。
防衛面では, MC-GPB (+) を提案する。
論文 参考訳(メタデータ) (2026-06-06T09:29:27Z) - BYORn: Bootstrap Your Own Responses to Defend Large Vision-Language Models Against Backdoor Attacks [0.0]
教師付き微調整は、下流タスクに自動回帰視覚言語モデルを適用する主要なアプローチである。
近年の研究では、このパラダイムはバックドア攻撃に対して非常に脆弱であることが示されている。
本研究では, 有害な標的応答が意味論的に理解できない場合が多いという観察に動機づけられた, バックドア・ローバスト微調整フレームワークを提案する。
論文 参考訳(メタデータ) (2026-06-01T22:58:04Z) - Universal Graph Backdoor Defense: A Feature-based Homophily Perspective [11.895336568746243]
グラフニューラルネットワーク(GNN)はリレーショナル学習において大きな成功を収めている。
グラフバックドアアタック(GBA)に対する脆弱性は、ハイテイクなアプリケーションで広く採用される上で、大きな障壁となる。
論文 参考訳(メタデータ) (2026-05-16T05:15:36Z) - Grimm: A Plug-and-Play Perturbation Rectifier for Graph Neural Networks Defending against Poisoning Attacks [53.972077392749185]
近年の研究では、ノード分類タスクに対する敵対的中毒攻撃に対するグラフニューラルネットワーク(GNN)の脆弱性が明らかにされている。
ここでは、最初のプラグアンドプレイディフェンスモデルであるGrimmを紹介します。
論文 参考訳(メタデータ) (2024-12-11T17:17:02Z) - Revisiting Backdoor Attacks against Large Vision-Language Models from Domain Shift [104.76588209308666]
本稿では,LVLMの学習訓練におけるバックドア攻撃について検討する。
我々は,攻撃の堅牢性を評価するために,新たな評価次元,バックドア領域の一般化を導入する。
本稿では,ドメイン非依存的トリガを臨界領域に注入するマルチモーダルアトリビューションバックドアアタック(MABA)を提案する。
論文 参考訳(メタデータ) (2024-06-27T02:31:03Z) - BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive
Learning [85.2564206440109]
本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。
バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
論文 参考訳(メタデータ) (2023-11-20T02:21:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。