論文の概要: TraceGuard: Adaptive Multimodal Poison Filtering through Cross-Feature Rank Agreement
- arxiv url: http://arxiv.org/abs/2609.29099v1
- Date: Thu, 24 Sep 2026 06:28:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.75178
- Title: TraceGuard: Adaptive Multimodal Poison Filtering through Cross-Feature Rank Agreement
- Title（参考訳）: TraceGuard: クロスランク合意による適応型マルチモーダルポゾンフィルタリング
- Abstract要約: マルチモーダルトレーニングは、外部ソースから収集された画像テキストコーパスに依存しており、攻撃者がデータを汚染する機会を生み出している。
補間的特徴ランキング間の一致を利用して不審な事例を識別する適応的なランクに基づくフィルタリング手法であるTraceGuardを紹介する。
選択したセットを共有パターンを通じて洗練し、攻撃や中毒率を知ることなく、各コーパスに除去しきい値を適用する。
- 参考スコア（独自算出の注目度）: 16.617942353017963
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multimodal training relies on image-text corpora collected from external sources, creating opportunities for attackers to poison the data. Stealthy attacks can preserve plausible image-text pairs while concealing the differences used by detectors, so apparently clean data can still redirect the trained model. We therefore ask which properties a poison set must preserve for the attack to remain effective. A small poison set must still exert enough collective influence during training to induce the attacker's target behavior. We analyze this influence in terms of how often an attack pattern occurs and how strongly the examples carrying it jointly affect the model. This analysis motivates six corpus-level features that examine cross-modal neighborhoods, recurring text, and changes after text-span erasure without training the victim model. We introduce TraceGuard, an adaptive rank-based filtering method that uses agreement among complementary feature rankings to identify suspicious examples. It refines the selected set through shared patterns and adapts the removal threshold to each corpus without knowing the attack or poison rate. Across 19 attack configurations spanning image-text learning, generative vision-language model fine-tuning, and encoder-transfer tests, TraceGuard removes an average of 98.4% of poisoned examples and 5.4% of clean examples. After training on the filtered corpora, the residual attack metric is at most 1% in 13 configurations. Matched-removal controls and ablations support the contributions of sample selection and adaptive removal. Stress tests also identify detection failures under adaptive attacks and unnecessary removal on poison-free corpora.
- Abstract（参考訳）: マルチモーダルトレーニングは、外部ソースから収集された画像テキストコーパスに依存しており、攻撃者がデータを汚染する機会を生み出している。
ステルス攻撃は、検知器が使用する違いを隠蔽しながら、可視画像とテキストのペアを保存できるため、きれいなデータは訓練済みのモデルをリダイレクトすることができる。
したがって、攻撃が有効であるためには、どの性質を毒物が保持しなければならないのかを問う。
小さな毒のセットは、攻撃者の標的行動を引き起こすのに十分な集団的影響をまだ与えなければならない。
この影響を,攻撃パターンの発生頻度と,それを含む事例がモデルにどの程度強く影響するかで分析する。
この分析は, クロスモーダル地区, テキストの繰り返し, テキストスパン消去後の変化を, 被害者モデルを訓練することなく調査するコーパスレベルの6つの特徴を動機づける。
補間的特徴ランキング間の一致を利用して不審な事例を識別する適応的なランクに基づくフィルタリング手法であるTraceGuardを紹介する。
選択したセットを共有パターンを通じて洗練し、攻撃や中毒率を知ることなく、各コーパスに除去しきい値を適用する。
画像テキスト学習、生成的視覚言語モデル微調整、エンコーダ-トランスファーテストを含む19の攻撃構成で、TraceGuardは98.4%の有毒な例と5.4%のクリーンな例を除去している。
フィルターコーパスのトレーニングの後、残留攻撃距離は13の構成で1%以上である。
マッチ除去制御とアブレーションは、サンプル選択と適応除去の貢献をサポートする。
ストレステストはまた、アダプティブアタックおよび無毒コーパスの不要除去による検出障害を同定する。
関連論文リスト
- Detecting Instruction Fine-tuning Attacks on Language Models using Influence Function [6.778374627376906]
命令の微調整攻撃は、大きな言語モデルに深刻な脅威をもたらす。
汚染されたデータは、クリーンなデータと区別できないことが多い。
本稿では,攻撃の事前知識を必要としない検出手法を提案する。
論文 参考訳（メタデータ） (2025-04-12T00:50:28Z) - SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。
データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。
バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
論文 参考訳（メタデータ） (2024-05-19T14:50:09Z) - Protecting Model Adaptation from Trojans in the Unlabeled Data [120.42853706967188]
本稿では,よく設計された毒物標的データによるモデル適応に対するトロイの木馬攻撃の可能性について検討する。
本稿では,既存の適応アルゴリズムとシームレスに統合可能なDiffAdaptというプラグイン・アンド・プレイ手法を提案する。
論文 参考訳（メタデータ） (2024-01-11T16:42:10Z) - Exploring Model Dynamics for Accumulative Poisoning Discovery [62.08553134316483]
そこで我々は,モデルレベルの情報を通して,防衛を探索するための新しい情報尺度,すなわち,記憶の離散性(Memorization Discrepancy)を提案する。
暗黙的にデータ操作の変更をモデル出力に転送することで、メモリ識別は許容できない毒のサンプルを発見することができる。
我々は、その性質を徹底的に探求し、累積中毒に対する防御のために、離散型サンプル補正(DSC)を提案する。
論文 参考訳（メタデータ） (2023-06-06T14:45:24Z) - Pick your Poison: Undetectability versus Robustness in Data Poisoning
Attacks [33.82164201455115]
大量のWebスクラッドデータに基づいてトレーニングされた深層画像分類モデルは、データ中毒の影響を受けやすい。
既存の作業は、効果的な防御を、(i)修理によってモデルの整合性を回復するか、(ii)攻撃を検出するものと見なしている。
我々は、このアプローチが重要なトレードオフを見落としていると論じている。攻撃者は、検知可能性(過剰投下)を犠牲にして増加したり、ロバスト性(過密投下)を犠牲にして検出可能性を減らすことができる。
論文 参考訳（メタデータ） (2023-05-07T15:58:06Z) - CleanCLIP: Mitigating Data Poisoning Attacks in Multimodal Contrastive
Learning [63.72975421109622]
CleanCLIPは、バックドア攻撃によって引き起こされる学習された刺激的関連を弱める微調整フレームワークである。
CleanCLIPは、マルチモーダル・コントラッシブ・ラーニングに対するバックドア・アタックを根絶しながら、良質な例によるモデル性能を維持している。
論文 参考訳（メタデータ） (2023-03-06T17:48:32Z) - Data-Efficient Backdoor Attacks [14.230326737098554]
ディープニューラルネットワークはバックドア攻撃に弱い。
本稿では,その選択による毒性データ効率の向上について定式化する。
同じ攻撃成功率は、有毒サンプル量のわずか47%から75%で達成できる。
論文 参考訳（メタデータ） (2022-04-22T09:52:22Z) - Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。
自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。
本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
論文 参考訳（メタデータ） (2022-03-29T04:33:06Z) - Identifying a Training-Set Attack's Target Using Renormalized Influence
Estimation [11.663072799764542]
本研究は、特定のテストインスタンスがトレーニングセットアタックのターゲットであるかどうかを判定するターゲット識別タスクを提案する。
単一の攻撃方法やデータモダリティではなく、各トレーニングインスタンスのモデル予測への貢献度を定量化するインフルエンス推定に基づいて構築する。
論文 参考訳（メタデータ） (2022-01-25T02:36:34Z) - BFClass: A Backdoor-free Text Classification Framework [21.762274809679692]
そこで本研究では,テキスト分類のためのバックドアレス学習フレームワークであるBFClassを提案する。
BFClassのバックボーンは事前訓練された識別器であり、劣化した入力の各トークンがマスキング言語モデルに置き換えられたかどうかを予測する。
大規模な実験では、BFClassはすべてのトリガーを識別でき、95%の有毒なトレーニングサンプルを非常に限られた誤報で除去し、良質なトレーニングデータでトレーニングされたモデルとほぼ同等のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2021-09-22T17:28:21Z) - Adversarial Examples Make Strong Poisons [55.63469396785909]
従来は訓練済みのモデルに対する攻撃を意図していた敵の例は,近年の毒殺に特化して設計された手法よりも,データ中毒に有効であることを示す。
また,本手法は,データセットのセキュアなリリースにおいて,既存の中毒法よりも極めて効果的である。
論文 参考訳（メタデータ） (2021-06-21T01:57:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。