論文の概要: Statistical Adversaries: Natural Backdoor-like Features in Vision Datasets

• arxiv url: http://arxiv.org/abs/2607.05516v1
• Date: Mon, 06 Jul 2026 18:00:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-08 21:24:51.295492
• Title: Statistical Adversaries: Natural Backdoor-like Features in Vision Datasets
• Title（参考訳）: 統計的アドバイザリー:ビジョンデータセットのバックドアのような自然的特徴
• Authors: Paul K. Mandal, Pavan Reddy, Tristan Malatynski,
• Abstract要約: 視覚データに自然に発生する統計的信号は、悪質に挿入されることなく、バックドアのようなトリガーのように振る舞うことができる。 Imagenetを分析し、特定のラベルに強く結びついているパターンを見つけます。 これらの信号がモデル予測を直接的かつ予測的に変更できることを実証する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Model-specific adversarial attacks have been extensively studied. We study a different failure mode: naturally occurring statistical signals in vision data that can behave like backdoor-like triggers without being maliciously inserted. We call these signals statistical adversaries. We analyse Imagenet to find patterns that are strongly linked to certain labels. We then use statistical controls to remove random correlations from our candidate signals. Finally, we demonstrate that these signals directly and predictably alter model predictions. These statistical adversaries are more targeted than generic corruptions and transfer across different model architectures. This suggests that some vulnerabilities are driven by dataset structure and distribution rather than a single model's idiosyncrasies. We conclude that ordinary datasets can contain exploitable adversarial surfaces even in the absence of poisoning, and suggest that dataset audits should treat spurious structure not only as a source of bias or interpretability failure, but also as a latent attack surface for vision models.
• Abstract（参考訳）: モデル特異的敵攻撃は広範囲に研究されている。 視覚データに自然に発生する統計的信号は、悪質に挿入されることなく、バックドアのようなトリガーのように振る舞うことができる。 これらの信号を統計的敵と呼ぶ。 Imagenetを分析し、特定のラベルに強く結びついているパターンを見つけます。 次に、統計的制御を用いて、候補信号からランダムな相関を取り除きます。 最後に、これらの信号がモデル予測を直接的かつ予測的に変更できることを実証する。 これらの統計的敵は、汎用的な汚職や異なるモデルアーキテクチャ間での移動よりも、より標的となっている。 これは、いくつかの脆弱性が単一のモデルの慣用性ではなく、データセット構造と分散によって引き起こされていることを示唆している。 通常のデータセットは, 毒性のない場合でも, 悪用可能な対向面を含むことができると結論し, データセット監査は, バイアスや解釈可能性障害の源であるだけでなく, 視覚モデルに対する潜時攻撃面としても扱うべきであることを示唆した。

関連論文リスト

• Detecting Regional Spurious Correlations in Vision Transformers via Token Discarding [0.7315240103690552]
  本稿では,視覚変換器における突発的相関を検出する新しい手法を提案する。 また,浸潤性乳房腫瘤の集団分類において急激なシグナルを呈する症例も報告した。
  論文  参考訳（メタデータ） (2025-09-04T08:40:40Z)
• BURN: Backdoor Unlearning via Adversarial Boundary Analysis [73.14147934175604]
  Backdoor Unlearningは、モデル本来の機能を保持しながら、バックドア関連の情報を削除することを目的としている。 本稿では, 偽相関疎結合, プログレッシブデータリファインメント, モデル浄化を統合した新しい防御フレームワーク, BURNによるバックドア・アンラーニングを提案する。
  論文  参考訳（メタデータ） (2025-07-14T17:13:06Z)
• Accidental Vulnerability: Factors in Fine-Tuning that Shift Model Safeguards [13.197807179926428]
  大規模言語モデル(LLM)の人気が高まり、敵の攻撃に対する脆弱性が主な関心事として浮上する。 本研究では,微調整データの特徴から生じるアクシデンタル脆弱性,予期せぬ脆弱性について検討する。
  論文  参考訳（メタデータ） (2025-05-22T15:30:00Z)
• Towards Model Resistant to Transferable Adversarial Examples via Trigger Activation [95.3977252782181]
  知覚不能な摂動によって特徴づけられる敵対的な例は、彼らの予測を誤解させることで、ディープニューラルネットワークに重大な脅威をもたらす。 本稿では,移動可能な敵例(TAE)に対して,より効率的かつ効果的に堅牢性を高めることを目的とした,新たなトレーニングパラダイムを提案する。
  論文  参考訳（メタデータ） (2025-04-20T09:07:10Z)
• Investigating Imperceptibility of Adversarial Attacks on Tabular Data: An Empirical Analysis [1.6693963355435217]
  敵対的攻撃は、機械学習モデルに対する潜在的な脅威である。 これらの攻撃は入力データに対する知覚不能な摂動を通じて誤った予測を引き起こす。 本研究は、敵攻撃の非受容性を評価するための重要な特徴とそれに対応する指標のセットを提案する。
  論文  参考訳（メタデータ） (2024-07-16T07:55:25Z)
• Bayesian Networks for the robust and unbiased prediction of depression and its symptoms utilizing speech and multimodal data [65.28160163774274]
  我々は,抑うつ,抑うつ症状,および,胸腺で収集された音声,表情,認知ゲームデータから得られる特徴の関連性を把握するためにベイズ的枠組みを適用した。
  論文  参考訳（メタデータ） (2022-11-09T14:48:13Z)
• Double Perturbation: On the Robustness of Robustness and Counterfactual Bias Evaluation [109.06060143938052]
  テストデータセットを超えたモデル弱点を明らかにするための"ダブル摂動"フレームワークを提案する。 この枠組みを,モデルの頑健さと英語における反事実バイアスの分析に使用される2つの摂動に基づくアプローチに応用する。
  論文  参考訳（メタデータ） (2021-04-12T06:57:36Z)
• Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
  予測信頼性尺度は統計学と機械学習において基本的なものである。 これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。 この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
  論文  参考訳（メタデータ） (2020-11-24T19:52:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。