論文の概要: Detecting Regional Spurious Correlations in Vision Transformers via Token Discarding

• arxiv url: http://arxiv.org/abs/2509.04009v1
• Date: Thu, 04 Sep 2025 08:40:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-05 20:21:10.103597
• Title: Detecting Regional Spurious Correlations in Vision Transformers via Token Discarding
• Title（参考訳）: Token Discarding を用いた視覚変換器の局所的鮮度相関の検出
• Authors: Solha Kang, Esla Timothy Anzaku, Wesley De Neve, Arnout Van Messem, Joris Vankerschaver, Francois Rameau, Utku Ozbulak,
• Abstract要約: 本稿では,視覚変換器における突発的相関を検出する新しい手法を提案する。 また,浸潤性乳房腫瘤の集団分類において急激なシグナルを呈する症例も報告した。
• 参考スコア（独自算出の注目度）: 0.7315240103690552
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Due to their powerful feature association capabilities, neural network-based computer vision models have the ability to detect and exploit unintended patterns within the data, potentially leading to correct predictions based on incorrect or unintended but statistically relevant signals. These clues may vary from simple color aberrations to small texts within the image. In situations where these unintended signals align with the predictive task, models can mistakenly link these features with the task and rely on them for making predictions. This phenomenon is referred to as spurious correlations, where patterns appear to be associated with the task but are actually coincidental. As a result, detection and mitigation of spurious correlations have become crucial tasks for building trustworthy, reliable, and generalizable machine learning models. In this work, we present a novel method to detect spurious correlations in vision transformers, a type of neural network architecture that gained significant popularity in recent years. Using both supervised and self-supervised trained models, we present large-scale experiments on the ImageNet dataset demonstrating the ability of the proposed method to identify spurious correlations. We also find that, even if the same architecture is used, the training methodology has a significant impact on the model's reliance on spurious correlations. Furthermore, we show that certain classes in the ImageNet dataset contain spurious signals that are easily detected by the models and discuss the underlying reasons for those spurious signals. In light of our findings, we provide an exhaustive list of the aforementioned images and call for caution in their use in future research efforts. Lastly, we present a case study investigating spurious signals in invasive breast mass classification, grounding our work in real-world scenarios.
• Abstract（参考訳）: その強力な特徴関連性のため、ニューラルネットワークベースのコンピュータビジョンモデルは、データ内の意図しないパターンを検出し、利用することができる。 これらの手がかりは、単純な色収差から、画像内の小さなテキストまで様々である。 これらの意図しない信号が予測タスクと一致している場合、モデルはこれらの特徴をタスクと誤ってリンクし、予測を行うためにそれらに依存する。 この現象は、パターンがタスクと関連しているように見えるが、実際には偶然の一致であるスプリアス相関と呼ばれる。 その結果、信頼でき、信頼性があり、一般化可能な機械学習モデルを構築する上で、素早い相関の検出と緩和が重要なタスクとなっている。 本研究では,近年広く普及しているニューラルネットワークアーキテクチャの一種である視覚変換器において,突発的相関を検出する新しい手法を提案する。 教師付きトレーニングモデルと自己教師型トレーニングモデルの両方を用いて,提案手法の有効性を実証したImageNetデータセットの大規模実験を行った。 また、たとえ同じアーキテクチャが使われたとしても、トレーニング手法がモデルが素早い相関関係に依存することに重大な影響を与えることもわかりました。 さらに、ImageNetデータセットのクラスには、モデルで容易に検出できるスプリアス信号が含まれており、これらのスプリアス信号の根本的な原因について議論する。 以上の知見を踏まえて、上記の画像の網羅的なリストを提供し、今後の研究での利用に注意を喚起する。 最後に,浸潤性乳房腫瘤の集団分類における突発性信号の研究を行い,実世界のシナリオにおける研究成果について述べる。

関連論文リスト

• Severing Spurious Correlations with Data Pruning [2.93774265594295]
  深層ニューラルネットワークは、トレーニングされているデータに現れる刺激的な相関を学習し、依存することが示されている。 このような相関関係は、これらの相関関係がもはや保たない実世界において、これらのネットワークが機能不全を引き起こす可能性がある。 我々はこれらのサンプルを含むトレーニングデータの小さなサブセットを識別し、プーンする新しいデータプルーニング手法を開発した。
  論文  参考訳（メタデータ） (2025-03-24T00:57:32Z)
• On the Computational Entanglement of Distant Features in Adversarial Machine Learning [8.87656044562629]
  計算的絡み合い」の概念を導入する 計算的絡み合いにより、未確認のテストサンプルであっても、ランダムノイズを適合させることで、ネットワークはゼロ損失を達成することができる。 本稿では, 計算エンタングルメントの新たな応用法として, 計算エンタングルメントを, 非ローバストな最悪ケースのサンプル・インプットの変換に適用する。
  論文  参考訳（メタデータ） (2023-09-27T14:09:15Z)
• Stubborn Lexical Bias in Data and Models [50.79738900885665]
  我々は、データに基づいてトレーニングされたモデルに、データのスプリアスパターンが現れるかどうかを調べるために、新しい統計手法を用いる。 トレーニングデータに*reweight*に最適化アプローチを適用し、数千のスプリアス相関を低減します。 驚くべきことに、この方法ではトレーニングデータの語彙バイアスを低減できますが、トレーニングされたモデルで対応するバイアスの強い証拠がまだ見つかっていません。
  論文  参考訳（メタデータ） (2023-06-03T20:12:27Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Explainable Adversarial Attacks in Deep Neural Networks Using Activation Profiles [69.9674326582747]
  本稿では,敵対的事例に基づくニューラルネットワークモデルを検討するためのビジュアルフレームワークを提案する。 これらの要素を観察することで、モデル内の悪用領域を素早く特定できることを示す。
  論文  参考訳（メタデータ） (2021-03-18T13:04:21Z)
• Anomaly Detection on Attributed Networks via Contrastive Self-Supervised Learning [50.24174211654775]
  本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。 このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。 高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
  論文  参考訳（メタデータ） (2021-02-27T03:17:20Z)
• Learning Causal Models Online [103.87959747047158]
  予測モデルは、予測を行うためにデータの急激な相関に依存することができる。 強い一般化を達成するための一つの解決策は、モデルに因果構造を組み込むことである。 本稿では,突発的特徴を継続的に検出・除去するオンラインアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-12T20:49:20Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。