論文の概要: Detecting Spurious Correlations via Robust Visual Concepts in Real and
AI-Generated Image Classification
- arxiv url: http://arxiv.org/abs/2311.01655v2
- Date: Thu, 16 Nov 2023 00:22:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-17 20:35:03.326763
- Title: Detecting Spurious Correlations via Robust Visual Concepts in Real and
AI-Generated Image Classification
- Title(参考訳): 実・AI生成画像分類におけるロバストな視覚概念による純粋相関の検出
- Authors: Preetam Prabhu Srikar Dammu, Chirag Shah
- Abstract要約: 本稿では,潜在的スパイラル相関を効率的に検出する汎用手法を提案する。
提案手法は,ピクセルレベルのアノテーションを不要にしつつ,直感的な説明を提供する。
また,本手法は,生成モデル由来の下流アプリケーションに伝播する急激な相関を検出するのにも適している。
- 参考スコア(独自算出の注目度): 12.992095539058022
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Often machine learning models tend to automatically learn associations
present in the training data without questioning their validity or
appropriateness. This undesirable property is the root cause of the
manifestation of spurious correlations, which render models unreliable and
prone to failure in the presence of distribution shifts. Research shows that
most methods attempting to remedy spurious correlations are only effective for
a model's known spurious associations. Current spurious correlation detection
algorithms either rely on extensive human annotations or are too restrictive in
their formulation. Moreover, they rely on strict definitions of visual
artifacts that may not apply to data produced by generative models, as they are
known to hallucinate contents that do not conform to standard specifications.
In this work, we introduce a general-purpose method that efficiently detects
potential spurious correlations, and requires significantly less human
interference in comparison to the prior art. Additionally, the proposed method
provides intuitive explanations while eliminating the need for pixel-level
annotations. We demonstrate the proposed method's tolerance to the peculiarity
of AI-generated images, which is a considerably challenging task, one where
most of the existing methods fall short. Consequently, our method is also
suitable for detecting spurious correlations that may propagate to downstream
applications originating from generative models.
- Abstract(参考訳): 機械学習モデルは、その妥当性や適切性に疑問を呈することなく、トレーニングデータに存在する関連を自動的に学習する傾向がある。
この望ましくない性質はスプリアス相関の出現の根本原因であり、これはモデルが信頼できず、分布シフトの存在下で失敗する傾向がある。
研究によると、スプリアス相関を治療しようとするほとんどの方法は、モデルの既知のスプリアス関連にのみ有効である。
現在のスプリアス相関検出アルゴリズムは、広範囲の人間の注釈に依存するか、あるいはその定式化に制限的すぎる。
さらに、それらは、生成モデルによって生成されたデータには適用できないような視覚的アーティファクトの厳密な定義に依存しており、標準仕様に準拠しないコンテンツを幻覚させることが知られている。
本研究では, 潜在的にスプリアスな相関を効率的に検出し, 先行技術に比べて人的干渉を有意に少なくする汎用手法を提案する。
さらに,提案手法は,ピクセルレベルのアノテーションを不要にしながら,直感的な説明を提供する。
提案手法は,ai生成画像の特異性に対する耐性を示すものであり,既存の手法のほとんどが不足している課題である。
また,本手法は,生成モデルに基づく下流アプリケーションに伝播する急激な相関を検出するのにも適している。
関連論文リスト
- A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。
オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
論文 参考訳(メタデータ) (2023-11-13T01:48:08Z) - On the Universal Adversarial Perturbations for Efficient Data-free
Adversarial Detection [55.73320979733527]
本稿では,UAPに対して正常サンプルと逆サンプルの異なる応答を誘導する,データに依存しない逆検出フレームワークを提案する。
実験結果から,本手法は様々なテキスト分類タスクにおいて,競合検出性能を実現することが示された。
論文 参考訳(メタデータ) (2023-06-27T02:54:07Z) - Improving Explainability of Disentangled Representations using
Multipath-Attribution Mappings [12.145748796751619]
下流タスク予測に解釈不能な不整合表現を利用するフレームワークを提案する。
提案手法の有効性を,総合ベンチマークスイートと2つの医療データセットで実証する。
論文 参考訳(メタデータ) (2023-06-15T10:52:29Z) - ReConPatch : Contrastive Patch Representation Learning for Industrial
Anomaly Detection [5.998761048990598]
本稿では,事前学習モデルから抽出したパッチ特徴の線形変調を訓練することにより,異常検出のための識別機能を構築するReConPatchを紹介する。
本手法は,MVTec ADデータセットに対して,最先端の異常検出性能(99.72%)を実現する。
論文 参考訳(メタデータ) (2023-05-26T07:59:36Z) - ChiroDiff: Modelling chirographic data with Diffusion Models [132.5223191478268]
チャーログラフィーデータのための強力なモデルクラスである「拡散確率モデル(Denoising Diffusion Probabilistic Models)」やDDPMを導入している。
我々のモデルは「ChiroDiff」と呼ばれ、非自己回帰的であり、全体論的概念を捉えることを学び、したがって高い時間的サンプリングレートに回復する。
論文 参考訳(メタデータ) (2023-04-07T15:17:48Z) - Less is More: Mitigate Spurious Correlations for Open-Domain Dialogue
Response Generation Models by Causal Discovery [52.95935278819512]
本研究で得られたCGDIALOGコーパスに基づくオープンドメイン応答生成モデルのスプリアス相関に関する最初の研究を行った。
因果探索アルゴリズムに着想を得て,反応生成モデルの学習と推論のための新しいモデル非依存手法を提案する。
論文 参考訳(メタデータ) (2023-03-02T06:33:48Z) - Causal Inference via Style Transfer for Out-of-distribution
Generalisation [10.998592702137858]
アウト・オブ・ディストリビューションの一般化は、目に見えないターゲットドメインをうまく一般化できるモデルを構築することを目的としている。
本稿では,正面調整を成功させることで,隠れた共同創設者を効果的に扱う新しい手法を提案する。
論文 参考訳(メタデータ) (2022-12-06T15:43:54Z) - Identification of Latent Variables From Graphical Model Residuals [0.0]
本稿では,推定モデルの残差から遅延空間のプロキシを反復的に導出することにより,DAGを推定する際に潜伏空間を制御する新しい手法を提案する。
結果の予測の改善は本質的にカプセル化されており,既成モデルと比較して一定の限界を超えないことを示す。
論文 参考訳(メタデータ) (2021-01-07T02:28:49Z) - Proactive Pseudo-Intervention: Causally Informed Contrastive Learning
For Interpretable Vision Models [103.64435911083432]
PPI(Proactive Pseudo-Intervention)と呼ばれる新しい対照的な学習戦略を提案する。
PPIは、因果関係のない画像の特徴を保護するために積極的に介入する。
また,重要な画像画素を識別するための,因果的に通知された新たなサリエンスマッピングモジュールを考案し,モデル解釈の容易性を示す。
論文 参考訳(メタデータ) (2020-12-06T20:30:26Z) - Learning Causal Models Online [103.87959747047158]
予測モデルは、予測を行うためにデータの急激な相関に依存することができる。
強い一般化を達成するための一つの解決策は、モデルに因果構造を組み込むことである。
本稿では,突発的特徴を継続的に検出・除去するオンラインアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-12T20:49:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。