論文の概要: Discover and Cure: Concept-aware Mitigation of Spurious Correlation

• arxiv url: http://arxiv.org/abs/2305.00650v2
• Date: Mon, 5 Jun 2023 09:06:38 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-07 01:49:02.471246
• Title: Discover and Cure: Concept-aware Mitigation of Spurious Correlation
• Title（参考訳）: Discover and Cure: Spurious correlation の概念を意識した緩和
• Authors: Shirley Wu, Mert Yuksekgonul, Linjun Zhang, James Zou
• Abstract要約: ディープニューラルネットワークは、しばしば予測を行うために急激な相関に依存する。 本稿では,この問題に対処するための解釈可能なフレームワークであるDiscover and Cure (DISC)を提案する。 DISCは既存のアプローチよりも優れた一般化能力と解釈性を提供する。
• 参考スコア（独自算出の注目度）: 14.579651844642616
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks often rely on spurious correlations to make predictions, which hinders generalization beyond training environments. For instance, models that associate cats with bed backgrounds can fail to predict the existence of cats in other environments without beds. Mitigating spurious correlations is crucial in building trustworthy models. However, the existing works lack transparency to offer insights into the mitigation process. In this work, we propose an interpretable framework, Discover and Cure (DISC), to tackle the issue. With human-interpretable concepts, DISC iteratively 1) discovers unstable concepts across different environments as spurious attributes, then 2) intervenes on the training data using the discovered concepts to reduce spurious correlation. Across systematic experiments, DISC provides superior generalization ability and interpretability than the existing approaches. Specifically, it outperforms the state-of-the-art methods on an object recognition task and a skin-lesion classification task by 7.5% and 9.6%, respectively. Additionally, we offer theoretical analysis and guarantees to understand the benefits of models trained by DISC. Code and data are available at https://github.com/Wuyxin/DISC.
• Abstract（参考訳）: ディープニューラルネットワークは、しばしば、トレーニング環境を超えて一般化を妨げる予測を行うために、急激な相関に依存する。 例えば、猫とベッドの背景を関連付けるモデルは、ベッドなしで他の環境における猫の存在を予測することができない。 信頼に値するモデルを構築するには、スプリアス相関の緩和が不可欠である。 しかしながら、既存の作業には緩和プロセスに関する洞察を提供するための透明性がない。 本稿では,この問題に取り組むための解釈可能なフレームワーク,discover and cure (disc)を提案する。 人間の解釈可能な概念, DISC を反復的に 1)異なる環境にまたがる不安定な概念をスプリアス属性として発見する。 2)スプリアス相関を低減すべく,発見概念を用いたトレーニングデータへの介入を行う。 体系的な実験を通じて、ディスクは既存のアプローチよりも優れた一般化能力と解釈性を提供する。 具体的には、オブジェクト認識タスクにおける最先端の手法とスキン配列分類タスクをそれぞれ7.5%、9.6%上回る。 さらに,ディスクでトレーニングされたモデルの利点を理解するための理論的解析と保証を提供する。 コードとデータはhttps://github.com/wuyxin/discで入手できる。

関連論文リスト

• Unlearning or Concealment? A Critical Analysis and Evaluation Metrics for Unlearning in Diffusion Models [7.9993879763024065]
  既存の手法で未学習に使用する目的関数が,対象概念の分離に繋がることを示す。 現在の手法の非効率性は、主に特定のプロンプト集合の生成確率の減少に焦点を絞ったものである。 CRS(Concept Retrieval Score)とCCS(Concept Confidence Score)の2つの新しい評価指標を紹介した。
  論文  参考訳（メタデータ） (2024-09-09T14:38:31Z)
• Seeing Unseen: Discover Novel Biomedical Concepts via Geometry-Constrained Probabilistic Modeling [53.7117640028211]
  同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。 構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。 スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
  論文  参考訳（メタデータ） (2024-03-02T00:56:05Z)
• Pre-training and Diagnosing Knowledge Base Completion Models [58.07183284468881]
  我々は,事実の集合から他の集合への知識伝達へのアプローチを,エンティティや関係マッチングを必要とせずに導入し,分析する。 主な貢献は、構造化されていないテキストから収集された事実の大規模事前学習を利用する方法である。 得られた事前学習モデルをよりよく理解するために,オープン知識ベースコンプリートのための事前学習モデルの解析のための新しいデータセットを導入する。
  論文  参考訳（メタデータ） (2024-01-27T15:20:43Z)
• COCKATIEL: COntinuous Concept ranKed ATtribution with Interpretable ELements for explaining neural net classifiers on NLP tasks [3.475906200620518]
  COCKATIELは、新しい、ポストホック、コンセプトベース、モデルに依存しないXAI技術である。 NLP分類タスクでトレーニングされたニューラルネットモデルの最後の層から意味のある説明を生成する。 基礎となるモデルの精度を損なうことなく、新しいモデルをトレーニングする必要もない。
  論文  参考訳（メタデータ） (2023-05-11T12:22:20Z)
• ESCAPE: Countering Systematic Errors from Machine's Blind Spots via Interactive Visual Analysis [13.97436974677563]
  本稿では,系統的エラーに対応するためのヒューマン・イン・ザ・ループ・ワークフローを促進する視覚解析システムであるESCAPEを提案する。 このシステムでは, 利用者が素早い関連を検査しやすくすることで, 利用者が自然に関連付けられた誤分類を認識できるようにする。 また、概念と事例の関連をより正確に定量化するための相対的概念関連法と、急激な関連を緩和するためのデバイアス法という2つの統計的アプローチを提案する。
  論文  参考訳（メタデータ） (2023-03-16T21:29:50Z)
• Principled Knowledge Extrapolation with GANs [92.62635018136476]
  我々は,知識外挿の新たな視点から,対実合成を研究する。 本稿では, 知識外挿問題に対処するために, クローズド形式判別器を用いた対角ゲームが利用可能であることを示す。 提案手法は,多くのシナリオにおいて,エレガントな理論的保証と優れた性能の両方を享受する。
  論文  参考訳（メタデータ） (2022-05-21T08:39:42Z)
• Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
  本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。 我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
  論文  参考訳（メタデータ） (2022-04-05T12:52:45Z)
• ConCAD: Contrastive Learning-based Cross Attention for Sleep Apnea Detection [16.938983046369263]
  睡眠時無呼吸検出のための学習型クロスアテンションフレームワーク(ConCAD)を提案する。 提案フレームワークは,標準ディープラーニングモデルに容易に統合でき,専門家の知識とコントラスト学習を活用し,パフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2021-05-07T02:38:56Z)
• DICE: Diversity in Deep Ensembles via Conditional Redundancy Adversarial Estimation [109.11580756757611]
  メンバー間の多様性のおかげで、ディープアンサンブルは単一のネットワークよりもパフォーマンスが良い。 最近のアプローチでは、多様性を高めるための予測を規則化していますが、個々のメンバーのパフォーマンスも大幅に減少します。 DICEと呼ばれる新しいトレーニング基準を導入し、特徴間の素早い相関を減らして多様性を高める。
  論文  参考訳（メタデータ） (2021-01-14T10:53:26Z)
• Ramifications of Approximate Posterior Inference for Bayesian Deep Learning in Adversarial and Out-of-Distribution Settings [7.476901945542385]
  ベイジアン深層学習モデルが従来のニューラルネットワークよりわずかに優れていることを示す。 予備的な調査は、初期化、アーキテクチャ、アクティベーション関数の選択によるバイアスの潜在的固有の役割を示している。
  論文  参考訳（メタデータ） (2020-09-03T16:58:15Z)
• Learning from Failure: Training Debiased Classifier from Biased Classifier [76.52804102765931]
  ニューラルネットワークは、所望の知識よりも学習が簡単である場合にのみ、素早い相関に依存することを学習していることを示す。 本稿では,一対のニューラルネットワークを同時にトレーニングすることで,障害に基づくデバイアス化手法を提案する。 本手法は,合成データセットと実世界のデータセットの両方において,各種バイアスに対するネットワークのトレーニングを大幅に改善する。
  論文  参考訳（メタデータ） (2020-07-06T07:20:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。