論文の概要: Understanding Failures of Deep Networks via Robust Feature Extraction

• arxiv url: http://arxiv.org/abs/2012.01750v2
• Date: Thu, 13 May 2021 12:44:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-24 01:44:08.494393
• Title: Understanding Failures of Deep Networks via Robust Feature Extraction
• Title（参考訳）: ロバスト特徴抽出による深部ネットワークの故障理解
• Authors: Sahil Singla, Besmira Nushi, Shital Shah, Ece Kamar, Eric Horvitz
• Abstract要約: 本研究では,視覚的特徴を識別し,不在や不在がパフォーマンスの低下を招き,失敗を特徴づけ,説明することを目的とした手法を紹介し,検討する。 我々は、分離されたロバストモデルの表現を活用して、解釈可能な特徴を抽出し、これらの特徴を利用して障害モードを特定します。
• 参考スコア（独自算出の注目度）: 44.204907883776045
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Traditional evaluation metrics for learned models that report aggregate scores over a test set are insufficient for surfacing important and informative patterns of failure over features and instances. We introduce and study a method aimed at characterizing and explaining failures by identifying visual attributes whose presence or absence results in poor performance. In distinction to previous work that relies upon crowdsourced labels for visual attributes, we leverage the representation of a separate robust model to extract interpretable features and then harness these features to identify failure modes. We further propose a visualization method aimed at enabling humans to understand the meaning encoded in such features and we test the comprehensibility of the features. An evaluation of the methods on the ImageNet dataset demonstrates that: (i) the proposed workflow is effective for discovering important failure modes, (ii) the visualization techniques help humans to understand the extracted features, and (iii) the extracted insights can assist engineers with error analysis and debugging.
• Abstract（参考訳）: テストセットにアグリゲーションスコアを報告する学習モデルの従来の評価基準は、機能やインスタンスに対する障害の重要かつ情報的なパターンを明らかにするには不十分です。 本研究は,視覚的特徴を識別し,不在や不在がパフォーマンスの低下を招き,失敗を特徴づけ,説明することを目的とした手法を提案する。 視覚属性のクラウドソースラベルに依存する以前の作業とは違って、分離されたロバストモデルの表現を活用して解釈可能な特徴を抽出し、これらの特徴を利用して障害モードを識別する。 さらに,このような特徴にエンコードされた意味を人間が理解できるようにする可視化手法を提案し,その特徴の理解可能性をテストする。 ImageNetデータセットの手法の評価では、 (i) 提案されたワークフローは、重要な障害モードを発見するのに効果的であり、 (ii) 可視化技術は、抽出した特徴を理解するのに役立ち、 (iii) 抽出した洞察は、エラー分析とデバッギングを支援する。

関連論文リスト

• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Spurious Feature Eraser: Stabilizing Test-Time Adaptation for Vision-Language Foundation Model [86.9619638550683]
  視覚言語基礎モデルは、画像とテキストのペアデータに拡張性があるため、多数の下流タスクで顕著な成功を収めている。 しかし、これらのモデルは、決定ショートカットの結果、きめ細かな画像分類などの下流タスクに適用した場合に重大な制限を呈する」。
  論文  参考訳（メタデータ） (2024-03-01T09:01:53Z)
• Vision-language Assisted Attribute Learning [53.60196963381315]
  大規模な属性ラベリングは通常不完全で部分的である。 既存の属性学習手法は、欠落したラベルを否定的な扱いをすることが多い。 利用可能な視覚言語知識を活用して、モデル学習の強化に欠落しているラベルを明確に明らかにする。
  論文  参考訳（メタデータ） (2023-12-12T06:45:19Z)
• Loss Functions in the Era of Semantic Segmentation: A Survey and Outlook [11.119967679567587]
  ロス関数は、ディープラーニングベースのセグメンテーションアルゴリズムの開発に不可欠である。 画像分割において、これらの損失関数がどのようにカスタマイズされ、どのように活用されるかについて、新しい分類法とレビューを提供する。 本稿では,現在の課題を特定し,今後の研究機会を明らかにすることで,このレビューを締めくくる。
  論文  参考訳（メタデータ） (2023-12-08T22:06:05Z)
• A Dual-Perspective Approach to Evaluating Feature Attribution Methods [40.73602126894125]
  本稿では,直観的特性を明らかにする忠実度パラダイムの中で,音性と完全性という2つの新しい視点を提案する。 健全性は、どの特徴が真に予測的特徴であるかを評価する一方、完全性は、結果の帰属が予測的特徴をどの程度うまく明らかにするかを調べる。 これらのメトリクスを主流属性法に適用し、特徴属性法を解析・比較するための新しいレンズを提供する。
  論文  参考訳（メタデータ） (2023-08-17T12:41:04Z)
• Automated Deception Detection from Videos: Using End-to-End Learning Based High-Level Features and Classification Approaches [0.0]
  深層学習と識別モデルを組み合わせたマルチモーダル手法を提案する。 我々は畳み込み学習を用いて、視線、頭ポーズ、表情を解析する。 提案手法は, 経済要因による新しいローリングディース実験を含む5つのデータセットで評価される。
  論文  参考訳（メタデータ） (2023-07-13T08:45:15Z)
• Data AUDIT: Identifying Attribute Utility- and Detectability-Induced Bias in Task Models [8.420252576694583]
  医用画像データセットの厳密で定量的なスクリーニングのための第1の手法を提案する。 提案手法は,データセット属性に関連するリスクを,検出性と実用性の観点から分解する。 本手法を用いて, ほぼ知覚不能なバイアス誘発アーティファクトを確実に同定するスクリーニング手法を提案する。
  論文  参考訳（メタデータ） (2023-04-06T16:50:15Z)
• Information-Theoretic Odometry Learning [83.36195426897768]
  生体計測推定を目的とした学習動機付け手法のための統合情報理論フレームワークを提案する。 提案フレームワークは情報理論言語の性能評価と理解のためのエレガントなツールを提供する。
  論文  参考訳（メタデータ） (2022-03-11T02:37:35Z)
• A Simple and Effective Self-Supervised Contrastive Learning Framework for Aspect Detection [15.36713547251997]
  UADタスクのための新しいスムーズな自己意識(SSA)モジュールを備えた自己教師付きコントラスト学習フレームワークとアテンションベースモデルを提案する。 提案手法は, 公開されているベンチマークユーザレビューデータセットにおいて, 教師なし, 弱教師付きアプローチよりも優れている。
  論文  参考訳（メタデータ） (2020-09-18T22:13:49Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。