論文の概要: Born Identity Network: Multi-way Counterfactual Map Generation to Explain a Classifier's Decision

• arxiv url: http://arxiv.org/abs/2011.10381v4
• Date: Thu, 8 Apr 2021 05:24:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-23 05:05:44.746575
• Title: Born Identity Network: Multi-way Counterfactual Map Generation to Explain a Classifier's Decision
• Title（参考訳）: Born Identity Network: 分類器の判断を説明するマルチウェイ対実マップ生成
• Authors: Kwanseok Oh, Jee Seok Yoon, Heung-Il Suk
• Abstract要約: Born Identity Network (BIN) は、マルチウェイ・デファクト・マップを作成するためのポストホック・アプローチである。 逆ファクトマップは、入力サンプルを条件付けし、ターゲットラベルとして分類する。 提案したBINを,MNIST,3次元形状,ADNIデータセットの質的,定量的に検証した。
• 参考スコア（独自算出の注目度）: 2.5846876553124973
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: There exists an apparent negative correlation between performance and interpretability of deep learning models. In an effort to reduce this negative correlation, we propose a Born Identity Network (BIN), which is a post-hoc approach for producing multi-way counterfactual maps. A counterfactual map transforms an input sample to be conditioned and classified as a target label, which is similar to how humans process knowledge through counterfactual thinking. For example, a counterfactual map can localize hypothetical abnormalities from a normal brain image that may cause it to be diagnosed with a disease. Specifically, our proposed BIN consists of two core components: Counterfactual Map Generator and Target Attribution Network. The Counterfactual Map Generator is a variation of conditional GAN which can synthesize a counterfactual map conditioned on an arbitrary target label. The Target Attribution Network provides adequate assistance for generating synthesized maps by conditioning a target label into the Counterfactual Map Generator. We have validated our proposed BIN in qualitative and quantitative analysis on MNIST, 3D Shapes, and ADNI datasets, and showed the comprehensibility and fidelity of our method from various ablation studies.
• Abstract（参考訳）: ディープラーニングモデルの性能と解釈可能性には明らかな負の相関がある。 この負の相関を減らそうとする試みとして,多方向対応地図を作成するためのポストホックアプローチであるボルンアイデンティティネットワーク(BIN)を提案する。 対物地図は、人間が対物思考を通じて知識を処理する方法に似た、入力サンプルを条件付けしてターゲットラベルとして分類する。 例えば、カウンターファクトマップは、正常な脳画像から仮説上の異常を局在させ、疾患と診断される可能性がある。 具体的には,提案するBINは,2つのコアコンポーネントから構成される。 対物マップ生成器は、任意のターゲットラベルに条件付き対物マップを合成できる条件付きGANの変種である。 Target Attribution Networkは、ターゲットラベルを対物マップジェネレータに条件付けすることで、合成マップを生成するための適切な支援を提供する。 MNIST, 3D Shapes, ADNIデータセットの定性的, 定量的解析において提案したBINを検証し, 様々なアブレーション研究から本手法の理解性と忠実性を示した。

関連論文リスト

• Assessing and improving reliability of neighbor embedding methods: a map-continuity perspective [2.969441406380581]
  隣接する t-SNE, UMAP, LargeVis などの埋め込み手法は、一般的な可視化手法のファミリーである。 近年の研究では、これらの手法がしばしば視覚的な人工物を生み出し、誤った科学的結論につながる可能性が示唆されている。 本稿では,古典的な統計的概念に基づいて埋め込みマップを学習する,新しい概念的・計算的枠組み LOO-map を紹介する。
  論文  参考訳（メタデータ） (2024-10-22T01:40:43Z)
• Adaptive Face Recognition Using Adversarial Information Network [57.29464116557734]
  顔認識モデルは、トレーニングデータがテストデータと異なる場合、しばしば退化する。 本稿では,新たな敵情報ネットワーク(AIN)を提案する。
  論文  参考訳（メタデータ） (2023-05-23T02:14:11Z)
• EvalAttAI: A Holistic Approach to Evaluating Attribution Maps in Robust and Non-Robust Models [0.3425341633647624]
  本稿では、ロバストニューラルネットワークがより説明しやすいかどうかを調べるために、属性マッピングの評価方法に焦点を当てる。 従来の指標の限界に対処する新しい説明可能性忠実度指標(EvalAttAI)を提案する。
  論文  参考訳（メタデータ） (2023-03-15T18:33:22Z)
• Generator Knows What Discriminator Should Learn in Unconditional GANs [18.913330654689496]
  生成元の特徴マップは、非条件生成においてリッチな意味表現を持つように識別器を監督する新しいジェネレータ誘導型識別器正規化(GGDR)を提案する。 具体的には,識別器のU-Netアーキテクチャを用いて,擬似画像を入力として生成する特徴マップの予測を訓練する。
  論文  参考訳（メタデータ） (2022-07-27T06:49:26Z)
• XADLiME: eXplainable Alzheimer's Disease Likelihood Map Estimation via Clinically-guided Prototype Learning [3.286378299443229]
  3次元sMRI上でのAD進行モデリングのためのXADLiMEを用いた新しい深層学習手法を提案する。 具体的には,ADスペクトル多様体を探索し,潜在臨床特徴のクラスタ上にトポロジカル・アウェア・プロトタイプのセットを構築した。 次に,潜在臨床特徴と確立されたプロトタイプとの類似性を測定し,擬似可能性マップを推定した。
  論文  参考訳（メタデータ） (2022-07-27T00:25:55Z)
• Discriminator-Free Generative Adversarial Attack [87.71852388383242]
  生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
  論文  参考訳（メタデータ） (2021-07-20T01:55:21Z)
• CAMERAS: Enhanced Resolution And Sanity preserving Class Activation Mapping for image saliency [61.40511574314069]
  バックプロパゲーション画像のサリエンシは、入力中の個々のピクセルのモデル中心の重要性を推定することにより、モデル予測を説明することを目的としている。 CAMERASは、外部の事前処理を必要とせずに、高忠実度バックプロパゲーション・サリエンシ・マップを計算できる手法である。
  論文  参考訳（メタデータ） (2021-06-20T08:20:56Z)
• ECINN: Efficient Counterfactuals from Invertible Neural Networks [80.94500245955591]
  本稿では, 画像分類における可逆ニューラルネットワークの生成能力を利用して, 対実例を効率的に生成する手法ECINNを提案する。 ECINNはクローズドフォーム表現を持ち、たった2つの評価の時点で反事実を生成する。 私たちの実験では、ECINNがクラス依存イメージ領域を変更して、反現実の知覚的および予測的クラスを変更する方法を示す。
  論文  参考訳（メタデータ） (2021-03-25T09:23:24Z)
• Fork or Fail: Cycle-Consistent Training with Many-to-One Mappings [67.11712279612583]
  サイクル一貫性トレーニングは、2つの関心領域間の前方および逆マッピングの学習に広く用いられている。 我々は条件付き変分オートエンコーダ(cvae)アプローチを開発し、これは全射写像を暗黙の単射に変換するものと見なすことができる。 私たちのパイプラインは、グラフからテキストへの多様性を促進しながら、サイクルトレーニング中に多くのマッピングをキャプチャできます。
  論文  参考訳（メタデータ） (2020-12-14T10:59:59Z)
• Rethinking Localization Map: Towards Accurate Object Perception with Self-Enhancement Maps [78.2581910688094]
  本研究は, カテゴリーラベルのみを監督として, 正確な対象位置分布マップと対象境界を抽出する, 新たな自己強調手法を提案する。 特に、提案されたセルフエンハンスメントマップは、ILSVRC上で54.88%の最先端のローカライゼーション精度を達成する。
  論文  参考訳（メタデータ） (2020-06-09T12:35:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。