論文の概要: A Neurosymbolic Framework for Bias Correction in Convolutional Neural Networks

• arxiv url: http://arxiv.org/abs/2405.15886v4
• Date: Thu, 22 Aug 2024 23:10:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-26 19:27:29.372915
• Title: A Neurosymbolic Framework for Bias Correction in Convolutional Neural Networks
• Title（参考訳）: 畳み込みニューラルネットワークにおけるバイアス補正のためのニューロシンボリックフレームワーク
• Authors: Parth Padalkar, Natalia Ślusarz, Ekaterina Komendantskaya, Gopal Gupta,
• Abstract要約: 我々は、訓練されたCNNにおいて、バイアス補正のためのNeSyBiCorと呼ばれるニューロシンボリックフレームワークを導入する。 我々のフレームワークは、"Places"データセットのサブセットでトレーニングされたCNNのバイアスを修正することに成功した。
• 参考スコア（独自算出の注目度）: 2.249916681499244
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Recent efforts in interpreting Convolutional Neural Networks (CNNs) focus on translating the activation of CNN filters into a stratified Answer Set Program (ASP) rule-sets. The CNN filters are known to capture high-level image concepts, thus the predicates in the rule-set are mapped to the concept that their corresponding filter represents. Hence, the rule-set exemplifies the decision-making process of the CNN w.r.t the concepts that it learns for any image classification task. These rule-sets help understand the biases in CNNs, although correcting the biases remains a challenge. We introduce a neurosymbolic framework called NeSyBiCor for bias correction in a trained CNN. Given symbolic concepts, as ASP constraints, that the CNN is biased towards, we convert the concepts to their corresponding vector representations. Then, the CNN is retrained using our novel semantic similarity loss that pushes the filters away from (or towards) learning the desired/undesired concepts. The final ASP rule-set obtained after retraining, satisfies the constraints to a high degree, thus showing the revision in the knowledge of the CNN. We demonstrate that our NeSyBiCor framework successfully corrects the biases of CNNs trained with subsets of classes from the "Places" dataset while sacrificing minimal accuracy and improving interpretability.
• Abstract（参考訳）: 畳み込みニューラルネットワーク(CNN)の解釈における最近の取り組みは、CNNフィルタの活性化を階層化されたAnswer Set Program(ASP)ルールセットに変換することに焦点を当てている。 CNNフィルタは高レベルのイメージ概念をキャプチャすることで知られており、ルールセットの述語は、対応するフィルタが表現する概念にマッピングされる。 したがって、ルールセットはCNNの意思決定過程を例示し、任意の画像分類タスクで学習する概念を例示する。 これらのルールセットはCNNのバイアスを理解するのに役立つが、バイアスを修正することは依然として困難である。 我々は、訓練されたCNNにおいて、バイアス補正のためのNeSyBiCorと呼ばれるニューロシンボリックフレームワークを導入する。 ASP 制約のように CNN がバイアスのかかるシンボリックな概念を考えると、その概念を対応するベクトル表現に変換する。 そして、CNNは我々の新しいセマンティック類似性損失を使用して再訓練され、フィルタを望まれない概念から遠ざける(あるいは向く)。 再トレーニング後に得られた最後のASPルールセットは、制約を高いレベルまで満たし、CNNの知識の見直しを示す。 我々のNeSyBiCorフレームワークは、最小限の精度を犠牲にして解釈性を改善しながら、"Places"データセットのサブセットでトレーニングされたCNNのバイアスをうまく修正することを示した。

関連論文リスト

• Demystifying CNNs for Images by Matched Filters [13.121514086503591]
  畳み込みニューラルネットワーク(CNN)は、ビッグデータ時代のインテリジェントマシンのアプローチと使用方法に革命をもたらしています。 CNNは、そのテキストブラックボックスの性質と、その操作の理論的サポートと物理的意味の欠如により、精査されている。 本稿では,マッチングフィルタリングの観点を用いて,CNNの動作を復調する手法を提案する。
  論文  参考訳（メタデータ） (2022-10-16T12:39:17Z)
• CNNs Avoid Curse of Dimensionality by Learning on Patches [11.546219454021935]
  我々は、畳み込みニューラルネットワーク(CNN)が画像パッチの領域で動作すると主張している。 我々の研究は、CNNの一般化誤差に対する事前誤差を導出した最初のものである。 我々のパッチベースの理論はまた、CNNの一般化誤差を改善するために、Cutout、CutMix、ランダムトリミングといったデータ拡張技術が有効である理由を説明する。
  論文  参考訳（メタデータ） (2022-05-22T06:22:27Z)
• Deeply Explain CNN via Hierarchical Decomposition [75.01251659472584]
  コンピュータビジョンにおいて、CNNの説明に寄与するいくつかの手法は、中間的特徴がネットワーク予測にどのように影響するかを研究する。 本稿では,CNNの意思決定過程をトップダウンで説明する階層的な分解フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-01-23T07:56:04Z)
• Interpretable Compositional Convolutional Neural Networks [20.726080433723922]
  本稿では,従来の畳み込みニューラルネットワーク(CNN)を解釈可能な合成CNNに変換する手法を提案する。 合成CNNでは、各フィルタは、明確な意味を持つ特定の合成対象部分または画像領域を一貫して表現することになっている。 我々の手法は様々な種類のCNNに適用できる。
  論文  参考訳（メタデータ） (2021-07-09T15:01:24Z)
• BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by Adversarial Attacks [65.2021953284622]
  CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。 結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
  論文  参考訳（メタデータ） (2021-03-14T20:43:19Z)
• The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
  本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。 本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
  論文  参考訳（メタデータ） (2021-01-29T07:46:39Z)
• A CNN-based Feature Space for Semi-supervised Incremental Learning in Assisted Living Applications [2.1485350418225244]
  トレーニングデータセットから得られた特徴空間を用いて、問題のある画像を自動的にラベル付けする。 その結果、半教師付き漸進的な学習プロセスにより、新しいインスタンスの分類精度を40%向上させることができる。
  論文  参考訳（メタデータ） (2020-11-11T12:31:48Z)
• SUREMap: Predicting Uncertainty in CNN-based Image Reconstruction Using Stein's Unbiased Risk Estimate [51.67813146731196]
  畳み込みニューラルネットワーク(CNN)は、コンピュータ画像再構成問題を解決する強力なツールとして登場した。 CNNはブラックボックスを理解するのが難しい。 この制限は、医療画像のような安全クリティカルな用途での利用にとって大きな障壁となる。
  論文  参考訳（メタデータ） (2020-10-25T20:29:41Z)
• Shape Defense Against Adversarial Attacks [47.64219291655723]
  人間は物体を認識するために形状情報に大きく依存している。逆に、畳み込みニューラルネットワーク(CNN)はテクスチャに偏っている。 本稿では, 形状バイアスをCNNに組み込んで, 頑健性を向上させる方法について検討する。 2つのアルゴリズムが提案され、エッジが適度な知覚不能な摂動に不変であるという観測に基づいている。
  論文  参考訳（メタデータ） (2020-08-31T03:23:59Z)
• Hybrid Tiled Convolutional Neural Networks for Text Sentiment Classification [3.0204693431381515]
  階層型畳み込みニューラルネットワーク(CNN)のアーキテクチャを調整し、感情分析のための健全な特徴の抽出を改善する。 NLP分野におけるタイル付きCNNの大きな欠点は、その柔軟性のないフィルタ構造であることを認識し、我々はハイブリッドタイル付きCNNと呼ばれる新しいアーキテクチャを提案する。 IMDBの映画レビューとSemEval 2017のデータセットの実験は、ハイブリッドタイルCNNの効率を実証している。
  論文  参考訳（メタデータ） (2020-01-31T14:08:15Z)
• Approximation and Non-parametric Estimation of ResNet-type Convolutional Neural Networks [52.972605601174955]
  本稿では,ResNet型CNNが重要な関数クラスにおいて最小誤差率を達成可能であることを示す。 Barron と H'older のクラスに対する前述のタイプの CNN の近似と推定誤差率を導出する。
  論文  参考訳（メタデータ） (2019-03-24T19:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。