Fugu-MT 論文翻訳(概要): A Neurosymbolic Framework for Bias Correction in CNNs

論文の概要: A Neurosymbolic Framework for Bias Correction in CNNs

arxiv url: http://arxiv.org/abs/2405.15886v1
Date: Fri, 24 May 2024 19:09:53 GMT
ステータス: 処理完了
システム内更新日: 2024-05-29 02:20:04.341166
Title: A Neurosymbolic Framework for Bias Correction in CNNs
Title（参考訳）: CNNにおけるバイアス補正のためのニューロシンボリックフレームワーク
Authors: Parth Padalkar, Natalia Ślusarz, Ekaterina Komendantskaya, Gopal Gupta,
Abstract要約: 我々は、訓練されたCNNにおいて、バイアス補正のためのNeSyBiCorと呼ばれるニューロシンボリックフレームワークを導入する。そこで本研究では,PlacesデータセットのクラスサブセットでトレーニングしたCNNのバイアスの修正に成功した。
参考スコア（独自算出の注目度）: 2.249916681499244
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Recent efforts in interpreting Convolutional Neural Networks (CNNs) focus on translating the activation of CNN filters into stratified Answer Set Programming (ASP) rule-sets. The CNN filters are known to capture high-level image concepts, thus the predicates in the rule-set are mapped to the concept that their corresponding filter represents. Hence, the rule-set effectively exemplifies the decision-making process of the CNN in terms of the concepts that it learns for any image classification task. These rule-sets help expose and understand the biases in CNNs, although correcting the biases effectively remains a challenge. We introduce a neurosymbolic framework called NeSyBiCor for bias correction in a trained CNN. Given symbolic concepts that the CNN is biased towards, expressed as ASP constraints, we convert the undesirable and desirable concepts to their corresponding vector representations. Then, the CNN is retrained using our novel semantic similarity loss that pushes the filters away from the representations of concepts that are undesirable while pushing them closer to the concepts that are desirable. The final ASP rule-set obtained after retraining, satisfies the constraints to a high degree, thus showing the revision in the knowledge of the CNN for the image classification task. We demonstrate that our NeSyBiCor framework successfully corrects the biases of CNNs trained with subsets of classes from the Places dataset while sacrificing minimal accuracy and improving interpretability, by greatly decreasing the size of the final bias-corrected rule-set w.r.t. the initial rule-set.
Abstract（参考訳）: 畳み込みニューラルネットワーク(CNN)の最近の取り組みは、CNNフィルタの活性化を階層化されたAnswer Set Programming(ASP)ルールセットに変換することに焦点を当てている。 CNNフィルタは高レベルのイメージ概念をキャプチャすることで知られており、ルールセットの述語は、対応するフィルタが表現する概念にマッピングされる。したがって、ルールセットは、任意の画像分類タスクで学習する概念の観点から、CNNの決定過程を効果的に例示する。これらのルールセットは、CNNのバイアスを公開し、理解するのに役立ちます。我々は、訓練されたCNNにおいて、バイアス補正のためのNeSyBiCorと呼ばれるニューロシンボリックフレームワークを導入する。 CNN が ASP 制約として表現されるようなシンボリックな概念を考えると、望ましくない概念と望ましい概念を対応するベクトル表現に変換する。そして、CNNは我々の新しい意味的類似性損失を用いて再訓練され、フィルタが望ましくない概念の表現から遠ざけ、望ましい概念に近づける。再トレーニング後に得られた最後のASPルールセットは、制約を高いレベルまで満たし、画像分類タスクに対するCNNの知識の見直しを示す。我々のNeSyBiCorフレームワークは、PlacesデータセットのサブセットでトレーニングされたCNNのバイアスを、最終的なバイアス補正ルールセットw.r.t.t.の値を大幅に減らし、最小限の精度を犠牲にしつつ、解釈可能性を向上させることに成功している。

関連論文リスト

Demystifying CNNs for Images by Matched Filters [13.121514086503591]
畳み込みニューラルネットワーク(CNN)は、ビッグデータ時代のインテリジェントマシンのアプローチと使用方法に革命をもたらしています。 CNNは、そのテキストブラックボックスの性質と、その操作の理論的サポートと物理的意味の欠如により、精査されている。本稿では,マッチングフィルタリングの観点を用いて,CNNの動作を復調する手法を提案する。
論文参考訳（メタデータ） (2022-10-16T12:39:17Z)
CNNs Avoid Curse of Dimensionality by Learning on Patches [11.546219454021935]
我々は、畳み込みニューラルネットワーク(CNN)が画像パッチの領域で動作すると主張している。我々の研究は、CNNの一般化誤差に対する事前誤差を導出した最初のものである。我々のパッチベースの理論はまた、CNNの一般化誤差を改善するために、Cutout、CutMix、ランダムトリミングといったデータ拡張技術が有効である理由を説明する。
論文参考訳（メタデータ） (2022-05-22T06:22:27Z)
Deeply Explain CNN via Hierarchical Decomposition [75.01251659472584]
コンピュータビジョンにおいて、CNNの説明に寄与するいくつかの手法は、中間的特徴がネットワーク予測にどのように影響するかを研究する。本稿では,CNNの意思決定過程をトップダウンで説明する階層的な分解フレームワークを提案する。
論文参考訳（メタデータ） (2022-01-23T07:56:04Z)
Interpretable Compositional Convolutional Neural Networks [20.726080433723922]
本稿では,従来の畳み込みニューラルネットワーク(CNN)を解釈可能な合成CNNに変換する手法を提案する。合成CNNでは、各フィルタは、明確な意味を持つ特定の合成対象部分または画像領域を一貫して表現することになっている。我々の手法は様々な種類のCNNに適用できる。
論文参考訳（メタデータ） (2021-07-09T15:01:24Z)
BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by Adversarial Attacks [65.2021953284622]
CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
論文参考訳（メタデータ） (2021-03-14T20:43:19Z)
The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
論文参考訳（メタデータ） (2021-01-29T07:46:39Z)
A CNN-based Feature Space for Semi-supervised Incremental Learning in Assisted Living Applications [2.1485350418225244]
トレーニングデータセットから得られた特徴空間を用いて、問題のある画像を自動的にラベル付けする。その結果、半教師付き漸進的な学習プロセスにより、新しいインスタンスの分類精度を40%向上させることができる。
論文参考訳（メタデータ） (2020-11-11T12:31:48Z)
SUREMap: Predicting Uncertainty in CNN-based Image Reconstruction Using Stein's Unbiased Risk Estimate [51.67813146731196]
畳み込みニューラルネットワーク(CNN)は、コンピュータ画像再構成問題を解決する強力なツールとして登場した。 CNNはブラックボックスを理解するのが難しい。この制限は、医療画像のような安全クリティカルな用途での利用にとって大きな障壁となる。
論文参考訳（メタデータ） (2020-10-25T20:29:41Z)
Shape Defense Against Adversarial Attacks [47.64219291655723]
人間は物体を認識するために形状情報に大きく依存している。逆に、畳み込みニューラルネットワーク(CNN)はテクスチャに偏っている。本稿では, 形状バイアスをCNNに組み込んで, 頑健性を向上させる方法について検討する。 2つのアルゴリズムが提案され、エッジが適度な知覚不能な摂動に不変であるという観測に基づいている。
論文参考訳（メタデータ） (2020-08-31T03:23:59Z)
Hybrid Tiled Convolutional Neural Networks for Text Sentiment Classification [3.0204693431381515]
階層型畳み込みニューラルネットワーク(CNN)のアーキテクチャを調整し、感情分析のための健全な特徴の抽出を改善する。 NLP分野におけるタイル付きCNNの大きな欠点は、その柔軟性のないフィルタ構造であることを認識し、我々はハイブリッドタイル付きCNNと呼ばれる新しいアーキテクチャを提案する。 IMDBの映画レビューとSemEval 2017のデータセットの実験は、ハイブリッドタイルCNNの効率を実証している。
論文参考訳（メタデータ） (2020-01-31T14:08:15Z)
Approximation and Non-parametric Estimation of ResNet-type Convolutional Neural Networks [52.972605601174955]
本稿では,ResNet型CNNが重要な関数クラスにおいて最小誤差率を達成可能であることを示す。 Barron と H'older のクラスに対する前述のタイプの CNN の近似と推定誤差率を導出する。
論文参考訳（メタデータ） (2019-03-24T19:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。