論文の概要: Concept Embeddings for Fuzzy Logic Verification of Deep Neural Networks in Perception Tasks

• arxiv url: http://arxiv.org/abs/2201.00572v1
• Date: Mon, 3 Jan 2022 10:35:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-04 18:18:16.379491
• Title: Concept Embeddings for Fuzzy Logic Verification of Deep Neural Networks in Perception Tasks
• Title（参考訳）: 知覚課題における深部ニューラルネットワークのファジィ論理検証のための概念埋め込み
• Authors: Gesina Schwalbe, Christian Wirth, Ute Schmid
• Abstract要約: 我々は、訓練された畳み込みニューラルネットワーク(CNN)が特定の記号的背景知識を尊重するかどうかを検証するための、単純で効果的なアプローチを提案する。 知識はファジィ述語論理則から成り立つ。 このアプローチはファジィ性と概念出力の校正の恩恵を受けていることを示す。
• 参考スコア（独自算出の注目度）: 1.2246649738388387
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: One major drawback of deep neural networks (DNNs) for use in sensitive application domains is their black-box nature. This makes it hard to verify or monitor complex, symbolic requirements. In this work, we present a simple, yet effective, approach to verify whether a trained convolutional neural network (CNN) respects specified symbolic background knowledge. The knowledge may consist of any fuzzy predicate logic rules. For this, we utilize methods from explainable artificial intelligence (XAI): First, using concept embedding analysis, the output of a computer vision CNN is post-hoc enriched by concept outputs; second, logical rules from prior knowledge are fuzzified to serve as continuous-valued functions on the concept outputs. These can be evaluated with little computational overhead. We demonstrate three diverse use-cases of our method on stateof-the-art object detectors: Finding corner cases, utilizing the rules for detecting and localizing DNN misbehavior during runtime, and comparing the logical consistency of DNNs. The latter is used to find related differences between EfficientDet D1 and Mask R-CNN object detectors. We show that this approach benefits from fuzziness and calibrating the concept outputs.
• Abstract（参考訳）: センシティブなアプリケーションドメインで使用するディープニューラルネットワーク(DNN)の大きな欠点のひとつは、そのブラックボックスの性質にある。 これにより、複雑なシンボリック要件の検証や監視が困難になります。 本研究では、訓練された畳み込みニューラルネットワーク(CNN)が特定の記号的背景知識を尊重するかどうかを検証するための、単純で効果的なアプローチを提案する。 知識はファジィ述語論理規則から成りうる。 まず、概念埋め込み分析を用いて、コンピュータビジョンCNNの出力は概念出力によって強化され、第2に、先行知識からの論理ルールはファジィ化され、概念出力の連続値関数として機能する。 これらは計算オーバーヘッドが少なく評価できる。 本手法の最先端オブジェクト検出器における多種多様な利用例として,コーナーケースの発見,実行中のDNN誤動作の検出と局所化のルールの利用,DNNの論理的整合性の比較,の3つを挙げる。 後者は、EfficientDet D1とMask R-CNNオブジェクト検出器間の関連する差異を見つけるために用いられる。 このアプローチはファジィ性と概念出力の校正の恩恵を受けていることを示す。

関連論文リスト

• Unveiling Ontological Commitment in Multi-Modal Foundation Models [7.485653059927206]
  ディープニューラルネットワーク(DNN)は、概念の豊かな表現とそれぞれの推論を自動的に学習する。 そこで本研究では,葉柄概念の集合に対してマルチモーダルDNNから学習したスーパークラス階層を抽出する手法を提案する。 最初の評価研究では、最先端基礎モデルから有意義な存在論的階級階層を抽出できることが示されている。
  論文  参考訳（メタデータ） (2024-09-25T17:24:27Z)
• GINN-KAN: Interpretability pipelining with applications in Physics Informed Neural Networks [5.2969467015867915]
  本稿では,解釈可能性パイプラインの概念を導入し,複数の解釈可能性技術を導入し,各手法の精度を向上する。 我々は、標準的なニューラルネットワークアーキテクチャに解釈可能性を導入する可能性のために選択された2つの最近のモデルを評価する。 両モデルの利点を合成する新しい解釈可能なニューラルネットワークGINN-KANを提案する。
  論文  参考訳（メタデータ） (2024-08-27T04:57:53Z)
• Symbol Correctness in Deep Neural Networks Containing Symbolic Layers [0.0]
  NS-DNNの設計と分析を導く高レベル原理を定式化する。 NS-DNNの説明可能性と伝達学習にはシンボルの正しさが不可欠であることを示す。
  論文  参考訳（メタデータ） (2024-02-06T03:33:50Z)
• SimpleMind adds thinking to deep neural networks [3.888848425698769]
  ディープニューラルネットワーク(DNN)はデータのパターンを検出し、多くのコンピュータビジョンアプリケーションで汎用性と強力なパフォーマンスを示している。 DNNだけでは、単純で常識的な概念に反する明らかな誤りに陥り、明確な知識を使って探索と意思決定を導く能力に制限がある。 本稿では,医療画像理解に焦点を当てたCognitive AIのためのオープンソースソフトウェアフレームワークであるSimpleMindを紹介する。
  論文  参考訳（メタデータ） (2022-12-02T03:38:20Z)
• Spiking Neural Network Decision Feedback Equalization [70.3497683558609]
  決定フィードバック等化器(DFE)に似たフィードバック構造を持つSNNベースの等化器を提案する。 提案手法は,3種類の模範チャネルに対して,従来の線形等化器よりも明らかに優れていることを示す。 決定フィードバック構造を持つSNNは、競合エネルギー効率の良いトランシーバへのパスを可能にする。
  論文  参考訳（メタデータ） (2022-11-09T09:19:15Z)
• Knowledge Enhanced Neural Networks for relational domains [83.9217787335878]
  我々は、ニューラルネットワークに事前論理的知識を注入するニューラルネットワークアーキテクチャであるKENNに焦点を当てる。 本稿では,関係データに対するKENNの拡張を提案する。
  論文  参考訳（メタデータ） (2022-05-31T13:00:34Z)
• Neuro-Symbolic Inductive Logic Programming with Logical Neural Networks [65.23508422635862]
  我々は最近提案された論理ニューラルネットワーク(LNN)を用いた学習規則を提案する。 他のものと比較して、LNNは古典的なブール論理と強く結びついている。 標準ベンチマークタスクの実験では、LNNルールが極めて解釈可能であることを確認した。
  論文  参考訳（メタデータ） (2021-12-06T19:38:30Z)
• Reinforcement Learning with External Knowledge by using Logical Neural Networks [67.46162586940905]
  論理ニューラルネットワーク(LNN)と呼ばれる最近のニューラルシンボリックフレームワークは、ニューラルネットワークとシンボリックロジックの両方のキープロパティを同時に提供することができる。 外部知識ソースからのモデルフリー強化学習を可能にする統合手法を提案する。
  論文  参考訳（メタデータ） (2021-03-03T12:34:59Z)
• Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
  ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。 DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。 コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
  論文  参考訳（メタデータ） (2020-06-30T14:56:05Z)
• An Adversarial Approach for Explaining the Predictions of Deep Neural Networks [9.645196221785694]
  本稿では,敵対的機械学習を用いて,ディープニューラルネットワーク(DNN)の予測を説明する新しいアルゴリズムを提案する。 提案手法は,DNNに対する敵攻撃の挙動に基づいて,入力特徴の相対的重要性を推定する。 分析により、一貫性のある効率的な説明が得られます。
  論文  参考訳（メタデータ） (2020-05-20T18:06:53Z)
• Architecture Disentanglement for Deep Neural Networks [174.16176919145377]
  ディープニューラルネットワーク(DNN)の内部動作を説明するために,ニューラルアーキテクチャ・ディコンタングルメント(NAD)を導入する。 NADは、訓練済みのDNNを独立したタスクに従ってサブアーキテクチャに切り離すことを学び、推論プロセスを記述する情報フローを形成する。 その結果、誤分類された画像は、タスクサブアーキテクチャーに正しいサブアーキテクチャーに割り当てられる確率が高いことが示された。
  論文  参考訳（メタデータ） (2020-03-30T08:34:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。