論文の概要: Neuron Activation-based Computation of Logical Explanations for Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2609.14099v1
• Date: Sat, 12 Sep 2026 18:50:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.685414
• Title: Neuron Activation-based Computation of Logical Explanations for Deep Neural Networks
• Title（参考訳）: 神経活動に基づく深部ニューラルネットワークの論理的説明の計算
• Abstract要約: 本稿では,NN動作の説明の効率的かつガイド付き計算を行うためのフレキシブルなシンボリック・フレームワークを提案する。 本手法は, 形状が制限されていない説明を導出することを示す。 特に,本手法は,従来の論理に基づく手法では実現不可能なディープネットワークの論理的説明を可能にする。
• 参考スコア（独自算出の注目度）: 2.753173444623078
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Formal explainability of classifying neural networks (NNs) is an active area of research, providing explanations with provable guarantees of the classification within continuous regions of the input feature space. However, the existing techniques are either limited to individual input features without guarantees on their relations or the provided solutions fail to scale to deep architectures. This paper addresses these issues by introducing a flexible symbolic framework for an efficient, guided computation of explanations of the NN behavior, parametrized by the activations of internal neurons, and using logical engines such as SMT solvers. Unlike prior methods that rely on specialized NN verifiers, our method yields explanations that are not restricted in shape. Our algorithm is implementable on top of a general-purpose logical solver, isolating the NN-specific encoding from the algorithmic framework. We experimented with a wide range of benchmarks from the domains of image recognition and medicine, illustrating the advantages of the new method, particularly in computational efficiency. Notably, our approach enables logical explanation of deep networks not amenable to prior logic-based methods.
• Abstract（参考訳）: ニューラルネットワーク(NN)の形式的説明性は、入力特徴空間の連続領域における分類の証明可能な保証を備えた説明を提供する研究の活発な領域である。 しかし、既存の技術は個々の入力機能に限られており、それらの関係が保証されていないか、あるいは提供するソリューションが深いアーキテクチャにスケールできないかのどちらかである。 本稿では、NN動作の説明を効率的にガイドし、内部ニューロンの活性化によってパラメータ化し、SMTソルバなどの論理エンジンを用いたフレキシブルなシンボリック・フレームワークを導入することにより、これらの課題に対処する。 専門的なNN検証に依存する従来の手法とは異なり,本手法では,形式的に制限されていない説明を導出する。 我々のアルゴリズムは汎用論理解法上に実装可能であり、NN固有の符号化をアルゴリズムフレームワークから分離する。 我々は画像認識と医学の分野から幅広いベンチマークを行い、新しい手法の利点、特に計算効率について考察した。 特に,本手法は,従来の論理に基づく手法では実現不可能なディープネットワークの論理的説明を可能にする。

関連論文リスト

• Dynamics and Representation Structure of Local Approximations to Gradient-Based Learning in Linear Recurrent Neural Networks [56.42974363744522]
  ランダム・フィードバック・ローカル・オンライン(RFLO)の学習動態と時間による逆伝播(tBPTT)について検討する。 我々の研究は、局所性制約が学習力学をどう形成するかに関する分析的な洞察を提供し、学習の神経科学的モデルやRNNの代替最適化アプローチに影響を及ぼす。
  論文  参考訳（メタデータ） (2026-05-29T18:19:45Z)
• Slice and Explain: Logic-Based Explanations for Neural Networks through Domain Slicing [3.847524185858632]
  本稿では,ドメインスライシングを利用したNNの説明生成手法を提案する。 スライシングによって論理的制約の複雑さを減らし、説明時間を最大40%短縮する。
  論文  参考訳（メタデータ） (2026-02-25T17:01:52Z)
• The Finite Element Neural Network Method: One Dimensional Study [0.0]
  本研究は,ペトロフ・ガレルキン法(ペトロフ・ガレルキン法)の枠組みにおける有限要素ニューラルネットワーク法(FENNM)を紹介する。 FENNMは、微分方程式の重み付け残差を近似するために畳み込み演算を用いる。 これにより、従来の有限要素法(FEM)の解法と同様に、強制項と自然境界条件を損失関数に統合することができる。
  論文  参考訳（メタデータ） (2025-01-21T21:39:56Z)
• A simple algorithm for output range analysis for deep neural networks [0.0]
  本稿では,Deep Neural Networks (DNN) における出力範囲推定問題に対して,Simulated Annealing (SA) アルゴリズムを統合した新しい手法を提案する。 この方法はResNetsに固有の幾何学的情報や非線形性の欠如による課題に効果的に対処する。
  論文  参考訳（メタデータ） (2024-07-02T22:47:40Z)
• N-Adaptive Ritz Method: A Neural Network Enriched Partition of Unity for Boundary Value Problems [1.2200609701777907]
  本研究は,ニューラルネットワークによる境界値問題を解決するために,ニューラルネットワークに富んだユニティ分割(NN-PU)アプローチを導入する。 NNエンリッチメントは、事前訓練された特徴符号化NNブロックと未訓練NNブロックを組み合わせることで構成される。 提案手法は,従来のメッシュ法に比べて計算コストを低減しつつ,正確な解を提供する。
  論文  参考訳（メタデータ） (2024-01-16T18:11:14Z)
• Manipulating Feature Visualizations with Gradient Slingshots [53.94925202421929]
  特徴可視化(FV)は、ディープニューラルネットワーク(DNN)で学んだ概念を解釈するための広く使われている手法である。 本稿では,モデルアーキテクチャを変更したり,性能を著しく劣化させたりすることなくFVの操作を可能にする新しい手法,Gradient Slingshotsを提案する。
  論文  参考訳（メタデータ） (2024-01-11T18:57:17Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• Neuro-Symbolic Inductive Logic Programming with Logical Neural Networks [65.23508422635862]
  我々は最近提案された論理ニューラルネットワーク(LNN)を用いた学習規則を提案する。 他のものと比較して、LNNは古典的なブール論理と強く結びついている。 標準ベンチマークタスクの実験では、LNNルールが極めて解釈可能であることを確認した。
  論文  参考訳（メタデータ） (2021-12-06T19:38:30Z)
• Reinforcement Learning with External Knowledge by using Logical Neural Networks [67.46162586940905]
  論理ニューラルネットワーク(LNN)と呼ばれる最近のニューラルシンボリックフレームワークは、ニューラルネットワークとシンボリックロジックの両方のキープロパティを同時に提供することができる。 外部知識ソースからのモデルフリー強化学習を可能にする統合手法を提案する。
  論文  参考訳（メタデータ） (2021-03-03T12:34:59Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)
• Parallelization Techniques for Verifying Neural Networks [52.917845265248744]
  検証問題に基づくアルゴリズムを反復的に導入し、2つの分割戦略を探索する。 また、ニューラルネットワークの検証問題を単純化するために、ニューロンアクティベーションフェーズを利用する、高度に並列化可能な前処理アルゴリズムも導入する。
  論文  参考訳（メタデータ） (2020-04-17T20:21:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。