論文の概要: Binary Spiking Neural Networks as Causal Models

• arxiv url: http://arxiv.org/abs/2604.27007v1
• Date: Wed, 29 Apr 2026 09:09:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:53.716408
• Title: Binary Spiking Neural Networks as Causal Models
• Title（参考訳）: 因果モデルとしてのバイナリスパイクニューラルネットワーク
• Authors: Aditya Kar, Emiliano Lorini, Timothée Masquelier,
• Abstract要約: 本稿では,2成分スパイキングニューラルネットワーク(BSNN)の因果解析を行い,その振る舞いを説明する。 論理に基づく手法を用いてネットワークの出力を説明することができる。
• 参考スコア（独自算出の注目度）: 13.300821692861271
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We provide a causal analysis of Binary Spiking Neural Networks (BSNNs) to explain their behavior. We formally define a BSNN and represent its spiking activity as a binary causal model. Thanks to this causal representation, we are able to explain the output of the network by leveraging logic-based methods. In particular, we show that we can successfully use a SAT as well as a SMT solver to compute abductive explanations from this binary causal model. To illustrate our approach, we trained the BSNN on the standard MNIST dataset and applied our SAT-based and SMT-based methods to finding abductive explanations of the network's classifications based on pixel-level features. We also compared the found explanations against SHAP, a popular method used in the area of explainable AI. We show that, unlike SHAP, our approach guarantees that a found explanation does not contain completely irrelevant features.
• Abstract（参考訳）: 本稿では,2成分スパイキングニューラルネットワーク(BSNN)の因果解析を行い,その振る舞いを説明する。 我々はBSNNを正式に定義し、そのスパイク活動をバイナリ因果モデルとして表現する。 この因果表現により、論理に基づく手法を用いて、ネットワークの出力を説明することができる。 特に、SATとSMTソルバを用いて、この二項因果モデルから帰納的説明を計算できることが示されている。 提案手法を説明するため,我々は,標準的なMNISTデータセットを用いてBSNNを訓練し,SATベースおよびSMTベースの手法を用いて,画素レベルの特徴に基づくネットワーク分類の帰納的説明を求める。 また、説明可能なAIの領域で使われる一般的な方法であるSHAPに対する説明についても比較した。 SHAPとは違って,提案手法では,見いだされた説明が全く無関係な特徴を含まないことが保証されている。

関連論文リスト

• xDNN(ASP): Explanation Generation System for Deep Neural Networks powered by Answer Set Programming [1.1936305787902912]
  xDNN(ASP)は、グローバルな説明を提供するディープニューラルネットワークのための説明生成システムである。 予測タスクにおいて,xDNN(ASP)は高い精度を維持していることを示す。
  論文  参考訳（メタデータ） (2026-01-07T12:08:00Z)
• OMENN: One Matrix to Explain Neural Networks [2.397390211883228]
  One Matrix to Explain Neural Networks (OMENN)は、ニューラルネットワークを特定の入力ごとに単一の解釈可能な行列として表現する新しいポストホック手法である。 本稿では,動的線形性に基づくOMENNの理論解析を行い,その妥当性を2つのXAIベンチマークで検証した。
  論文  参考訳（メタデータ） (2024-12-03T11:49:01Z)
• Explainable Graph Neural Networks Under Fire [69.15708723429307]
  グラフニューラルネットワーク(GNN)は通常、複雑な計算挙動とグラフの抽象的性質のために解釈性に欠ける。 ほとんどのGNN説明法は、ポストホックな方法で動作し、重要なエッジと/またはノードの小さなサブセットの形で説明を提供する。 本稿では,これらの説明が信頼できないことを実証する。GNNの一般的な説明手法は,敵対的摂動に強い影響を受けやすいことが判明した。
  論文  参考訳（メタデータ） (2024-06-10T16:09:16Z)
• Feature Attribution Explanations for Spiking Neural Networks [3.5824464725360077]
  第三世代のニューラルネットワークであるスパイキングニューラルネットワーク(SNN)は、ハードウェア上で効率的に実装できる。 ニューロモルフィックチップの実装は、機械学習ベースの自律制御やインテリジェントなバイオメディカルデバイスなど、幅広い応用を開放する。 SNNの局所的説明法であるtextitTemporal Spike Attribution (TSA) を提案する。
  論文  参考訳（メタデータ） (2023-11-02T21:30:56Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• A Meta-Learning Approach for Training Explainable Graph Neural Networks [10.11960004698409]
  本稿では,GNNの学習時間における説明可能性向上のためのメタラーニングフレームワークを提案する。 我々のフレームワークは、例えばノード分類などの元のタスクを解決するためにモデルを共同で訓練し、下流アルゴリズムで容易に処理可能な出力を提供する。 我々のモデルに依存しないアプローチは、異なるGNNアーキテクチャで生成された説明を改善し、このプロセスを駆動するためにインスタンスベースの説明器を使用することができます。
  論文  参考訳（メタデータ） (2021-09-20T11:09:10Z)
• Parameterized Explainer for Graph Neural Network [49.79917262156429]
  グラフニューラルネットワーク(GNN)のためのパラメータ化説明器PGExplainerを提案する。 既存の研究と比較すると、PGExplainerはより優れた一般化能力を持ち、インダクティブな設定で容易に利用することができる。 合成データセットと実生活データセットの両方の実験では、グラフ分類の説明に関するAUCの相対的な改善が24.7%まで高い競争性能を示した。
  論文  参考訳（メタデータ） (2020-11-09T17:15:03Z)
• Interpreting Graph Neural Networks for NLP With Differentiable Edge Masking [63.49779304362376]
  グラフニューラルネットワーク(GNN)は、構造的帰納バイアスをNLPモデルに統合する一般的なアプローチとなっている。 本稿では,不要なエッジを識別するGNNの予測を解釈するポストホック手法を提案する。 モデルの性能を劣化させることなく,多数のエッジを落とせることを示す。
  論文  参考訳（メタデータ） (2020-10-01T17:51:19Z)
• Distilling neural networks into skipgram-level decision lists [4.109840601429086]
  スキップグラム上の決定リスト(ルールとも呼ばれる)を用いてRNNを説明するパイプラインを提案する。 提案手法は,高い説明忠実度と定性的に解釈可能な規則を持続的に達成することを発見した。
  論文  参考訳（メタデータ） (2020-05-14T16:25:42Z)
• Binarized Graph Neural Network [65.20589262811677]
  我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。 提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。 実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
  論文  参考訳（メタデータ） (2020-04-19T09:43:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。