論文の概要: Decoding Interpretable Logic Rules from Neural Networks

• arxiv url: http://arxiv.org/abs/2501.08281v1
• Date: Tue, 14 Jan 2025 17:57:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-15 13:28:39.526991
• Title: Decoding Interpretable Logic Rules from Neural Networks
• Title（参考訳）: ニューラルネットワークからの解釈可能論理則の復号化
• Authors: Chuqin Geng, Xiaojie Xu, Zhaoyue Wang, Ziyu Zhao, Xujie Si,
• Abstract要約: 本稿では,ニューラルネットワークから解釈可能な論理規則を復号化するための新しいアプローチであるNeuroLogicを紹介する。 NeuroLogicは幅広いニューラルネットワークに適応することができる。 NeuroLogicはニューラルネットワークのブラックボックスの性質を理解するのに役立ちます。
• 参考スコア（独自算出の注目度）: 8.571176778812038
• License:
• Abstract: As deep neural networks continue to excel across various domains, their black-box nature has raised concerns about transparency and trust. In particular, interpretability has become increasingly essential for applications that demand high safety and knowledge rigor, such as drug discovery, autonomous driving, and genomics. However, progress in understanding even the simplest deep neural networks - such as fully connected networks - has been limited, despite their role as foundational elements in state-of-the-art models like ResNet and Transformer. In this paper, we address this challenge by introducing NeuroLogic, a novel approach for decoding interpretable logic rules from neural networks. NeuroLogic leverages neural activation patterns to capture the model's critical decision-making processes, translating them into logical rules represented by hidden predicates. Thanks to its flexible design in the grounding phase, NeuroLogic can be adapted to a wide range of neural networks. For simple fully connected neural networks, hidden predicates can be grounded in certain split patterns of original input features to derive decision-tree-like rules. For large, complex vision neural networks, NeuroLogic grounds hidden predicates into high-level visual concepts that are understandable to humans. Our empirical study demonstrates that NeuroLogic can extract global and interpretable rules from state-of-the-art models such as ResNet, a task at which existing work struggles. We believe NeuroLogic can help pave the way for understanding the black-box nature of neural networks.
• Abstract（参考訳）: ディープニューラルネットワークはさまざまな領域にまたがって拡張され続けており、そのブラックボックスの性質は透明性と信頼に関する懸念を引き起こしている。 特に、薬物発見、自律運転、ゲノム工学など、高い安全性と知識の厳密さを求めるアプリケーションには、解釈可能性の重要性がますます不可欠になっている。 しかし、ResNetやTransformerのような最先端モデルにおける基礎的要素としての役割にもかかわらず、完全に接続されたネットワークのような最も単純なディープニューラルネットワークでさえ理解の進歩は制限されている。 本稿では,ニューラルネットワークから解釈可能な論理規則を復号化するための新しいアプローチであるNeuroLogicを導入することで,この問題に対処する。 NeuroLogicは、ニューラルネットワークのアクティベーションパターンを活用して、モデルの重要な意思決定プロセスをキャプチャし、それらを隠れ述語で表される論理規則に変換する。 グラウンディングフェーズにおけるフレキシブルな設計のおかげで、NeuroLogicは幅広いニューラルネットワークに適応することができる。 単純な完全連結ニューラルネットワークでは、隠れ述語は元の入力特徴の特定の分割パターンに基礎を置いて決定木のような規則を導出することができる。 大規模で複雑な視覚ニューラルネットワークでは、NeuroLogicは隠れた述語を人間にとって理解しやすい高レベルな視覚概念に分類する。 我々の実証研究は、NeuroLogicがResNetのような最先端モデルからグローバルで解釈可能なルールを抽出できることを示した。 NeuroLogicは、ニューラルネットワークのブラックボックスの性質を理解するのに役立ちます。

関連論文リスト

• Retinal Vessel Segmentation via Neuron Programming [17.609169389489633]
  本稿では,神経レベルでのネットワークの表現能力を高めるため,ニューラルネット設計における新しいアプローチであるニューラルネットプログラミングについて紹介する。 総合的な実験により、ニューロンプログラミングは網膜の血液分画において競合的な性能を発揮することが検証された。
  論文  参考訳（メタデータ） (2024-11-17T16:03:30Z)
• Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
  スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。 本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
  論文  参考訳（メタデータ） (2024-09-17T04:48:45Z)
• Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
  本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。 我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。 本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
  論文  参考訳（メタデータ） (2024-03-18T18:01:01Z)
• Brain-Inspired Machine Intelligence: A Survey of Neurobiologically-Plausible Credit Assignment [65.268245109828]
  本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。 我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。 本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
  論文  参考訳（メタデータ） (2023-12-01T05:20:57Z)
• Automated Natural Language Explanation of Deep Visual Neurons with Large Models [43.178568768100305]
  本稿では,大きな基礎モデルを持つニューロンの意味的説明を生成するための,新しいポストホックフレームワークを提案する。 我々のフレームワークは、様々なモデルアーキテクチャやデータセット、自動化されたスケーラブルなニューロン解釈と互換性があるように設計されています。
  論文  参考訳（メタデータ） (2023-10-16T17:04:51Z)
• Expressivity of Spiking Neural Networks [15.181458163440634]
  本研究では,ニューロンの発射時間内に情報を符号化したスパイクニューラルネットワークの能力について検討する。 ReLUネットワークとは対照的に、スパイクニューラルネットワークは連続関数と不連続関数の両方を実現することができる。
  論文  参考訳（メタデータ） (2023-08-16T08:45:53Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• Spiking neural network for nonlinear regression [68.8204255655161]
  スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。 彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。 スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-06T13:04:45Z)
• Brain-inspired Graph Spiking Neural Networks for Commonsense Knowledge Representation and Reasoning [11.048601659933249]
  神経科学、認知科学、心理学、人工知能において、人間の脳におけるニューラルネットワークがどのように常識知識を表現するかは重要な研究トピックである。 本研究は, 個体群エンコーディングとスパイクタイミング依存的可塑性(STDP)機構をスパイクニューラルネットワークの学習に組み込む方法について検討する。 異なるコミュニティのニューロン集団は、コモンセンス知識グラフ全体を構成し、巨大なグラフがニューラルネットワークをスパイクする。
  論文  参考訳（メタデータ） (2022-07-11T05:22:38Z)
• POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with Integer Quadratic Integrate-and-Fire Neurons [50.591267188664666]
  2つの階層構造を持つ180nmプロセス技術において,集団に基づくディジタルスパイキングニューロモルフィックプロセッサを提案する。 提案手法は,生体模倣型ニューロモルフィックシステム,低消費電力,低遅延推論処理アプリケーションの開発を可能にする。
  論文  参考訳（メタデータ） (2022-01-19T09:26:34Z)
• A neural network model of perception and reasoning [0.0]
  生物学的に一貫した構成原理の単純なセットが神経ネットワークにこれらの能力を与えることを示す。 我々はこれらの原理を、最適化の代わりに概念構築に基づく新しい機械学習アルゴリズムで実装し、説明可能なニューロン活動で推論されるディープニューラルネットワークを設計する。
  論文  参考訳（メタデータ） (2020-02-26T06:26:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。