論文の概要: NeuroRule: Making Black-Box Neural Networks Explainable through Rule-set Evolution
- arxiv url: http://arxiv.org/abs/2609.26841v1
- Date: Tue, 22 Sep 2026 01:52:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:17.69673
- Title: NeuroRule: Making Black-Box Neural Networks Explainable through Rule-set Evolution
- Title（参考訳）: NeuroRule:ルールセット進化によるブラックボックスニューラルネットワークの解説
- Abstract要約: 高容量ニューラルネットワークモデルは、さまざまな分類タスクで最先端のパフォーマンスを達成したが、ブラックボックスモデルとして頻繁に動作する。
本稿ではニューラルネットワークモデルから説明可能なルールセットを導出するNeuroRuleナレッジ蒸留フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 9.800538381459608
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: High-capacity neural network models have achieved state-of-the-art performance across diverse classification tasks, yet they frequently operate as black-box models, lacking the transparency necessary for critical decision-making. Such opacity creates a persistent trade-off between performance and explainability. This paper proposes a solution to address this gap: the NeuroRule knowledge distillation framework that results in explainable rule-sets from neural network models. NeuroRule adapts the EVOTER rule-set evolution infrastructure to treat neural networks as targets for the evolution process, distilling their performance into concise sets of propositional logic expressions. There are three primary contributions: (1) an evolutionary method for distilling black-box neural network models into explicit rule-set models; (2) a method for making rule sets more explainable by including a conciseness objective to evolution; and (3) a demonstration that the distillation is viable even without access to the original neural network training data. The paper thus establishes that black-box neural network models can be made explainable and therefore useful in real-world applications where trustworthiness is paramount.
- Abstract（参考訳）: 高容量ニューラルネットワークモデルは、さまざまな分類タスクで最先端のパフォーマンスを達成したが、重要な意思決定に必要な透明性が欠如しているため、ブラックボックスモデルとして頻繁に運用されている。
このような不透明さは、パフォーマンスと説明可能性の間に永続的なトレードオフを生み出します。
本稿では,ニューラルネットワークモデルから記述可能なルールセットを導出するNeuroRuleナレッジ蒸留フレームワークを提案する。
NeuroRuleは、EVOTERルールセットの進化インフラストラクチャを適用して、ニューラルネットワークを進化プロセスのターゲットとして扱い、それらのパフォーマンスを命題論理式の簡潔なセットに抽出する。
1)ブラックボックスニューラルネットワークモデルを明示的なルールセットモデルに蒸留する進化的手法,(2)簡潔な進化目標を含むことによってルールセットをより説明しやすいものにする方法,(3)元のニューラルネットワークトレーニングデータにアクセスしなくても蒸留が実行可能であることの実証である。
そこで本論文では,信頼度が最重要である実世界のアプリケーションにおいて,ブラックボックスニューラルネットワークモデルを説明可能とし,有用であることを示す。
関連論文リスト
- Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。
神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。
私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
論文 参考訳（メタデータ） (2025-05-16T13:49:43Z) - From superposition to sparse codes: interpretable representations in neural networks [3.6738925004882685]
最近の証拠は、ニューラルネットワークが重畳の特徴を符号化していることを示唆している。
本稿では、この現象を説明する視点を示し、ニューラルアクティベーションから解釈可能な表現を抽出するための基盤を提供する。
我々の議論は、ニューラルコーディング理論、AI透明性、ディープラーニングモデルをより解釈可能なものにするというより広い目標に影響を及ぼす。
論文 参考訳（メタデータ） (2025-03-03T18:49:59Z) - NEUROLOGIC: From Neural Representations to Interpretable Logic Rules [12.231919806775933]
ルールに基づく説明法は、ニューラルネットワークの振る舞いに関する厳密でグローバルに解釈可能な洞察を提供する。
既存のアプローチは、主に小さな完全に接続されたネットワークに限られており、コストのかかるルール抽出と置換プロセスに依存している。
深層ニューラルネットワークから直接解釈可能な論理規則を抽出する新しいフレームワークであるNEUROLOGICを提案する。
論文 参考訳（メタデータ） (2025-01-14T17:57:26Z) - Novel Kernel Models and Exact Representor Theory for Neural Networks Beyond the Over-Parameterized Regime [52.00917519626559]
本稿では、ニューラルネットワークの2つのモデルと、任意の幅、深さ、トポロジーのニューラルネットワークに適用可能なトレーニングについて述べる。
また、局所外在性神経核(LeNK)の観点から、非正規化勾配降下を伴う階層型ニューラルネットワークトレーニングのための正確な表現子理論を提示する。
この表現論は、ニューラルネットワークトレーニングにおける高次統計学の役割と、ニューラルネットワークのカーネルモデルにおけるカーネル進化の影響について洞察を与える。
論文 参考訳（メタデータ） (2024-05-24T06:30:36Z) - Manipulating Feature Visualizations with Gradient Slingshots [53.94925202421929]
特徴可視化(FV)は、ディープニューラルネットワーク(DNN)で学んだ概念を解釈するための広く使われている手法である。
本稿では,モデルアーキテクチャを変更したり,性能を著しく劣化させたりすることなくFVの操作を可能にする新しい手法,Gradient Slingshotsを提案する。
論文 参考訳（メタデータ） (2024-01-11T18:57:17Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳（メタデータ） (2023-06-04T08:53:27Z) - Explaining Deep Convolutional Neural Networks for Image Classification by Evolving Local Interpretable Model-agnostic Explanations [8.669319624657701]
提案手法はモデルに依存しない、すなわち、深い畳み込みニューラルネットワークモデルを説明するために利用することができる。
ImageNetからランダムに選択された4つの画像の進化した局所的説明を示す。
提案手法は,LIMEの10倍以上高速な局所的な説明を1分以内で得ることができる。
論文 参考訳（メタデータ） (2022-11-28T08:56:00Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳（メタデータ） (2022-10-06T13:04:45Z) - Provably Training Neural Network Classifiers under Fairness Constraints [70.64045590577318]
過パラメータのニューラルネットワークが制約を満たしていることを示す。
公平なニューラルネットワーク分類器を構築する上で重要な要素は、ニューラルネットワークの非応答解析を確立することである。
論文 参考訳（メタデータ） (2020-12-30T18:46:50Z) - A neural network model of perception and reasoning [0.0]
生物学的に一貫した構成原理の単純なセットが神経ネットワークにこれらの能力を与えることを示す。
我々はこれらの原理を、最適化の代わりに概念構築に基づく新しい機械学習アルゴリズムで実装し、説明可能なニューロン活動で推論されるディープニューラルネットワークを設計する。
論文 参考訳（メタデータ） (2020-02-26T06:26:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。