論文の概要: Checking extracted rules in Neural Networks
- arxiv url: http://arxiv.org/abs/2509.16547v1
- Date: Sat, 20 Sep 2025 06:15:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-23 18:58:15.850053
- Title: Checking extracted rules in Neural Networks
- Title（参考訳）: ニューラルネットワークにおける抽出規則のチェック
- Authors: Adrian Wurm,
- Abstract要約: ニューラルネットワークにおける抽出規則の形式的検証について検討する。
ルールは、ネットワークの入力空間の大部分に関するグローバルプロパティまたはパターンである。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper we investigate formal verification of extracted rules for Neural Networks under a complexity theoretic point of view. A rule is a global property or a pattern concerning a large portion of the input space of a network. These rules are algorithmically extracted from networks in an effort to better understand their inner way of working. Here, three problems will be in the focus: Does a given set of rules apply to a given network? Is a given set of rules consistent or do the rules contradict themselves? Is a given set of rules exhaustive in the sense that for every input the output is determined? Finding algorithms that extract such rules out of networks has been investigated over the last 30 years, however, to the author's current knowledge, no attempt in verification was made until now. A lot of attempts of extracting rules use heuristics involving randomness and over-approximation, so it might be beneficial to know whether knowledge obtained in that way can actually be trusted. We investigate the above questions for neural networks with ReLU-activation as well as for Boolean networks, each for several types of rules. We demonstrate how these problems can be reduced to each other and show that most of them are co-NP-complete.
- Abstract（参考訳）: 本稿では,複雑性理論の観点から,ニューラルネットワークの抽出規則の形式的検証を行う。
ルールは、ネットワークの入力空間の大部分に関するグローバルプロパティまたはパターンである。
これらのルールは、ネットワークからアルゴリズムによって抽出され、その内部の働き方をよりよく理解する。
与えられたルールのセットは、あるネットワークに適用されますか?
与えられたルールセットは一貫性があるのか、あるいはルール自体に矛盾があるのか?
与えられたルールのセットは、入力毎に出力が決定されるという意味で網羅的であるか?
このようなルールをネットワークから抽出するアルゴリズムは過去30年間にわたって研究されてきたが、著者の現在の知識により、これまで検証の試みは行われていなかった。
規則を抽出する試みの多くは、ランダム性や過剰近似を含むヒューリスティックスを用いているため、そのような方法で得られた知識が実際に信頼できるかどうかを知ることは有益である。
本稿では, ReLU-activation を用いたニューラルネットワークとBoolean ネットワークについて, 各種ルールについて検討する。
これらの問題をいかに互いに還元するかを実証し、その多くがNP完全であることを示す。
関連論文リスト
- FRRI: a novel algorithm for fuzzy-rough rule induction [0.8575004906002217]
ファジィラフルール誘導(FRRI)と呼ばれる新しいルール誘導アルゴリズムを導入する。
アルゴリズムの背景と動作を説明します。
私たちのアルゴリズムは、小さなルールセットを作成しながら、より正確であることに気付きました。
論文 参考訳（メタデータ） (2024-03-07T12:34:03Z) - Incorporating Expert Rules into Neural Networks in the Framework of
Concept-Based Learning [2.9370710299422598]
論理規則とニューラルネットワークを組み合わせて概念の確率を予測する方法が提案されている。
提案する課題の解決とニューラルネットワークのトレーニングに,いくつかのアプローチを提案する。
提案されたアルゴリズムのコードは公開されている。
論文 参考訳（メタデータ） (2024-02-22T17:33:49Z) - Abstracting Concept-Changing Rules for Solving Raven's Progressive
Matrix Problems [54.26307134687171]
Raven's Progressive Matrix (RPM) は、候補者の中から選択することで、機械知能においてそのような能力を実現する古典的なテストである。
近年の研究では、RPMの解法はルールの深い理解を促進することが示唆されている。
本稿では、解釈可能な概念を学習し、潜在空間における概念変更ルールを解析することにより、概念変更ルールABstraction(CRAB)の潜時変数モデルを提案する。
論文 参考訳（メタデータ） (2023-07-15T07:16:38Z) - The Clock and the Pizza: Two Stories in Mechanistic Explanation of
Neural Networks [59.26515696183751]
ニューラルネットワークにおけるアルゴリズム発見は、時としてより複雑であることを示す。
単純な学習問題でさえ、驚くほど多様なソリューションを許容できることが示されています。
論文 参考訳（メタデータ） (2023-06-30T17:59:13Z) - RulE: Knowledge Graph Reasoning with Rule Embedding [69.31451649090661]
我々は、論理ルールを活用してKG推論を強化する、textbfRulE(ルール埋め込みのためのスタンド)と呼ばれる原則的なフレームワークを提案する。
RulEは、既存の三重項と一階規則からルールの埋め込みを学習し、統一された埋め込み空間において、textbfentities、textbfrelations、textbflogical rulesを共同で表現する。
複数のベンチマークの結果、我々のモデルは既存の埋め込みベースのアプローチやルールベースのアプローチよりも優れています。
論文 参考訳（メタデータ） (2022-10-24T06:47:13Z) - NN2Rules: Extracting Rule List from Neural Networks [0.913755431537592]
NN2Rulesはルール抽出の分解的アプローチであり、トレーニングされたニューラルネットワークモデルのパラメータから一連の決定ルールを抽出する。
抽出した決定ルールは、ニューラルネットワークが提示する任意の入力に対して、同じ予測値を持ち、したがって精度が同じであることを示す。
論文 参考訳（メタデータ） (2022-07-04T09:19:47Z) - RNNLogic: Learning Logic Rules for Reasoning on Knowledge Graphs [91.71504177786792]
本稿では知識グラフに基づく推論のための論理規則の学習について研究する。
論理規則は、予測に使用されるときに解釈可能な説明を提供するとともに、他のタスクに一般化することができる。
既存の手法は、検索スペースの検索の問題や、スパース報酬による非効率な最適化に悩まされている。
論文 参考訳（メタデータ） (2020-10-08T14:47:02Z) - Layerwise Knowledge Extraction from Deep Convolutional Networks [0.9137554315375922]
本稿では,M-of-Nルールを用いた階層的知識抽出手法を提案する。
このアプローチは、最適な複雑性エラートレードオフに近いルールを生成する。
また、畳み込みニューラルネットワークとオートエンコーダのソフトマックス層は、ルール抽出によって非常に説明可能であることも見出した。
論文 参考訳（メタデータ） (2020-03-19T19:46:45Z) - Learn to Predict Sets Using Feed-Forward Neural Networks [63.91494644881925]
本稿では、ディープフィードフォワードニューラルネットワークを用いた設定予測の課題に対処する。
未知の置換と基数を持つ集合を予測するための新しい手法を提案する。
関連視覚問題に対する集合定式化の有効性を実証する。
論文 参考訳（メタデータ） (2020-01-30T01:52:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。