Fugu-MT 論文翻訳(概要): Extracting Rules from Neural Networks with Partial Interpretations

論文の概要: Extracting Rules from Neural Networks with Partial Interpretations

arxiv url: http://arxiv.org/abs/2204.00360v1
Date: Fri, 1 Apr 2022 11:22:49 GMT
ステータス: 処理完了
システム内更新日: 2022-04-04 13:56:28.190218
Title: Extracting Rules from Neural Networks with Partial Interpretations
Title（参考訳）: 部分解釈を用いたニューラルネットワークからの規則抽出
Authors: Cosimo Persia, Ana Ozaki
Abstract要約: 本研究は,学習者が質問を通じて教師と対話して,抽象的な目標概念を学習する,正確な学習モデルに基づく。クエリを定式化する部分的な解釈を検討する。これらは命題の真理性に関する知識の一部が不明な世界の表現として理解することができる。
参考スコア（独自算出の注目度）: 19.935097664711797
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: We investigate the problem of extracting rules, expressed in Horn logic, from neural network models. Our work is based on the exact learning model, in which a learner interacts with a teacher (the neural network model) via queries in order to learn an abstract target concept, which in our case is a set of Horn rules. We consider partial interpretations to formulate the queries. These can be understood as a representation of the world where part of the knowledge regarding the truthiness of propositions is unknown. We employ Angluin s algorithm for learning Horn rules via queries and evaluate our strategy empirically.
Abstract（参考訳）: ニューラルネットワークモデルからホーン論理で表現された規則を抽出する問題について検討する。私たちの研究は、学習者がクエリを通じて教師(ニューラルネットワークモデル)と対話し、抽象的な対象概念を学習する正確な学習モデルに基づいています。クエリを定式化する部分的な解釈を検討する。これらは命題の真理性に関する知識の一部が不明な世界の表現として理解することができる。クエリによるHhornルールの学習にAngluin sアルゴリズムを使用し、我々の戦略を実証的に評価する。

関連論文リスト

Rule-Extraction Methods From Feedforward Neural Networks: A Systematic Literature Review [1.1510009152620668]
ルールは、ニューラルネットワークを説明する透過的で直感的な手段を提供する。この研究は、特にフィードフォワードネットワークに教師付き学習とクリップルールで対処する。今後の作業は、他のネットワークタイプ、機械学習メソッド、ファジィルール抽出にまで拡張できる。
論文参考訳（メタデータ） (2023-12-20T09:40:07Z)
Abstracting Concept-Changing Rules for Solving Raven's Progressive Matrix Problems [54.26307134687171]
Raven's Progressive Matrix (RPM) は、候補者の中から選択することで、機械知能においてそのような能力を実現する古典的なテストである。近年の研究では、RPMの解法はルールの深い理解を促進することが示唆されている。本稿では、解釈可能な概念を学習し、潜在空間における概念変更ルールを解析することにより、概念変更ルールABstraction(CRAB)の潜時変数モデルを提案する。
論文参考訳（メタデータ） (2023-07-15T07:16:38Z)
Learning Symbolic Rules over Abstract Meaning Representations for Textual Reinforcement Learning [63.148199057487226]
本稿では,汎用的な意味一般化とルール誘導システムを組み合わせて,解釈可能なルールをポリシーとして学習するモジュール型 NEuroSymbolic Textual Agent (NESTA) を提案する。実験の結果,NESTA法は,未確認テストゲームや少ないトレーニングインタラクションから学習することで,深層強化学習技術よりも優れることがわかった。
論文参考訳（メタデータ） (2023-07-05T23:21:05Z)
Learning Horn Envelopes via Queries from Large Language Models [9.042824455614031]
本稿では,Angluinの正確な学習モデルに基づいて,学習したニューラルネットワークから知識を抽出する手法について検討する。提案手法の適用性を示すために,事前学習された言語モデルの実験を行い,職業ベースの性別バイアスを露呈するルールを抽出する。
論文参考訳（メタデータ） (2023-05-20T09:01:33Z)
elBERto: Self-supervised Commonsense Learning for Question Answering [131.51059870970616]
本稿では、市販QAモデルアーキテクチャと互換性のあるコモンセンスフレームワークの自己教師型双方向表現学習を提案する。このフレームワークは5つの自己教師型タスクから構成されており、リッチコモンセンスを含むコンテキストから追加のトレーニング信号を完全に活用するようモデルに強制する。 elBERtoは、単純な語彙的類似性比較が役に立たないような、アウト・オブ・パラグラフや非エフェクトな問題に対して、大幅に改善されている。
論文参考訳（メタデータ） (2022-03-17T16:23:45Z)
Neural-Symbolic Integration for Interactive Learning and Conceptual Grounding [1.14219428942199]
本稿では,抽象概念の説明と対話型学習のためのニューラルシンボリック統合を提案する。ユーザとのインタラクションは、ニューラルモデルのリビジョンを確認または拒否する。このアプローチはLogic NetworkフレームワークとConcept Activation Vectorsを使って説明され、Conal Neural Networkに適用される。
論文参考訳（メタデータ） (2021-12-22T11:24:48Z)
Reasoning-Modulated Representations [85.08205744191078]
タスクが純粋に不透明でないような共通的な環境について研究する。我々のアプローチは、新しいデータ効率表現学習の道を開く。
論文参考訳（メタデータ） (2021-07-19T13:57:13Z)
Understanding the Role of Individual Units in a Deep Neural Network [85.23117441162772]
本稿では,画像分類と画像生成ネットワーク内の隠れ単位を系統的に同定する分析フレームワークを提案する。まず、シーン分類に基づいて訓練された畳み込みニューラルネットワーク(CNN)を分析し、多様なオブジェクト概念にマッチするユニットを発見する。第2に、シーンを生成するために訓練されたGANモデルについて、同様の分析手法を用いて分析する。
論文参考訳（メタデータ） (2020-09-10T17:59:10Z)
Developing Constrained Neural Units Over Time [81.19349325749037]
本稿では,既存のアプローチと異なるニューラルネットワークの定義方法に焦点をあてる。ニューラルネットワークの構造は、データとの相互作用にも拡張される制約の特別なクラスによって定義される。提案した理論は時間領域にキャストされ, データを順序づけられた方法でネットワークに提示する。
論文参考訳（メタデータ） (2020-09-01T09:07:25Z)
Layerwise Knowledge Extraction from Deep Convolutional Networks [0.9137554315375922]
本稿では,M-of-Nルールを用いた階層的知識抽出手法を提案する。このアプローチは、最適な複雑性エラートレードオフに近いルールを生成する。また、畳み込みニューラルネットワークとオートエンコーダのソフトマックス層は、ルール抽出によって非常に説明可能であることも見出した。
論文参考訳（メタデータ） (2020-03-19T19:46:45Z)
Learning Hierarchically Structured Concepts [3.9795499448909024]
生物学的に妥当なニューラルネットワークが階層的に構造化された概念をどのように認識できるかを示す。学習においては,オジャの規則を正式に分析し,シナプスの重みを調節する生物学的に有望な規則を定式化した。学習結果を低境界で補完し、ある階層的な深さの概念を認識するためには、ニューラルネットワークは対応する複数の層を持つ必要がある、と主張する。
論文参考訳（メタデータ） (2019-09-10T15:11:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。