論文の概要: Neuro-Symbolic Hierarchical Rule Induction
- arxiv url: http://arxiv.org/abs/2112.13418v1
- Date: Sun, 26 Dec 2021 17:02:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-28 14:40:50.728220
- Title: Neuro-Symbolic Hierarchical Rule Induction
- Title(参考訳): ニューロシンボリック階層的規則誘導
- Authors: Claire Glanois, Xuening Feng, Zhaohui Jiang, Paul Weng, Matthieu
Zimmer, Dong Li, Wulong Liu
- Abstract要約: Inductive Logic Programming (ILP) 問題を解決するために, 効率的な解釈可能なニューロシンボリックモデルを提案する。
階層構造で組織されたメタルールの集合から構築されたこのモデルでは、メタルールの事実や体述と一致するように埋め込みを学習することで、一階規則が発明される。
我々は, 様々な課題(ILP, 視覚ゲノム, 強化学習)において, 最先端の手法に対して, モデルの有効性を実証的に検証した。
- 参考スコア(独自算出の注目度): 12.610497441047395
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We propose an efficient interpretable neuro-symbolic model to solve Inductive
Logic Programming (ILP) problems. In this model, which is built from a set of
meta-rules organised in a hierarchical structure, first-order rules are
invented by learning embeddings to match facts and body predicates of a
meta-rule. To instantiate it, we specifically design an expressive set of
generic meta-rules, and demonstrate they generate a consequent fragment of Horn
clauses. During training, we inject a controlled \pw{Gumbel} noise to avoid
local optima and employ interpretability-regularization term to further guide
the convergence to interpretable rules. We empirically validate our model on
various tasks (ILP, visual genome, reinforcement learning) against several
state-of-the-art methods.
- Abstract(参考訳): Inductive Logic Programming (ILP) 問題を解決するために, 効率的な解釈可能なニューロシンボリックモデルを提案する。
階層構造に組織されたメタルールのセットから構築されたこのモデルでは、メタルールの事実やボディ述語にマッチする埋め込みを学習して一階ルールを考案する。
インスタンス化するために、汎用メタルールの表現的集合を特に設計し、ホーン節の連続的な断片を生成することを実証する。
訓練中、制御された \pw{gumbel} ノイズを局所視能を避けるために注入し、解釈可能性正規化項を用いて解釈可能なルールへの収束をさらに導く。
我々は,様々な課題(ilp,視覚ゲノム,強化学習)におけるモデルの有効性を実証的に検証した。
関連論文リスト
- A Scalable Matrix Visualization for Understanding Tree Ensemble Classifiers [20.416696003269674]
本稿では,数万のルールを含む木アンサンブル分類法を説明するために,拡張性のある視覚解析手法を提案する。
我々は,これらのルールを階層レベルで優先順位付けするための,異常バイアスモデル削減手法を開発した。
本手法は,共通ルールと異常ルールの両方を深く理解し,包括性を犠牲にすることなく解釈性を向上させる。
論文 参考訳(メタデータ) (2024-09-05T01:48:11Z) - Can LLMs Reason with Rules? Logic Scaffolding for Stress-Testing and Improving LLMs [87.34281749422756]
大規模言語モデル(LLM)は、様々な推論タスクにおいて、印象的な人間的なパフォーマンスを実現している。
しかし、その根底にある推論規則の熟達性は、人間の能力に欠ける。
本稿では,推論ルールベースであるULogicを構築するための,推論ルール生成フレームワークを提案する。
論文 参考訳(メタデータ) (2024-02-18T03:38:51Z) - On Conditional and Compositional Language Model Differentiable Prompting [75.76546041094436]
プロンプトは、下流タスクでうまく機能するために、凍結した事前訓練言語モデル(PLM)を適応するための効果的な方法であることが示されている。
タスク命令や入力メタデータを連続的なプロンプトに変換することを学習する新しいモデル Prompt Production System (PRopS) を提案する。
論文 参考訳(メタデータ) (2023-07-04T02:47:42Z) - Distilling Task-specific Logical Rules from Large Pre-trained Models [24.66436804853525]
本研究では,大規模な事前学習モデルからタスク固有の論理規則を抽出する新しい枠組みを開発する。
具体的には、初期シードルールを生成するための知識エキスパートとして、最近のプロンプトベースの言語モデルを借りる。
3つのパブリックなエンティティタグ付けベンチマークの実験は、提案フレームワークの有効性を実証している。
論文 参考訳(メタデータ) (2022-10-06T09:12:18Z) - Neural-Symbolic Recursive Machine for Systematic Generalization [113.22455566135757]
我々は、基底記号システム(GSS)のコアとなるニューラル・シンボリック再帰機械(NSR)を紹介する。
NSRは神経知覚、構文解析、意味推論を統合している。
我々はNSRの有効性を,系統的一般化能力の探索を目的とした4つの挑戦的ベンチマークで評価した。
論文 参考訳(メタデータ) (2022-10-04T13:27:38Z) - Differentiable Rule Induction with Learned Relational Features [9.193818627108572]
Rule Network(RRN)は、属性間の線形関係を表す述語とそれらを使用するルールを学習するニューラルネットワークである。
ベンチマークタスクでは、これらの述語は解釈可能性を維持するのに十分単純であるが、予測精度を改善し、アートルール誘導アルゴリズムの状態と比較してより簡潔なルールセットを提供する。
論文 参考訳(メタデータ) (2022-01-17T16:46:50Z) - Learning Symbolic Rules for Reasoning in Quasi-Natural Language [74.96601852906328]
我々は,ルールを手作業で構築することなく,自然言語入力で推論できるルールベースシステムを構築した。
本稿では,形式論理文と自然言語文の両方を表現可能な"Quasi-Natural"言語であるMetaQNLを提案する。
提案手法は,複数の推論ベンチマークにおける最先端の精度を実現する。
論文 参考訳(メタデータ) (2021-11-23T17:49:00Z) - Discrete Word Embedding for Logical Natural Language Understanding [5.8088738147746914]
単語の個別埋め込みを学習するための教師なしニューラルネットワークを提案する。
我々の埋め込みは、古典的/STRIPS計画形式主義における遷移規則を記述する命題文の集合として各単語を表現している。
論文 参考訳(メタデータ) (2020-08-26T16:15:18Z) - Rewriting a Deep Generative Model [56.91974064348137]
我々は,深層生成モデルによって符号化された特定の規則の操作という,新たな問題設定を導入する。
本稿では,ディープネットワークの層を線形連想メモリとして操作することで,所望のルールを変更する定式化を提案する。
本稿では,生成モデルのルールを対話的に変更し,望ましい効果を得られるユーザインタフェースを提案する。
論文 参考訳(メタデータ) (2020-07-30T17:58:16Z) - Guiding Symbolic Natural Language Grammar Induction via
Transformer-Based Sequence Probabilities [0.0]
自然言語を統括する構文規則を自動学習する手法を提案する。
この方法は、内部表現に言及することなく、トランスフォーマーにおける学習された言語知識を利用する。
提案手法の実証例を示し, 教師なしのシンボリックリンク-文法帰納法を導出する。
論文 参考訳(メタデータ) (2020-05-26T06:18:47Z) - Learning Compositional Rules via Neural Program Synthesis [67.62112086708859]
少数の例からルールシステム全体を学習するニューロシンボリックモデルを提案する。
入力からの出力を直接予測する代わりに、前述した例の集合を規定する規則の明示的な体系を誘導するようにモデルを訓練する。
論文 参考訳(メタデータ) (2020-03-12T01:06:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。