論文の概要: Open Rule Induction
- arxiv url: http://arxiv.org/abs/2110.13577v1
- Date: Tue, 26 Oct 2021 11:20:24 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-27 15:02:16.436524
- Title: Open Rule Induction
- Title（参考訳）: オープンルール誘導
- Authors: Wanyun Cui, Xingran Chen
- Abstract要約: 言語モデル(LM)に基づくルール生成は,ルールの表現力を高めるために提案される。
KBベースの手法は、データの共通点を発見することによってルールを誘導するが、現在のLMベースの手法は「ルールからの学習ルール」である、と我々は主張する。
本稿では,LMの知識を生かしたオープンルールの導出を目的としたオープンルール誘導問題を提案する。
- 参考スコア（独自算出の注目度）: 2.1248439796866228
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Rules have a number of desirable properties. It is easy to understand, infer
new knowledge, and communicate with other inference systems. One weakness of
the previous rule induction systems is that they only find rules within a
knowledge base (KB) and therefore cannot generalize to more open and complex
real-world rules. Recently, the language model (LM)-based rule generation are
proposed to enhance the expressive power of the rules. In this paper, we
revisit the differences between KB-based rule induction and LM-based rule
generation. We argue that, while KB-based methods inducted rules by discovering
data commonalities, the current LM-based methods are "learning rules from
rules". This limits these methods to only produce "canned" rules whose patterns
are constrained by the annotated rules, while discarding the rich expressive
power of LMs for free text.
Therefore, in this paper, we propose the open rule induction problem, which
aims to induce open rules utilizing the knowledge in LMs. Besides, we propose
the Orion (\underline{o}pen \underline{r}ule \underline{i}nducti\underline{on})
system to automatically mine open rules from LMs without supervision of
annotated rules. We conducted extensive experiments to verify the quality and
quantity of the inducted open rules. Surprisingly, when applying the open rules
in downstream tasks (i.e. relation extraction), these automatically inducted
rules even outperformed the manually annotated rules.
- Abstract（参考訳）: 規則には多くの望ましい性質がある。
理解し、新しい知識を推論し、他の推論システムと通信するのは簡単です。
従来のルール誘導システムの弱点の1つは、知識ベース(KB)内でのみルールを見つけ、したがってよりオープンで複雑な現実世界のルールに一般化できないことである。
近年,ルールの表現力を高めるために,言語モデル(lm)に基づくルール生成が提案されている。
本稿では,KBベースのルール生成とLMベースのルール生成の違いを再考する。
KBベースの手法は、データの共通点を発見することによってルールを誘導するが、現在のLMベースの手法は「ルールからの学習ルール」である。
これにより、これらの手法は、注釈付き規則によって制約されたパターンを持つ「缶詰」ルールのみを生成するのに制限される。
そこで本稿では,LMにおける知識を活用したオープンルールの導出を目的としたオープンルール誘導問題を提案する。
さらに,アノテーション付きルールの監督なしにLMからオープンルールを自動的にマイニングするOrion(\underline{o}pen \underline{r}ule \underline{i}nducti\underline{on})システムを提案する。
インダクタンスしたオープンルールの品質と量を検証するための広範な実験を行った。
驚いたことに、下流のタスク(つまり関係抽出)にオープンルールを適用すると、自動的に誘導されたルールは手動で注釈付けされたルールよりも優れていた。
関連論文リスト
- Learning Rules from KGs Guided by Language Models [48.858741745144044]
ルール学習手法は、潜在的に欠落する事実を予測するために適用することができる。
規則のランク付けは、高度に不完全あるいは偏りのあるKGよりも特に難しい。
近年のLanguage Models (LM) の台頭により、いくつかの研究が、LMがKG補完の代替手段として利用できると主張している。
論文 参考訳（メタデータ） (2024-09-12T09:27:36Z) - Rule Extrapolation in Language Models: A Study of Compositional Generalization on OOD Prompts [14.76420070558434]
ルール外挿は、プロンプトが少なくとも1つのルールに違反するOODシナリオを記述する。
規則の交わりによって定義される形式言語に焦点を当てる。
我々はアルゴリズム情報理論に先立ってソロモノフに触発された規則外挿の規範的理論の最初の石を配置した。
論文 参考訳（メタデータ） (2024-09-09T22:36:35Z) - Symbolic Working Memory Enhances Language Models for Complex Rule Application [87.34281749422756]
大規模言語モデル(LLM)は、顕著な推論性能を示しているが、多段階の推論に苦慮している。
本稿では,外部ワーキングメモリを用いたLLMの拡張と,ルール適用のためのニューロシンボリックフレームワークを提案する。
当社のフレームワークは,LLMベースのルール実装とシンボリックルールグラウンディングを反復的に実施する。
論文 参考訳（メタデータ） (2024-08-24T19:11:54Z) - Enabling Large Language Models to Learn from Rules [99.16680531261987]
私たちは、人間がルールから学習することで、新しいタスクや知識を別の方法で学習できることにインスピレーションを受けています。
まず, LLMの強い文脈内能力を用いて, テキスト規則から知識を抽出する規則蒸留法を提案する。
実験の結果, LLMをルールから学習させることは, サンプルサイズと一般化能力の両方において, サンプルベース学習よりもはるかに効率的であることがわかった。
論文 参考訳（メタデータ） (2023-11-15T11:42:41Z) - ChatRule: Mining Logical Rules with Large Language Models for Knowledge
Graph Reasoning [107.61997887260056]
そこで我々は,知識グラフ上の論理ルールをマイニングするための大規模言語モデルの力を解き放つ新しいフレームワークChatRuleを提案する。
具体的には、このフレームワークは、KGのセマンティック情報と構造情報の両方を活用するLLMベースのルールジェネレータで開始される。
生成されたルールを洗練させるために、ルールランキングモジュールは、既存のKGから事実を取り入れてルール品質を推定する。
論文 参考訳（メタデータ） (2023-09-04T11:38:02Z) - RulE: Knowledge Graph Reasoning with Rule Embedding [69.31451649090661]
我々は、論理ルールを活用してKG推論を強化する、textbfRulE(ルール埋め込みのためのスタンド)と呼ばれる原則的なフレームワークを提案する。
RulEは、既存の三重項と一階規則からルールの埋め込みを学習し、統一された埋め込み空間において、textbfentities、textbfrelations、textbflogical rulesを共同で表現する。
複数のベンチマークの結果、我々のモデルは既存の埋め込みベースのアプローチやルールベースのアプローチよりも優れています。
論文 参考訳（メタデータ） (2022-10-24T06:47:13Z) - Automating Defeasible Reasoning in Law [0.0]
ルールベースのシステム、特に法的な規範と契約について、デファシブルな推論について研究する。
我々は、ルールがどのように相互作用し、どのようにオーバーライドされるかを指定するルール修飾子を識別する。
次に、これらの修飾子を排除した規則変換を定義し、規則を公式に翻訳する。
論文 参考訳（メタデータ） (2022-05-15T17:14:15Z) - Differentiable Rule Induction with Learned Relational Features [9.193818627108572]
Rule Network(RRN)は、属性間の線形関係を表す述語とそれらを使用するルールを学習するニューラルネットワークである。
ベンチマークタスクでは、これらの述語は解釈可能性を維持するのに十分単純であるが、予測精度を改善し、アートルール誘導アルゴリズムの状態と比較してより簡潔なルールセットを提供する。
論文 参考訳（メタデータ） (2022-01-17T16:46:50Z) - Learning Symbolic Rules for Reasoning in Quasi-Natural Language [74.96601852906328]
我々は,ルールを手作業で構築することなく,自然言語入力で推論できるルールベースシステムを構築した。
本稿では,形式論理文と自然言語文の両方を表現可能な"Quasi-Natural"言語であるMetaQNLを提案する。
提案手法は,複数の推論ベンチマークにおける最先端の精度を実現する。
論文 参考訳（メタデータ） (2021-11-23T17:49:00Z) - Building Rule Hierarchies for Efficient Logical Rule Learning from
Knowledge Graphs [20.251630903853016]
本稿では,ルール階層を用いて非プロミッシングルールを抽出する新しい手法を提案する。
HPMの応用は非プロムルールの除去に有効であることを示す。
論文 参考訳（メタデータ） (2020-06-29T16:33:30Z) - Towards Learning Instantiated Logical Rules from Knowledge Graphs [20.251630903853016]
本稿では,知識グラフから一階述語論理規則を抽出するために最適化された確率論的学習ルールGPFLを提案する。
GPFLは、抽出された経路を非循環的な抽象規則であるテンプレートに一般化する新しい2段階ルール生成機構を利用する。
オーバーフィッティングルールの存在、予測性能への影響、およびオーバーフィッティングルールをフィルタリングする単純なバリデーション手法の有効性を明らかにする。
論文 参考訳（メタデータ） (2020-03-13T00:32:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。