論文の概要: Learning Compositional Rules via Neural Program Synthesis
- arxiv url: http://arxiv.org/abs/2003.05562v2
- Date: Thu, 22 Oct 2020 19:48:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-24 13:38:57.138427
- Title: Learning Compositional Rules via Neural Program Synthesis
- Title(参考訳): ニューラルプログラム合成による構成規則の学習
- Authors: Maxwell I. Nye, Armando Solar-Lezama, Joshua B. Tenenbaum, Brenden M.
Lake
- Abstract要約: 少数の例からルールシステム全体を学習するニューロシンボリックモデルを提案する。
入力からの出力を直接予測する代わりに、前述した例の集合を規定する規則の明示的な体系を誘導するようにモデルを訓練する。
- 参考スコア(独自算出の注目度): 67.62112086708859
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many aspects of human reasoning, including language, require learning rules
from very little data. Humans can do this, often learning systematic rules from
very few examples, and combining these rules to form compositional rule-based
systems. Current neural architectures, on the other hand, often fail to
generalize in a compositional manner, especially when evaluated in ways that
vary systematically from training. In this work, we present a neuro-symbolic
model which learns entire rule systems from a small set of examples. Instead of
directly predicting outputs from inputs, we train our model to induce the
explicit system of rules governing a set of previously seen examples, drawing
upon techniques from the neural program synthesis literature. Our
rule-synthesis approach outperforms neural meta-learning techniques in three
domains: an artificial instruction-learning domain used to evaluate human
learning, the SCAN challenge datasets, and learning rule-based translations of
number words into integers for a wide range of human languages.
- Abstract(参考訳): 言語を含む人間の推論の多くの側面は、ごくわずかなデータから学習ルールを必要とする。
人間は、非常に少数の例から体系的なルールを学び、これらのルールを組み合わせて構成規則ベースのシステムを作ることができる。
一方、現在のニューラルアーキテクチャは、特にトレーニングから系統的に異なる方法で評価された場合、構成的に一般化できないことが多い。
本稿では,少数の例からルールシステム全体を学習するニューロシンボリックモデルを提案する。
入力からの出力を直接予測する代わりに、我々は、ニューラルネットワーク合成文献の技法に基づいて、前例の集合を規定する規則の明示的な体系を誘導するようにモデルを訓練する。
我々のルール合成アプローチは、人間の学習を評価するための人工的な命令学習ドメイン、SCANチャレンジデータセット、および幅広い人間の言語に対する数語から整数への学習ルールベースの翻訳である。
関連論文リスト
- Training Neural Networks as Recognizers of Formal Languages [87.06906286950438]
形式言語理論は、特に認識者に関するものである。
代わりに、非公式な意味でのみ類似したプロキシタスクを使用するのが一般的である。
ニューラルネットワークを文字列のバイナリ分類器として直接訓練し評価することで、このミスマッチを補正する。
論文 参考訳(メタデータ) (2024-11-11T16:33:25Z) - Compositional Program Generation for Few-Shot Systematic Generalization [59.57656559816271]
コンポジションプログラムジェネレータ(CPG)と呼ばれるニューロシンボリックアーキテクチャに関する研究
CPGには3つの重要な特徴がある: 文法規則の形で、テキストモジュラリティ、テキストコンポジション、テキストタストラクションである。
SCAN と COGS のベンチマークでは,SCAN の14例と COGS の22例を使用して,完全な一般化を実現している。
論文 参考訳(メタデータ) (2023-09-28T14:33:20Z) - Neural-Symbolic Recursive Machine for Systematic Generalization [113.22455566135757]
我々は、基底記号システム(GSS)のコアとなるニューラル・シンボリック再帰機械(NSR)を紹介する。
NSRは神経知覚、構文解析、意味推論を統合している。
我々はNSRの有効性を,系統的一般化能力の探索を目的とした4つの挑戦的ベンチマークで評価した。
論文 参考訳(メタデータ) (2022-10-04T13:27:38Z) - A Neural Model for Regular Grammar Induction [8.873449722727026]
我々は文法を計算のモデルとして扱い、正および負の例から正規文法を誘導する新しいニューラルアプローチを提案する。
我々のモデルは完全に説明可能であり、その中間結果は部分解析として直接解釈可能であり、十分なデータが得られると任意の正規文法を学習することができる。
論文 参考訳(メタデータ) (2022-09-23T14:53:23Z) - Dependency-based Mixture Language Models [53.152011258252315]
依存性に基づく混合言語モデルを紹介する。
より詳しくは、依存関係モデリングの新たな目的により、まずニューラルネットワークモデルを訓練する。
次に、前回の依存性モデリング確率分布と自己意図を混合することにより、次の確率を定式化する。
論文 参考訳(メタデータ) (2022-03-19T06:28:30Z) - Non-neural Models Matter: A Re-evaluation of Neural Referring Expression
Generation Systems [6.651864489482537]
近年、ニューラルモデルは、NLGにおけるルールベースや古典的な機械学習アプローチよりも優れています。
いくつかのタスクにおいて、よく設計された非神経アプローチは、ニューラルネットワークよりも優れたパフォーマンスを実現するため、それらを見落とすべきではない、と私たちは主張する。
論文 参考訳(メタデータ) (2022-03-15T21:47:25Z) - Sample-efficient Linguistic Generalizations through Program Synthesis:
Experiments with Phonology Problems [12.661592819420727]
ドメイン固有言語におけるプログラムとして音韻規則を学習する合成モデルを開発した。
我々は、言語学オリンピアードの新たな問題データセットを用いて、少数のトレーニング例からモデルを一般化する能力をテストする。
論文 参考訳(メタデータ) (2021-06-11T18:36:07Z) - NSL: Hybrid Interpretable Learning From Noisy Raw Data [66.15862011405882]
本稿では,ラベル付き非構造データから解釈可能なルールを学習するニューラルシンボリック学習フレームワークNSLを提案する。
NSLは、機能抽出のためのトレーニング済みニューラルネットワークと、解集合セマンティクスに基づくルール学習のための最先端のILPシステムであるFastLASを組み合わせる。
NSLは、MNISTデータから堅牢なルールを学び、ニューラルネットワークやランダムフォレストベースラインと比較して、比較または優れた精度を達成できることを実証します。
論文 参考訳(メタデータ) (2020-12-09T13:02:44Z) - Systematic Generalization on gSCAN with Language Conditioned Embedding [19.39687991647301]
体系的一般化とは、学習アルゴリズムが学習した振る舞いを目に見えない状況に外挿する能力を指す。
本稿では,入力自然言語を条件とした動的メッセージパッシングによるオブジェクトの文脈的埋め込みを学習する手法を提案する。
論文 参考訳(メタデータ) (2020-09-11T17:35:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。