論文の概要: Exploring End-to-End Differentiable Natural Logic Modeling
- arxiv url: http://arxiv.org/abs/2011.04044v1
- Date: Sun, 8 Nov 2020 18:18:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-28 08:01:51.512691
- Title: Exploring End-to-End Differentiable Natural Logic Modeling
- Title(参考訳): エンド・ツー・エンド微分可能自然論理モデリングの探索
- Authors: Yufei Feng, Zi'ou Zheng, Quan Liu, Michael Greenspan, Xiaodan Zhu
- Abstract要約: ニューラルネットワークに自然言語を統合する、エンドツーエンドでトレーニングされた差別化可能なモデルについて検討する。
提案モデルでは,モジュールネットワークを用いて自然言語操作をモデル化し,メモリコンポーネントで拡張してコンテキスト情報をモデル化する。
- 参考スコア(独自算出の注目度): 21.994060519995855
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We explore end-to-end trained differentiable models that integrate natural
logic with neural networks, aiming to keep the backbone of natural language
reasoning based on the natural logic formalism while introducing subsymbolic
vector representations and neural components. The proposed model adapts module
networks to model natural logic operations, which is enhanced with a memory
component to model contextual information. Experiments show that the proposed
framework can effectively model monotonicity-based reasoning, compared to the
baseline neural network models without built-in inductive bias for
monotonicity-based reasoning. Our proposed model shows to be robust when
transferred from upward to downward inference. We perform further analyses on
the performance of the proposed model on aggregation, showing the effectiveness
of the proposed subcomponents on helping achieve better intermediate
aggregation performance.
- Abstract(参考訳): ニューラルネットワークと自然言語を融合したエンドツーエンドの学習可能な微分モデルについて検討し、サブシンボリックベクトル表現とニューラルコンポーネントを導入しながら、自然言語の論理形式に基づく推論のバックボーンを維持することを目的とした。
提案モデルでは,モジュールネットワークを用いて自然言語操作をモデル化し,メモリコンポーネントで拡張してコンテキスト情報をモデル化する。
実験により,提案フレームワークは,単調性に基づく推論の帰納バイアスを組み込まないベースラインニューラルネットワークモデルと比較して,効果的に単調性に基づく推論をモデル化できることが示された。
提案手法は,上向きから下向きの推論にロバストであることが判明した。
本研究は,提案モデルのアグリゲーション性能に関するさらなる解析を行い,中間アグリゲーション性能の向上に寄与するサブコンポーネントの有効性を示す。
関連論文リスト
- A Transition System Abstraction Framework for Neural Network Dynamical
System Models [2.414910571475855]
本稿では,ニューラルネットワーク力学系モデルのためのトランジションシステム抽象化フレームワークを提案する。
このフレームワークは、データ駆動型ニューラルネットワークモデルをトランジションシステムに抽象化し、ニューラルネットワークモデルを解釈可能にする。
論文 参考訳(メタデータ) (2024-02-18T23:49:18Z) - On the Trade-off Between Efficiency and Precision of Neural Abstraction [62.046646433536104]
ニューラル抽象化は、最近、複雑な非線形力学モデルの形式近似として導入されている。
我々は形式的帰納的合成法を用いて、これらのセマンティクスを用いた動的モデルをもたらすニューラル抽象化を生成する。
論文 参考訳(メタデータ) (2023-07-28T13:22:32Z) - A Statistical-Modelling Approach to Feedforward Neural Network Model Selection [0.8287206589886881]
フィードフォワードニューラルネットワーク(FNN)は非線形回帰モデルと見なすことができる。
FNNのためのベイズ情報基準(BIC)を用いて,新しいモデル選択法を提案する。
サンプル外性能よりもBICを選択することは、真のモデルを回復する確率を増大させる。
論文 参考訳(メタデータ) (2022-07-09T11:07:04Z) - On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。
このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。
我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
論文 参考訳(メタデータ) (2022-06-09T17:12:32Z) - Neuro-symbolic Natural Logic with Introspective Revision for Natural
Language Inference [17.636872632724582]
イントロスペクティブ・リビジョンを用いた強化学習に基づくニューロシンボリック・ナチュラル・ロジック・フレームワークを提案する。
提案モデルには解釈可能性があり, 単調性推論, 体系的一般化, 解釈可能性に優れた能力を示す。
論文 参考訳(メタデータ) (2022-03-09T16:31:58Z) - Decomposing Natural Logic Inferences in Neural NLI [9.606462437067984]
ニューラルNLIモデルは、単調性や概念包摂性といった、自然論理の中心となる重要な意味的特徴を捉えているかどうかを考察する。
ベンチマークで高いスコアを得る人気NLIモデルの表現において、モノトニック性情報は顕著に弱いことが判明した。
論文 参考訳(メタデータ) (2021-12-15T17:35:30Z) - Instance-Based Neural Dependency Parsing [56.63500180843504]
依存関係解析のための解釈可能な推論プロセスを持つニューラルモデルを開発する。
私たちのモデルはインスタンスベースの推論を採用しており、トレーニングセットのエッジと比較することで、依存関係のエッジを抽出し、ラベル付けします。
論文 参考訳(メタデータ) (2021-09-28T05:30:52Z) - Causal Abstractions of Neural Networks [9.291492712301569]
本稿では,テキストの抽象の形式的理論に基づく新しい構造解析手法を提案する。
本稿では,Multiply Quantified Natural Language Inference (MQNLI) コーパスで学習したニューラルネットワークの解析に本手法を適用した。
論文 参考訳(メタデータ) (2021-06-06T01:07:43Z) - Firearm Detection via Convolutional Neural Networks: Comparing a
Semantic Segmentation Model Against End-to-End Solutions [68.8204255655161]
武器の脅威検出とライブビデオからの攻撃的な行動は、潜在的に致命的な事故の迅速検出と予防に使用できる。
これを実現する一つの方法は、人工知能と、特に画像分析のための機械学習を使用することです。
従来のモノリシックなエンド・ツー・エンドのディープラーニングモデルと、セマンティクスセグメンテーションによって火花を検知する単純なニューラルネットワークのアンサンブルに基づく前述したモデルを比較した。
論文 参考訳(メタデータ) (2020-12-17T15:19:29Z) - Explaining and Improving Model Behavior with k Nearest Neighbor
Representations [107.24850861390196]
モデルの予測に責任のあるトレーニング例を特定するために, k 近傍表現を提案する。
我々は,kNN表現が学習した素因関係を明らかにするのに有効であることを示す。
以上の結果から,kNN手法により,直交モデルが逆入力に対してより堅牢であることが示唆された。
論文 参考訳(メタデータ) (2020-10-18T16:55:25Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。