論文の概要: Enforcing Consistency in Weakly Supervised Semantic Parsing
- arxiv url: http://arxiv.org/abs/2107.05833v1
- Date: Tue, 13 Jul 2021 03:48:04 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-15 00:31:49.339634
- Title: Enforcing Consistency in Weakly Supervised Semantic Parsing
- Title(参考訳): 弱監視セマンティックパーシングにおける一貫性の強化
- Authors: Nitish Gupta, Sameer Singh, Matt Gardner
- Abstract要約: 本稿では,関連する入力に対する出力プログラム間の整合性を利用して,スプリアスプログラムの影響を低減することを提案する。
より一貫性のあるフォーマリズムは、一貫性に基づくトレーニングを必要とせずに、モデルパフォーマンスを改善することにつながります。
- 参考スコア(独自算出の注目度): 68.2211621631765
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The predominant challenge in weakly supervised semantic parsing is that of
spurious programs that evaluate to correct answers for the wrong reasons. Prior
work uses elaborate search strategies to mitigate the prevalence of spurious
programs; however, they typically consider only one input at a time. In this
work we explore the use of consistency between the output programs for related
inputs to reduce the impact of spurious programs. We bias the program search
(and thus the model's training signal) towards programs that map the same
phrase in related inputs to the same sub-parts in their respective programs.
Additionally, we study the importance of designing logical formalisms that
facilitate this kind of consAistency-based training. We find that a more
consistent formalism leads to improved model performance even without
consistency-based training. When combined together, these two insights lead to
a 10% absolute improvement over the best prior result on the Natural Language
Visual Reasoning dataset.
- Abstract(参考訳): 弱い教師付き意味解析における主な課題は、間違った理由のために正しい答えを評価するスプリアスプログラムである。
先行研究では、精巧な探索戦略を用いて、スプリアスプログラムの頻度を緩和するが、通常は一度に一つの入力しか考慮しない。
本研究では,関連する入力に対する出力プログラム間の整合性を利用して,スプリアスプログラムの影響を低減する。
我々は、プログラム検索(したがってモデルのトレーニング信号)を、関連する入力の同じフレーズをそれぞれのプログラムの同じサブパートにマッピングするプログラムにバイアスする。
さらに,このような保守性に基づくトレーニングを促進する論理形式設計の重要性について検討する。
より一貫性のある形式性は、一貫性に基づくトレーニングがなくても、モデルパフォーマンスを改善することにつながります。
組み合わせると、これらの2つの洞察は、自然言語ビジュアル推論データセットの最高の事前結果に対して10%の絶対的な改善をもたらす。
関連論文リスト
- Weakly Supervised Semantic Parsing with Execution-based Spurious Program
Filtering [19.96076749160955]
本稿では,プログラムの実行結果に基づくドメインに依存しないフィルタリング機構を提案する。
私たちはこれらの表現に対して多数決を行い、他のプログラムと大きく異なる意味を持つプログラムを特定し、フィルタリングします。
論文 参考訳(メタデータ) (2023-11-02T11:45:40Z) - Improving Language Models Meaning Understanding and Consistency by
Learning Conceptual Roles from Dictionary [65.268245109828]
現代事前訓練言語モデル(PLM)の非人間的行動は、その信頼性を損なう主要な原因である。
驚くべき現象は、矛盾した結果を生み出す不整合予測の生成である。
本研究では,PLMの認知度を向上させることで,一貫性のない行動問題を緩和する実践的アプローチを提案する。
論文 参考訳(メタデータ) (2023-10-24T06:15:15Z) - Learning from Self-Sampled Correct and Partially-Correct Programs [96.66452896657991]
そこで本研究では,モデルが学習中にサンプリングを行い,自己サンプリングされた完全正当プログラムと部分正当プログラムの両方から学習することを提案する。
自己サンプリング型プログラムと部分修正型プログラムを併用することで,学習とサンプリングプロセスのガイドに役立てることができることを示す。
提案手法は,MLEを用いた単一の参照プログラムからの学習と比較して,パス@kの性能を3.1%から12.3%向上させる。
論文 参考訳(メタデータ) (2022-05-28T03:31:07Z) - On the Configuration of More and Less Expressive Logic Programs [11.331373810571993]
SATとASPの2つのよく知られたモデルベースAI手法は、入力を特徴付けるかもしれない多くの構文的特徴を定義する。
各競合から抽出したSATドメインとASPドメインに関する広範な実験的分析の結果は、入力の再構成と構成を用いて得られる様々な利点を示している。
論文 参考訳(メタデータ) (2022-03-02T10:55:35Z) - Learning from Executions for Semantic Parsing [86.94309120789396]
注釈付きデータの限られた量が利用できる半教師付き学習の課題に焦点をあてる。
ラベルなし発話に対する実行可能プログラムを提案する。
論文 参考訳(メタデータ) (2021-04-12T21:07:53Z) - Latent Programmer: Discrete Latent Codes for Program Synthesis [56.37993487589351]
プログラム合成や文書要約などの多くのシーケンス学習タスクにおいて、重要な問題は出力シーケンスの広い空間を探索することである。
本稿では,検索対象とする出力の表現を学習することを提案する。
本稿では,まず入力/出力サンプルから離散潜在コードを予測するプログラム合成手法であるemphLatent Programmerを紹介し,そのプログラムを対象言語で生成する。
論文 参考訳(メタデータ) (2020-12-01T10:11:35Z) - Verifying Tight Logic Programs with anthem and Vampire [7.804960968120875]
プログラム完了の定義を、ASPのグルーダーグリンゴの入力言語のサブセットで入力と出力を持つプログラムに拡張する。
本稿では,この文脈における安定モデルと完成度の関係について検討し,2つのソフトウェアツールを用いた予備実験について述べる。
論文 参考訳(メタデータ) (2020-08-05T10:01:33Z) - BUSTLE: Bottom-Up Program Synthesis Through Learning-Guided Exploration [72.88493072196094]
プログラムのボトムアップ検索に学習を活用する新しい合成手法を提案する。
特に、入力出力例のセットに基づいて、探索条件中の中間値の合成を優先順位付けするようにモデルを訓練する。
単純な教師付き学習アプローチであっても,学習とボトムアップ検索の組み合わせは極めて効果的であることを示す。
論文 参考訳(メタデータ) (2020-07-28T17:46:18Z) - Program Synthesis with Pragmatic Communication [28.24612900419843]
本研究では,プログラム合成タスクを合理的なコミュニケーションとしてモデル化した新しい帰納的バイアスを導入する。
ユーザスタディでは、エンドユーザの参加者が、非実用的なプログラムシンセサイザーよりも、より効果的に、実践的なプログラムシンセサイザーと通信することを発見した。
論文 参考訳(メタデータ) (2020-07-09T20:55:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。