論文の概要: An Empirical Study of Compound PCFGs
- arxiv url: http://arxiv.org/abs/2103.02298v1
- Date: Wed, 3 Mar 2021 10:24:26 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-04 15:03:25.358700
- Title: An Empirical Study of Compound PCFGs
- Title(参考訳): 複合PCFGの実証的研究
- Authors: Yanpeng Zhao, Ivan Titov
- Abstract要約: 複合確率的文脈自由文法(C-PCFGs)は,最近,句構造文法誘導のための新しい手法を確立した。
本研究は,C-PCFGを高速に実装して,2019年度のコンペティションを補完する評価を行うものである。
- 参考スコア(独自算出の注目度): 42.06828478417792
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Compound probabilistic context-free grammars (C-PCFGs) have recently
established a new state of the art for phrase-structure grammar induction.
However, due to the high time-complexity of chart-based representation and
inference, it is difficult to investigate them comprehensively. In this work,
we rely on a fast implementation of C-PCFGs to conduct evaluation complementary
to that of~\citet{kim-etal-2019-compound}. We highlight three key findings: (1)
C-PCFGs are data-efficient, (2) C-PCFGs make the best use of global
sentence-level information in preterminal rule probabilities, and (3) the best
configurations of C-PCFGs on English do not always generalize to
morphology-rich languages.
- Abstract(参考訳): 複合確率的文脈自由文法(C-PCFGs)は,最近,句構造文法誘導のための新しい手法を確立した。
しかし,チャートに基づく表現と推論の時間的複雑度が高いため,それらを総合的に検討することは困難である。
本研究では,C-PCFGを高速に実装して,~\citet{kim-etal-2019-compound} と相補的な評価を行う。
1)C-PCFGはデータ効率が高い,(2)C-PCFGはグローバル文レベルの情報を最大限に活用する,(3)英語におけるC-PCFGの最適な構成は,常に形態豊かな言語に一般化されるとは限らない。
関連論文リスト
- Simple Hardware-Efficient PCFGs with Independent Left and Right
Productions [77.12660133995362]
この研究は、独立した左右のプロダクションを持つ単純なPCFG形式であるemphSimplePCFGを導入している。
教師なしのアルゴリズムとして、我々の単純なPCFGは英語 PTB の平均 F1 65.1 を取得し、言語モデルとして、119.0 のパープレキシティを得る。
論文 参考訳(メタデータ) (2023-10-23T14:48:51Z) - Convergence and Diversity in the Control Hierarchy [134.09048604473793]
4つの形式主義は弱同値であるだけでなく、d-弱同値(d-weak equivalence)と呼ばれるより厳密な意味で等価であることを示す。
CFGを制御するCFGはTAGであり、PDAを制御するPDAは組み込みPDAであり、CFGを制御するPDAはLIGである。
このファミリーの4番目のメンバーであるCFGは、我々が知っているいかなる形式主義にも対応しないので、我々はそれを発明し、それをプッシュダウン随伴オートマトン(Pushdown Adjoining Automaton)と呼ぶ。
論文 参考訳(メタデータ) (2023-06-06T12:30:29Z) - Physics of Language Models: Part 1, Context-Free Grammar [61.05762942335984]
我々は、GPTのようなHOW生成言語モデルを研究するための制御実験を設計し、文脈自由文法(CFG)を学ぶ。
難しい(長くあいまいな)CFGであっても、事前学習したトランスフォーマーは、ほぼ完璧な精度と印象的な多様性で文を生成することができる。
論文 参考訳(メタデータ) (2023-05-23T04:28:16Z) - Initialisation and Grammar Design in Grammar-Guided Evolutionary
Computation [0.0]
遺伝的プログラミング(CFG-GP)はランダム検索やGEよりも初期化や文法設計に敏感でないことを示す。
また,CFG-GPによる測定結果の低さは,簡単なチューニングパラメータの調整によって管理されることを示した。
論文 参考訳(メタデータ) (2022-04-15T10:15:40Z) - Compositional Generalization Requires Compositional Parsers [69.77216620997305]
直近のCOGSコーパスにおける構成原理によって導かれるシーケンス・ツー・シーケンスモデルとモデルを比較した。
構造一般化は構成一般化の重要な尺度であり、複雑な構造を認識するモデルを必要とする。
論文 参考訳(メタデータ) (2022-02-24T07:36:35Z) - Efficient Explanations for Knowledge Compilation Languages [17.82645653054042]
本稿では、最もよく知られているKC言語の多くに対して、よく知られた説明のクラスを時間内に計算できることを示す。
また,説明文をd-DNNFよりも簡潔なKC言語に拡張できる条件についても検討した。
論文 参考訳(メタデータ) (2021-07-04T14:45:32Z) - Neural Bi-Lexicalized PCFG Induction [22.728124473130876]
本稿では,L-PCFGをパラメータ化する手法を提案する。
提案手法はビレクシカルな依存関係を直接モデル化し,L-PCFGの学習と表現の複雑さを低減させる。
論文 参考訳(メタデータ) (2021-05-31T15:00:03Z) - PCFGs Can Do Better: Inducing Probabilistic Context-Free Grammars with
Many Symbols [22.728124473130876]
テンソル分解に基づくPCFGの新しいパラメータ化形式を提案する。
ニューラルパラメタライゼーションを新しい形式に応用し,教師なし解析性能を向上させる。
10言語のモデルを評価し、より多くのシンボルの使用の有効性を実証しています。
論文 参考訳(メタデータ) (2021-04-28T12:25:27Z) - Discriminative Learning for Probabilistic Context-Free Grammars based on
Generalized H-Criterion [0.0]
基準-Hの一般化に基づく確率的文脈自由文法(PCFG)のための識別学習アルゴリズムの一群を提示する。
論文 参考訳(メタデータ) (2021-03-15T19:07:17Z) - The Return of Lexical Dependencies: Neural Lexicalized PCFGs [103.41187595153652]
語彙化PCFGのニューラルモデルを提案する。
実験により、この統一されたフレームワークは、いずれかの形式主義単独で達成されるよりも、両方の表現に対してより強い結果をもたらすことが示された。
論文 参考訳(メタデータ) (2020-07-29T22:12:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。