論文の概要: Holographic Neural PCFG for Unsupervised Parsing

• arxiv url: http://arxiv.org/abs/2607.08063v1
• Date: Thu, 09 Jul 2026 02:29:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-10 14:45:27.395599
• Title: Holographic Neural PCFG for Unsupervised Parsing
• Title（参考訳）: 教師なし構文解析のためのホログラフィック・ニューラルPCFG
• Authors: Ryosuke Yamaki, Daichi Mochihashi, Nobutaka Shimada, Tadahiro Taniguchi,
• Abstract要約: ホログラフィック・ニューラルPCFGは代数記号埋め込みとしてのPCFGルールを再放送する。 Hol-PCFGは6言語で最先端の構文解析性能を達成する。
• 参考スコア（独自算出の注目度）: 14.432298879095555
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Unsupervised constituency parsing aims to accurately induce latent tree structures from raw text alone. Recent neural parameterizations of PCFGs achieve strong performance in both supervised and unsupervised parsing, yet rely on high-capacity black-box networks for rule scoring -- as exemplified by the Neural PCFG family -- leaving rule probabilities without an interpretable mathematical form. In this paper, we propose Holographic Neural PCFG (Hol-PCFG), which recasts PCFG rule scoring as algebraic relation modeling among grammar-symbol embeddings. Hol-PCFG adapts Holographic Embeddings (Nickel et al., 2016), which scores knowledge-graph triples via circular correlation, to the left-child, right-child, and lexical-emission relations over torus-constrained embeddings, giving every rule probability a closed form that carries the intrinsic structure of grammar rules by construction. Hol-PCFG achieves state-of-the-art parsing performance in six languages while cutting rule-scoring parameters by 99.94% relative to the baseline model and training more stably. Additionally, we demonstrate that Hol-PCFG can parse Japanese directly from characters without any morphological segmentation, retaining nearly the same morpheme-level performance.
• Abstract（参考訳）: 教師なし選挙区解析は、原文のみから潜木構造を正確に誘導することを目的としている。 近年のPCFGのニューラルパラメタライゼーションは、教師付き解析と教師なし解析の両方において強力なパフォーマンスを達成しているが、Neural PCFGファミリーが示すように、ルールスコアのための高容量のブラックボックスネットワークに依存している。 本稿では, 文法記号埋め込みにおける代数的関係モデルとして, PCFGルールスコアをリキャストするホログラフィック・ニューラルPCFG(Hol-PCFG)を提案する。 Hol-PCFG はホログラフィック・エンベディング (Nickel et al , 2016) に適応し、ホログラフィック・エンベディング (Holographic Embeddings) は、知識グラフのトリプルを円形の相関によって、トーラスに制約された埋め込みに対する左子、右子、および語彙的エミッション関係に適合させ、全ての規則確率は構築によって文法規則の本質的な構造を包含する閉じた形式を与える。 Hol-PCFGは6つの言語で最先端の構文解析性能を達成し、基準モデルの99.94%を削減し、安定的にトレーニングする。 さらに,Hol-PCFGは形態素分割を伴わずに文字から直接日本語を解析できることを示す。

関連論文リスト

• Improving LLM Reasoning with Homophily-aware Structural and Semantic Text-Attributed Graph Compression [55.51959317490934]
  大規模言語モデル(LLM)は、テキスト分散グラフ(TAG)理解において有望な能力を示している。 グラフは本来、構造情報や意味情報を豊富に含むものであり、それらの有効利用はLLMの推論性能の潜在的な利益を解放する可能性があると論じる。 グラフホモフィリーの活用を目的としたフレームワーク LLMs (HS2C) のホモフィリー対応構造とセマンティック圧縮を提案する。
  論文  参考訳（メタデータ） (2026-01-13T03:35:18Z)
• Simple Hardware-Efficient PCFGs with Independent Left and Right Productions [77.12660133995362]
  この研究は、独立した左右のプロダクションを持つ単純なPCFG形式であるemphSimplePCFGを導入している。 教師なしのアルゴリズムとして、我々の単純なPCFGは英語 PTB の平均 F1 65.1 を取得し、言語モデルとして、119.0 のパープレキシティを得る。
  論文  参考訳（メタデータ） (2023-10-23T14:48:51Z)
• Stay on topic with Classifier-Free Guidance [57.28934343207042]
  CFGは純粋言語モデリングにおける推論時手法として広く利用できることを示す。 CFG は Pythia, GPT-2 および LLaMA ファミリーモデルの性能をタスクの配列にわたって改善することを示す。
  論文  参考訳（メタデータ） (2023-06-30T17:07:02Z)
• Physics of Language Models: Part 1, Learning Hierarchical Language Structures [51.68385617116854]
  トランスフォーマーベースの言語モデルは効率的だが複雑であり、内部の動作や推論メカニズムを理解することは大きな課題である。 本稿では,長文を生成可能な階層規則を生成する合成CFGのファミリーを紹介する。 我々は、GPTのような生成モデルがCFG定義階層を正確に学習し、推論し、それに基づいて文を生成することを実証する。
  論文  参考訳（メタデータ） (2023-05-23T04:28:16Z)
• OrthoReg: Improving Graph-regularized MLPs via Orthogonality Regularization [66.30021126251725]
  グラフニューラルネットワーク(GNN)は現在、グラフ構造データのモデリングにおいて支配的である。 グラフ正規化ネットワーク(GR-MLP)はグラフ構造情報をモデル重みに暗黙的に注入するが、その性能はほとんどのタスクにおいてGNNとほとんど一致しない。 GR-MLPは,最大数個の固有値が埋め込み空間を支配する現象である次元崩壊に苦しむことを示す。 次元崩壊問題を緩和する新しいGR-MLPモデルであるOrthoRegを提案する。
  論文  参考訳（メタデータ） (2023-01-31T21:20:48Z)
• Unsupervised Discontinuous Constituency Parsing with Mildly Context-Sensitive Grammars [14.256041558454786]
  教師なし不連続構文解析のための文脈に敏感な文法を用いた文法帰納法について検討した。 提案手法はルール構造を事前に修正し,パラメータ学習を最大限に活用することに焦点を当てる。 ドイツ語とオランダ語の実験から,我々の手法は連続的かつ不連続な構造を持つ言語的に意味のある木を誘導できることが示された。
  論文  参考訳（メタデータ） (2022-12-18T18:10:45Z)
• Neural Bi-Lexicalized PCFG Induction [22.728124473130876]
  本稿では,L-PCFGをパラメータ化する手法を提案する。 提案手法はビレクシカルな依存関係を直接モデル化し,L-PCFGの学習と表現の複雑さを低減させる。
  論文  参考訳（メタデータ） (2021-05-31T15:00:03Z)
• PCFGs Can Do Better: Inducing Probabilistic Context-Free Grammars with Many Symbols [22.728124473130876]
  テンソル分解に基づくPCFGの新しいパラメータ化形式を提案する。 ニューラルパラメタライゼーションを新しい形式に応用し,教師なし解析性能を向上させる。 10言語のモデルを評価し、より多くのシンボルの使用の有効性を実証しています。
  論文  参考訳（メタデータ） (2021-04-28T12:25:27Z)
• An Empirical Study of Compound PCFGs [35.64371385720051]
  複合文脈自由文法(C-PCFG)は、最近、教師なし句構造文法誘導のための新しい最先端技術を確立した。 英木バンクのC-PCFGを解析し,C-PCFGの多言語評価を行う。 実験の結果、C-PCFGsの最適構成は英語で調整されているが、必ずしも形態学に富む言語に一般化するとは限らない。
  論文  参考訳（メタデータ） (2021-03-03T10:24:26Z)
• The Return of Lexical Dependencies: Neural Lexicalized PCFGs [103.41187595153652]
  語彙化PCFGのニューラルモデルを提案する。 実験により、この統一されたフレームワークは、いずれかの形式主義単独で達成されるよりも、両方の表現に対してより強い結果をもたらすことが示された。
  論文  参考訳（メタデータ） (2020-07-29T22:12:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。