論文の概要: Representing Syntax and Composition with Geometric Transformations
- arxiv url: http://arxiv.org/abs/2106.01904v1
- Date: Thu, 3 Jun 2021 14:53:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-04 16:14:25.537861
- Title: Representing Syntax and Composition with Geometric Transformations
- Title(参考訳): 幾何学変換による構文と構成の表現
- Authors: Lorenzo Bertolini, Julie Weeds, David Weir, Qiwei Peng
- Abstract要約: 単語の文脈としての構文グラフ(SyG)は分布意味モデル(DSM)に有用であることが示されている。
本稿では,GTが構文的関係をよりよく符号化し,これらの表現を構文的文脈化による句レベル構成の強化に利用できるかを検討する。
- 参考スコア(独自算出の注目度): 1.439493901412045
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The exploitation of syntactic graphs (SyGs) as a word's context has been
shown to be beneficial for distributional semantic models (DSMs), both at the
level of individual word representations and in deriving phrasal
representations via composition. However, notwithstanding the potential
performance benefit, the syntactically-aware DSMs proposed to date have huge
numbers of parameters (compared to conventional DSMs) and suffer from data
sparsity. Furthermore, the encoding of the SyG links (i.e., the syntactic
relations) has been largely limited to linear maps. The knowledge graphs'
literature, on the other hand, has proposed light-weight models employing
different geometric transformations (GTs) to encode edges in a knowledge graph
(KG). Our work explores the possibility of adopting this family of models to
encode SyGs. Furthermore, we investigate which GT better encodes syntactic
relations, so that these representations can be used to enhance phrase-level
composition via syntactic contextualisation.
- Abstract(参考訳): 単語の文脈としての構文グラフ(SyG)の活用は、個々の単語表現のレベルでの分布意味モデル(DSM)や合成によるフレーズ表現の導出において有用であることが示されている。
しかし,現在提案されている構文的DSMは,性能上のメリットがあるにもかかわらず,膨大な数のパラメータ(従来のDSMと比較して)を持ち,データの疎結合に悩まされている。
さらに、SyGリンクの符号化(つまり、構文関係)は線形写像に大きく制限されている。
一方、知識グラフの文献では、異なる幾何学変換(GT)を用いて知識グラフ(KG)のエッジを符号化する軽量モデルが提案されている。
我々の研究は、SyGをエンコードするためにこのモデルのファミリを採用する可能性を探っている。
さらに,どのgtが統語的関係をより良くエンコードするかを調査し,これらの表現を統語的文脈化を通じて句レベルの構成の強化に利用できることを示す。
関連論文リスト
- Disentangled Representation Learning with Large Language Models for
Text-Attributed Graphs [57.052160123387104]
本稿では,TAGに対するLLMの推論と予測能力を向上させることができるDGTLモデルを提案する。
提案するDGTLモデルでは, グラフ構造情報をGNN層に組み込む。
実験により,提案したDGTLモデルにより,最先端のベースラインよりも優れた性能,あるいは同等の性能が得られることを示した。
論文 参考訳(メタデータ) (2023-10-27T14:00:04Z) - Neural Machine Translation with Dynamic Graph Convolutional Decoder [32.462919670070654]
本稿では,グラフとシーケンス)構造入力から(グラフとシーケンス)出力への変換アーキテクチャを提案する。
我々は5つの広く知られている翻訳ベンチマークで広範な実験を行い、提案手法がベースラインや他の構文認識の変種よりも一貫した改善を実現することを検証した。
論文 参考訳(メタデータ) (2023-05-28T11:58:07Z) - Semantic Random Walk for Graph Representation Learning in Attributed
Graphs [2.318473106845779]
本稿では,2つの異種ソースの結合最適化を高次近接ベースフレームワークに定式化するための新しい意味グラフ表現(SGR)法を提案する。
高次トポロジ確率を考慮した従来の埋め込み法は、新しく構築されたグラフに容易に適用でき、ノードと属性の両方の表現を学習することができる。
学習された属性の埋め込みは、セマンティック指向の推論タスクを効果的にサポートし、グラフの深いセマンティックを明らかにするのに役立つ。
論文 参考訳(メタデータ) (2023-05-11T02:35:16Z) - Graph Adaptive Semantic Transfer for Cross-domain Sentiment
Classification [68.06496970320595]
クロスドメイン感情分類(CDSC)は、ソースドメインから学んだ伝達可能なセマンティクスを使用して、ラベルなしのターゲットドメインにおけるレビューの感情を予測することを目的としている。
本稿では、単語列と構文グラフの両方からドメイン不変セマンティクスを学習できる適応型構文グラフ埋め込み法であるグラフ適応意味伝達(GAST)モデルを提案する。
論文 参考訳(メタデータ) (2022-05-18T07:47:01Z) - Entailment Graph Learning with Textual Entailment and Soft Transitivity [69.91691115264132]
テキスト・エンタテインメント・トランジシティー(EGT2)を用いた2段階のエンタテインメント・グラフを提案する。
EGT2 は CCG パースした述語によって形成されるテンプレート文間のテキスト的含意を認識することにより、局所的含意関係を学習する。
生成した局所グラフに基づいて、EGT2は3つの新しいソフトな推移性制約を用いて、包含構造における論理的推移性を考える。
論文 参考訳(メタデータ) (2022-04-07T08:33:06Z) - GN-Transformer: Fusing Sequence and Graph Representation for Improved
Code Summarization [0.0]
融合シーケンスとグラフのモダリティに基づいてエンドツーエンドの学習を行う新しい手法であるGN-Transformerを提案する。
提案手法は,2つのコード要約データセットと3つの自動コード要約メトリクスにおいて,最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-11-17T02:51:37Z) - The Low-Dimensional Linear Geometry of Contextualized Word
Representations [27.50785941238007]
ELMOおよびBERTにおける文脈化単語表現の線形幾何学について検討する。
様々な言語特徴が低次元部分空間に符号化されていることを示す。
論文 参考訳(メタデータ) (2021-05-15T00:58:08Z) - Learn from Syntax: Improving Pair-wise Aspect and Opinion Terms
Extractionwith Rich Syntactic Knowledge [17.100366742363803]
豊富な構文知識を取り入れ、ペアワイズなアスペクトとオピニオン用語抽出(PAOTE)タスクを強化することを提案する。
まず,依存エッジやラベルをモデル化するためのlagcn( label-aware graph convolutional network)を含む構文特徴をエンコードする構文融合エンコーダを構築した。
ペアリングでは、高次アスペクト-オピニオン項のペアリングにBiaffineとTriaffineスコアを採用し、一方、構文認識スコアにLAGCNの構文強化表現を修復する。
論文 参考訳(メタデータ) (2021-05-06T08:45:40Z) - Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。
本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
論文 参考訳(メタデータ) (2021-01-16T16:18:43Z) - GINet: Graph Interaction Network for Scene Parsing [58.394591509215005]
画像領域に対する文脈推論を促進するために,グラフインタラクションユニット(GIユニット)とセマンティックコンテキストロス(SC-loss)を提案する。
提案されたGINetは、Pascal-ContextやCOCO Stuffなど、一般的なベンチマークにおける最先端のアプローチよりも優れている。
論文 参考訳(メタデータ) (2020-09-14T02:52:45Z) - Tensor Graph Convolutional Networks for Multi-relational and Robust
Learning [74.05478502080658]
本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。
提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
論文 参考訳(メタデータ) (2020-03-15T02:33:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。