論文の概要: Representing Syntax and Composition with Geometric Transformations
- arxiv url: http://arxiv.org/abs/2106.01904v1
- Date: Thu, 3 Jun 2021 14:53:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-04 16:14:25.537861
- Title: Representing Syntax and Composition with Geometric Transformations
- Title(参考訳): 幾何学変換による構文と構成の表現
- Authors: Lorenzo Bertolini, Julie Weeds, David Weir, Qiwei Peng
- Abstract要約: 単語の文脈としての構文グラフ(SyG)は分布意味モデル(DSM)に有用であることが示されている。
本稿では,GTが構文的関係をよりよく符号化し,これらの表現を構文的文脈化による句レベル構成の強化に利用できるかを検討する。
- 参考スコア(独自算出の注目度): 1.439493901412045
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The exploitation of syntactic graphs (SyGs) as a word's context has been
shown to be beneficial for distributional semantic models (DSMs), both at the
level of individual word representations and in deriving phrasal
representations via composition. However, notwithstanding the potential
performance benefit, the syntactically-aware DSMs proposed to date have huge
numbers of parameters (compared to conventional DSMs) and suffer from data
sparsity. Furthermore, the encoding of the SyG links (i.e., the syntactic
relations) has been largely limited to linear maps. The knowledge graphs'
literature, on the other hand, has proposed light-weight models employing
different geometric transformations (GTs) to encode edges in a knowledge graph
(KG). Our work explores the possibility of adopting this family of models to
encode SyGs. Furthermore, we investigate which GT better encodes syntactic
relations, so that these representations can be used to enhance phrase-level
composition via syntactic contextualisation.
- Abstract(参考訳): 単語の文脈としての構文グラフ(SyG)の活用は、個々の単語表現のレベルでの分布意味モデル(DSM)や合成によるフレーズ表現の導出において有用であることが示されている。
しかし,現在提案されている構文的DSMは,性能上のメリットがあるにもかかわらず,膨大な数のパラメータ(従来のDSMと比較して)を持ち,データの疎結合に悩まされている。
さらに、SyGリンクの符号化(つまり、構文関係)は線形写像に大きく制限されている。
一方、知識グラフの文献では、異なる幾何学変換(GT)を用いて知識グラフ(KG)のエッジを符号化する軽量モデルが提案されている。
我々の研究は、SyGをエンコードするためにこのモデルのファミリを採用する可能性を探っている。
さらに,どのgtが統語的関係をより良くエンコードするかを調査し,これらの表現を統語的文脈化を通じて句レベルの構成の強化に利用できることを示す。
関連論文リスト
- Graph-Dictionary Signal Model for Sparse Representations of Multivariate Data [49.77103348208835]
グラフの有限集合がラプラシアンの重み付き和を通してデータ分布の関係を特徴付けるグラフ辞書信号モデルを定義する。
本稿では,観測データからグラフ辞書表現を推論するフレームワークを提案する。
我々は,脳活動データに基づく運動画像復号作業におけるグラフ辞書表現を利用して,従来の手法よりも想像的な動きをよりよく分類する。
論文 参考訳(メタデータ) (2024-11-08T17:40:43Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - Unleashing the Potential of Text-attributed Graphs: Automatic Relation Decomposition via Large Language Models [31.443478448031886]
RoSE (Relation-oriented Semantic Edge-Decomposition) は、生のテキスト属性を分析してグラフ構造を分解する新しいフレームワークである。
我々のフレームワークは、さまざまなデータセットのノード分類性能を大幅に向上させ、ウィスコンシンデータセットでは最大16%の改善を実現した。
論文 参考訳(メタデータ) (2024-05-28T20:54:47Z) - Semantic Random Walk for Graph Representation Learning in Attributed
Graphs [2.318473106845779]
本稿では,2つの異種ソースの結合最適化を高次近接ベースフレームワークに定式化するための新しい意味グラフ表現(SGR)法を提案する。
高次トポロジ確率を考慮した従来の埋め込み法は、新しく構築されたグラフに容易に適用でき、ノードと属性の両方の表現を学習することができる。
学習された属性の埋め込みは、セマンティック指向の推論タスクを効果的にサポートし、グラフの深いセマンティックを明らかにするのに役立つ。
論文 参考訳(メタデータ) (2023-05-11T02:35:16Z) - Graph Adaptive Semantic Transfer for Cross-domain Sentiment
Classification [68.06496970320595]
クロスドメイン感情分類(CDSC)は、ソースドメインから学んだ伝達可能なセマンティクスを使用して、ラベルなしのターゲットドメインにおけるレビューの感情を予測することを目的としている。
本稿では、単語列と構文グラフの両方からドメイン不変セマンティクスを学習できる適応型構文グラフ埋め込み法であるグラフ適応意味伝達(GAST)モデルを提案する。
論文 参考訳(メタデータ) (2022-05-18T07:47:01Z) - GN-Transformer: Fusing Sequence and Graph Representation for Improved
Code Summarization [0.0]
融合シーケンスとグラフのモダリティに基づいてエンドツーエンドの学習を行う新しい手法であるGN-Transformerを提案する。
提案手法は,2つのコード要約データセットと3つの自動コード要約メトリクスにおいて,最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-11-17T02:51:37Z) - The Low-Dimensional Linear Geometry of Contextualized Word
Representations [27.50785941238007]
ELMOおよびBERTにおける文脈化単語表現の線形幾何学について検討する。
様々な言語特徴が低次元部分空間に符号化されていることを示す。
論文 参考訳(メタデータ) (2021-05-15T00:58:08Z) - Learn from Syntax: Improving Pair-wise Aspect and Opinion Terms
Extractionwith Rich Syntactic Knowledge [17.100366742363803]
豊富な構文知識を取り入れ、ペアワイズなアスペクトとオピニオン用語抽出(PAOTE)タスクを強化することを提案する。
まず,依存エッジやラベルをモデル化するためのlagcn( label-aware graph convolutional network)を含む構文特徴をエンコードする構文融合エンコーダを構築した。
ペアリングでは、高次アスペクト-オピニオン項のペアリングにBiaffineとTriaffineスコアを採用し、一方、構文認識スコアにLAGCNの構文強化表現を修復する。
論文 参考訳(メタデータ) (2021-05-06T08:45:40Z) - Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。
本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
論文 参考訳(メタデータ) (2021-01-16T16:18:43Z) - GINet: Graph Interaction Network for Scene Parsing [58.394591509215005]
画像領域に対する文脈推論を促進するために,グラフインタラクションユニット(GIユニット)とセマンティックコンテキストロス(SC-loss)を提案する。
提案されたGINetは、Pascal-ContextやCOCO Stuffなど、一般的なベンチマークにおける最先端のアプローチよりも優れている。
論文 参考訳(メタデータ) (2020-09-14T02:52:45Z) - Tensor Graph Convolutional Networks for Multi-relational and Robust
Learning [74.05478502080658]
本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。
提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
論文 参考訳(メタデータ) (2020-03-15T02:33:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。