論文の概要: Efficient Sentence Embedding via Semantic Subspace Analysis
- arxiv url: http://arxiv.org/abs/2002.09620v2
- Date: Wed, 4 Mar 2020 04:49:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-29 19:29:54.361249
- Title: Efficient Sentence Embedding via Semantic Subspace Analysis
- Title(参考訳): 意味部分空間解析による効率的な文埋め込み
- Authors: Bin Wang and Fenxiao Chen and Yuncheng Wang and C.-C. Jay Kuo
- Abstract要約: 構成語の意味的部分空間を解析して文表現法を開発する。
実験結果から、最先端技術よりも同等または優れたパフォーマンスを提供することが示された。
- 参考スコア(独自算出の注目度): 33.44637608270928
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A novel sentence embedding method built upon semantic subspace analysis,
called semantic subspace sentence embedding (S3E), is proposed in this work.
Given the fact that word embeddings can capture semantic relationship while
semantically similar words tend to form semantic groups in a high-dimensional
embedding space, we develop a sentence representation scheme by analyzing
semantic subspaces of its constituent words. Specifically, we construct a
sentence model from two aspects. First, we represent words that lie in the same
semantic group using the intra-group descriptor. Second, we characterize the
interaction between multiple semantic groups with the inter-group descriptor.
The proposed S3E method is evaluated on both textual similarity tasks and
supervised tasks. Experimental results show that it offers comparable or better
performance than the state-of-the-art. The complexity of our S3E method is also
much lower than other parameterized models.
- Abstract(参考訳): 本稿では,意味部分空間解析に基づく意味部分空間文埋め込み(s3e)という新しい文埋め込み手法を提案する。
単語埋め込みは意味的関係を捉えることができ、意味的に類似した単語は高次元埋め込み空間において意味群を形成する傾向があることを考慮し、その構成語の意味的部分空間を解析して文表現法を開発する。
具体的には2つの側面から文モデルを構築する。
まず、グループ内記述子を用いて、同じ意味群に属する単語を表現する。
次に,複数の意味群間の相互作用をグループ間記述子で特徴付ける。
提案手法はテキスト類似性タスクと教師付きタスクの両方で評価される。
実験の結果、最新技術と同等あるいは優れた性能が得られた。
S3E法の複雑さは他のパラメータ化モデルよりもはるかに低い。
関連論文リスト
- Self-Supervised Speech Representations are More Phonetic than Semantic [52.02626675137819]
自己教師付き音声モデル(S3Ms)は、音声応用の有効なバックボーンとなっている。
S3Msで符号化された単語レベルの言語特性のよりきめ細かい分析を求める。
本研究により,S3M表現は意味的類似性よりも連続的かつ顕著に音声的類似性を示すことが明らかとなった。
論文 参考訳(メタデータ) (2024-06-12T20:04:44Z) - GroupContrast: Semantic-aware Self-supervised Representation Learning for 3D Understanding [66.5538429726564]
自己教師付き3D表現学習は、大規模未ラベルの点群から効果的な表現を学習することを目的としている。
本稿では,セグメンテーションとセマンティック・アウェア・コントラッシブ・ラーニングを組み合わせた新しいアプローチであるGroupContrastを提案する。
論文 参考訳(メタデータ) (2024-03-14T17:59:59Z) - A Comparative Study of Sentence Embedding Models for Assessing Semantic
Variation [0.0]
本稿では,複数の文献において,連続する文間の意味的類似性の時系列と対の文類似性の行列を用いた最近の文埋め込み法について比較する。
文の埋め込み手法のほとんどは、ある文書において意味的類似性の高相関パターンを推定するが、興味深い相違が見られる。
論文 参考訳(メタデータ) (2023-08-08T23:31:10Z) - Bridging Continuous and Discrete Spaces: Interpretable Sentence
Representation Learning via Compositional Operations [80.45474362071236]
文の合成意味論が埋め込み空間における構成操作として直接反映できるかどうかは不明である。
文埋め込み学習のためのエンドツーエンドフレームワークであるInterSentを提案する。
論文 参考訳(メタデータ) (2023-05-24T00:44:49Z) - Relational Sentence Embedding for Flexible Semantic Matching [86.21393054423355]
文埋め込みの可能性を明らかにするための新しいパラダイムとして,文埋め込み(Sentence Embedding, RSE)を提案する。
RSEは文関係のモデル化に有効で柔軟性があり、一連の最先端の埋め込み手法より優れている。
論文 参考訳(メタデータ) (2022-12-17T05:25:17Z) - Retrofitting Multilingual Sentence Embeddings with Abstract Meaning
Representation [70.58243648754507]
抽象的意味表現(AMR)を用いた既存の多言語文の埋め込みを改善する新しい手法を提案する。
原文入力と比較すると、AMRは文の中核概念と関係を明確かつ曖昧に表す構造的意味表現である。
実験結果から,多言語文をAMRで埋め込むと,意味的類似性と伝達タスクの両方において,最先端の性能が向上することがわかった。
論文 参考訳(メタデータ) (2022-10-18T11:37:36Z) - Lexical semantics enhanced neural word embeddings [4.040491121427623]
階層的適合は、IS-A階層に本質的に格納されている意味的類似性ニュアンスをモデル化するための新しいアプローチである。
その結果、後期核融合における意味的関係を持つ神経埋め込みを専門とする階層化の有効性が示された。
論文 参考訳(メタデータ) (2022-10-03T08:10:23Z) - A bilingual approach to specialised adjectives through word embeddings
in the karstology domain [3.92181732547846]
単語埋め込みを用いた特定の意味関係を表現する形容詞の抽出実験を行う。
実験の結果は徹底的に分析され、形式的または意味的な類似性を示す形容詞のグループに分類される。
論文 参考訳(メタデータ) (2022-03-31T08:27:15Z) - Contextualized Semantic Distance between Highly Overlapped Texts [85.1541170468617]
テキスト編集や意味的類似性評価といった自然言語処理タスクにおいて、ペア化されたテキストに重複が頻繁に発生する。
本稿では,マスク・アンド・予測戦略を用いてこの問題に対処することを目的とする。
本稿では,最も長い単語列の単語を隣接する単語とみなし,その位置の分布を予測するためにマスク付き言語モデリング(MLM)を用いる。
セマンティックテキスト類似性の実験では、NDDは様々な意味的差異、特に高い重なり合うペアテキストに対してより敏感であることが示されている。
論文 参考訳(メタデータ) (2021-10-04T03:59:15Z) - Semantic and Syntactic Enhanced Aspect Sentiment Triplet Extraction [18.331779474247323]
Aspect Sentiment Triplet extractは、文章から三つ子を抽出することを目的としており、それぞれの三つ子には、エンティティ、関連する感情、そして感情の理由を説明する意見が含まれる。
本稿では,三重項要素間の統語的・意味的関係を完全に活用し,共同抽出を行うセマンティック・シンタクティック・エンハンスメント・アスペクト・センチメント三重項抽出モデル(S3E2)を提案する。
論文 参考訳(メタデータ) (2021-06-07T03:16:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。