論文の概要: Hierarchies over Vector Space: Orienting Word and Graph Embeddings
- arxiv url: http://arxiv.org/abs/2211.01430v2
- Date: Sat, 09 Nov 2024 20:52:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-12 14:04:37.474415
- Title: Hierarchies over Vector Space: Orienting Word and Graph Embeddings
- Title(参考訳): ベクトル空間上の階層: 単語とグラフの埋め込みを指向する
- Authors: Xingzhi Guo, Steven Skiena,
- Abstract要約: 非秩序な平坦な埋め込み空間から固有階層特性をキャプチャするデータ構造を提案する。
テキスト分布の一般性の概念に着想を得て,本アルゴリズムは,ノードをエンティティパワーの順に挿入することにより,アーボラッセンス(有向根木)を構築する。
本研究は,3つの課題(ハイパーネム関係探索,単語間の最小共用者探索,ウィキペディアページリンク回復)における木構造の性能を評価する。
- 参考スコア(独自算出の注目度): 14.367560758244624
- License:
- Abstract: Word and graph embeddings are widely used in deep learning applications. We present a data structure that captures inherent hierarchical properties from an unordered flat embedding space, particularly a sense of direction between pairs of entities. Inspired by the notion of \textit{distributional generality}, our algorithm constructs an arborescence (a directed rooted tree) by inserting nodes in descending order of entity power (e.g., word frequency), pointing each entity to the closest more powerful node as its parent. We evaluate the performance of the resulting tree structures on three tasks: hypernym relation discovery, least-common-ancestor (LCA) discovery among words, and Wikipedia page link recovery. We achieve average 8.98\% and 2.70\% for hypernym and LCA discovery across five languages and 62.76\% accuracy on directed Wiki-page link recovery, with both substantially above baselines. Finally, we investigate the effect of insertion order, the power/similarity trade-off and various power sources to optimize parent selection.
- Abstract(参考訳): 単語とグラフの埋め込みはディープラーニングアプリケーションで広く使われている。
本稿では、非秩序な平坦な埋め込み空間から固有の階層的特性、特に一対の実体間の方向感覚をキャプチャするデータ構造について述べる。
このアルゴリズムは, 主成分の次数(例えば, 単語の頻度)の順にノードを挿入し, 親として最も強力なノードを指し示すことによって, 有向根木(arborescence, 有向根木)を構築する。
本研究は,3つの課題,すなわちハイパーネム関係探索,単語間の最小共用者(LCA)発見,ウィキペディアページリンクリカバリによる木構造の性能評価を行う。
5言語にわたるハイパーネムとLCAの発見では平均8.98\%と2.70\%を達成する。
最後に,親選択を最適化するための挿入順序,電力/相似トレードオフ,各種電源の影響について検討する。
関連論文リスト
- Data-driven Coreference-based Ontology Building [48.995395445597225]
参照解決は、伝統的に個々の文書理解のコンポーネントとして使用される。
よりグローバルな視点で、すべてのドキュメントレベルのコア参照関係から、ドメインについて何が学べるかを探求します。
コードとともに、クリエイティブ・コモンズライセンスの下でコア参照チェーンをリリースします。
論文 参考訳(メタデータ) (2024-10-22T14:30:40Z) - Integrating Hierarchical Semantic into Iterative Generation Model for Entailment Tree Explanation [7.5496857647335585]
本稿では,HiSCG (Controller-Generator) の枠組みに基づいて文の階層的意味論を統合するアーキテクチャを提案する。
提案手法はEntailmentBankデータセットの3つの設定で同等のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2024-09-26T11:46:58Z) - HetTree: Heterogeneous Tree Graph Neural Network [12.403166161903378]
HetTreeは、グラフ構造とヘテロジニアスの両方をモデル化する、新しいヘテロジニアスツリーグラフニューラルネットワークである。
HetTreeは、メタパス間の階層をキャプチャするために、セマンティックツリーデータ構造を構築する。
さまざまな実世界のデータセット上でのHetTreeの評価は、既存のすべてのベースラインをオープンベンチマークで上回っていることを示す。
論文 参考訳(メタデータ) (2024-02-21T03:14:45Z) - Hierarchical clustering with dot products recovers hidden tree structure [53.68551192799585]
本稿では,階層構造の回復に着目した凝集クラスタリングアルゴリズムの新しい視点を提案する。
クラスタを最大平均点積でマージし、例えば最小距離やクラスタ内分散でマージしないような、標準的なアルゴリズムの単純な変種を推奨する。
このアルゴリズムにより得られた木は、汎用確率的グラフィカルモデルの下で、データ中の生成的階層構造をボナフェイド推定することを示した。
論文 参考訳(メタデータ) (2023-05-24T11:05:12Z) - Type-supervised sequence labeling based on the heterogeneous star graph
for named entity recognition [6.25916397918329]
本稿では,テキストノードとタイプノードを含む異種星グラフの表現学習について述べる。
モデルは、グラフ内のノードを更新した後、タイプ管理シーケンスラベリングを実行する。
NERデータセットの公開実験により、フラットなエンティティとネストされたエンティティの両方を抽出する際のモデルの有効性が明らかとなった。
論文 参考訳(メタデータ) (2022-10-19T01:40:06Z) - A Tree-structured Transformer for Program Representation Learning [27.31416015946351]
プログラムには長期/グローバルな依存関係が広く存在し、ほとんどのニューラルネットワークはこれらの依存関係をキャプチャできない。
本稿では,この制限を克服することを目的とした,新しい木構造ニューラルネットワークであるTree-Transformerを提案する。
ボトムアップとトップダウンの伝搬を組み合わせることで、Tree-Transformerはグローバルコンテキストと有意義なノード機能の両方を学ぶことができる。
論文 参考訳(メタデータ) (2022-08-18T05:42:01Z) - Modeling Heterogeneous Hierarchies with Relation-specific Hyperbolic
Cones [64.75766944882389]
知識グラフにおける複数の階層的および非階層的関係を同時にモデル化できるKG埋め込みモデルであるConE(Cone Embedding)を提案する。
特に、ConEは双曲埋め込み空間の異なる部分空間における円錐包含制約を用いて、複数の異種階層をキャプチャする。
我々のアプローチでは、WN18RRで45.3%、DDB14で16.1%の新しい最先端hits@1が得られる(0.231 MRR)。
論文 参考訳(メタデータ) (2021-10-28T07:16:08Z) - Tree Decomposition Attention for AMR-to-Text Generation [12.342043849587613]
グラフ内の自己注意を制限するために、グラフのツリー分解を使用します。
動的プログラミングを用いて木分解の森を導出し、AMRと最も構造的に類似した木を選択する。
我々のシステムは1.6BLEUと1.8chrF++の自励ベースラインを上回ります。
論文 参考訳(メタデータ) (2021-08-27T14:24:25Z) - Exploring the Hierarchy in Relation Labels for Scene Graph Generation [75.88758055269948]
提案手法は,Recall@50において,複数の最先端ベースラインを大きなマージン(最大33%の相対利得)で改善することができる。
実験により,提案手法により,最先端のベースラインを大きなマージンで改善できることが示された。
論文 参考訳(メタデータ) (2020-09-12T17:36:53Z) - Graph Neural Networks with Composite Kernels [60.81504431653264]
カーネル重み付けの観点からノード集約を再解釈する。
本稿では,アグリゲーション方式における特徴類似性を考慮したフレームワークを提案する。
特徴空間における特徴類似性をエンコードするために,元の隣り合うカーネルと学習可能なカーネルの合成として特徴集約を提案する。
論文 参考訳(メタデータ) (2020-05-16T04:44:29Z) - Graph Inference Learning for Semi-supervised Classification [50.55765399527556]
半教師付きノード分類の性能を高めるためのグラフ推論学習フレームワークを提案する。
推論過程の学習には,トレーニングノードから検証ノードへの構造関係のメタ最適化を導入する。
4つのベンチマークデータセットの総合的な評価は、最先端の手法と比較して提案したGILの優位性を示している。
論文 参考訳(メタデータ) (2020-01-17T02:52:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。