論文の概要: ModulE: Module Embedding for Knowledge Graphs
- arxiv url: http://arxiv.org/abs/2203.04702v1
- Date: Wed, 9 Mar 2022 13:27:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-10 15:17:23.450572
- Title: ModulE: Module Embedding for Knowledge Graphs
- Title(参考訳): ModulE:知識グラフのためのモジュール埋め込み
- Authors: Jingxuan Chai and Guangming Shi
- Abstract要約: 知識グラフ埋め込み(KGE)は知識グラフの欠落リンクを予測する強力なツールであることが示されている。
本稿では、回転モデルのための新しいグループ理論に基づく埋め込みフレームワークを提案する。
具体的には,モジュールにエンティティを投影する,より汎用的な埋め込み手法であるModulEを紹介する。
- 参考スコア(独自算出の注目度): 33.603174694114095
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge graph embedding (KGE) has been shown to be a powerful tool for
predicting missing links of a knowledge graph. However, existing methods mainly
focus on modeling relation patterns, while simply embed entities to vector
spaces, such as real field, complex field and quaternion space. To model the
embedding space from a more rigorous and theoretical perspective, we propose a
novel general group theory-based embedding framework for rotation-based models,
in which both entities and relations are embedded as group elements.
Furthermore, in order to explore more available KGE models, we utilize a more
generic group structure, module, a generalization notion of vector space.
Specifically, under our framework, we introduce a more generic embedding
method, ModulE, which projects entities to a module. Following the method of
ModulE, we build three instantiating models: ModulE$_{\mathbb{R},\mathbb{C}}$,
ModulE$_{\mathbb{R},\mathbb{H}}$ and ModulE$_{\mathbb{H},\mathbb{H}}$, by
adopting different module structures. Experimental results show that
ModulE$_{\mathbb{H},\mathbb{H}}$ which embeds entities to a module over
non-commutative ring, achieves state-of-the-art performance on multiple
benchmark datasets.
- Abstract(参考訳): 知識グラフ埋め込み(KGE)は知識グラフの欠落リンクを予測する強力なツールであることが示されている。
しかし、既存の手法は主に関係パターンのモデル化に焦点を合わせ、単に実体、複素体、四元空間といったベクトル空間にエンティティを埋め込む。
より厳密で理論的な観点から埋め込み空間をモデル化するために、回転に基づくモデルのための新しい一般群論に基づく埋め込みフレームワークを提案する。
さらに、より利用可能な KGE モデルを探索するために、より一般的な群構造、加群、ベクトル空間の一般化概念を利用する。
具体的には、より汎用的な組み込みメソッドであるモジュールを導入し、そのモジュールにエンティティを投影します。
module$_{\mathbb{r},\mathbb{c}}$, module$_{\mathbb{r},\mathbb{h}}$ と module$_{\mathbb{h},\mathbb{h}}$ の3つのインスタンスモデルを構築した。
実験結果は、非可換環上のモジュールにエンティティを埋め込むモジュール$_{\mathbb{h},\mathbb{h}}$が、複数のベンチマークデータセットで最先端のパフォーマンスを達成することを示した。
関連論文リスト
- GeoMFormer: A General Architecture for Geometric Molecular Representation Learning [84.02083170392764]
我々はこの目的を達成するためにGeoMFormerと呼ばれるトランスフォーマーに基づく新しい分子モデルを導入する。
我々は,GeoMFormerが,異なる型やスケールの不変タスクと同変タスクの両方において,高い性能を達成することを示す。
論文 参考訳(メタデータ) (2024-06-24T17:58:13Z) - ModuleFormer: Modularity Emerges from Mixture-of-Experts [60.6148988099284]
本稿では,大規模言語モデルの効率性と柔軟性を向上させるために,新しいニューラルネットワークアーキテクチャであるModuleFormerを提案する。
以前のSMoEベースのモジュラー言語モデルとは異なり、ModuleFormerは未処理のデータからモジュラリティを誘導することができる。
論文 参考訳(メタデータ) (2023-06-07T17:59:57Z) - Modular Deep Learning [120.36599591042908]
トランスファーラーニングは近年、機械学習の主要なパラダイムとなっている。
負の干渉を伴わずに複数のタスクを専門とするモデルを開発する方法はまだ不明である。
これらの課題に対する有望な解決策として、モジュール型ディープラーニングが登場した。
論文 参考訳(メタデータ) (2023-02-22T18:11:25Z) - From Torus Bundles to Particle-Hole Equivariantization [15.857538570676667]
我々は3次元多様体の無限族、すなわち円上のトーラス束を考える。
モジュラーデータは、ある尖点前モジュラー圏の$mathbbZ$-equivariantizationによって実現されることを示す。
この広範な事例が、プログラムを改良し、プレモーダルなカテゴリの全データを回復する方法について、光を当てることを期待しています。
論文 参考訳(メタデータ) (2021-06-03T16:06:26Z) - K\"ahler Geometry of Quiver Varieties and Machine Learning [0.0]
我々は、フレーム表現のモジュラー空間を用いた機械学習におけるニューラルネットワークの代数幾何学的定式化を開発する。
複素射影空間から構築された多変数活性化関数に対する普遍近似定理を証明する。
論文 参考訳(メタデータ) (2021-01-27T15:32:24Z) - From Three Dimensional Manifolds to Modular Tensor Categories [0.7877961820015922]
Cho, Gang, Kim両氏は、トポロジと量子トポロジを結びつけるプログラムの概要を説明した。
すべてのモジュラーテンソル圏は3つの多様体とリー群から得られると推測されている。
我々は,このプログラムを数学的に研究し,そのようなプログラムの実現可能性に対する強力な支援を提供する。
論文 参考訳(メタデータ) (2021-01-05T17:45:23Z) - AutoETER: Automated Entity Type Representation for Knowledge Graph
Embedding [40.900070190077024]
我々は、Entity TypE Representation(AutoETER)を用いた新しい知識グラフ埋め込み(KGE)フレームワークを開発した。
我々のアプローチは、すべての関係パターンと複雑な関係をモデル化し、推測することができる。
4つのデータセットの実験は、リンク予測タスクにおける最先端のベースラインと比較して、我々のモデルの優れた性能を示している。
論文 参考訳(メタデータ) (2020-09-25T04:27:35Z) - S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。
我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
論文 参考訳(メタデータ) (2020-07-13T17:44:30Z) - NagE: Non-Abelian Group Embedding for Knowledge Graphs [14.545770519120898]
組込みモデルの設計には,グループベースの組込みフレームワークが不可欠であることを示す。
理論分析により,グループ理論に基づく知識グラフ埋め込みフレームワークを提案する。
2つのインスタンス化例に関連付けられた埋め込みモデルを構築するための一般的なレシピを提供する。
論文 参考訳(メタデータ) (2020-05-22T00:54:45Z) - Bipartite Flat-Graph Network for Nested Named Entity Recognition [94.91507634620133]
ネスト型名前付きエンティティ認識(NER)のためのバイパートフラットグラフネットワーク(BiFlaG)
ネストされた名前付きエンティティ認識(NER)のためのバイパーティライトフラットグラフネットワーク(BiFlaG)を提案する。
論文 参考訳(メタデータ) (2020-05-01T15:14:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。