論文の概要: Hardware-agnostic Computation for Large-scale Knowledge Graph Embeddings
- arxiv url: http://arxiv.org/abs/2207.08544v1
- Date: Mon, 18 Jul 2022 12:10:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-19 16:22:46.199639
- Title: Hardware-agnostic Computation for Large-scale Knowledge Graph Embeddings
- Title（参考訳）: 大規模知識グラフ埋め込みのためのハードウェア非依存計算法
- Authors: Caglar Demir and Axel-Cyrille Ngonga Ngomo
- Abstract要約: ハードウェアに依存しない大規模知識グラフの埋め込みを計算するためのフレームワークを開発する。
当社のフレームワークのオープンソースバージョンと,11.4B以上のパラメータを持つ事前トレーニング済みモデルのハブを提供しています。
- 参考スコア（独自算出の注目度）: 1.1650381752104297
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Knowledge graph embedding research has mainly focused on learning continuous
representations of knowledge graphs towards the link prediction problem.
Recently developed frameworks can be effectively applied in research related
applications. Yet, these frameworks do not fulfill many requirements of
real-world applications. As the size of the knowledge graph grows, moving
computation from a commodity computer to a cluster of computers in these
frameworks becomes more challenging. Finding suitable hyperparameter settings
w.r.t. time and computational budgets are left to practitioners. In addition,
the continual learning aspect in knowledge graph embedding frameworks is often
ignored, although continual learning plays an important role in many real-world
(deep) learning-driven applications. Arguably, these limitations explain the
lack of publicly available knowledge graph embedding models for large knowledge
graphs. We developed a framework based on the frameworks DASK, Pytorch
Lightning and Hugging Face to compute embeddings for large-scale knowledge
graphs in a hardware-agnostic manner, which is able to address real-world
challenges pertaining to the scale of real application. We provide an
open-source version of our framework along with a hub of pre-trained models
having more than 11.4 B parameters.
- Abstract（参考訳）: 知識グラフ埋め込み研究は主に、知識グラフの連続表現をリンク予測問題に学習することに焦点を当てている。
近年開発されたフレームワークは研究関連のアプリケーションに効果的に適用できる。
しかし、これらのフレームワークは現実世界のアプリケーションの要求の多くを満たさない。
ナレッジグラフのサイズが大きくなるにつれて、これらのフレームワーク内のコモディティコンピュータからコンピュータクラスタへの計算の移動がより困難になる。
適切なハイパーパラメータ設定を見つけるには、時間と計算予算を実践者に委ねる。
加えて、知識グラフ埋め込みフレームワークにおける連続学習の側面はしばしば無視されるが、連続学習は多くの現実世界(深い)学習駆動アプリケーションにおいて重要な役割を果たす。
これらの制限は、大きな知識グラフに対する公開知識グラフ埋め込みモデルの欠如を説明できる。
我々は,DASK,Pytorch Lightning,Hugging Faceといったフレームワークを基盤として,ハードウェアに依存しない大規模知識グラフの埋め込みを計算するフレームワークを開発した。
当社のフレームワークのオープンソースバージョンと,11.4B以上のパラメータを持つトレーニング済みモデルのハブを提供しています。
関連論文リスト
- A Survey on Temporal Knowledge Graph: Representation Learning and Applications [16.447980641446602]
時間的知識グラフ表現学習は、知識グラフにおける実体と関係のための低次元ベクトル埋め込みを学習することを目的としている。
時間知識グラフ表現学習とその応用に関する総合的な調査を行う。
論文 参考訳（メタデータ） (2024-03-02T16:21:45Z) - Continual Learning on Graphs: Challenges, Solutions, and Opportunities [72.7886669278433]
本稿では,既存の連続グラフ学習(CGL)アルゴリズムの総合的なレビューを行う。
従来の連続学習手法と比較し,従来の連続学習手法の適用性を分析した。
アクセス可能なアルゴリズムの包括的なリストを含む、最新のリポジトリを維持します。
論文 参考訳（メタデータ） (2024-02-18T12:24:45Z) - LasTGL: An Industrial Framework for Large-Scale Temporal Graph Learning [61.4707298969173]
本稿では,共通時間グラフ学習アルゴリズムの統一的および統一的な実装を統合する産業用フレームワークであるLasTGLを紹介する。
LasTGLは、詳細なチュートリアルとともに、包括的な時間グラフデータセット、TGNNモデル、ユーティリティを提供する。
論文 参考訳（メタデータ） (2023-11-28T08:45:37Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳（メタデータ） (2023-01-14T09:15:49Z) - A Survey of Knowledge Graph Reasoning on Graph Types: Static, Dynamic,
and Multimodal [57.8455911689554]
知識グラフ推論(KGR)は、知識グラフに基づくマイニング論理則に基づいて、既存の事実から新しい事実を推論することを目的としている。
質問応答やレコメンデーションシステムなど、多くのAIアプリケーションでKGを使うことに大きなメリットがあることが証明されている。
論文 参考訳（メタデータ） (2022-12-12T08:40:04Z) - OG-SGG: Ontology-Guided Scene Graph Generation. A Case Study in Transfer
Learning for Telepresence Robotics [124.08684545010664]
画像からのシーングラフ生成は、ロボット工学のようなアプリケーションに非常に関心を持つタスクである。
オントロジー誘導シーングラフ生成(OG-SGG)と呼ばれるフレームワークの初期近似を提案する。
論文 参考訳（メタデータ） (2022-02-21T13:23:15Z) - Scalable Graph Embedding LearningOn A Single GPU [18.142879223260785]
本稿では,大規模グラフの埋め込み学習の課題に対処する,ハイブリッドCPU-GPUフレームワークを提案する。
我々のシステムは、単一のマシンの総メモリ容量より桁違いに大きいデータセットにトレーニングをスケールできることを示します。
論文 参考訳（メタデータ） (2021-10-13T19:09:33Z) - A Survey of Knowledge Graph Embedding and Their Applications [0.17205106391379024]
知識グラフの埋め込みにより、現実世界のアプリケーションが情報を消費してパフォーマンスを向上させることができる。
本稿では、単純な翻訳モデルからリッチメントモデルへのKG埋め込みの分野の成長について紹介する。
論文 参考訳（メタデータ） (2021-07-16T12:07:53Z) - SpikE: spike-based embeddings for multi-relational graph data [0.0]
スパイクニューラルネットワークは、感覚処理から生じるタスクに主に適用されます。
業界や研究に幅広く適用されている豊富なデータ表現は、いわゆるナレッジグラフです。
本稿では,グラフ中のノードをニューロン集団の単一スパイク時間で表すスパイクベースのアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-04-27T18:00:12Z) - Model-Agnostic Graph Regularization for Few-Shot Learning [60.64531995451357]
グラフ組み込み数ショット学習に関する包括的な研究を紹介します。
本稿では,ラベル間のグラフ情報の組み込みによる影響をより深く理解できるグラフ正規化手法を提案する。
提案手法は,Mini-ImageNetで最大2%,ImageNet-FSで6.7%の性能向上を実現する。
論文 参考訳（メタデータ） (2021-02-14T05:28:13Z) - Graphs for deep learning representations [1.0152838128195467]
グラフ信号処理(GSP)の最近の進歩に基づくグラフ形式化について紹介します。
すなわち、ディープニューラルネットワークの潜在空間を表すためにグラフを使用します。
このグラフ形式化によって,頑健性の確保,学習プロセスの設計における任意の選択量の削減,入力に付加された小さな一般化の改善,計算複雑性の低減など,さまざまな質問に答えることができることが示されています。
論文 参考訳（メタデータ） (2020-12-14T11:51:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。