論文の概要: Extending TWIG: Zero-Shot Predictive Hyperparameter Selection for KGEs based on Graph Structure
- arxiv url: http://arxiv.org/abs/2412.14801v1
- Date: Thu, 19 Dec 2024 12:47:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-20 13:30:26.459477
- Title: Extending TWIG: Zero-Shot Predictive Hyperparameter Selection for KGEs based on Graph Structure
- Title(参考訳): TWIGの拡張:グラフ構造に基づくKGEのゼロショット予測ハイパーパラメータ選択
- Authors: Jeffrey Sardina, John D. Kelleher, Declan O'Sullivan,
- Abstract要約: トポロジカル・ウェイト・インテリジェンス・ジェネレーション(TWIG)モデルは、これらの要素がどのように関連しているかをモデル化するソリューションとして提案されている。
我々はTWIGに関する以前の研究を拡張し、KGEモデルComplExの出力をクロスKG設定でシミュレートする能力を評価する。
- 参考スコア(独自算出の注目度): 2.2690868277262486
- License:
- Abstract: Knowledge Graphs (KGs) have seen increasing use across various domains -- from biomedicine and linguistics to general knowledge modelling. In order to facilitate the analysis of knowledge graphs, Knowledge Graph Embeddings (KGEs) have been developed to automatically analyse KGs and predict new facts based on the information in a KG, a task called "link prediction". Many existing studies have documented that the structure of a KG, KGE model components, and KGE hyperparameters can significantly change how well KGEs perform and what relationships they are able to learn. Recently, the Topologically-Weighted Intelligence Generation (TWIG) model has been proposed as a solution to modelling how each of these elements relate. In this work, we extend the previous research on TWIG and evaluate its ability to simulate the output of the KGE model ComplEx in the cross-KG setting. Our results are twofold. First, TWIG is able to summarise KGE performance on a wide range of hyperparameter settings and KGs being learned, suggesting that it represents a general knowledge of how to predict KGE performance from KG structure. Second, we show that TWIG can successfully predict hyperparameter performance on unseen KGs in the zero-shot setting. This second observation leads us to propose that, with additional research, optimal hyperparameter selection for KGE models could be determined in a pre-hoc manner using TWIG-like methods, rather than by using a full hyperparameter search.
- Abstract(参考訳): 知識グラフ(KG)は、生物医学や言語学から一般的な知識モデリングまで、様々な領域で利用が増加している。
知識グラフの分析を容易にするために、知識グラフ埋め込み(KGE)が開発され、KGの情報に基づいてKGを自動分析し、新たな事実を予測する。
多くの既存の研究は、KG、KGEモデルコンポーネント、KGEハイパーパラメータの構造が、KGEのパフォーマンスと学習できる関係を著しく変えることができることを文書化している。
近年,これらの要素がどのように関連しているかをモデル化するためのソリューションとして,TWIGモデルが提案されている。
本研究では,従来のTWIG研究を拡張し,KGEモデルComplExの出力をクロスKG設定でシミュレートする能力を評価する。
私たちの結果は2倍です。
まず、TWIGは、KGE性能を幅広いパラメータ設定と学習対象のKGで要約することができ、KG構造からKGE性能を予測する方法に関する一般的な知識を表していることを示唆している。
第2に,TWIGはゼロショット設定における未知のKG上でのハイパーパラメータ性能の予測に成功していることを示す。
この第2の観察結果から,KGEモデルに対する最適ハイパーパラメータ選択は,完全なハイパーパラメータサーチではなく,TWIGライクな方法で決定できることが示唆された。
関連論文リスト
- TWIG: Towards pre-hoc Hyperparameter Optimisation and Cross-Graph
Generalisation via Simulated KGE Models [2.550226198121927]
我々は、KGEの出力をシミュレートする新しい埋め込み不要なパラダイムであるTWIG(Topologically-Weighted Intelligence Generation)を紹介する。
UMLSデータセットの実験では、単一のTWIGニューラルネットワークが最先端のComplEx-N3 KGEモデルの結果を予測することができる。
論文 参考訳(メタデータ) (2024-02-08T23:12:02Z) - A Comprehensive Study on Knowledge Graph Embedding over Relational
Patterns Based on Rule Learning [49.09125100268454]
KGE(Knowledge Graph Embedding)は、KGC(Knowledge Completion Graph)タスクを解決するための効果的なアプローチであることが証明されている。
関係パターンはKGEモデルの性能において重要な要素である。
我々は,KGEモデルの性能を様々な関係パターン上で向上させるトレーニングフリー手法を提案する。
論文 参考訳(メタデータ) (2023-08-15T17:30:57Z) - KGxBoard: Explainable and Interactive Leaderboard for Evaluation of
Knowledge Graph Completion Models [76.01814380927507]
KGxBoardは、データの意味のあるサブセットを詳細に評価するためのインタラクティブなフレームワークである。
実験では,KGxBoardを用いることで,標準平均シングルスコアメトリクスでは検出が不可能であったことを強調した。
論文 参考訳(メタデータ) (2022-08-23T15:11:45Z) - Explainable Sparse Knowledge Graph Completion via High-order Graph
Reasoning Network [111.67744771462873]
本稿では,スパース知識グラフ(KG)のための新しい説明可能なモデルを提案する。
高次推論をグラフ畳み込みネットワーク、すなわちHoGRNに結合する。
情報不足を緩和する一般化能力を向上させるだけでなく、解釈可能性も向上する。
論文 参考訳(メタデータ) (2022-07-14T10:16:56Z) - Start Small, Think Big: On Hyperparameter Optimization for Large-Scale
Knowledge Graph Embeddings [4.3400407844815]
本稿では,大規模知識グラフのための多要素HPOアルゴリズムを提案する。
GraSHは、大規模グラフの最先端の結果を低コストで得る。
論文 参考訳(メタデータ) (2022-07-11T16:07:16Z) - ExpressivE: A Spatio-Functional Embedding For Knowledge Graph Completion [78.8942067357231]
ExpressivEは、一対の実体を点として埋め込み、仮想三重空間に超平行グラフとして関係を埋め込む。
我々は、ExpressivEが最先端のKGEと競合し、W18RRでさらに優れています。
論文 参考訳(メタデータ) (2022-06-08T23:34:39Z) - KQGC: Knowledge Graph Embedding with Smoothing Effects of Graph
Convolutions for Recommendation [3.264007084815591]
我々はKQGC(Knowledge Query-based Graph Convolution)と呼ばれるリコメンデータシステムのための新しいモデルを提案する。
KQGCは平滑化に焦点を当て、KGEを平滑化するために単純な線形グラフ畳み込みを利用する。
提案したKQGCを,特定の製品のユーザを対象としたレコメンデーションタスクに適用する。
論文 参考訳(メタデータ) (2022-05-23T09:34:06Z) - Sequence-to-Sequence Knowledge Graph Completion and Question Answering [8.207403859762044]
既製のエンコーダ・デコーダ変換器モデルは,スケーラブルで汎用的なKGEモデルとして機能することを示す。
我々は,KGリンク予測をシーケンス・ツー・シーケンス・タスクとして用い,従来のKGE手法による3つのスコアリングアプローチを自己回帰復号化と交換することで,これを実現する。
論文 参考訳(メタデータ) (2022-03-19T13:01:49Z) - Rethinking Graph Convolutional Networks in Knowledge Graph Completion [83.25075514036183]
グラフ畳み込みネットワーク(GCN)は知識グラフ補完(KGC)においてますます人気が高まっている。
本稿では,代表的なGCNベースのKGCモデルを構築し,GCNのどの要因がKGCに重要なのかを明らかにする。
本稿では,既存のKGEモデルに線形変換されたエンティティ埋め込みを組み込む,LTE-KGEというシンプルなフレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-08T11:36:18Z) - How Does Knowledge Graph Embedding Extrapolate to Unseen Data: a
Semantic Evidence View [13.575052133743505]
我々は,知識グラフ埋め込み(KGE)が未知のデータにどのように当てはまるかを研究する。
また,セマンティック・エビデンス・アウェアメント・グラフニューラルネット(SE-GNN)と呼ばれる新しいGNNベースのKGEモデルを提案する。
論文 参考訳(メタデータ) (2021-09-24T08:17:02Z) - RelWalk A Latent Variable Model Approach to Knowledge Graph Embedding [50.010601631982425]
本稿では,単語埋め込みのランダムウォークモデル(Arora et al., 2016a)を知識グラフ埋め込み(KGE)に拡張する。
二つの実体 h (head) と t (tail) の間の関係 R の強さを評価するスコア関数を導出する。
理論的解析によって動機付けられた学習目標を提案し,知識グラフからKGEを学習する。
論文 参考訳(メタデータ) (2021-01-25T13:31:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。