論文の概要: Multi-Partition Embedding Interaction with Block Term Format for
Knowledge Graph Completion
- arxiv url: http://arxiv.org/abs/2006.16365v2
- Date: Sat, 1 Oct 2022 20:26:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-15 13:11:28.467675
- Title: Multi-Partition Embedding Interaction with Block Term Format for
Knowledge Graph Completion
- Title（参考訳）: 知識グラフ補完のためのブロック項形式との多分割埋め込み
- Authors: Hung Nghiep Tran and Atsuhiro Takasu
- Abstract要約: 知識グラフ埋め込み法は、実体と関係を埋め込みベクトルとして表現することでタスクを実行する。
従来の作業は通常、各埋め込み全体を扱い、これらの埋め込み全体間の相互作用をモデル化してきた。
本稿では,ブロック項形式を用いたマルチパーティション埋め込み相互作用(MEI)モデルを提案し,この問題に対処する。
- 参考スコア（独自算出の注目度）: 3.718476964451589
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge graph completion is an important task that aims to predict the
missing relational link between entities. Knowledge graph embedding methods
perform this task by representing entities and relations as embedding vectors
and modeling their interactions to compute the matching score of each triple.
Previous work has usually treated each embedding as a whole and has modeled the
interactions between these whole embeddings, potentially making the model
excessively expensive or requiring specially designed interaction mechanisms.
In this work, we propose the multi-partition embedding interaction (MEI) model
with block term format to systematically address this problem. MEI divides each
embedding into a multi-partition vector to efficiently restrict the
interactions. Each local interaction is modeled with the Tucker tensor format
and the full interaction is modeled with the block term tensor format, enabling
MEI to control the trade-off between expressiveness and computational cost,
learn the interaction mechanisms from data automatically, and achieve
state-of-the-art performance on the link prediction task. In addition, we
theoretically study the parameter efficiency problem and derive a simple
empirically verified criterion for optimal parameter trade-off. We also apply
the framework of MEI to provide a new generalized explanation for several
specially designed interaction mechanisms in previous models. The source code
is released at https://github.com/tranhungnghiep/MEI-KGE.
- Abstract（参考訳）: 知識グラフ補完は、エンティティ間のリレーショナルリンクの欠如を予測するために重要なタスクである。
知識グラフ埋め込み法は、エンティティと関係を埋め込みベクトルとして表現し、それらの相互作用をモデル化し、各トリプルのマッチングスコアを計算することで、このタスクを実行する。
従来の作業は通常、各埋め込み全体を扱い、これらの埋め込み全体間の相互作用をモデル化し、モデルが過度に高価になるか、特別に設計された相互作用メカニズムを必要とする可能性がある。
本研究では,ブロック項形式を用いたマルチパーティション埋め込み相互作用(MEI)モデルを提案し,この問題に体系的に対処する。
MEIは、各埋め込みを多分割ベクトルに分割し、効率的に相互作用を制限する。
各局所的相互作用はタッカーテンソル形式でモデル化され、完全な相互作用はブロック項テンソル形式でモデル化され、MEIは表現性と計算コストのトレードオフを制御し、データから相互作用機構を自動学習し、リンク予測タスクにおける最先端のパフォーマンスを達成する。
さらに,パラメータ効率問題を理論的に検討し,最適パラメータトレードオフのための簡易な検証基準を導出する。
また, mei の枠組みを応用して, 従来モデルで特に設計されたインタラクション機構について, 新たな一般化説明を行う。
ソースコードはhttps://github.com/tranhunghiep/MEI-KGEで公開されている。
関連論文リスト
- MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
モデルマージは、同じトレーニング済みモデルから細調整された複数のシングルタスクモデルをマルチタスクモデルに結合する効果的なアプローチである。
既存のモデルマージ手法は、平均的なタスク精度の向上に重点を置いている。
Amortized Pareto Front (MAP) を用いた新しい低計算アルゴリズム Model Merging を導入する。
論文 参考訳（メタデータ） (2024-06-11T17:55:25Z) - Composable Part-Based Manipulation [61.48634521323737]
本稿では,ロボット操作スキルの学習と一般化を改善するために,構成可能な部品ベース操作(CPM)を提案する。
CPMは構成可能な拡散モデルの集合で構成され、各モデルは異なるオブジェクト間の対応をキャプチャする。
シミュレーションおよび実世界のシナリオにおいて、我々のアプローチを検証し、ロバストかつ一般化された操作能力を達成する上での有効性を実証する。
論文 参考訳（メタデータ） (2024-05-09T16:04:14Z) - Decomposing and Editing Predictions by Modeling Model Computation [75.37535202884463]
コンポーネントモデリングというタスクを導入します。
コンポーネントモデリングの目標は、MLモデルの予測をコンポーネントの観点から分解することだ。
コンポーネント属性を推定するスケーラブルなアルゴリズムであるCOARを提案する。
論文 参考訳（メタデータ） (2024-04-17T16:28:08Z) - MMOE: Mixture of Multimodal Interaction Experts [115.20477067767399]
MMOEはマルチモーダルインタラクションの専門家の混在を指す。
本手法は, ラベルのないマルチモーダルデータセットから, 対話タイプによって自動的にデータポイントを分類し, それぞれのインタラクションに特化モデルを用いる。
実験結果から,本手法は,これらの課題のあるインタラクションのパフォーマンスを10%以上向上させ,皮肉な予測などのタスクに対して全体の2%向上をもたらす。
論文 参考訳（メタデータ） (2023-11-16T05:31:21Z) - Parameter-free Dynamic Graph Embedding for Link Prediction [18.104685554457394]
FreeGEMはリンク予測のためのパラメータフリーな動的グラフ埋め込み手法である。
その結果,FreeGEMは36倍以上の効率向上を実現しつつ,最先端の手法よりも精度が高いことがわかった。
論文 参考訳（メタデータ） (2022-10-15T04:17:09Z) - MEIM: Multi-partition Embedding Interaction Beyond Block Term Format for
Efficient and Expressive Link Prediction [3.718476964451589]
ブロック項フォーマット(MEIM)モデルを超えたマルチパーティション埋め込みインタラクションiMprovedを導入する。
MEIMは、高い効率を保ちながら表現性を向上し、強力なベースラインを上回り、最先端の結果を得るのに役立つ。
論文 参考訳（メタデータ） (2022-09-30T17:20:03Z) - GraphFM: Graph Factorization Machines for Feature Interaction Modeling [27.307086868266012]
本稿では,グラフ構造の特徴を自然に表現し,グラフ因子化マシン(GraphFM)を提案する。
特に,有用な特徴間相互作用を選択し,特徴間のエッジとして定式化する機構を設計する。
提案モデルでは, FMの相互作用関数をグラフニューラルネットワーク(GNN)の特徴集約戦略に統合する。
論文 参考訳（メタデータ） (2021-05-25T12:10:54Z) - AutoDis: Automatic Discretization for Embedding Numerical Features in
CTR Prediction [45.69943728028556]
高度な機能相互作用の学習は、レコメンデータシステムにおけるClick-Through Rate(CTR)予測に不可欠である。
様々な深いCTRモデルは、埋め込みとフィーチャーインタラクションのパラダイムに従います。
数値フィールドの特徴を自動的に識別し、エンドツーエンドでCTRモデルに最適化するフレームワークであるAutoDisを提案します。
論文 参考訳（メタデータ） (2020-12-16T14:31:31Z) - AutoETER: Automated Entity Type Representation for Knowledge Graph
Embedding [40.900070190077024]
我々は、Entity TypE Representation(AutoETER)を用いた新しい知識グラフ埋め込み(KGE)フレームワークを開発した。
我々のアプローチは、すべての関係パターンと複雑な関係をモデル化し、推測することができる。
4つのデータセットの実験は、リンク予測タスクにおける最先端のベースラインと比較して、我々のモデルの優れた性能を示している。
論文 参考訳（メタデータ） (2020-09-25T04:27:35Z) - HittER: Hierarchical Transformers for Knowledge Graph Embeddings [85.93509934018499]
複雑な知識グラフにおける実体と関係の表現を学習するためにHittを提案する。
実験結果から,Hittは複数リンク予測において最先端の新たな結果が得られることがわかった。
さらに,HittをBERTに統合する簡単なアプローチを提案し,その効果を2つのFreebaseファクトイド対応データセットで示す。
論文 参考訳（メタデータ） (2020-08-28T18:58:15Z) - AutoFIS: Automatic Feature Interaction Selection in Factorization Models
for Click-Through Rate Prediction [75.16836697734995]
自動特徴相互作用選択(AutoFIS)と呼ばれる2段階のアルゴリズムを提案する。
AutoFISは、目標モデルを収束させるためにトレーニングするのと同等の計算コストで、因子化モデルに対する重要な特徴的相互作用を自動的に識別することができる。
AutoFISはHuawei App Storeレコメンデーションサービスのトレーニングプラットフォームにデプロイされている。
論文 参考訳（メタデータ） (2020-03-25T06:53:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。