論文の概要: Towards a Flexible Embedding Learning Framework
- arxiv url: http://arxiv.org/abs/2009.10989v1
- Date: Wed, 23 Sep 2020 08:00:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-15 15:17:56.515965
- Title: Towards a Flexible Embedding Learning Framework
- Title(参考訳): 柔軟な組込み学習フレームワークを目指して
- Authors: Chin-Chia Michael Yeh, Dhruv Gelda, Zhongfang Zhuang, Yan Zheng, Liang
Gou, Wei Zhang
- Abstract要約: 本稿では,学習表現に組み込むことができる関係性の観点から柔軟な埋め込み学習フレームワークを提案する。
サンプリング機構は、入力と出力埋め込みによって捕捉された情報との直接接続を確立するために慎重に設計される。
実験の結果,提案するフレームワークは,関連エンティティ・リレーショナル・マトリクスのセットと合わせて,様々なデータマイニングタスクにおける既存の最先端アプローチよりも優れていることが示された。
- 参考スコア(独自算出の注目度): 15.604564543883122
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Representation learning is a fundamental building block for analyzing
entities in a database. While the existing embedding learning methods are
effective in various data mining problems, their applicability is often limited
because these methods have pre-determined assumptions on the type of semantics
captured by the learned embeddings, and the assumptions may not well align with
specific downstream tasks. In this work, we propose an embedding learning
framework that 1) uses an input format that is agnostic to input data type, 2)
is flexible in terms of the relationships that can be embedded into the learned
representations, and 3) provides an intuitive pathway to incorporate domain
knowledge into the embedding learning process. Our proposed framework utilizes
a set of entity-relation-matrices as the input, which quantifies the affinities
among different entities in the database. Moreover, a sampling mechanism is
carefully designed to establish a direct connection between the input and the
information captured by the output embeddings. To complete the representation
learning toolbox, we also outline a simple yet effective post-processing
technique to properly visualize the learned embeddings. Our empirical results
demonstrate that the proposed framework, in conjunction with a set of relevant
entity-relation-matrices, outperforms the existing state-of-the-art approaches
in various data mining tasks.
- Abstract(参考訳): 表現学習は、データベース内のエンティティを分析するための基本的な構成要素である。
既存の組込み学習法は様々なデータマイニング問題に有効であるが、これらの手法は学習した組込みによってキャプチャされた意味論のタイプに事前決定された仮定を持つため、その適用性は制限されることが多い。
本研究では,組込み学習フレームワークを提案する。
1)入力データ型に依存しない入力フォーマットを使用する。
2)学習表現に組み込むことのできる関係の観点では柔軟であり、
3) ドメイン知識を埋め込み学習プロセスに組み込む直感的な経路を提供する。
提案するフレームワークは,エンティティ・リレーショナル・マトリクスを入力として利用し,データベース内の異なるエンティティ間の親和性を定量化する。
さらに、サンプリング機構を慎重に設計し、入力と出力埋め込みによってキャプチャされた情報との直接接続を確立する。
表現学習ツールボックスを完成させるために,学習した埋め込みを適切に視覚化する,単純かつ効果的な後処理手法も概説する。
実験の結果,提案するフレームワークは,関連エンティティ・リレーショナル・マトリクスのセットと合わせて,様々なデータマイニングタスクにおける既存の最先端アプローチよりも優れていることが示された。
関連論文リスト
- Informed Meta-Learning [55.2480439325792]
メタラーニングとインシデントMLは、事前知識をMLパイプラインに組み込むための2つのアプローチとして際立っている。
我々は,非構造化知識表現からの事前の取り込みを容易にする,情報メタラーニングというハイブリッドパラダイムを定式化する。
データ効率、観測ノイズに対する堅牢性、タスク分散シフトを改善する上で、情報メタラーニングの潜在的な利点を実証する。
論文 参考訳(メタデータ) (2024-02-25T15:08:37Z) - Learning Representations without Compositional Assumptions [79.12273403390311]
本稿では,特徴集合をグラフノードとして表現し,それらの関係を学習可能なエッジとして表現することで,特徴集合の依存関係を学習するデータ駆動型アプローチを提案する。
また,複数のビューから情報を動的に集約するために,より小さな潜在グラフを学習する新しい階層グラフオートエンコーダLEGATOを導入する。
論文 参考訳(メタデータ) (2023-05-31T10:36:10Z) - Schema-aware Reference as Prompt Improves Data-Efficient Knowledge Graph
Construction [57.854498238624366]
本稿では,データ効率のよい知識グラフ構築のためのRAP(Schema-Aware Reference As Prompt)の検索手法を提案する。
RAPは、人間の注釈付きおよび弱教師付きデータから受け継いだスキーマと知識を、各サンプルのプロンプトとして動的に活用することができる。
論文 参考訳(メタデータ) (2022-10-19T16:40:28Z) - Representing Knowledge by Spans: A Knowledge-Enhanced Model for
Information Extraction [7.077412533545456]
本稿では,エンティティとリレーションの両方の表現を同時に学習する事前学習モデルを提案する。
スパンをスパンモジュールで効率的に符号化することで、私たちのモデルはエンティティとそれらの関係を表現できますが、既存のモデルよりもパラメータが少なくなります。
論文 参考訳(メタデータ) (2022-08-20T07:32:25Z) - Self-Supervised Visual Representation Learning with Semantic Grouping [50.14703605659837]
我々は、未ラベルのシーン中心のデータから視覚表現を学習する問題に取り組む。
本研究では,データ駆動型セマンティックスロット,すなわちSlotConによる協調型セマンティックグルーピングと表現学習のためのコントラスト学習を提案する。
論文 参考訳(メタデータ) (2022-05-30T17:50:59Z) - Mapping the Internet: Modelling Entity Interactions in Complex
Heterogeneous Networks [0.0]
サンプル表現、モデル定義、トレーニングのための汎用性のある統一フレームワークHMill'を提案します。
フレームワークに実装されたモデルによって実現されたすべての関数の集合に対する普遍近似定理の拡張を示す。
このフレームワークを使ってサイバーセキュリティドメインから3つの異なる問題を解決する。
論文 参考訳(メタデータ) (2021-04-19T21:32:44Z) - Multifaceted Context Representation using Dual Attention for Ontology
Alignment [6.445605125467574]
オントロジーアライメントは、データ統合、データ転送、データ準備など、さまざまな分野に適用できる重要な研究課題である。
We propose VeeAlign, a Deep Learning based model that using a dual-attention mechanism to compute the contextualized representation of a concept to learn alignments。
我々は、異なるドメインや多言語設定の様々なデータセットに対するアプローチを検証するとともに、SOTA法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2020-10-16T18:28:38Z) - Relation-Guided Representation Learning [53.60351496449232]
本稿では,サンプル関係を明示的にモデル化し,活用する表現学習手法を提案する。
私たちのフレームワークは、サンプル間の関係をよく保存します。
サンプルをサブスペースに埋め込むことにより,本手法が大規模なサンプル外問題に対処可能であることを示す。
論文 参考訳(メタデータ) (2020-07-11T10:57:45Z) - Propositionalization and Embeddings: Two Sides of the Same Coin [0.0]
本稿では,リレーショナル学習におけるデータ処理技術について概説する。
それは命題化とデータ変換のアプローチの埋め込みに焦点を当てている。
統一手法の2つの効率的な実装を提案する。
論文 参考訳(メタデータ) (2020-06-08T08:33:21Z) - Exploiting Structured Knowledge in Text via Graph-Guided Representation
Learning [73.0598186896953]
本稿では、知識グラフからのガイダンスを用いて、生テキスト上で学習する2つの自己教師型タスクを提案する。
エンティティレベルのマスキング言語モデルに基づいて、最初のコントリビューションはエンティティマスキングスキームです。
既存のパラダイムとは対照的に,本手法では事前学習時にのみ,知識グラフを暗黙的に使用する。
論文 参考訳(メタデータ) (2020-04-29T14:22:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。