論文の概要: ICLEA: Interactive Contrastive Learning for Self-supervised Entity
Alignment
- arxiv url: http://arxiv.org/abs/2201.06225v1
- Date: Mon, 17 Jan 2022 06:04:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-19 13:31:53.445920
- Title: ICLEA: Interactive Contrastive Learning for Self-supervised Entity
Alignment
- Title(参考訳): ICLEA:自己管理型エンティティアライメントのための対話型コントラスト学習
- Authors: Kaisheng Zeng, Zhenhao Dong, Lei Hou, Yixin Cao, Minghao Hu, Jifan Yu,
Xin Lv, Juanzi Li, Ling Feng
- Abstract要約: 自己管理エンティティアライメント(EA)は、シードアライメントなしで異なる知識グラフ(KG)に等価なエンティティをリンクすることを目的としている。
現在のSOTA自己監督型EA法は、もともとコンピュータビジョンで設計されたコントラスト学習からインスピレーションを得ている。
自己管理型EAのための対話型コントラスト学習モデルを提案する。
- 参考スコア(独自算出の注目度): 27.449414854756913
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-supervised entity alignment (EA) aims to link equivalent entities across
different knowledge graphs (KGs) without seed alignments. The current SOTA
self-supervised EA method draws inspiration from contrastive learning,
originally designed in computer vision based on instance discrimination and
contrastive loss, and suffers from two shortcomings. Firstly, it puts
unidirectional emphasis on pushing sampled negative entities far away rather
than pulling positively aligned pairs close, as is done in the well-established
supervised EA. Secondly, KGs contain rich side information (e.g., entity
description), and how to effectively leverage those information has not been
adequately investigated in self-supervised EA. In this paper, we propose an
interactive contrastive learning model for self-supervised EA. The model
encodes not only structures and semantics of entities (including entity name,
entity description, and entity neighborhood), but also conducts cross-KG
contrastive learning by building pseudo-aligned entity pairs. Experimental
results show that our approach outperforms previous best self-supervised
results by a large margin (over 9% average improvement) and performs on par
with previous SOTA supervised counterparts, demonstrating the effectiveness of
the interactive contrastive learning for self-supervised EA.
- Abstract(参考訳): 自己管理エンティティアライメント(EA)は、シードアライメントなしで異なる知識グラフ(KG)に等価なエンティティをリンクすることを目的としている。
現在の sota 自己教師付き ea 法は、インスタンス識別とコントラスト損失に基づくコンピュータビジョンで設計されたコントラスト学習からインスピレーションを得ており、2つの欠点に苦しむ。
まず、十分に確立されたEAで行われているように、正に整合したペアを閉じるのではなく、サンプル化された負のエンティティを遠くに押し出すことに一方向の重点を置いている。
第二に、KGには豊富な側情報(エンティティ記述など)が含まれており、これらの情報を効果的に活用する方法は、自己管理EAでは十分に研究されていない。
本稿では,自己教師型EAのための対話型コントラスト学習モデルを提案する。
このモデルは、エンティティの構造と意味論(エンティティ名、エンティティ記述、エンティティ近隣を含む)を符号化するだけでなく、擬似整合エンティティペアを構築することで、相互KGの対照的な学習も行う。
実験結果から,本手法は従来の最良自己指導結果よりも9%以上の差(平均改善率)で優れており,従来のSOTA指導結果と同等の成績を示し,自己管理EAに対する相互比較学習の有効性を示した。
関連論文リスト
- Understanding and Guiding Weakly Supervised Entity Alignment with Potential Isomorphism Propagation [31.558938631213074]
本稿では,弱教師付きEA分析のための伝搬視点を提案する。
集約に基づくEAモデルは、ペアのエンティティ類似性に対する伝搬演算子を求めることを示す。
我々は、この演算子を組み込んだ一般的なEAフレームワークであるPipEAを開発し、集約ベースのモデルの種類ごとに精度を向上させる。
論文 参考訳(メタデータ) (2024-02-05T14:06:15Z) - Weakly-supervised Contrastive Learning for Unsupervised Object Discovery [52.696041556640516]
ジェネリックな方法でオブジェクトを発見できるため、教師なしのオブジェクト発見は有望である。
画像から高レベルな意味的特徴を抽出する意味誘導型自己教師学習モデルを設計する。
オブジェクト領域のローカライズのための主成分分析(PCA)を導入する。
論文 参考訳(メタデータ) (2023-07-07T04:03:48Z) - Semi-supervised learning made simple with self-supervised clustering [65.98152950607707]
自己教師付き学習モデルは、人間のアノテーションを必要とせずにリッチな視覚表現を学習することが示されている。
本稿では,クラスタリングに基づく自己教師付き手法を半教師付き学習者へと変換する,概念的に単純だが経験的に強力な手法を提案する。
論文 参考訳(メタデータ) (2023-06-13T01:09:18Z) - Uncovering the Inner Workings of STEGO for Safe Unsupervised Semantic
Segmentation [68.8204255655161]
近年,コンピュータビジョンにおける汎用的特徴抽出バックボーンのトレーニングにおいて,自己指導型事前学習戦略が顕著な成果を上げている。
DINOの自己蒸留技術は、暗黙のラベルを使わずに、潜在空間における教師なしクラスタリングや生成した特徴の意味的対応など、興味深い特徴を持っている。
教師なしセマンティックセグメンテーションコントラストのSTEGO法は、DINO-pre-trained Vision Transformerの特徴対応を蒸留し、最近その新しい状態を設定した。
論文 参考訳(メタデータ) (2023-04-14T15:30:26Z) - Dependency-aware Self-training for Entity Alignment [28.158354625969668]
エンティティアライメント(EA)は、異なる知識グラフ(KG)内のエンティティマッピングを検出することを目的とする。
EA手法は現在のEA研究を支配しているが、まだラベル付きマッピングに依存している。
本稿では、EAの特異性であるエンティティ間の依存関係を利用して、真正写像のリコールを損なうことなくノイズを抑えることを提案する。
論文 参考訳(メタデータ) (2022-11-29T11:24:14Z) - Be Your Own Neighborhood: Detecting Adversarial Example by the
Neighborhood Relations Built on Self-Supervised Learning [64.78972193105443]
本稿では,予測に有効な新しいAE検出フレームワークを提案する。
AEの異常な関係と拡張バージョンを区別して検出を行う。
表現を抽出し、ラベルを予測するために、既製の自己監視学習(SSL)モデルが使用される。
論文 参考訳(メタデータ) (2022-08-31T08:18:44Z) - Adversarial Dual-Student with Differentiable Spatial Warping for
Semi-Supervised Semantic Segmentation [70.2166826794421]
本研究では、教師なしデータ拡張を行うために、微分可能な幾何ワープを提案する。
また,平均教師数を改善するために,新しい対角的二重学習フレームワークを提案する。
我々のソリューションは、両方のデータセットで得られるパフォーマンスと最先端の結果を大幅に改善します。
論文 参考訳(メタデータ) (2022-03-05T17:36:17Z) - SelfKG: Self-Supervised Entity Alignment in Knowledge Graphs [24.647609970140095]
我々は,自己指導型学習目標であるSelfKGを開発した。
我々は、SelfKGが最先端の教師付きベースラインと同等あるいは同等の結果が得られることを示す。
SelfKGのパフォーマンスは、自己教師型学習がKGにおけるエンティティアライメントに大きな可能性をもたらすことを示唆している。
論文 参考訳(メタデータ) (2022-03-02T11:40:37Z) - ActiveEA: Active Learning for Neural Entity Alignment [31.212894129845093]
エンティティアライメント(EA)は、異なる知識グラフ(KG)間で同等のエンティティをマッチングすることを目的としている。
現在の主流の手法であるニューラルEAモデルは、シードアライメントによるトレーニング、すなわち、事前整合したエンティティペアのセットに依存しています。
我々は、神経EAのための新しいアクティブラーニング(AL)フレームワークを考案し、非常に有意義なシードアライメントを作ることを目指している。
論文 参考訳(メタデータ) (2021-10-13T03:38:04Z) - A Self-supervised Method for Entity Alignment [20.368788592613466]
エンティティアライメントは、大規模知識グラフ(KG)を構築するための根本的な問題である
自己指導型学習の最近の進歩に触発されて、組織的アライメントの監督を除去できる範囲を探求する。
我々は、この発見を活用して、2つのKGにまたがる対照的な学習戦略を設計する。
論文 参考訳(メタデータ) (2021-06-17T11:22:20Z) - Self-Attention Attribution: Interpreting Information Interactions Inside
Transformer [89.21584915290319]
本稿では,トランスフォーマー内の情報相互作用を解釈する自己帰属属性法を提案する。
本研究は,BERT に対する非目標攻撃の実装において,その属性を敵対パターンとして用いることができることを示す。
論文 参考訳(メタデータ) (2020-04-23T14:58:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。