論文の概要: Ensemble Semi-supervised Entity Alignment via Cycle-teaching
- arxiv url: http://arxiv.org/abs/2203.06308v1
- Date: Sat, 12 Mar 2022 01:43:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-15 13:20:26.624046
- Title: Ensemble Semi-supervised Entity Alignment via Cycle-teaching
- Title(参考訳): サイクルティーチングによる半教師付きエンティティアライメント
- Authors: Kexuan Xin, Zequn Sun, Wen Hua, Bing Liu, Wei Hu, Jianfeng Qu,
Xiaofang Zhou
- Abstract要約: 半教師付きエンティティアライメントのための反復的サイクル学習フレームワークを設計する。
本稿では,各アライザに対して信頼性の高いエンティティアライメントを選択するための多様性を考慮したアライメント選択法を提案する。
また、アライメント器の新しいアライメントと教師のアライメントを組み合わせる際に、アライメント競合を解決するためのコンフリクト解決機構を設計する。
- 参考スコア(独自算出の注目度): 34.33804105329285
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Entity alignment is to find identical entities in different knowledge graphs.
Although embedding-based entity alignment has recently achieved remarkable
progress, training data insufficiency remains a critical challenge.
Conventional semi-supervised methods also suffer from the incorrect entity
alignment in newly proposed training data. To resolve these issues, we design
an iterative cycle-teaching framework for semi-supervised entity alignment. The
key idea is to train multiple entity alignment models (called aligners)
simultaneously and let each aligner iteratively teach its successor the
proposed new entity alignment. We propose a diversity-aware alignment selection
method to choose reliable entity alignment for each aligner. We also design a
conflict resolution mechanism to resolve the alignment conflict when combining
the new alignment of an aligner and that from its teacher. Besides, considering
the influence of cycle-teaching order, we elaborately design a strategy to
arrange the optimal order that can maximize the overall performance of multiple
aligners. The cycle-teaching process can break the limitations of each model's
learning capability and reduce the noise in new training data, leading to
improved performance. Extensive experiments on benchmark datasets demonstrate
the effectiveness of the proposed cycle-teaching framework, which significantly
outperforms the state-of-the-art models when the training data is insufficient
and the new entity alignment has much noise.
- Abstract(参考訳): エンティティアライメントは、異なる知識グラフで同一のエンティティを見つけることである。
組み込みベースのエンティティアライメントは近年、著しい進歩を遂げているが、トレーニングデータ不足は依然として重要な課題である。
従来の半教師付き手法は、新しく提案されたトレーニングデータにおいて誤りなエンティティアライメントに苦しんでいる。
これらの問題を解決するため、半教師付きエンティティアライメントのための反復的サイクル学習フレームワークを設計する。
重要なアイデアは、複数のエンティティアライメントモデル(アライナと呼ばれる)を同時にトレーニングし、各アライナに新しいエンティティアライメントの提案を反復的に教えることだ。
本稿では,各アライナーに対して信頼性の高いエンティティアライメントを選択するための多様性対応アライメント選択手法を提案する。
また、アライメント器の新しいアライメントと教師のアライメントを組み合わせる際に、アライメント競合を解決するためのコンフリクト解決機構を設計する。
さらに,サイクル学習順序の影響を考慮し,複数の調整器の全体的な性能を最大化できる最適な順序を調整するための戦略を精巧に設計する。
サイクルティーチングプロセスは、各モデルの学習能力の制限を破り、新しいトレーニングデータのノイズを低減し、パフォーマンスを向上させることができる。
ベンチマークデータセットに対する大規模な実験は、トレーニングデータが不十分で新しいエンティティアライメントがノイズが大きい場合に、最先端モデルよりも大幅に優れたサイクル学習フレームワークの有効性を示す。
関連論文リスト
- Implicitly Guided Design with PropEn: Match your Data to Follow the Gradient [52.2669490431145]
PropEnは'matching'にインスパイアされている。
一致したデータセットによるトレーニングは、データ分布内に留まりながら、興味のある性質の勾配を近似することを示す。
論文 参考訳(メタデータ) (2024-05-28T11:30:19Z) - Step-On-Feet Tuning: Scaling Self-Alignment of LLMs via Bootstrapping [53.454408491386886]
自己アライメントのブートストラップは、シングルラウンドアプローチをはるかに上回る。
モデルが継続的に強化した複数ショット機能を活用してゼロまたはワンショットのパフォーマンスを向上するステップ・オン・フィート・チューニング(SOFT)を提案する。
簡単な学習法に基づいて、自己アライメントの性能をさらに向上させるSOFT+を提案する。
論文 参考訳(メタデータ) (2024-02-12T12:30:42Z) - Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。
連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。
本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-22T02:12:08Z) - Neural Collapse Terminus: A Unified Solution for Class Incremental
Learning and Its Variants [166.916517335816]
本稿では,3つの課題における不整合ジレンマに対する統一解を提案する。
ラベル空間全体の最大等角的クラス間分離を有する固定構造である神経崩壊終端を提案する。
本手法は,データ不均衡やデータ不足にかかわらず,神経崩壊最適度を漸進的に保持する。
論文 参考訳(メタデータ) (2023-08-03T13:09:59Z) - Conformalized Online Learning: Online Calibration Without a Holdout Set [10.420394952839242]
オンライン環境では、有効なカバレッジ保証を備えた不確実性セットを構築するためのフレームワークを開発する。
複数出力回帰問題に対して有効な区間を構築する方法を示す。
論文 参考訳(メタデータ) (2022-05-18T17:41:37Z) - Collaborative Multidisciplinary Design Optimization with Neural Networks [1.2691047660244335]
協調最適化の場合、二項分類の興味深い問題を解くことにより、より高速で信頼性の高い収束が得られることを示す。
本稿では,非対称な損失関数,リプシッツ連続性を保証する構造,基本距離関数の性質を尊重する正規化を含むニューラルネットワークのトレーニングを提案する。
論文 参考訳(メタデータ) (2021-06-11T00:03:47Z) - Orthogonal Ensemble Networks for Biomedical Image Segmentation [10.011414604407681]
モデル多様性を明示する新しいフレームワークであるOrthogonal Ensemble Networks (OEN)を紹介する。
提案手法を2つの課題脳病変セグメンテーションタスクでベンチマークする。
実験結果から,本手法はより頑健でよく校正されたアンサンブルモデルを生成することが示された。
論文 参考訳(メタデータ) (2021-05-22T23:44:55Z) - Cluster-level Feature Alignment for Person Re-identification [16.01713931617725]
本稿では、データセット全体にわたるクラスタレベルの特徴アライメントという、別の特徴アライメントのモダリティを探索する。
クラスタレベルの特徴アライメントは,データセットの概要から反復的なアグリゲーションとアライメントから構成される。
論文 参考訳(メタデータ) (2020-08-15T23:47:47Z) - Dynamic Federated Learning [57.14673504239551]
フェデレートラーニング(Federated Learning)は、マルチエージェント環境における集中的なコーディネーション戦略の包括的用語として登場した。
我々は、各イテレーションにおいて、利用可能なエージェントのランダムなサブセットがそのデータに基づいてローカル更新を実行する、フェデレートされた学習モデルを考える。
集約最適化問題に対する真の最小化器上の非定常ランダムウォークモデルの下で、アーキテクチャの性能は、各エージェントにおけるデータ変動率、各エージェントにおけるモデル変動率、アルゴリズムの学習率に逆比例する追跡項の3つの要因によって決定されることを示す。
論文 参考訳(メタデータ) (2020-02-20T15:00:54Z) - Coordinated Reasoning for Cross-Lingual Knowledge Graph Alignment [74.0482641714311]
本稿では,2つのコーディネート推論手法,すなわち Easy-to-Hardデコード戦略とジョイントエンティティアライメントアルゴリズムを導入する。
我々のモデルは最先端の性能を実現し,提案手法は既存のベースラインを大幅に改善する。
論文 参考訳(メタデータ) (2020-01-23T18:41:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。