論文の概要: SnapE -- Training Snapshot Ensembles of Link Prediction Models
- arxiv url: http://arxiv.org/abs/2408.02707v1
- Date: Mon, 5 Aug 2024 12:02:10 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-07 16:08:09.261360
- Title: SnapE -- Training Snapshot Ensembles of Link Prediction Models
- Title（参考訳）: SnapE -- リンク予測モデルのスナップショットアンサンブルのトレーニング
- Authors: Ali Shaban, Heiko Paulheim,
- Abstract要約: 本稿では,ナレッジグラフの予測モデルをリンクするために,スナップショットアンサンブルのアイデアを伝達するアプローチを提案する。
本稿では,従来のスナップショットモデルを用いて,ネガティブな例を反復的に生成する新たなトレーニングループを提案する。
4つのデータセットにまたがる4つのベースモデルによる評価は、このアプローチが単一モデルアプローチよりも常に優れていることを示している。
- 参考スコア（独自算出の注目度）: 1.8722948221596285
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Snapshot ensembles have been widely used in various fields of prediction. They allow for training an ensemble of prediction models at the cost of training a single one. They are known to yield more robust predictions by creating a set of diverse base models. In this paper, we introduce an approach to transfer the idea of snapshot ensembles to link prediction models in knowledge graphs. Moreover, since link prediction in knowledge graphs is a setup without explicit negative examples, we propose a novel training loop that iteratively creates negative examples using previous snapshot models. An evaluation with four base models across four datasets shows that this approach constantly outperforms the single model approach, while keeping the training time constant.
- Abstract（参考訳）: スナップショットアンサンブルは様々な予測分野で広く使われている。
単一のモデルをトレーニングするコストで,予測モデルのアンサンブルをトレーニングすることが可能だ。
様々なベースモデルを作成することにより、より堅牢な予測が得られることが知られている。
本稿では,ナレッジグラフの予測モデルをリンクするために,スナップショットアンサンブルのアイデアを伝達する手法を提案する。
さらに,知識グラフのリンク予測は明示的なネガティブな例のない設定であるため,従来のスナップショットモデルを用いてネガティブな例を反復的に生成する新たなトレーニングループを提案する。
4つのデータセットにまたがる4つのベースモデルによる評価は、このアプローチがトレーニング時間を一定に保ちながら、単一のモデルアプローチを常に上回っていることを示している。
関連論文リスト
- Dynamic Post-Hoc Neural Ensemblers [55.15643209328513]
本研究では,ニューラルネットワークをアンサンブル手法として活用することを検討する。
低多様性のアンサンブルを学習するリスクを動機として,ベースモデル予測をランダムにドロップすることでモデルの正規化を提案する。
このアプローチはアンサンブル内の多様性を低くし、オーバーフィッティングを減らし、一般化能力を向上させる。
論文 参考訳（メタデータ） (2024-10-06T15:25:39Z) - Learning Augmentation Policies from A Model Zoo for Time Series Forecasting [58.66211334969299]
本稿では,強化学習に基づく学習可能なデータ拡張手法であるAutoTSAugを紹介する。
限界サンプルを学習可能なポリシーで強化することにより、AutoTSAugは予測性能を大幅に改善する。
論文 参考訳（メタデータ） (2024-09-10T07:34:19Z) - Reinforcing Pre-trained Models Using Counterfactual Images [54.26310919385808]
本稿では,言語誘導型生成対実画像を用いた分類モデル強化のための新しいフレームワークを提案する。
逆ファクト画像データセットを用いてモデルをテストすることにより、モデルの弱点を同定する。
我々は、分類モデルを微調整し強化するために、デファクトイメージを拡張データセットとして採用する。
論文 参考訳（メタデータ） (2024-06-19T08:07:14Z) - Predictive Churn with the Set of Good Models [64.05949860750235]
近似機械学習モデルの集合に対する競合予測の効果について検討する。
ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。
当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
論文 参考訳（メタデータ） (2024-02-12T16:15:25Z) - Composing Ensembles of Pre-trained Models via Iterative Consensus [95.10641301155232]
本稿では,異なる事前学習モデルのアンサンブルを構成するための統一的なフレームワークを提案する。
事前学習したモデルを「ジェネレータ」あるいは「スコーラ」として使用し、クローズドループ反復コンセンサス最適化により構成する。
スコアラーのアンサンブルによって達成されたコンセンサスは、シングルスコアラーのフィードバックよりも優れていることを示す。
論文 参考訳（メタデータ） (2022-10-20T18:46:31Z) - Instance-Based Neural Dependency Parsing [56.63500180843504]
依存関係解析のための解釈可能な推論プロセスを持つニューラルモデルを開発する。
私たちのモデルはインスタンスベースの推論を採用しており、トレーニングセットのエッジと比較することで、依存関係のエッジを抽出し、ラベル付けします。
論文 参考訳（メタデータ） (2021-09-28T05:30:52Z) - A Study of Joint Graph Inference and Forecasting [13.340967777671565]
多変量時系列の予測を改善するためにグラフニューラルネットワーク(GNN)を用いた最近のモデルのクラスについて検討する。
グラフを微分可能な方法でパラメータ化することで、モデルは予測品質を改善することを目指している。
論文 参考訳（メタデータ） (2021-09-10T16:34:35Z) - SPAN: Subgraph Prediction Attention Network for Dynamic Graphs [8.601023852899166]
本稿では,動的グラフのサブグラフ予測のための新しいモデルを提案する。
現在のスナップショットにあるサブグラフ構造から、次のスナップショットにあるサブグラフ構造へのマッピングを直接学習する。
実験の結果,この2つのタスクにおいて,モデルが他のモデルより優れており,5.02%から10.88%に向上していることがわかった。
論文 参考訳（メタデータ） (2021-08-17T17:29:52Z) - Deep Ensembles for Low-Data Transfer Learning [21.578470914935938]
我々は、事前訓練されたモデルからアンサンブルを作成する様々な方法を研究する。
プレトレーニング自体が多様性の優れた源であることが示される。
本稿では,任意の下流データセットに対して,事前学習したモデルのサブセットを効率的に同定する実用的なアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-10-14T07:59:00Z) - For2For: Learning to forecast from forecasts [1.6752182911522522]
本稿では,標準予測手法と機械学習モデルを組み合わせた時系列予測フレームワークを提案する。
M4コンペティションデータセットでテストされたこのアプローチは、四半期シリーズの全ての応募よりも優れており、月次シリーズの受賞アルゴリズム以外のすべてのものよりも正確である。
論文 参考訳（メタデータ） (2020-01-14T03:06:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。