論文の概要: Multi-Class and Multi-Task Strategies for Neural Directed Link Prediction
- arxiv url: http://arxiv.org/abs/2412.10895v1
- Date: Sat, 14 Dec 2024 16:55:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-17 14:01:24.560782
- Title: Multi-Class and Multi-Task Strategies for Neural Directed Link Prediction
- Title(参考訳): ニューラル指向リンク予測のためのマルチクラス・マルチタスク戦略
- Authors: Claudio Moroni, Claudio Borile, Carolina Mattsson, Michele Starnini, André Panisson,
- Abstract要約: Undirected と Directed Link Prediction の間には重要な違いがある。
Directed Link Predictionには3つのサブタスクがあり、それぞれがトレーニング、検証、テストセットの構造化方法によって定義される。
3つのタスクを同時に扱う3つの戦略を提案する。
- 参考スコア(独自算出の注目度): 0.8854624631197944
- License:
- Abstract: Link Prediction is a foundational task in Graph Representation Learning, supporting applications like link recommendation, knowledge graph completion and graph generation. Graph Neural Networks have shown the most promising results in this domain and are currently the de facto standard approach to learning from graph data. However, a key distinction exists between Undirected and Directed Link Prediction: the former just predicts the existence of an edge, while the latter must also account for edge directionality and bidirectionality. This translates to Directed Link Prediction (DLP) having three sub-tasks, each defined by how training, validation and test sets are structured. Most research on DLP overlooks this trichotomy, focusing solely on the "existence" sub-task, where training and test sets are random, uncorrelated samples of positive and negative directed edges. Even in the works that recognize the aforementioned trichotomy, models fail to perform well across all three sub-tasks. In this study, we experimentally demonstrate that training Neural DLP (NDLP) models only on the existence sub-task, using methods adapted from Neural Undirected Link Prediction, results in parameter configurations that fail to capture directionality and bidirectionality, even after rebalancing edge classes. To address this, we propose three strategies that handle the three tasks simultaneously. Our first strategy, the Multi-Class Framework for Neural Directed Link Prediction (MC-NDLP) maps NDLP to a Multi-Class training objective. The second and third approaches adopt a Multi-Task perspective, either with a Multi-Objective (MO-DLP) or a Scalarized (S-DLP) strategy. Our results show that these methods outperform traditional approaches across multiple datasets and models, achieving equivalent or superior performance in addressing the three DLP sub-tasks.
- Abstract(参考訳): リンク予測はグラフ表現学習の基本的なタスクであり、リンクレコメンデーション、知識グラフ補完、グラフ生成などのアプリケーションをサポートする。
グラフニューラルネットワークは、この領域で最も有望な結果を示しており、現在、グラフデータから学ぶための事実上の標準的アプローチである。
前者はエッジの存在を予測し、後者はエッジの方向性と双方向性も考慮しなければならない。
これは3つのサブタスクを持つダイレクトリンク予測(DLP)に変換され、それぞれがトレーニング、検証、テストセットをどのように構成するかによって定義される。
DLPのほとんどの研究は、トレーニングとテストセットがランダムで、正および負の有向エッジの非相関なサンプルである「存在」サブタスクにのみ焦点をあてて、この三分法を見落としている。
上記の三分法を認識する作品においても、モデルは3つのサブタスクすべてでうまく機能しない。
本研究では,ニューラルDLP(NDLP)モデルのトレーニングが,エッジクラスの再バランス後においても,方向性や双方向性を捉えるのに失敗するパラメータ構成を,ニューラルアンダイレクトリンク予測から適応した手法を用いて行うことを実験的に実証した。
そこで本研究では,3つのタスクを同時に扱う3つの戦略を提案する。
最初の戦略は、NDLPをマルチクラス学習目標にマッピングするMulti-Class Framework for Neural Directed Link Prediction (MC-NDLP)である。
第2および第3のアプローチでは、Multi-Taskパースペクティブ(MO-DLP)またはScalarized(S-DLP)戦略を採用する。
その結果、これらの手法は、複数のデータセットやモデルにまたがる従来の手法よりも優れており、3つのDLPサブタスクに対処する上で同等または優れた性能を実現していることがわかった。
関連論文リスト
- Unified Speech Recognition: A Single Model for Auditory, Visual, and Audiovisual Inputs [73.74375912785689]
本稿では,音声認識システムのための統合学習戦略を提案する。
3つのタスクの1つのモデルをトレーニングすることで、VSRとAVSRの性能が向上することを示す。
また,非ラベル標本をより効果的に活用するために,強欲な擬似ラベリング手法を導入する。
論文 参考訳(メタデータ) (2024-11-04T16:46:53Z) - Bidirectional Awareness Induction in Autoregressive Seq2Seq Models [47.82947878753809]
双方向認識誘導(BAI)は、ネットワーク内の要素のサブセットであるPivotsを利用して、自己回帰的制約を破ることなく双方向学習を行う訓練手法である。
特に,イメージキャプションでは2.4CIDEr,ニューラルマシン翻訳では4.96BLEU,テキスト要約では1.16ROUGEの増加が確認された。
論文 参考訳(メタデータ) (2024-08-25T23:46:35Z) - Co-guiding for Multi-intent Spoken Language Understanding [53.30511968323911]
本稿では,2つのタスク間の相互指導を実現するための2段階のフレームワークを実装した,コガイドネットと呼ばれる新しいモデルを提案する。
第1段階では,単一タスクによる教師付きコントラスト学習を提案し,第2段階ではコガイドによる教師付きコントラスト学習を提案する。
マルチインテリジェントSLU実験の結果,我々のモデルは既存のモデルよりも大きなマージンで優れていることがわかった。
論文 参考訳(メタデータ) (2023-11-22T08:06:22Z) - FULLER: Unified Multi-modality Multi-task 3D Perception via Multi-level
Gradient Calibration [89.4165092674947]
マルチモダリティ融合とマルチタスク学習は、3D自動運転シナリオにおいてトレンドになりつつある。
先行研究は、学習フレームワークを経験的な知識で手作業で調整し、それがサブオプティマに繋がる可能性がある。
そこで本稿では,最適化中のタスクやモダリティにまたがる,シンプルなマルチレベル勾配校正学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-31T12:50:15Z) - Provable Multi-Task Representation Learning by Two-Layer ReLU Neural Networks [69.38572074372392]
本稿では,複数タスクにおける非線形モデルを用いたトレーニング中に特徴学習が発生することを示す最初の結果を示す。
私たちのキーとなる洞察は、マルチタスク事前トレーニングは、通常タスク間で同じラベルを持つポイントを整列する表現を好む擬似コントラスト的損失を誘導するということです。
論文 参考訳(メタデータ) (2023-07-13T16:39:08Z) - Feature Pyramid Network for Multi-task Affective Analysis [15.645791213312734]
マルチタスク影響分析のための特徴ピラミッドネットワークという新しいモデルを提案する。
階層的特徴を抽出して3つのラベルを予測し,事前学習されたシングルタスクモデルから学習するための教師学生訓練戦略を適用した。
論文 参考訳(メタデータ) (2021-07-08T08:10:04Z) - End-to-End 3D Multi-Object Tracking and Trajectory Forecasting [34.68114553744956]
3次元MOTと軌道予測の統一解を提案する。
グラフニューラルネットを導入して特徴相互作用技術を採用する。
また,予測トラジェクトリの品質と多様性を向上させるために,多様性サンプリング機能を利用する。
論文 参考訳(メタデータ) (2020-08-25T16:54:46Z) - Unsupervised Cross-Modal Alignment for Multi-Person 3D Pose Estimation [52.94078950641959]
マルチパーソン・ヒューマン・ポーズ推定のためのデプロイフレンドリーで高速なボトムアップ・フレームワークを提案する。
我々は,人物の位置を対応する3Dポーズ表現と統一する,多人数の3Dポーズのニューラル表現を採用する。
ペア化された2Dまたは3Dポーズアノテーションが利用できない実用的な配置パラダイムを提案する。
論文 参考訳(メタデータ) (2020-08-04T07:54:25Z) - PTP: Parallelized Tracking and Prediction with Graph Neural Networks and
Diversity Sampling [34.68114553744956]
多物体追跡(MOT)と軌跡予測は、現代の3次元知覚システムにおいて2つの重要な要素である。
エージェントインタラクションの共有特徴表現を学習するための並列化フレームワークを提案する。
社会的に認識された特徴学習と多様性サンプリングを用いた手法は,3次元MOTにおける新しい最先端性能と軌道予測を実現する。
論文 参考訳(メタデータ) (2020-03-17T17:53:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。