論文の概要: Noisy Positive-Unlabeled Learning with Self-Training for Speculative
Knowledge Graph Reasoning
- arxiv url: http://arxiv.org/abs/2306.07512v1
- Date: Tue, 13 Jun 2023 02:43:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-14 15:08:48.471089
- Title: Noisy Positive-Unlabeled Learning with Self-Training for Speculative
Knowledge Graph Reasoning
- Title(参考訳): 投機的知識グラフ推論のための自己学習による雑音なし学習
- Authors: Ruijie Wang, Baoyu Li, Yichen Lu, Dachun Sun, Jinning Li, Yuchen Yan,
Shengzhong Liu, Hanghang Tong, Tarek F. Abdelzaher
- Abstract要約: 本稿では, 実世界の知識グラフ(KG)の投機的推論タスクについて検討する。これは, 真偽否定問題(すなわち, 否定される可能性のある事実)と正正問題(信頼できない事実や時代遅れな事実を含む)の両方を含む。
我々は,収集された事実と未収集事実の両方の正しさを共同で推定する変分フレームワーク,すなわちnPUGraphを提案する。
- 参考スコア(独自算出の注目度): 31.62771133978441
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper studies speculative reasoning task on real-world knowledge graphs
(KG) that contain both \textit{false negative issue} (i.e., potential true
facts being excluded) and \textit{false positive issue} (i.e., unreliable or
outdated facts being included). State-of-the-art methods fall short in the
speculative reasoning ability, as they assume the correctness of a fact is
solely determined by its presence in KG, making them vulnerable to false
negative/positive issues. The new reasoning task is formulated as a noisy
Positive-Unlabeled learning problem. We propose a variational framework, namely
nPUGraph, that jointly estimates the correctness of both collected and
uncollected facts (which we call \textit{label posterior}) and updates model
parameters during training. The label posterior estimation facilitates
speculative reasoning from two perspectives. First, it improves the robustness
of a label posterior-aware graph encoder against false positive links. Second,
it identifies missing facts to provide high-quality grounds of reasoning. They
are unified in a simple yet effective self-training procedure. Empirically,
extensive experiments on three benchmark KG and one Twitter dataset with
various degrees of false negative/positive cases demonstrate the effectiveness
of nPUGraph.
- Abstract(参考訳): 本稿では, 実世界の知識グラフ (KG) の投機的推論タスクについて検討する。これは, 否定的問題 (すなわち, 否定的事実が排除される可能性) と肯定的問題 (信頼できない, 時代遅れな事実を含む) の両方を含む。
最先端の手法は投機的推論能力に乏しく、事実の正しさはKGの存在によってのみ決定されると仮定し、偽陰性/肯定的な問題に脆弱である。
新しい推論タスクは、ノイズの多いポジティブな学習問題として定式化される。
我々は,収集された事実と非収集された事実の正しさを共同で推定し,トレーニング中にモデルパラメータを更新する変分フレームワーク,すなわちnPUGraphを提案する。
ラベルの後方推定は2つの視点から推測的推論を促進する。
まず、ラベル付き後方認識グラフエンコーダの偽陽性リンクに対するロバスト性を改善する。
第2に、推論の高品質な根拠を提供するために、欠落した事実を特定する。
それらは単純かつ効果的な自己学習手順で統一される。
実証的な実験では、3つのベンチマークKGと1つのTwitterデータセットに様々な偽陰性/陽性のケースがあり、nPUGraphの有効性を示している。
関連論文リスト
- LLM Critics Help Catch Bugs in Mathematics: Towards a Better Mathematical Verifier with Natural Language Feedback [71.95402654982095]
本研究では,自然言語フィードバック型検証器Math-Minosを提案する。
実験の結果,少量の自然言語フィードバックが検証器の性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2024-06-20T06:42:27Z) - NP$^2$L: Negative Pseudo Partial Labels Extraction for Graph Neural
Networks [48.39834063008816]
擬似ラベルはグラフニューラルネットワーク(GNN)で使われ、メッセージパッシングレベルでの学習を支援する。
本稿では,GNNにおいて擬似ラベルを使用する新しい手法を提案する。
本手法は,部分ラベルの重なりが無く,負のノード対関係として定義される場合,より正確であることを示す。
論文 参考訳(メタデータ) (2023-10-02T11:13:59Z) - ReCEval: Evaluating Reasoning Chains via Correctness and Informativeness [67.49087159888298]
ReCEvalは2つの重要な特性(正確性と情報性)を通じて推論チェーンを評価するフレームワークである。
本稿では、ReCEvalが様々なエラータイプを効果的に識別し、従来の手法と比較して顕著な改善をもたらすことを示す。
論文 参考訳(メタデータ) (2023-04-21T02:19:06Z) - When Noisy Labels Meet Long Tail Dilemmas: A Representation Calibration
Method [40.25499257944916]
実世界のデータセットは騒々しくラベル付けされ、クラス不均衡である。
本稿では,表現キャリブレーション手法RCALを提案する。
我々は,表現キャリブレーションの有効性を論じるために理論的結果を得る。
論文 参考訳(メタデータ) (2022-11-20T11:36:48Z) - Adversarial Contrastive Learning for Evidence-aware Fake News Detection
with Graph Neural Networks [20.282527436527765]
本稿では,Contrastive Learning,すなわちGETRALを用いたグラフベースのsEmantic構造マイニングフレームワークを提案する。
まず、グラフ構造化データとしてクレームとエビデンスをモデル化し、長距離セマンティック依存関係をキャプチャします。
次に、詳細なセマンティック表現をクレーム-エビデンス相互作用モジュールに入力して予測を行う。
論文 参考訳(メタデータ) (2022-10-11T14:54:37Z) - Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles [50.81061839052459]
我々は確率論的問題として、堅牢な対実的説明の生成を定式化する。
アンサンブルモデルのロバスト性とベース学習者のロバスト性との関係を示す。
本手法は, 反実的説明から初期観測までの距離をわずかに増加させるだけで, 高いロバスト性を実現する。
論文 参考訳(メタデータ) (2022-05-27T17:28:54Z) - Positive-Unlabeled Learning with Adversarial Data Augmentation for
Knowledge Graph Completion [41.34363699523586]
本稿では,知識グラフ補完のための逆データ拡張(PUDA)を用いた正の非ラベル学習を提案する。
PUDAは、偽陰性問題に対処するために、KGCタスクの正の未ラベルリスク推定器を調整します。
データ空間の問題に対処するため、PUDAは、敵対的トレーニングと正の非ラベル学習を統合することにより、データ拡張戦略を達成する。
論文 参考訳(メタデータ) (2022-05-02T13:33:27Z) - L2B: Learning to Bootstrap Robust Models for Combating Label Noise [52.02335367411447]
本稿では,Learning to Bootstrap (L2B) という,シンプルで効果的な手法を提案する。
モデルは、誤った擬似ラベルの影響を受けずに、自身の予測を使ってブートストラップを行うことができる。
これは、実際の観測されたラベルと生成されたラベル間の重みを動的に調整し、メタラーニングを通じて異なるサンプル間の重みを動的に調整することで実現される。
論文 参考訳(メタデータ) (2022-02-09T05:57:08Z) - Deconfounded Training for Graph Neural Networks [98.06386851685645]
本稿では, コンバウンディング効果を緩和し, 臨界情報に対するラッチを緩和する新しいDecon Training(DTP)のパラダイムを提案する。
具体的には、注意モジュールを用いて臨界部分グラフと自明部分グラフをアンタングル化する。
これにより、GNNは、ラベルとの関係が複数のディストリビューションで堅牢である、より信頼性の高いサブグラフをキャプチャできる。
論文 参考訳(メタデータ) (2021-12-30T15:22:35Z) - Boosting Contrastive Self-Supervised Learning with False Negative
Cancellation [40.71224235172881]
対照的な学習における根本的な問題は、偽陰性の影響を緩和することである。
偽陰性を特定するための新しい手法と、その効果を緩和するための2つの戦略を提案する。
提案手法は,既存のコントラスト学習法よりも一貫した改善を示す。
論文 参考訳(メタデータ) (2020-11-23T22:17:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。