論文の概要: KAAE: Numerical Reasoning for Knowledge Graphs via Knowledge-aware Attributes Learning
- arxiv url: http://arxiv.org/abs/2411.12950v2
- Date: Sat, 23 Nov 2024 05:43:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-26 14:21:35.000750
- Title: KAAE: Numerical Reasoning for Knowledge Graphs via Knowledge-aware Attributes Learning
- Title（参考訳）: KAAE:知識認識属性学習による知識グラフの数値推論
- Authors: Ming Yin, Qiang Zhou, Zongsheng Cao, Mei Li,
- Abstract要約: 数値推論は自然言語処理やレコメンダシステムなど、さまざまな人工知能応用において重要である。
既存のアプローチは、セマンティックな関連性とセマンティックなあいまいさという、モデリングにおいて2つの重要な課題に直面する。
数値推論における知識グラフ埋め込みのための新しい知識認識属性埋め込みモデル(KAAE)を提案する。
- 参考スコア（独自算出の注目度）: 26.605386507466733
- License:
- Abstract: Numerical reasoning is pivotal in various artificial intelligence applications, such as natural language processing and recommender systems, where it involves using entities, relations, and attribute values (e.g., weight, length) to infer new factual relations (e.g., the Nile is longer than the Amazon). However, existing approaches encounter two critical challenges in modeling: (1) semantic relevance-the challenge of insufficiently capturing the necessary contextual interactions among entities, relations, and numerical attributes, often resulting in suboptimal inference; and (2) semantic ambiguity-the difficulty in accurately distinguishing ordinal relationships during numerical reasoning, which compromises the generation of high-quality samples and limits the effectiveness of contrastive learning. To address these challenges, we propose the novel Knowledge-Aware Attributes Embedding model (KAAE) for knowledge graph embeddings in numerical reasoning. Specifically, to overcome the challenge of semantic relevance, we introduce a Mixture-of-Experts-Knowledge-Aware (MoEKA) Encoder, designed to integrate the semantics of entities, relations, and numerical attributes into a joint semantic space. To tackle semantic ambiguity, we implement a new ordinal knowledge contrastive learning (OKCL) strategy that generates high-quality ordinal samples from the original data with the aid of ordinal relations, capturing fine-grained semantic nuances essential for accurate numerical reasoning. Experiments on three public benchmark datasets demonstrate the superior performance of KAAE across various attribute value distributions.
- Abstract（参考訳）: 自然言語処理やレコメンデーションシステムなど、さまざまな人工知能アプリケーションにおいて、数値推論は重要な要素であり、エンティティ、リレーション、属性値(例えば、重み、長さ)を使って新しい事実関係を推測する(例えば、ナイルはAmazonよりも長い)。
しかし,既存の手法では,(1)エンティティ,関係,および数値属性間の必要な文脈的相互作用を不十分に把握する難しさ,(2)数値推論における順序的関係を正確に識別することの難しさ,(2)高品質なサンプルの生成を損なうこと,および対照的な学習の有効性を損なうこと,の2つの重要な課題に直面する。
これらの課題に対処するため、数値推論における知識グラフ埋め込みのための新しい知識認識属性埋め込みモデル(KAAE)を提案する。
具体的には、意味関連性の課題を克服するために、エンティティ、関係、数値属性のセマンティクスを結合意味空間に統合するために設計されたMixture-of-Experts-Knowledge-Aware(MoEKA)エンコーダを導入する。
意味的あいまいさに対処するため,従来のデータから高品質な順序的サンプルを生成し,正確な数値推論に不可欠な微粒な意味的ニュアンスを捕捉する,新しい順序的知識コントラスト学習(OKCL)戦略を実装した。
3つの公開ベンチマークデータセットの実験は、様々な属性値分布におけるKAAEの優れた性能を示す。
関連論文リスト
- Independence Constrained Disentangled Representation Learning from Epistemological Perspective [13.51102815877287]
Disentangled Representation Learningは、データ生成プロセスにおいて意味論的に意味のある潜伏変数を識別するデータエンコーダをトレーニングすることで、ディープラーニングメソッドの説明可能性を向上させることを目的としている。
不整合表現学習の目的については合意が得られない。
本稿では,相互情報制約と独立性制約を統合した非絡み合い表現学習手法を提案する。
論文 参考訳（メタデータ） (2024-09-04T13:00:59Z) - Prompt-based Logical Semantics Enhancement for Implicit Discourse
Relation Recognition [4.7938839332508945]
Inlicit Discourse Relation Recognition (IDRR) のための Prompt-based Logical Semantics Enhancement (PLSE) 法を提案する。
提案手法は,事前学習した言語モデルに対する対話関係に関する知識を,素早い接続予測によってシームレスに注入する。
PDTB 2.0 と CoNLL16 データセットによる実験結果から,本手法は現状の最先端モデルに対して優れた一貫した性能を発揮することが示された。
論文 参考訳（メタデータ） (2023-11-01T08:38:08Z) - Towards a Holistic Understanding of Mathematical Questions with
Contrastive Pre-training [65.10741459705739]
本稿では,数学的問題表現,すなわち QuesCo に対する対照的な事前学習手法を提案する。
まず、コンテンツレベルと構造レベルを含む2段階の質問強化を設計し、類似した目的で文字通り多様な質問ペアを生成する。
そこで我々は,知識概念の階層的情報を完全に活用するために,知識階層を意識したランク戦略を提案する。
論文 参考訳（メタデータ） (2023-01-18T14:23:29Z) - REKnow: Enhanced Knowledge for Joint Entity and Relation Extraction [30.829001748700637]
関係抽出はテキストからすべての隠れた関係事実を抽出することを目的とした課題である。
様々な関係抽出設定下でうまく機能する統一されたフレームワークは存在しない。
これら2つの問題を緩和する知識強化型生成モデルを提案する。
本モデルは,WebNLG,NYT10,TACREDなど,複数のベンチマークや設定において優れた性能を実現する。
論文 参考訳（メタデータ） (2022-06-10T13:59:38Z) - An Empirical Investigation of Commonsense Self-Supervision with
Knowledge Graphs [67.23285413610243]
大規模知識グラフから抽出した情報に基づく自己監督は、言語モデルの一般化を改善することが示されている。
本研究では,言語モデルに適用可能な合成データを生成するための知識サンプリング戦略とサイズの影響について検討する。
論文 参考訳（メタデータ） (2022-05-21T19:49:04Z) - Exploring the Trade-off between Plausibility, Change Intensity and
Adversarial Power in Counterfactual Explanations using Multi-objective
Optimization [73.89239820192894]
自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。
本稿では, 対実例生成のための新しい枠組みを提案する。
論文 参考訳（メタデータ） (2022-05-20T15:02:53Z) - Few-shot Named Entity Recognition with Cloze Questions [3.561183926088611]
本稿では,クローゼクエスト機構とファインチューニングを併用した数ショット学習手法であるPET(Pattern-Exploiting Training)の簡易かつ直感的な適応を提案する。
提案手法は,他の数発のベースラインに対して,標準的な微調整や同等あるいは改良された結果よりもはるかに優れた性能を実現する。
論文 参考訳（メタデータ） (2021-11-24T11:08:59Z) - SEEK: Segmented Embedding of Knowledge Graphs [77.5307592941209]
本稿では,モデル複雑性を増大させることなく,高い競争力を持つ関係表現性を実現する軽量なモデリングフレームワークを提案する。
本フレームワークは,評価関数の設計に重点を置いており,1)十分な特徴相互作用の促進,2)関係の対称性と反対称性の両特性の保存,という2つの重要な特徴を強調している。
論文 参考訳（メタデータ） (2020-05-02T15:15:50Z) - Probing Linguistic Features of Sentence-Level Representations in Neural
Relation Extraction [80.38130122127882]
ニューラルリレーション抽出(RE)に関連する言語特性を対象とした14の探索タスクを導入する。
私たちは、40以上の異なるエンコーダアーキテクチャと2つのデータセットでトレーニングされた言語的特徴の組み合わせによって学習された表現を研究するためにそれらを使用します。
アーキテクチャによって引き起こされるバイアスと言語的特徴の含意は、探索タスクのパフォーマンスにおいて明らかに表現されている。
論文 参考訳（メタデータ） (2020-04-17T09:17:40Z) - A Dependency Syntactic Knowledge Augmented Interactive Architecture for
End-to-End Aspect-based Sentiment Analysis [73.74885246830611]
エンドツーエンドABSAのためのマルチタスク学習を用いた対話型アーキテクチャを新たに提案する。
このモデルは、よく設計された依存性関係埋め込みグラフ畳み込みネットワーク(DreGcn)を活用することで、構文知識(依存性関係と型)を完全に活用することができる。
3つのベンチマークデータセットの大規模な実験結果から,本手法の有効性が示された。
論文 参考訳（メタデータ） (2020-04-04T14:59:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。