論文の概要: KAAE: Numerical Reasoning for Knowledge Graphs via Knowledge-aware Attributes Learning
- arxiv url: http://arxiv.org/abs/2411.12950v2
- Date: Sat, 23 Nov 2024 05:43:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-26 14:21:35.000750
- Title: KAAE: Numerical Reasoning for Knowledge Graphs via Knowledge-aware Attributes Learning
- Title（参考訳）: KAAE:知識認識属性学習による知識グラフの数値推論
- Authors: Ming Yin, Qiang Zhou, Zongsheng Cao, Mei Li,
- Abstract要約: 数値推論は自然言語処理やレコメンダシステムなど、さまざまな人工知能応用において重要である。
既存のアプローチは、セマンティックな関連性とセマンティックなあいまいさという、モデリングにおいて2つの重要な課題に直面する。
数値推論における知識グラフ埋め込みのための新しい知識認識属性埋め込みモデル(KAAE)を提案する。
- 参考スコア（独自算出の注目度）: 26.605386507466733
- License:
- Abstract: Numerical reasoning is pivotal in various artificial intelligence applications, such as natural language processing and recommender systems, where it involves using entities, relations, and attribute values (e.g., weight, length) to infer new factual relations (e.g., the Nile is longer than the Amazon). However, existing approaches encounter two critical challenges in modeling: (1) semantic relevance-the challenge of insufficiently capturing the necessary contextual interactions among entities, relations, and numerical attributes, often resulting in suboptimal inference; and (2) semantic ambiguity-the difficulty in accurately distinguishing ordinal relationships during numerical reasoning, which compromises the generation of high-quality samples and limits the effectiveness of contrastive learning. To address these challenges, we propose the novel Knowledge-Aware Attributes Embedding model (KAAE) for knowledge graph embeddings in numerical reasoning. Specifically, to overcome the challenge of semantic relevance, we introduce a Mixture-of-Experts-Knowledge-Aware (MoEKA) Encoder, designed to integrate the semantics of entities, relations, and numerical attributes into a joint semantic space. To tackle semantic ambiguity, we implement a new ordinal knowledge contrastive learning (OKCL) strategy that generates high-quality ordinal samples from the original data with the aid of ordinal relations, capturing fine-grained semantic nuances essential for accurate numerical reasoning. Experiments on three public benchmark datasets demonstrate the superior performance of KAAE across various attribute value distributions.
- Abstract（参考訳）: 自然言語処理やレコメンデーションシステムなど、さまざまな人工知能アプリケーションにおいて、数値推論は重要な要素であり、エンティティ、リレーション、属性値(例えば、重み、長さ)を使って新しい事実関係を推測する(例えば、ナイルはAmazonよりも長い)。
しかし,既存の手法では,(1)エンティティ,関係,および数値属性間の必要な文脈的相互作用を不十分に把握する難しさ,(2)数値推論における順序的関係を正確に識別することの難しさ,(2)高品質なサンプルの生成を損なうこと,および対照的な学習の有効性を損なうこと,の2つの重要な課題に直面する。
これらの課題に対処するため、数値推論における知識グラフ埋め込みのための新しい知識認識属性埋め込みモデル(KAAE)を提案する。
具体的には、意味関連性の課題を克服するために、エンティティ、関係、数値属性のセマンティクスを結合意味空間に統合するために設計されたMixture-of-Experts-Knowledge-Aware(MoEKA)エンコーダを導入する。
意味的あいまいさに対処するため,従来のデータから高品質な順序的サンプルを生成し,正確な数値推論に不可欠な微粒な意味的ニュアンスを捕捉する,新しい順序的知識コントラスト学習(OKCL)戦略を実装した。
3つの公開ベンチマークデータセットの実験は、様々な属性値分布におけるKAAEの優れた性能を示す。
関連論文リスト
- Navigating Semantic Relations: Challenges for Language Models in Abstract Common-Sense Reasoning [5.4141465747474475]
大規模言語モデル(LLM)は、人間のようなテキストを生成し、適度な複雑さの問題を解くことで、顕著な性能を達成した。
概念ネット知識グラフを用いて,LLMにおける抽象的常識推論を体系的に評価する。
論文 参考訳（メタデータ） (2025-02-19T20:20:24Z) - Harnessing Large Language Models for Knowledge Graph Question Answering via Adaptive Multi-Aspect Retrieval-Augmentation [81.18701211912779]
本稿では,KG(Amar)フレームワーク上での適応型マルチアスペクト検索手法を提案する。
この方法は、エンティティ、リレーション、サブグラフを含む知識を検索し、検索した各テキストを即時埋め込みに変換する。
提案手法は2つの共通データセットに対して最先端の性能を達成した。
論文 参考訳（メタデータ） (2024-12-24T16:38:04Z) - Explaining the Unexplained: Revealing Hidden Correlations for Better Interpretability [1.8274323268621635]
Real Explainer(RealExp)は、Shapley値を個々の特徴と特徴相関の重要度に分解する、解釈可能性の手法である。
RealExpは、個々の特徴とそれらの相互作用を正確に定量化することで、解釈可能性を高める。
論文 参考訳（メタデータ） (2024-12-02T10:50:50Z) - Word and Phrase Features in Graph Convolutional Network for Automatic Question Classification [0.7405975743268344]
本稿では,Phase Question-Graph Convolutional Network (PQ-GCN) というグラフ畳み込みネットワークを活用する新しい手法を提案する。
以上の結果から,これらの特徴を付加した提案モデルが,より堅牢で文脈に配慮した質問分類のための有望なソリューションであることが示された。
論文 参考訳（メタデータ） (2024-09-04T07:13:30Z) - Towards a Holistic Understanding of Mathematical Questions with
Contrastive Pre-training [65.10741459705739]
本稿では,数学的問題表現,すなわち QuesCo に対する対照的な事前学習手法を提案する。
まず、コンテンツレベルと構造レベルを含む2段階の質問強化を設計し、類似した目的で文字通り多様な質問ペアを生成する。
そこで我々は,知識概念の階層的情報を完全に活用するために,知識階層を意識したランク戦略を提案する。
論文 参考訳（メタデータ） (2023-01-18T14:23:29Z) - REKnow: Enhanced Knowledge for Joint Entity and Relation Extraction [30.829001748700637]
関係抽出はテキストからすべての隠れた関係事実を抽出することを目的とした課題である。
様々な関係抽出設定下でうまく機能する統一されたフレームワークは存在しない。
これら2つの問題を緩和する知識強化型生成モデルを提案する。
本モデルは,WebNLG,NYT10,TACREDなど,複数のベンチマークや設定において優れた性能を実現する。
論文 参考訳（メタデータ） (2022-06-10T13:59:38Z) - An Empirical Investigation of Commonsense Self-Supervision with
Knowledge Graphs [67.23285413610243]
大規模知識グラフから抽出した情報に基づく自己監督は、言語モデルの一般化を改善することが示されている。
本研究では,言語モデルに適用可能な合成データを生成するための知識サンプリング戦略とサイズの影響について検討する。
論文 参考訳（メタデータ） (2022-05-21T19:49:04Z) - Exploring the Trade-off between Plausibility, Change Intensity and
Adversarial Power in Counterfactual Explanations using Multi-objective
Optimization [73.89239820192894]
自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。
本稿では, 対実例生成のための新しい枠組みを提案する。
論文 参考訳（メタデータ） (2022-05-20T15:02:53Z) - Few-shot Named Entity Recognition with Cloze Questions [3.561183926088611]
本稿では,クローゼクエスト機構とファインチューニングを併用した数ショット学習手法であるPET(Pattern-Exploiting Training)の簡易かつ直感的な適応を提案する。
提案手法は,他の数発のベースラインに対して,標準的な微調整や同等あるいは改良された結果よりもはるかに優れた性能を実現する。
論文 参考訳（メタデータ） (2021-11-24T11:08:59Z) - SEEK: Segmented Embedding of Knowledge Graphs [77.5307592941209]
本稿では,モデル複雑性を増大させることなく,高い競争力を持つ関係表現性を実現する軽量なモデリングフレームワークを提案する。
本フレームワークは,評価関数の設計に重点を置いており,1)十分な特徴相互作用の促進,2)関係の対称性と反対称性の両特性の保存,という2つの重要な特徴を強調している。
論文 参考訳（メタデータ） (2020-05-02T15:15:50Z) - A Dependency Syntactic Knowledge Augmented Interactive Architecture for
End-to-End Aspect-based Sentiment Analysis [73.74885246830611]
エンドツーエンドABSAのためのマルチタスク学習を用いた対話型アーキテクチャを新たに提案する。
このモデルは、よく設計された依存性関係埋め込みグラフ畳み込みネットワーク(DreGcn)を活用することで、構文知識(依存性関係と型)を完全に活用することができる。
3つのベンチマークデータセットの大規模な実験結果から,本手法の有効性が示された。
論文 参考訳（メタデータ） (2020-04-04T14:59:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。