論文の概要: GMH: A General Multi-hop Reasoning Model for KG Completion
- arxiv url: http://arxiv.org/abs/2010.07620v3
- Date: Thu, 2 Sep 2021 07:49:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-07 02:49:19.315897
- Title: GMH: A General Multi-hop Reasoning Model for KG Completion
- Title(参考訳): GMH:KG完了のための汎用マルチホップ推論モデル
- Authors: Yao Zhang, Hongru Liang, Adam Jatowt, Wenqiang Lei, Xin Wei, Ning
Jiang, Zhenglu Yang
- Abstract要約: 現在のモデルは一般的に短距離推論を行う。
長距離推論もまた、表面的に無関係な実体を接続する能力において不可欠である。
3つのモジュールで問題を解く一般モデルを提案する。
- 参考スコア(独自算出の注目度): 37.01406934111068
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge graphs are essential for numerous downstream natural language
processing applications, but are typically incomplete with many facts missing.
This results in research efforts on multi-hop reasoning task, which can be
formulated as a search process and current models typically perform short
distance reasoning. However, the long-distance reasoning is also vital with the
ability to connect the superficially unrelated entities. To the best of our
knowledge, there lacks a general framework that approaches multi-hop reasoning
in mixed long-short distance reasoning scenarios. We argue that there are two
key issues for a general multi-hop reasoning model: i) where to go, and ii)
when to stop. Therefore, we propose a general model which resolves the issues
with three modules: 1) the local-global knowledge module to estimate the
possible paths, 2) the differentiated action dropout module to explore a
diverse set of paths, and 3) the adaptive stopping search module to avoid over
searching. The comprehensive results on three datasets demonstrate the
superiority of our model with significant improvements against baselines in
both short and long distance reasoning scenarios.
- Abstract(参考訳): 知識グラフは多くの下流自然言語処理アプリケーションに必須であるが、典型的には多くの事実が欠落している。
これにより、探索プロセスとして定式化できるマルチホップ推論タスクの研究が行われ、現在のモデルは通常、短距離推論を行う。
しかし、長距離推論もまた、表面的に無関係な実体を接続する能力において不可欠である。
我々の知る限りでは、混合長短距離推論シナリオにおけるマルチホップ推論にアプローチする一般的なフレームワークが欠けている。
我々は、一般的なマルチホップ推論モデルには2つの重要な問題があると論じる。
i) どこに行くべきか、そして
ii) いつ止まるか。
そこで我々は,3つのモジュールで問題を解く一般モデルを提案する。
1) 可能な経路を推定する局所的グローバル知識モジュール。
2)多様な経路を探索する識別されたアクションドロップアウトモジュール、及び
3)適応的な停止探索モジュールにより探索を回避。
3つのデータセットの総合的な結果は、短時間と長距離の推論シナリオの両方において、ベースラインに対する大幅な改善とともに、モデルの優越性を示しています。
関連論文リスト
- Reasoning Paths Optimization: Learning to Reason and Explore From Diverse Paths [69.39559168050923]
本稿では,多様な経路から学習の推論と探索を可能にするReasoning Paths Optimization (RPO)を紹介する。
提案手法は,各推論ステップにおいて好意的な分岐を奨励し,好ましくない分岐を罰し,モデル全体の問題解決性能を高める。
我々は,数語問題や理科ベースの試験問題など,多段階の推論タスクに焦点をあてる。
論文 参考訳(メタデータ) (2024-10-07T06:37:25Z) - ACQUIRED: A Dataset for Answering Counterfactual Questions In Real-Life
Videos [53.92440577914417]
ACQUIREDは3.9Kの注釈付きビデオで構成され、幅広いイベントタイプを包含し、ファーストパーソンとサードパーソンの両方の視点を取り入れている。
各ビデオは、物理的、社会的、時間的な3つの異なる推論の次元にまたがる質問で注釈付けされている。
我々は,現在最先端の言語のみおよびマルチモーダルモデルに対して,我々のデータセットをベンチマークし,実験結果から大きな性能差が示された。
論文 参考訳(メタデータ) (2023-11-02T22:17:03Z) - Getting MoRE out of Mixture of Language Model Reasoning Experts [71.61176122960464]
多様な特殊言語モデルを組み込んだMixture-of-Reasoning-Experts (MoRE) フレームワークを提案する。
実例,マルチホップ,数学的,コモンセンス推論など,さまざまな推論カテゴリに最適化されたプロンプトを備えたバックボーン言語モデルを特化する。
人間の研究では、専門家による予測と回答の選択プロセスが、アノテータがシステムの出力を信頼するタイミングをより正確に調整するのに役立ちます。
論文 参考訳(メタデータ) (2023-05-24T02:00:51Z) - Measuring and Narrowing the Compositionality Gap in Language Models [116.5228850227024]
モデルがすべてのサブプロブレムに正しく答えられる頻度を計測するが、全体の解は生成しない。
我々は,思考の連鎖をさらに改善する新たな手法である自己認識法を提案する。
論文 参考訳(メタデータ) (2022-10-07T06:50:23Z) - Faithful Reasoning Using Large Language Models [12.132449274592668]
因果構造が問題の根底にある論理構造を反映するプロセスを通じて、LMを忠実な多段階推論を行う方法を示す。
我々の手法は、各ステップが2つの微調整されたLMへの呼び出しから得られる推論ステップをチェーンすることで機能する。
我々は,多段階論理推論と科学的質問応答におけるモデルの有効性を実証し,最終的な解答精度のベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2022-08-30T13:44:41Z) - Is Multi-Hop Reasoning Really Explainable? Towards Benchmarking
Reasoning Interpretability [33.220997121043965]
マルチホップ推論モデルの解釈可能性を定量的に評価する統合フレームワークを提案する。
具体的には、パスリコール、ローカルインタープリタビリティ、評価のためのグローバルインタープリタビリティの3つのメトリクスを定義します。
その結果、現在のマルチホップ推論モデルの解釈性は満足度が低く、ベンチマークによる上限からは程遠いことがわかった。
論文 参考訳(メタデータ) (2021-04-14T10:12:05Z) - Graph-based Multi-hop Reasoning for Long Text Generation [66.64743847850666]
MRGはグラフベースのマルチホップ推論モジュールとパス認識文実現モジュールの2部で構成されている。
従来のブラックボックスモデルとは異なり、MRGはスケルトンパスを明示的に推論し、提案されたモデルがどのように機能するかを説明する説明的なビューを提供する。
論文 参考訳(メタデータ) (2020-09-28T12:47:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。