論文の概要: Probabilistic Graph Reasoning for Natural Proof Generation
- arxiv url: http://arxiv.org/abs/2107.02418v1
- Date: Tue, 6 Jul 2021 06:34:41 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-07 13:50:12.370155
- Title: Probabilistic Graph Reasoning for Natural Proof Generation
- Title(参考訳): 自然証明生成のための確率的グラフ推論
- Authors: Changzhi Sun, Xinbo Zhang, Jiangjie Chen, Chun Gan, Yuanbin Wu, Jiaze
Chen, Hao Zhou, Lei Li
- Abstract要約: 共同回答予測と証明生成のための新しい手法であるPRobrを提案する。
PRobr はすべての可能な証明グラフと答えに対する合同確率分布を定義する。
複数のデータセットの実験は、PRobrの有効性を検証する。
- 参考スコア(独自算出の注目度): 22.1374469158861
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we investigate the problem of reasoning over natural language
statements. Prior neural based approaches do not explicitly consider the
inter-dependency among answers and their proofs. In this paper, we propose
PRobr, a novel approach for joint answer prediction and proof generation. PRobr
defines a joint probabilistic distribution over all possible proof graphs and
answers via an induced graphical model. We then optimize the model using
variational approximation on top of neural textual representation. Experiments
on multiple datasets under diverse settings (fully supervised, few-shot and
zero-shot evaluation) verify the effectiveness of PRobr, e.g., achieving
10%-30% improvement on QA accuracy in few/zero-shot evaluation. Our codes and
models can be found at https://github.com/changzhisun/PRobr/.
- Abstract(参考訳): 本稿では,自然言語ステートメントよりも推論の問題について検討する。
事前のニューラルベースアプローチは、回答とその証明の間の相互依存性を明示的に考慮しない。
本稿では,共同回答予測と証明生成のための新しい手法であるPRobrを提案する。
PRobrは、すべての可能な証明グラフと答えに対する共役確率分布を、誘導的グラフィカルモデルによって定義する。
次に、ニューラルテキスト表現の上に変分近似を用いてモデルを最適化する。
多様な設定下での複数のデータセット(教師付き、少数ショット、ゼロショットの評価)の実験では、PRobrの有効性が検証され、例えば、少数/ゼロショットの評価において、QA精度が10%-30%向上した。
私たちのコードとモデルはhttps://github.com/changzhisun/PRobr/で参照できます。
関連論文リスト
- Sub-graph Based Diffusion Model for Link Prediction [43.15741675617231]
拡散確率モデル(Denoising Diffusion Probabilistic Models, DDPM)は、例外的な品質を持つ同時代の生成モデルである。
本研究では,ベイズ式による確率推定過程を分解するために,専用設計を用いたリンク予測のための新しい生成モデルを構築した。
提案手法は,(1)再トレーニングを伴わないデータセット間の転送可能性,(2)限られたトレーニングデータに対する有望な一般化,(3)グラフ敵攻撃に対する堅牢性など,多くの利点を示す。
論文 参考訳(メタデータ) (2024-09-13T02:23:55Z) - Estimating Causal Effects from Learned Causal Networks [56.14597641617531]
本稿では、離散可観測変数に対する因果影響クエリに応答する代替パラダイムを提案する。
観測データから直接因果ベイズネットワークとその共起潜伏変数を学習する。
本手法は, 推定手法よりも有効であることを示す。
論文 参考訳(メタデータ) (2024-08-26T08:39:09Z) - Deep Generative Models for Subgraph Prediction [10.56335881963895]
本稿では,深層グラフ学習のための新しい課題として,サブグラフクエリを提案する。
サブグラフクエリは、観測されたサブグラフで表される証拠に基づいて、ターゲットサブグラフのコンポーネントを共同で予測する。
我々は,確率論的深部グラフ生成モデルを用いて,サブグラフクエリに回答する。
論文 参考訳(メタデータ) (2024-08-07T19:24:02Z) - Evidence Networks: simple losses for fast, amortized, neural Bayesian
model comparison [0.0]
Evidence Networksは、最先端のメソッドがフェールした場合にベイズモデルの比較を可能にする。
リークパリティオード電力変換を導入し、新しいl-POP-Exponential'損失関数を導出する。
Evidence Networks はパラメータ空間の次元性に明示的に依存しており、後続確率密度関数の複雑さと軽度にスケール可能であることを示す。
論文 参考訳(メタデータ) (2023-05-18T18:14:53Z) - Enhancing Self-Consistency and Performance of Pre-Trained Language
Models through Natural Language Inference [72.61732440246954]
大規模な事前訓練された言語モデルは、テスト入力間の論理的一貫性を欠いていることが多い。
本研究では,事前学習したNLPモデルの一貫性と精度を高めるためのフレームワークであるConCoRDを提案する。
ConCoRDは、市販のクローズドブックQAおよびVQAモデルの精度と一貫性を一貫して向上することを示す。
論文 参考訳(メタデータ) (2022-11-21T21:58:30Z) - Embarrassingly Simple Performance Prediction for Abductive Natural
Language Inference [10.536415845097661]
本研究では,NLIモデルの性能を微調整せずに予測する手法を提案する。
その結果,コサイン類似度手法の精度はパーソン相関係数0.65の分類手法の精度と強く相関していることがわかった。
提案手法は,モデル選択の過程において,大幅な時間節約につながる可能性がある。
論文 参考訳(メタデータ) (2022-02-21T18:10:24Z) - How Can We Know When Language Models Know? On the Calibration of
Language Models for Question Answering [80.82194311274694]
言語モデルがいつ、自信を持って、特定のクエリに対する答えを知っているか、どのように知ることができるか?
我々は,T5,BART,GPT-2の3つの強力な生成モデルを検討した。
次に、そのようなモデルの校正方法を検討し、その信頼性スコアを正しさの確率と相関させる。
論文 参考訳(メタデータ) (2020-12-02T03:53:13Z) - PRover: Proof Generation for Interpretable Reasoning over Rules [81.40404921232192]
本稿では,ルールベース上の二項質問に応答し,対応する証明を生成するトランスフォーマーモデルを提案する。
本モデルは,効率的な制約付き学習パラダイムを用いて,証明グラフに対応するノードやエッジを予測できることを学習する。
我々は、QAと証明生成のための有望な結果を示すために、合成、手書き、人文による規則ベースの実験を行う。
論文 参考訳(メタデータ) (2020-10-06T15:47:53Z) - Neural Enhanced Belief Propagation on Factor Graphs [85.61562052281688]
グラフィカルモデルは局所依存確率変数の構造的表現である。
最初にグラフニューラルネットワークを拡張してグラフを分解する(FG-GNN)。
そこで我々は,FG-GNNを連立して動作させるハイブリッドモデルを提案する。
論文 参考訳(メタデータ) (2020-03-04T11:03:07Z) - Parameter Space Factorization for Zero-Shot Learning across Tasks and
Languages [112.65994041398481]
本稿では,ニューラルパラメータの空間に対するベイズ生成モデルを提案する。
タスク言語の組み合わせから得られたデータに基づいて、そのような潜伏変数よりも後部を推測する。
我々のモデルは、最先端のゼロショットの言語間転送手法よりも、同等か良い結果が得られる。
論文 参考訳(メタデータ) (2020-01-30T16:58:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。