論文の概要: MaP: A Matrix-based Prediction Approach to Improve Span Extraction in
Machine Reading Comprehension
- arxiv url: http://arxiv.org/abs/2009.14348v1
- Date: Tue, 29 Sep 2020 23:53:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-13 06:29:29.172663
- Title: MaP: A Matrix-based Prediction Approach to Improve Span Extraction in
Machine Reading Comprehension
- Title(参考訳): MaP: 機械読解におけるスパン抽出改善のための行列ベース予測手法
- Authors: Huaishao Luo, Yu Shi, Ming Gong, Linjun Shou, Tianrui Li
- Abstract要約: 本稿では,確率ベクトルを確率行列に拡張する新しい手法を提案する。
可能な開始指数ごとに、メソッドは常に終了確率ベクトルを生成する。
我々はSQuAD 1.1と他の3つの質問応答ベンチマークについて評価した。
- 参考スコア(独自算出の注目度): 40.22845723686718
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Span extraction is an essential problem in machine reading comprehension.
Most of the existing algorithms predict the start and end positions of an
answer span in the given corresponding context by generating two probability
vectors. In this paper, we propose a novel approach that extends the
probability vector to a probability matrix. Such a matrix can cover more
start-end position pairs. Precisely, to each possible start index, the method
always generates an end probability vector. Besides, we propose a
sampling-based training strategy to address the computational cost and memory
issue in the matrix training phase. We evaluate our method on SQuAD 1.1 and
three other question answering benchmarks. Leveraging the most competitive
models BERT and BiDAF as the backbone, our proposed approach can get consistent
improvements in all datasets, demonstrating the effectiveness of the proposed
method.
- Abstract(参考訳): 機械読解におけるスパン抽出は重要な問題である。
既存のアルゴリズムのほとんどは、2つの確率ベクトルを生成して、応答の開始位置と終了位置を所定の文脈で予測する。
本稿では,確率ベクトルを確率行列に拡張する新しい手法を提案する。
そのような行列はより多くの始端位置対をカバーすることができる。
正確には、各起動インデックスに対して、この方法は常に終端確率ベクトルを生成する。
さらに,行列学習フェーズにおける計算コストとメモリ問題に対処するサンプリングベーストレーニング戦略を提案する。
我々はSQuAD 1.1と他の3つの質問応答ベンチマークについて評価した。
最も競争力のあるBERTとBiDAFをバックボーンとして活用することにより、提案手法はすべてのデータセットで一貫した改善を実現し、提案手法の有効性を示す。
関連論文リスト
- The Stochastic Conjugate Subgradient Algorithm For Kernel Support Vector Machines [1.738375118265695]
本稿では,カーネルサポートベクトルマシン(SVM)に特化して設計された革新的な手法を提案する。
イテレーション毎のイテレーションを高速化するだけでなく、従来のSFO技術と比較して収束度も向上する。
実験の結果,提案アルゴリズムはSFO法のスケーラビリティを維持できるだけでなく,潜在的に超越していることが示された。
論文 参考訳(メタデータ) (2024-07-30T17:03:19Z) - Horseshoe-type Priors for Independent Component Estimation [0.4987670632802289]
独立成分推定(ICE)は現代の機械学習に多くの応用がある。
ホースシュー型プリエントはスケーラブルなアルゴリズムを提供するために使用される。
条件付き後部手法とエンベロープ方式の最適化方法について述べる。
論文 参考訳(メタデータ) (2024-06-24T18:18:58Z) - Deep Unrolling for Nonconvex Robust Principal Component Analysis [75.32013242448151]
我々はロバスト成分分析のためのアルゴリズムを設計する(A)
行列を低主行列とスパース主行列の和に分解する。
論文 参考訳(メタデータ) (2023-07-12T03:48:26Z) - Partial Matrix Completion [29.68420094716923]
この研究は、部分行列完備化の新しい枠組みを確立する。
目標は、高い信頼性で完成できるエントリの大規模なサブセットを特定することである。
本稿では,以下の証明可能な保証付き効率的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-08-25T12:47:20Z) - Fast Differentiable Matrix Square Root and Inverse Square Root [65.67315418971688]
微分可能な行列平方根と逆平方根を計算するためのより効率的な2つの変種を提案する。
前方伝搬には, Matrix Taylor Polynomial (MTP) を用いる方法と, Matrix Pad'e Approximants (MPA) を使用する方法がある。
一連の数値実験により、両方の手法がSVDやNSの繰り返しと比較してかなりスピードアップすることが示された。
論文 参考訳(メタデータ) (2022-01-29T10:00:35Z) - Probabilistic Regression with Huber Distributions [6.681943980068051]
本稿では,ニューラルネットワークを用いて物体の位置と共分散行列を推定する確率論的手法について述べる。
提案手法は,外乱に対する堅牢性,ネットワーク出力に対する境界勾配,その他の望ましい特性を有するように設計されている。
本手法は,一般的なボディポーズと顔のランドマークデータセットを用いて評価し,非熱マップ法の性能を同等以上の性能で評価する。
論文 参考訳(メタデータ) (2021-11-19T16:12:15Z) - Estimating leverage scores via rank revealing methods and randomization [50.591267188664666]
任意のランクの正方形密度あるいはスパース行列の統計レバレッジスコアを推定するアルゴリズムについて検討した。
提案手法は,高密度およびスパースなランダム化次元性還元変換の合成と階調明細化法を組み合わせることに基づく。
論文 参考訳(メタデータ) (2021-05-23T19:21:55Z) - Probabilistic Classification Vector Machine for Multi-Class
Classification [29.411892651468797]
確率的分類ベクトルマシン(PCVM)は、支持ベクトルマシンと関連するベクトルマシンの両方の利点を合成する。
我々はPCVMを1-vs-restや1-vs-oneといった投票戦略を通じてマルチクラスケースに拡張する。
mPCVMでは、2つの学習アルゴリズム、すなわち1つのトップダウンアルゴリズムと1つのボトムアップアルゴリズムが実装されている。
mPCVMの優れた性能は、合成データセットとベンチマークデータセットで広く評価されている。
論文 参考訳(メタデータ) (2020-06-29T03:21:38Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳(メタデータ) (2020-06-11T19:40:38Z) - Optimal Iterative Sketching with the Subsampled Randomized Hadamard
Transform [64.90148466525754]
最小二乗問題に対する反復スケッチの性能について検討する。
本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。
これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
論文 参考訳(メタデータ) (2020-02-03T16:17:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。