論文の概要: Textual Enhanced Contrastive Learning for Solving Math Word Problems

• arxiv url: http://arxiv.org/abs/2211.16022v1
• Date: Tue, 29 Nov 2022 08:44:09 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-30 16:04:43.072827
• Title: Textual Enhanced Contrastive Learning for Solving Math Word Problems
• Title（参考訳）: 数学語問題解決のためのテキスト強化コントラスト学習
• Authors: Yibin Shen, Qianying Liu, Zhuoyuan Mao, Fei Cheng and Sadao Kurohashi
• Abstract要約: 本稿では,意味的に類似した例を識別するためにモデルを強制するテキスト拡張コントラスト学習フレームワークを提案する。 テキストの微妙なばらつきのある例を豊かにするために、自己監督的な方法戦略を採用する。 実験結果から,提案手法は広く使用されているベンチマークデータセットと,英語と中国語の課題データセットの両面において,最先端性を実現していることが明らかとなった。
• 参考スコア（独自算出の注目度）: 23.196339273292246
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Solving math word problems is the task that analyses the relation of quantities and requires an accurate understanding of contextual natural language information. Recent studies show that current models rely on shallow heuristics to predict solutions and could be easily misled by small textual perturbations. To address this problem, we propose a Textual Enhanced Contrastive Learning framework, which enforces the models to distinguish semantically similar examples while holding different mathematical logic. We adopt a self-supervised manner strategy to enrich examples with subtle textual variance by textual reordering or problem re-construction. We then retrieve the hardest to differentiate samples from both equation and textual perspectives and guide the model to learn their representations. Experimental results show that our method achieves state-of-the-art on both widely used benchmark datasets and also exquisitely designed challenge datasets in English and Chinese. \footnote{Our code and data is available at \url{https://github.com/yiyunya/Textual_CL_MWP}
• Abstract（参考訳）: 数学用語の問題解決は、量の関係を分析し、文脈自然言語情報の正確な理解を必要とするタスクである。 最近の研究では、現在のモデルは解を予測するために浅いヒューリスティックに依存しており、小さなテキストの摂動によって容易に誤解される可能性がある。 そこで本研究では,異なる数学的論理を保持しながら,意味的に類似した例を識別するためのテキスト拡張型コントラスト学習フレームワークを提案する。 テキストの並べ替えや問題再構築による微妙なテキストのばらつきのある例を豊かにする。 次に、最も難しいサンプルを方程式とテキストの両方の観点から区別し、モデルを導き、それらの表現を学ぶ。 実験の結果,本手法は,広く使用されているベンチマークデータセットと,英語と中国語で適切に設計されたチャレンジデータセットの両方において,最先端の成果が得られた。 \footnote{Our code and data is available at \url{https://github.com/yiyunya/Textual_CL_MWP}

関連論文リスト

• CoCo: Coherence-Enhanced Machine-Generated Text Detection Under Data Limitation With Contrastive Learning [14.637303913878435]
  低リソースシナリオ下でMGTを検出するために,コヒーレンスに基づくコントラスト学習モデルCoCoを提案する。 言語的特徴を活用するために,グラフ形式でコヒーレンス情報をテキスト表現にエンコードする。 2つの公開データセットと2つの自己構築データセットの実験結果は、我々のアプローチが最先端の手法を大幅に上回っていることを証明している。
  論文  参考訳（メタデータ） (2022-12-20T15:26:19Z)
• Revisiting the Roles of "Text" in Text Games [102.22750109468652]
  本稿では,強化学習におけるテキストの役割について検討する。 本稿では,関連するコンテキスト情報を近似状態ハッシュに抽出する簡単な手法を提案する。 このような軽量なプラグインは最先端のテキストエージェントとの競合性能を実現する。
  論文  参考訳（メタデータ） (2022-10-15T21:52:39Z)
• Dynamic Prompt Learning via Policy Gradient for Semi-structured Mathematical Reasoning [150.17907456113537]
  数学的な推論を必要とする38,431のグレードレベルの問題を含む新しいデータセットであるTabular Math Word Problems (TabMWP)を提案する。 我々は,GPT-3モデルを含む,TabMWP上での事前学習モデルの評価を行った。 本稿では、ポリシー勾配を利用して、少量のトレーニングデータからコンテキスト内サンプルを選択する新しいアプローチ、PromptPGを提案する。
  論文  参考訳（メタデータ） (2022-09-29T08:01:04Z)
• Seeking Patterns, Not just Memorizing Procedures: Contrastive Learning for Solving Math Word Problems [14.144577791030853]
  ニューラルネットワークが意味論からのみパターンを理解する方法について検討する。 本稿では,ニューラルネットワークがパターンの発散を知覚する,対照的な学習手法を提案する。 本手法は単言語および多言語設定における性能を大幅に改善する。
  論文  参考訳（メタデータ） (2021-10-16T04:03:47Z)
• Toward the Understanding of Deep Text Matching Models for Information Retrieval [72.72380690535766]
  本稿では,既存の深層テキストマッチング手法が情報検索の基本的な勾配を満たすかどうかを検証することを目的とする。 具体的には, 項周波数制約, 項識別制約, 長さ正規化制約, TF長制約の4つの属性を用いる。 LETOR 4.0 と MS Marco の実験結果から,研究対象の深層テキストマッチング手法はすべて,統計学において高い確率で上記の制約を満たすことが示された。
  論文  参考訳（メタデータ） (2021-08-16T13:33:15Z)
• Competency Problems: On Finding and Removing Artifacts in Language Data [50.09608320112584]
  複雑な言語理解タスクでは、すべての単純な特徴相関が突発的であると論じる。 人間バイアスを考慮したコンピテンシー問題に対するデータ作成の難しさを理論的に分析します。
  論文  参考訳（メタデータ） (2021-04-17T21:34:10Z)
• SMART: A Situation Model for Algebra Story Problems via Attributed Grammar [74.1315776256292]
  本稿では, 問題解決における人間の精神状態を表現する心理学研究から生まれた, emphsituation modelの概念を紹介する。 提案モデルでは,より優れた解釈性を保ちながら,従来のすべてのニューラルソルバを大きなマージンで上回る結果が得られた。
  論文  参考訳（メタデータ） (2020-12-27T21:03:40Z)
• Geometry matters: Exploring language examples at the decision boundary [2.7249290070320034]
  BERT、CNN、fasttextは、高い難易度例において単語置換の影響を受けやすい。 YelpReviewPolarityでは、レジリエンスと摂動の相関係数-0.4と難易度との相関係数を観測する。 我々のアプローチは単純でアーキテクチャに依存しないものであり、テキスト分類モデルの華やかさの研究に利用できる。
  論文  参考訳（メタデータ） (2020-10-14T16:26:13Z)
• How Far are We from Effective Context Modeling? An Exploratory Study on Semantic Parsing in Context [59.13515950353125]
  文法に基づく意味解析を行い,その上に典型的な文脈モデリング手法を適用する。 我々は,2つの大きなクロスドメインデータセットに対して,13のコンテキストモデリング手法を評価した。
  論文  参考訳（メタデータ） (2020-02-03T11:28:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。