論文の概要: UniRPG: Unified Discrete Reasoning over Table and Text as Program
Generation
- arxiv url: http://arxiv.org/abs/2210.08249v1
- Date: Sat, 15 Oct 2022 10:17:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 18:17:40.737363
- Title: UniRPG: Unified Discrete Reasoning over Table and Text as Program
Generation
- Title(参考訳): UniRPG: プログラム生成としてのテーブルとテキストに対する統一された離散推論
- Authors: Yongwei Zhou, Junwei Bao, Chaoqun Duan, Youzheng Wu, Xiaodong He,
Tiejun Zhao
- Abstract要約: セマンティックパーシングに基づくアプローチであるUniRPGを提案する。
UniRPGは異種知識リソース、すなわち表とテキストをプログラム生成として統一的な個別推論を行う。
最先端の手法と比較して、非常に改善され、解釈可能性とスケーラビリティが向上します。
- 参考スコア(独自算出の注目度): 32.74302320558048
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Question answering requiring discrete reasoning, e.g., arithmetic computing,
comparison, and counting, over knowledge is a challenging task. In this paper,
we propose UniRPG, a semantic-parsing-based approach advanced in
interpretability and scalability, to perform unified discrete reasoning over
heterogeneous knowledge resources, i.e., table and text, as program generation.
Concretely, UniRPG consists of a neural programmer and a symbolic program
executor, where a program is the composition of a set of pre-defined general
atomic and higher-order operations and arguments extracted from table and text.
First, the programmer parses a question into a program by generating operations
and copying arguments, and then the executor derives answers from table and
text based on the program. To alleviate the costly program annotation issue, we
design a distant supervision approach for programmer learning, where pseudo
programs are automatically constructed without annotated derivations. Extensive
experiments on the TAT-QA dataset show that UniRPG achieves tremendous
improvements and enhances interpretability and scalability compared with
state-of-the-art methods, even without derivation annotation. Moreover, it
achieves promising performance on the textual dataset DROP without derivations.
- Abstract(参考訳): 算術演算、比較、数え上げなどの離散的推論を必要とする質問応答は、知識よりも難しい課題である。
本稿では,多種多様な知識資源,すなわち表とテキストをプログラム生成として統一的な離散的推論を行うために,解釈可能性と拡張性に先立つセマンティックパーシングに基づくアプローチであるUniRPGを提案する。
具体的には、UniRPGはニューラルプログラマとシンボリックプログラムエグゼキュータで構成されており、プログラムは、テーブルとテキストから抽出された、定義済みの一般のアトミックおよび高階の操作と引数からなる構成である。
まず、プログラマは操作を生成して引数をコピーすることで質問をプログラムにパースし、実行者はそのプログラムに基づいて表とテキストから回答を導出する。
コストのかかるプログラムアノテーション問題を緩和するために,擬似プログラムをアノテートせずに自動的に構築するプログラマ学習のための遠隔監視アプローチを設計する。
TAT-QAデータセットの大規模な実験によると、UniRPGは、派生アノテーションなしでも最先端の手法と比較して、大幅な改善と解釈可能性とスケーラビリティの向上を実現している。
さらに、導出なしでテキストデータセットDROP上で有望な性能を達成する。
関連論文リスト
- Natural Language Embedded Programs for Hybrid Language Symbolic
Reasoning [86.92053166457116]
本研究では,数学・記号的推論,自然言語理解,後続の課題に対処するための統合フレームワークとして,自然言語組み込みプログラム(NLEP)を提案する。
我々のアプローチは,構造化知識の自然言語表現を含むデータ構造上の関数を定義する完全なPythonプログラムを生成するよう,言語モデルに促す。
Pythonインタープリタが生成されたコードを実行し、出力をプリントする。
論文 参考訳(メタデータ) (2023-09-19T17:54:21Z) - PERFOGRAPH: A Numerical Aware Program Graph Representation for
Performance Optimization and Program Analysis [12.778336318809092]
最新の機械学習メソッドを採用する上で重要な課題は、プログラミング言語の表現である。
本稿では,現在のプログラム表現の限界と課題を克服するため,PERFOGRAPHと呼ばれるグラフベースのプログラム表現を提案する。
PerFOGRAPHは、新しいノードとエッジを導入することで、数値情報と集約データ構造をキャプチャできる。
論文 参考訳(メタデータ) (2023-05-31T21:59:50Z) - Understanding Programs by Exploiting (Fuzzing) Test Cases [26.8259045248779]
プログラムのより深い意味理解を実現するために,入力と出力/振る舞いの関係を学習に取り入れることを提案する。
コードの大部分の実行をトリガーするのに十分な入力を得るために,ファズテストを採用し,ファズチューニングを提案する。
提案手法の有効性は,コードクローン検出とコード分類を含む2つのプログラム理解タスクにおいて検証され,最先端技術よりも大きなマージンで優れている。
論文 参考訳(メタデータ) (2023-05-23T01:51:46Z) - GPT is becoming a Turing machine: Here are some ways to program it [16.169056235216576]
GPT-3モデルはループを含むプログラムを実行するために起動可能であることを示す。
1つのタスクの例をカバーすることさえできないプロンプトが、アルゴリズム的な振る舞いをトリガーできることを示します。
論文 参考訳(メタデータ) (2023-03-25T00:43:41Z) - NAPG: Non-Autoregressive Program Generation for Hybrid Tabular-Textual
Question Answering [52.10214317661547]
現在の数値推論法はプログラムシーケンスを自己回帰的にデコードする。
プログラム生成の精度は、デコードステップがエラー伝搬によって展開されるにつれて急激に低下する。
本稿では,非自己回帰型プログラム生成フレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-07T11:25:21Z) - A Conversational Paradigm for Program Synthesis [110.94409515865867]
本稿では,大規模言語モデルを用いた対話型プログラム合成手法を提案する。
私たちは、自然言語とプログラミング言語のデータに基づいて、CodeGenと呼ばれる大規模な言語モデルのファミリーを訓練します。
本研究は,会話能力の出現と,提案した会話プログラム合成パラダイムの有効性を示すものである。
論文 参考訳(メタデータ) (2022-03-25T06:55:15Z) - ProTo: Program-Guided Transformer for Program-Guided Tasks [59.34258016795216]
我々は,学習者が与えられたタスク仕様に基づいて所定のプログラムを実行することを要求されるプログラム誘導タスクを定式化する。
本稿では,プログラムの意味的ガイダンスと構造的ガイダンスを統合したProTo(Proto)を提案する。
ProToは学習された潜在空間でプログラムを実行し、従来のニューラルシンボリックアプローチよりも強力な表現能力を持っている。
論文 参考訳(メタデータ) (2021-10-02T13:46:32Z) - Procedures as Programs: Hierarchical Control of Situated Agents through
Natural Language [81.73820295186727]
エージェント命令と制御のための階層的な手続き的知識を表現する強力な手法である,プログラムとしての手続きの形式化を提案する。
NL命令に対するIQAおよびALFREDデータセット上で、このフレームワークをインスタンス化する。
論文 参考訳(メタデータ) (2021-09-16T20:36:21Z) - Understanding Unnatural Questions Improves Reasoning over Text [54.235828149899625]
生テキストに対する複雑な質問応答(CQA)は難しい課題である。
効果的なCQAモデルを学ぶには、大量の人間が注釈付けしたデータが必要である。
我々は、自然の人間生成の質問を非自然の機械生成の質問に投影することで、高品質なプログラマ(パーザ)を学ぶという課題に対処する。
論文 参考訳(メタデータ) (2020-10-19T10:22:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。