論文の概要: Antecedent Predictions Are Dominant for Tree-Based Code Generation
- arxiv url: http://arxiv.org/abs/2208.09998v1
- Date: Mon, 22 Aug 2022 01:23:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-23 14:16:33.934189
- Title: Antecedent Predictions Are Dominant for Tree-Based Code Generation
- Title(参考訳): 事前予測はツリーベースのコード生成で支配的である
- Authors: Yihong Dong, Ge Li, and Zhi Jin
- Abstract要約: 既存のSeq2Tree法は、先行予測とその後の予測の両方を等しく扱う傾向がある。
本稿では,TRANX をベースとした APTRANX (Antecedent Prioritized TRANX) という手法を提案する。
より良い先行予測とそれに伴う予測により、APTRANXは性能を大幅に改善する。
- 参考スコア(独自算出の注目度): 23.73359336345766
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Code generation focuses on the automatic conversion of natural language (NL)
utterances into code snippets. The sequence-to-tree (Seq2Tree) methods, e.g.,
TRANX, are proposed for code generation, with the guarantee of the
compilability of the generated code, which generate the subsequent Abstract
Syntax Tree (AST) node relying on antecedent predictions of AST nodes. Existing
Seq2Tree methods tend to treat both antecedent predictions and subsequent
predictions equally. However, under the AST constraints, it is difficult for
Seq2Tree models to produce the correct subsequent prediction based on incorrect
antecedent predictions. Thus, antecedent predictions ought to receive more
attention than subsequent predictions. To this end, in this paper, we propose
an effective method, named APTRANX (Antecedent Prioritized TRANX), on the basis
of TRANX. APTRANX contains an Antecedent Prioritized (AP) Loss, which helps the
model attach importance to antecedent predictions by exploiting the position
information of the generated AST nodes. With better antecedent predictions and
accompanying subsequent predictions, APTRANX significantly improves the
performance. We conduct extensive experiments on several benchmark datasets,
and the experimental results demonstrate the superiority and generality of our
proposed method compared with the state-of-the-art methods.
- Abstract(参考訳): コード生成は自然言語(nl)の発話をコードスニペットに自動変換することに焦点を当てている。
Seq2Tree(Seq2Tree)メソッドは、ASTノードの先行予測に依存する抽象構文木(AST)ノードを生成する生成コードのコンパイル可能性を保証するコード生成のために提案されている。
既存のseq2treeメソッドは、先行予測とその後の予測の両方を等しく扱う傾向がある。
しかし、ast制約の下では、seq2treeモデルが不正確な先行予測に基づいて正しい後続予測を生成することは困難である。
したがって、先行予測はその後の予測よりも多くの注目を集めるべきである。
そこで本稿では,TRANX に基づく APTRANX (Antecedent Prioritized TRANX) という手法を提案する。
APTRANXにはAntecedent Prioritized (AP) Lossが含まれており、生成したASTノードの位置情報を活用することにより、先行予測に重要さを付加する。
より良い先行予測とそれに伴う予測により、APTRANXは性能を大幅に改善する。
本研究は,いくつかのベンチマークデータセットに対して広範囲な実験を行い,提案手法の優位性と汎用性を示す実験結果である。
関連論文リスト
- Conformal Generative Modeling with Improved Sample Efficiency through Sequential Greedy Filtering [55.15192437680943]
生成モデルは出力に対する厳密な統計的保証を欠いている。
厳密な統計的保証を満たす予測セットを生成する逐次共形予測法を提案する。
このことは、高い確率で予測セットが少なくとも1つの許容可能な(または有効な)例を含むことを保証している。
論文 参考訳(メタデータ) (2024-10-02T15:26:52Z) - Learning Deep Tree-based Retriever for Efficient Recommendation: Theory and Method [76.31185707649227]
効率的なレコメンデーションのために,Deep Tree-based Retriever (DTR)を提案する。
DTRは、トレーニングタスクを、同じレベルでツリーノード上のソフトマックスベースのマルチクラス分類としてフレーム化している。
非リーフノードのラベル付けによって引き起こされる準最適性を緩和するため、損失関数の補正法を提案する。
論文 参考訳(メタデータ) (2024-08-21T05:09:53Z) - PrevPredMap: Exploring Temporal Modeling with Previous Predictions for Online Vectorized HD Map Construction [9.32290307534907]
PrevPredMapは、オンラインベクトル化HDマップの構築に以前の予測を活用する、時間的モデリングの先駆的なフレームワークである。
このフレームワークはnuScenesとArgoverse2データセットの最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2024-07-24T15:58:24Z) - Towards Human-AI Complementarity with Prediction Sets [14.071862670474832]
予測セットに基づく意思決定支援システムは、人間の専門家が分類タスクを解くのに役立つことが証明されている。
共形予測を用いて構築された予測集合は、一般に平均精度の点で準最適であることを示す。
我々は,多種多様な専門家モデルと非最適スコアに対して,同等あるいはより優れた性能を提供する予測セットを見つけることが保証される,欲求的アルゴリズムを導入する。
論文 参考訳(メタデータ) (2024-05-27T18:00:00Z) - A positive feedback method based on F-measure value for Salient Object
Detection [1.9249287163937976]
本稿では,SODに対するF値に基づく正のフィードバック手法を提案する。
提案手法は,画像を検出して既存のモデルに入力し,それぞれの予測マップを取得する。
5つの公開データセットに対する実験結果から,提案手法の正のフィードバックは,5つの評価指標において最新の12の手法よりも優れていた。
論文 参考訳(メタデータ) (2023-04-28T04:05:13Z) - Efficient and Differentiable Conformal Prediction with General Function
Classes [96.74055810115456]
本稿では,複数の学習可能なパラメータに対する共形予測の一般化を提案する。
本研究は, クラス内において, ほぼ有効な人口被覆率, ほぼ最適効率を実現していることを示す。
実験の結果,提案アルゴリズムは有効な予測セットを学習し,効率を著しく向上できることがわかった。
論文 参考訳(メタデータ) (2022-02-22T18:37:23Z) - Complex Event Forecasting with Prediction Suffix Trees: Extended
Technical Report [70.7321040534471]
複合イベント認識(CER)システムは、イベントのリアルタイムストリーム上のパターンを"即時"検出する能力によって、過去20年間に人気が高まっている。
このような現象が実際にCERエンジンによって検出される前に、パターンがいつ発生するかを予測する方法が不足している。
複雑なイベント予測の問題に対処しようとする形式的なフレームワークを提案する。
論文 参考訳(メタデータ) (2021-09-01T09:52:31Z) - CASTLE: Regularization via Auxiliary Causal Graph Discovery [89.74800176981842]
因果構造学習(CASTLE)の正規化を導入し,変数間の因果関係を共同学習することでニューラルネットワークの正規化を提案する。
CASTLEは因果的隣り合いを持つ因果的DAGの特徴のみを効率的に再構成する一方、再構成ベース正規化器は全ての入力特徴を過度に再構成する。
論文 参考訳(メタデータ) (2020-09-28T09:49:38Z) - A Hybrid Two-layer Feature Selection Method Using GeneticAlgorithm and
Elastic Net [6.85316573653194]
本稿では,ラッパーと組込み方式を組み合わせたハイブリッドな2層特徴選択手法を提案する。
遺伝的アルゴリズム(GA)は、予測子の最適なサブセットを探索するラッパーとして採用されている。
提案手法に第2層を追加し,残余/非関連予測器を除去し,予測精度を向上させる。
論文 参考訳(メタデータ) (2020-01-30T05:01:30Z) - ProphetNet: Predicting Future N-gram for Sequence-to-Sequence
Pre-training [85.35910219651572]
本稿ではProphetNetと呼ばれる新しいシーケンス・ツー・シーケンス事前学習モデルを提案する。
将来的なn-gram予測という,新たな自己教師型目標を導入している。
我々は,CNN/DailyMail,Gigaword,SQuAD 1.1ベンチマークを用いて,抽象的な要約と質問生成タスクの実験を行った。
論文 参考訳(メタデータ) (2020-01-13T05:12:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。