論文の概要: Plan-then-Seam: Towards Efficient Table-to-Text Generation

• arxiv url: http://arxiv.org/abs/2302.05138v1
• Date: Fri, 10 Feb 2023 09:43:15 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-13 16:00:53.974000
• Title: Plan-then-Seam: Towards Efficient Table-to-Text Generation
• Title（参考訳）: Plan-then-Seam: 効率的なテーブル-テキスト生成を目指して
• Authors: Liang Li, Ruiying Geng, Chengyang Fang, Bing Li, Can Ma, Binhua Li, and Yongbin Li
• Abstract要約: 本稿では,1つのネットワークに並列に出力を生成する完全非自己回帰型テーブル・トゥ・テキストモデル(Plan-then-Seam, PTS)を提案する。 PTSは推論時間の3.05.6倍の高速化を実現し、50%のパラメータを削減した。
• 参考スコア（独自算出の注目度）: 17.207896979666355
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Table-to-text generation aims at automatically generating text to help people conveniently obtain salient information in tables. Recent works explicitly decompose the generation process into content planning and surface generation stages, employing two autoregressive networks for them respectively. However, they are computationally expensive due to the non-parallelizable nature of autoregressive decoding and the redundant parameters of two networks. In this paper, we propose the first totally non-autoregressive table-to-text model (Plan-then-Seam, PTS) that produces its outputs in parallel with one single network. PTS firstly writes and calibrates one plan of the content to be generated with a novel rethinking pointer predictor, and then takes the plan as the context for seaming to decode the description. These two steps share parameters and perform iteratively to capture token inter-dependency while keeping parallel decoding. Experiments on two public benchmarks show that PTS achieves 3.0~5.6 times speedup for inference time, reducing 50% parameters, while maintaining as least comparable performance against strong two-stage table-to-text competitors.
• Abstract（参考訳）: テーブルからテキストへの自動生成は、人々がテーブルの有用な情報を得るのに役立つテキストを自動的に生成することを目的としている。 最近の研究は、生成過程をコンテンツ計画と表面生成段階に明確に分解し、それぞれ2つの自己回帰ネットワークを用いている。 しかし、自己回帰復号化の非並列性と2つのネットワークの冗長パラメータのため、計算コストがかかる。 本稿では,1つのネットワークに並列に出力を出力する完全非自己回帰型表-テキストモデル(Plan-then-Seam, PTS)を提案する。 PTSはまず、新しく再考されたポインタ予測器で生成されたコンテンツの1つの計画を書き、校正し、その後、その記述をデコードするためのシーミングのコンテキストとしてその計画を採る。 これら2つのステップはパラメータを共有し、並列デコーディングを維持しながらトークン間の依存性をキャプチャするために反復的に実行する。 2つの公開ベンチマークの実験では、PSSは推論時間の3.0～5.6倍のスピードアップを実現し、50%のパラメータを削減した。

関連論文リスト

• ParallelSpec: Parallel Drafter for Efficient Speculative Decoding [62.68430939686566]
  提案するParallelSpecは,最先端の投機的復号化手法における自己回帰的起草戦略の代替となる。 投機段階における自己回帰的起草とは対照的に,効率的な投機モデルとして機能する並列投機を訓練する。
  論文  参考訳（メタデータ） (2024-10-08T01:05:08Z)
• TS-HTFA: Advancing Time Series Forecasting via Hierarchical Text-Free Alignment with Large Language Models [14.411646409316624]
  時系列予測の新しい手法である textbfHierarchical textbfText-textbfFree textbfAlignment (textbfTS-HTFA) を導入する。 我々は、QR分解語埋め込みと学習可能なプロンプトに基づいて、ペア化されたテキストデータを適応的な仮想テキストに置き換える。 複数の時系列ベンチマークの実験は、HTFAが最先端のパフォーマンスを達成することを示した。
  論文  参考訳（メタデータ） (2024-09-23T12:57:24Z)
• SPTS v2: Single-Point Scene Text Spotting [146.98118405786445]
  新たなフレームワークであるSPTS v2では,単一ポイントアノテーションを用いて高いパフォーマンスのテキストスポッティングモデルをトレーニングすることができる。 SPTS v2は、より少ないパラメータで従来の最先端のシングルポイントテキストスポッターより優れていることを示す。 実験により、シーンテキストスポッティングにおける単一点表現の潜在的好みが示唆される。
  論文  参考訳（メタデータ） (2023-01-04T14:20:14Z)
• INFINITY: A Simple Yet Effective Unsupervised Framework for Graph-Text Mutual Conversion [43.70416280548082]
  グラフ・ツー・テキスト(G2T)生成とテキスト・ツー・グラフ(T2G)トリプル抽出は知識グラフの構築と適用に不可欠である。 既存の教師なしのアプローチは、グラフテキスト並列データの使用を避けるため、2つのタスクを共同で学習するのに適した候補であることが判明した。 我々は、外部アノテーションツールや追加の並列情報を必要としない、シンプルで効果的な教師なしアプローチであるINFINITYを提案する。
  論文  参考訳（メタデータ） (2022-09-22T03:12:43Z)
• Data-to-text Generation with Variational Sequential Planning [74.3955521225497]
  非言語的な入力からテキスト出力を生成することを目的としたデータ・ツー・テキスト生成の課題について考察する。 協調的かつ有意義な方法で高レベルの情報を整理する責任を負う計画要素を付加したニューラルモデルを提案する。 我々は、計画と生成のステップをインターリーブしながら、構造化された変動モデルで逐次、潜在計画を推測する。
  論文  参考訳（メタデータ） (2022-02-28T13:17:59Z)
• Sketch and Refine: Towards Faithful and Informative Table-to-Text Generation [58.320248632121476]
  自己回帰世代と非自己回帰世代(SANA)を組み合わせた新しい2段階法を提案する。 提案手法は,(1)ソーステーブルからキートークンを選択するための自己回帰ポインタネットワークを用いた骨格生成,(2)反復挿入と削除操作によるテキスト生成のための編集ベースの非自己回帰生成モデルを含む。 骨格から厳しい制約を統合することで、非自己回帰モデルはソーステーブル上の生成のカバレッジを改善し、その忠実性を高める。
  論文  参考訳（メタデータ） (2021-05-31T08:18:13Z)
• GraPPa: Grammar-Augmented Pre-Training for Table Semantic Parsing [117.98107557103877]
  テーブルセマンティック解析のための効果的な事前学習手法GraPPaを提案する。 我々は、同期文脈自由文法を用いて、高自由度テーブル上に合成質問ペアを構築する。 実世界のデータを表現できるモデルの能力を維持するため、マスキング言語モデリングも含んでいる。
  論文  参考訳（メタデータ） (2020-09-29T08:17:58Z)
• POINTER: Constrained Progressive Text Generation via Insertion-based Generative Pre-training [93.79766670391618]
  ハードコントラストテキスト生成のための新しい挿入ベースアプローチであるPOINTERを提案する。 提案手法は,既存のトークン間で段階的に新しいトークンを並列に挿入することによって動作する。 結果として生じる粗大な階層構造は、生成プロセスを直感的で解釈可能である。
  論文  参考訳（メタデータ） (2020-05-01T18:11:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。