論文の概要: Schema-Free Dependency Parsing via Sequence Generation

• arxiv url: http://arxiv.org/abs/2201.12407v1
• Date: Fri, 28 Jan 2022 20:32:04 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-01 16:10:49.654032
• Title: Schema-Free Dependency Parsing via Sequence Generation
• Title（参考訳）: シーケンス生成によるスキーマフリー依存パーシング
• Authors: Boda Lin, Zijun Yao, Jiaxin Shi, Shulin Cao, Binghao Tang, Si Li, Yong Luo, Juanzi Li, Lei Hou
• Abstract要約: 依存構文解析は、文の構文的依存構造や意味的依存構造を抽出することを目的としている。 我々は、シーケンス生成(SG)を介して、普遍的でスキーマフリーな依存性解析(DP)を実現することを提案する。
• 参考スコア（独自算出の注目度）: 33.58097441488377
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dependency parsing aims to extract syntactic dependency structure or semantic dependency structure for sentences. Existing methods suffer the drawbacks of lacking universality or highly relying on the auxiliary decoder. To remedy these drawbacks, we propose to achieve universal and schema-free Dependency Parsing (DP) via Sequence Generation (SG) DPSG by utilizing only the pre-trained language model (PLM) without any auxiliary structures or parsing algorithms. We first explore different serialization designing strategies for converting parsing structures into sequences. Then we design dependency units and concatenate these units into the sequence for DPSG. Thanks to the high flexibility of the sequence generation, our DPSG can achieve both syntactic DP and semantic DP using a single model. By concatenating the prefix to indicate the specific schema with the sequence, our DPSG can even accomplish multi-schemata parsing. The effectiveness of our DPSG is demonstrated by the experiments on widely used DP benchmarks, i.e., PTB, CODT, SDP15, and SemEval16. DPSG achieves comparable results with the first-tier methods on all the benchmarks and even the state-of-the-art (SOTA) performance in CODT and SemEval16. This paper demonstrates our DPSG has the potential to be a new parsing paradigm. We will release our codes upon acceptance.
• Abstract（参考訳）: 依存関係解析は、文の構文依存構造や意味依存構造を抽出することを目的としている。 既存の方法は、普遍性を欠いたり、補助デコーダに強く依存する欠点を負う。 これらの欠点を解消するために、補助構造や解析アルゴリズムを使わずに事前学習された言語モデル(PLM)のみを利用することで、シーケンス生成(SG)DPSGを介して、普遍的でスキーマなしの依存性解析(DP)を実現することを提案する。 まず、解析構造をシーケンスに変換するための異なるシリアライズ設計戦略を検討する。 次に、依存ユニットを設計し、これらのユニットをDPSGのシーケンスにまとめる。 シーケンス生成の柔軟性が高いため、DPSGは単一のモデルを用いて構文DPと意味DPの両方を実現できる。 特定のスキーマを示すプレフィックスをシーケンスと結合することで、DPSGはマルチスキーマ解析を達成できます。 dpsgの有効性は,ptb,codt,sdp15,semeval16など,広く使用されているdpベンチマークを用いて実証した。 DPSGは、CODTとSemEval16におけるすべてのベンチマークのファーストレベルメソッドと、最先端(SOTA)のパフォーマンスで同等の結果を得る。 本稿ではDPSGが新たな解析パラダイムとなる可能性を実証する。 私たちは受け入れ次第コードを公開します。

関連論文リスト

• GEML: A Grammar-based Evolutionary Machine Learning Approach for Design-Pattern Detection [7.018591019975254]
  デザインパターン(DP)はソフトウェア開発における良いプラクティスとして認識されています。 適切なドキュメントの欠如はトレーサビリティを損なうことが少なく、そのメリットは数千行のコードの間でぼやけています。 本稿では,多様な性質のソフトウェア特性を用いた進化的機械学習に基づく新しい検出手法であるGEMLを提案する。
  論文  参考訳（メタデータ） (2024-01-13T11:05:24Z)
• Compositional Program Generation for Few-Shot Systematic Generalization [59.57656559816271]
  コンポジションプログラムジェネレータ(CPG)と呼ばれるニューロシンボリックアーキテクチャに関する研究 CPGには3つの重要な特徴がある: 文法規則の形で、テキストモジュラリティ、テキストコンポジション、テキストタストラクションである。 SCAN と COGS のベンチマークでは,SCAN の14例と COGS の22例を使用して,完全な一般化を実現している。
  論文  参考訳（メタデータ） (2023-09-28T14:33:20Z)
• Generalizing DP-SGD with Shuffling and Batch Clipping [21.55827140532476]
  DP-SGDは、ランダムなサブサンプリングによる個別のクリッピングを実装し、ミニバッチSGDアプローチを強制する。 DP-SGDを超える一般微分プライベートアルゴリズムフレームワークを提供し、任意の一階和を許容する。 シャッフルを伴うバッチクリッピングに$sqrtg E$ DP依存性を示す。
  論文  参考訳（メタデータ） (2022-12-12T09:43:26Z)
• Automatic Clipping: Differentially Private Deep Learning Made Easier and Stronger [39.93710312222771]
  サンプルごとのクリッピングは、ディープラーニングモデルのための実用的な差分プライベート(DP)トレーニングを可能にするアルゴリズムの重要なステップである。 本稿では,任意のDPに対してRをチューニングする必要がなくなる自動クリッピング(automatic clipping)という,使い勝手の良い代替手法を提案する。
  論文  参考訳（メタデータ） (2022-06-14T19:49:44Z)
• Structure-aware Fine-tuning of Sequence-to-sequence Transformers for Transition-based AMR Parsing [20.67024416678313]
  我々は、一般的な事前訓練されたシーケンス・ツー・シーケンス言語モデルと構造対応のトランジション・ベース・アプローチの統合について検討する。 構造化された微調整のための事前学習言語モデルをよりよく活用するために,単純化されたトランジションセットを提案する。 提案した解析アーキテクチャは,従来の遷移に基づくアプローチの望ましい特性を維持しつつ,グラフの再分類を必要とせず,AMR 2.0の最先端技術に到達していることを示す。
  論文  参考訳（メタデータ） (2021-10-29T04:36:31Z)
• Layout-to-Image Translation with Double Pooling Generative Adversarial Networks [76.83075646527521]
  入力レイアウトからフォトリアリスティックでセマンティックに一貫性のある結果を生成するための新しいDouble Pooing GAN(DPGAN)を提案する。 また,角形プールモジュール (SPM) と矩形プールモジュール (RPM) からなる新しい二重プールモジュール (DPM) を提案する。
  論文  参考訳（メタデータ） (2021-08-29T19:55:14Z)
• Auto-Parsing Network for Image Captioning and Visual Question Answering [101.77688388554097]
  本稿では,入力データの隠れ木構造を発見し,活用するための自動パーシングネットワーク(APN)を提案する。 具体的には、各自己注意層における注意操作によってパラメータ化された確率的グラフモデル(PGM)を課し、スパース仮定を組み込む。
  論文  参考訳（メタデータ） (2021-08-24T08:14:35Z)
• Head-driven Phrase Structure Parsing in O($n^3$) Time Complexity [48.683350567504604]
  2つの古典的な構文解析形式である構成解析と依存性解析は、統一的な形式主義の下での共同訓練と復号化の恩恵を受けている。 本稿では,O$($n3$) の時間的複雑さで新たなパフォーマンス保存を実現するために,改良されたヘッドスコアラを提案する。
  論文  参考訳（メタデータ） (2021-05-20T15:33:51Z)
• Span-based Semantic Parsing for Compositional Generalization [53.24255235340056]
  SpanBasedSPは入力発話上のスパンツリーを予測し、部分的なプログラムが入力内のスパンをどのように構成するかを明示的に符号化する。 GeoQuery、SCAN、CLOSUREでは、SpanBasedSPはランダムスプリットの強いseq2seqベースラインと似ているが、構成一般化を必要とするスプリットのベースラインに比べて劇的に性能が向上する。
  論文  参考訳（メタデータ） (2020-09-13T16:42:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。