Fugu-MT 論文翻訳(概要): Investigating Non-local Features for Neural Constituency Parsing

論文の概要: Investigating Non-local Features for Neural Constituency Parsing

arxiv url: http://arxiv.org/abs/2109.12814v1
Date: Mon, 27 Sep 2021 06:14:30 GMT
ステータス: 処理完了
システム内更新日: 2021-09-29 04:38:31.333826
Title: Investigating Non-local Features for Neural Constituency Parsing
Title（参考訳）: 神経構成解析における非局所的特徴の検討
Authors: Leyang Cui, Sen Yang, Yue Zhang
Abstract要約: 本研究では,N-局所パターンを予測し,非局所パターンと局所成分との整合性を確保することにより,局所的スパングラムのトレーニングプロセスに非局所的特徴を注入することを検討する。 PTB (95.92 F1) における最先端のBERT ベースの性能と CTB (92.31 F1) 上での強靭な性能を実現する。
参考スコア（独自算出の注目度）: 15.958846810868096
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Thanks to the strong representation power of neural encoders, neural chart-based parsers have achieved highly competitive performance by using local features. Recently, it has been shown that non-local features in CRF structures lead to improvements. In this paper, we investigate injecting non-local features into the training process of a local span-based parser, by predicting constituent n-gram non-local patterns and ensuring consistency between non-local patterns and local constituents. Results show that our simple method gives better results than the CRF parser on both PTB and CTB. Besides, our method achieves state-of-the-art BERT-based performance on PTB (95.92 F1) and strong performance on CTB (92.31 F1).
Abstract（参考訳）: ニューラルエンコーダの強力な表現力のおかげで、ニューラルチャートベースのパーサは、ローカル機能を使用することで、高い競争性能を実現している。近年,CRF構造の非局所的特徴が改善につながることが示されている。本稿では,n-gram非局所パターンの構成を予測し,非局所パターンと局所要素間の一貫性を確保することにより,局所的スパンベースパーサのトレーニングプロセスに非局所的特徴を注入する。その結果,本手法はptbおよびctbのcrfパーサよりも優れた結果が得られることがわかった。さらに, PTB (95.92 F1) 上での最先端のBERTベースの性能と, CTB (92.31 F1) での強い性能を実現する。

関連論文リスト

PropNEAT -- Efficient GPU-Compatible Backpropagation over NeuroEvolutionary Augmenting Topology Networks [1.9424018922013226]
PropNEAT は NEAT の高速なバックプロパゲーション実装であり、ゲノムグラフから層ベースのアーキテクチャへの双方向マッピングを利用する。我々はPenn Machine Learning Benchmarksデータベースから58のバイナリ分類データセット上でPropNEATをテストする。
論文参考訳（メタデータ） (2024-11-06T07:44:14Z)
LeRF: Learning Resampling Function for Adaptive and Efficient Image Interpolation [64.34935748707673]
最近のディープニューラルネットワーク(DNN)は、学習データ前処理を導入することで、パフォーマンスを著しく向上させた。本稿では,DNNが学習した構造的前提と局所的連続仮定の両方を活かした学習再サンプリング(Learning Resampling, LeRF)を提案する。 LeRFは空間的に異なる再サンプリング関数を入力画像ピクセルに割り当て、ニューラルネットワークを用いてこれらの再サンプリング関数の形状を予測する。
論文参考訳（メタデータ） (2024-07-13T16:09:45Z)
Unsupervised Chunking with Hierarchical RNN [62.15060807493364]
本稿では,非階層的手法で単語をグループ化する構文的タスクであるチャンキングに対する教師なしアプローチを紹介する。本稿では,単語-チャンク・チャンク-文合成をモデル化した2層階層型階層型リカレントニューラルネットワーク(HRNN)を提案する。 CoNLL-2000データセットの実験では、既存の教師なし手法よりも顕著な改善が見られ、フレーズF1スコアが最大6ポイント向上した。
論文参考訳（メタデータ） (2023-09-10T02:55:12Z)
An Entropy-guided Reinforced Partial Convolutional Network for Zero-Shot Learning [77.72330187258498]
エントロピー誘導強化部分畳み込みネットワーク(ERPCNet)を提案する。 ERPCNetは、人間のアノテーションのない意味的関連性と視覚的相関に基づいて、局所性を抽出し、集約する。グローバルな協力的局所性を動的に発見するだけでなく、ポリシー勾配最適化のためにより高速に収束する。
論文参考訳（メタデータ） (2021-11-03T11:13:13Z)
Re-rank Coarse Classification with Local Region Enhanced Features for Fine-Grained Image Recognition [22.83821575990778]
そこで我々は,Top1の精度を向上させるため,TopN分類結果を局所的に拡張した埋め込み機能を用いて再評価した。より効果的なセマンティクスグローバル機能を学ぶために、我々は、自動構築された階層的カテゴリ構造上のマルチレベル損失をデザインする。本手法は,cub-200-2011,stanford cars,fgvc aircraftの3つのベンチマークで最新性能を実現する。
論文参考訳（メタデータ） (2021-02-19T11:30:25Z)
Should Graph Convolution Trust Neighbors? A Simple Causal Inference Method [114.48708191371524]
グラフ畳み込みネットワーク(GCN)は情報検索(IR)アプリケーションのための新興技術である。この研究は、ほとんど精査されていないテストノードの局所的な構造差に焦点を当てている。本稿では,GCNの動作メカニズムを因果グラフを用いて解析し,ノードの局所構造による因果効果を推定する。
論文参考訳（メタデータ） (2020-10-22T15:21:47Z)
Fast and Accurate Neural CRF Constituency Parsing [16.90190521285297]
この研究は、高速で正確なCRF行列計算を示す。我々は、GPU上の大きなテンソル演算による損失に対する内部アルゴリズムをバッチ化し、効率的なバックプロパゲーションによる計算の外部アルゴリズムを避ける。 PTB, CTB5.1, CTB7の2段CRFは, w/o と w/BERT の両設定において,新しい最先端性能を実現することを示す。
論文参考訳（メタデータ） (2020-08-09T14:38:48Z)
Region-based Non-local Operation for Video Classification [11.746833714322154]
本稿では,地域別非局所的(RNL)操作を自己注意機構のファミリーとして提案する。チャネルアテンションモジュールと提案したRNLを組み合わせることで,市販のCNNに組み込んだアテンションチェーンを設計し,エンドツーエンドのトレーニングを行う。提案手法の実験結果は,他の注意機構よりも優れており,Something V1データセット上での最先端性能を実現している。
論文参考訳（メタデータ） (2020-07-17T14:57:05Z)
Self-Challenging Improves Cross-Domain Generalization [81.99554996975372]
畳み込みニューラルネットワーク(CNN)は、ラベルと相関する支配的特徴を活性化することにより、画像分類を行う。ドメイン外データに対するCNNの一般化を著しく改善する簡単なトレーニングである自己整合表現(RSC)を導入する。 RSCはトレーニングデータ上で活性化される主要な機能に対して反復的に挑戦し、ラベルと相関する残りの機能を有効にするようネットワークに強制する。
論文参考訳（メタデータ） (2020-07-05T21:42:26Z)
DISK: Learning local features with policy gradient [63.12124363163665]
局所的な特徴フレームワークは、スパースキーポイントの選択とマッチングに固有の離散性のため、エンドツーエンドで学ぶのは難しい。 DISK(DIScrete Keypoints)は,強化学習(Reinforcement Learning, RL)の原則を活用することで,これらの障害を克服する新しい手法である。私たちの単純で表現力に富んだ確率的モデルは、トレーニングと推論体制を密に保ちながら、スクラッチから確実にトレーニングできる十分な収束特性を維持します。
論文参考訳（メタデータ） (2020-06-24T08:57:38Z)
Features for Ground Texture Based Localization -- A Survey [12.160708336715489]
特徴量に基づく地盤テクスチャに基づく車両位置決めは,インフラストラクチャフリーな高精度な位置決めを実現する上で有望な手法である。本研究は,画像ペアと合成変換を別々に行い,利用可能な特徴抽出手法を初めて広範囲に評価するものである。我々は、AkaZE、SURF、CenSurEを最高のキーポイント検出器として同定し、CenSurEとORB、BRIEF、LATCHの特徴記述子をペアリングして、インクリメンタルなローカライゼーションで最大の成功率を達成する。
論文参考訳（メタデータ） (2020-02-27T07:25:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。