論文の概要: Rethinking Generalization of Neural Models: A Named Entity Recognition Case Study

• arxiv url: http://arxiv.org/abs/2001.03844v1
• Date: Sun, 12 Jan 2020 04:33:53 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-12 04:40:19.284216
• Title: Rethinking Generalization of Neural Models: A Named Entity Recognition Case Study
• Title（参考訳）: ニューラルモデルの一般化を再考する:名前付きエンティティ認識のケーススタディ
• Authors: Jinlan Fu, Pengfei Liu, Qi Zhang, Xuanjing Huang
• Abstract要約: NERタスクをテストベッドとして、異なる視点から既存モデルの一般化挙動を分析する。 詳細な分析による実験は、既存のニューラルNERモデルのボトルネックを診断する。 本論文の副産物として,最近のNER論文の包括的要約を含むプロジェクトをオープンソース化した。
• 参考スコア（独自算出の注目度）: 81.11161697133095
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While neural network-based models have achieved impressive performance on a large body of NLP tasks, the generalization behavior of different models remains poorly understood: Does this excellent performance imply a perfect generalization model, or are there still some limitations? In this paper, we take the NER task as a testbed to analyze the generalization behavior of existing models from different perspectives and characterize the differences of their generalization abilities through the lens of our proposed measures, which guides us to better design models and training methods. Experiments with in-depth analyses diagnose the bottleneck of existing neural NER models in terms of breakdown performance analysis, annotation errors, dataset bias, and category relationships, which suggest directions for improvement. We have released the datasets: (ReCoNLL, PLONER) for the future research at our project page: http://pfliu.com/InterpretNER/. As a by-product of this paper, we have open-sourced a project that involves a comprehensive summary of recent NER papers and classifies them into different research topics: https://github.com/pfliu-nlp/Named-Entity-Recognition-NER-Papers.
• Abstract（参考訳）: ニューラルネットワークベースのモデルは、多くのNLPタスクにおいて印象的なパフォーマンスを達成したが、異なるモデルの一般化動作は、まだ理解されていない。 本稿では,既存のモデルの一般化挙動を異なる視点から分析し,その一般化能力の相違を,提案手法のレンズを通して特徴付けるためのテストベッドとしてnerタスクを取り入れた。 詳細な分析による実験では、既存のニューラルネットワークnerモデルのボトルネックを、ブレークダウンパフォーマンス分析、アノテーションエラー、データセットバイアス、および改善の方向を示すカテゴリ関係の観点から診断する。 我々は、将来の研究のためのデータセット(reconll, ploner)をプロジェクトページでリリースした。 本論文の副産物として,最近のNER論文を包括的に要約したプロジェクトをオープンソースとして公開し,さまざまな研究トピックに分類した。

関連論文リスト

• Axiomatic Causal Interventions for Reverse Engineering Relevance Computation in Neural Retrieval Models [20.29451537633895]
  本稿では,ニューラルランサーのリバースエンジニアリングにおける因果介入法を提案する。 本稿では, 項周波数公理を満たす成分を分離するために, 機械的解釈可能性法をどのように利用できるかを示す。
  論文  参考訳（メタデータ） (2024-05-03T22:30:15Z)
• A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
  補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。 オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
  論文  参考訳（メタデータ） (2023-11-13T01:48:08Z)
• Fantastic Gains and Where to Find Them: On the Existence and Prospect of General Knowledge Transfer between Any Pretrained Model [74.62272538148245]
  事前訓練されたモデルの任意のペアリングに対して、一方のモデルは他方では利用できない重要なデータコンテキストを抽出する。 このような「補的」な知識を,性能劣化を伴わずに,あるモデルから別のモデルへ伝達できるかどうかを検討する。
  論文  参考訳（メタデータ） (2023-10-26T17:59:46Z)
• Robust Graph Representation Learning via Predictive Coding [46.22695915912123]
  予測符号化は、当初脳の情報処理をモデル化するために開発されたメッセージパッシングフレームワークである。 本研究では,予測符号化のメッセージパス規則に依存するモデルを構築する。 提案したモデルは,帰納的タスクと帰納的タスクの両方において,標準的なモデルに匹敵する性能を示す。
  論文  参考訳（メタデータ） (2022-12-09T03:58:22Z)
• SimSCOOD: Systematic Analysis of Out-of-Distribution Generalization in Fine-tuned Source Code Models [58.78043959556283]
  本研究は,Low-Rank Adaptation (LoRA)ファインチューニング手法を含む,異なる微調整手法によるモデルの挙動について検討する。 解析の結果、LoRAファインチューニングは様々なシナリオにおけるフルファインチューニングよりも、OODの一般化性能が大幅に向上していることが判明した。
  論文  参考訳（メタデータ） (2022-10-10T16:07:24Z)
• On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
  異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。 このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。 我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
  論文  参考訳（メタデータ） (2022-06-09T17:12:32Z)
• Which Model To Trust: Assessing the Influence of Models on the Performance of Reinforcement Learning Algorithms for Continuous Control Tasks [0.0]
  アルゴリズムの改善やモデルの改善による最近の進歩の程度は明らかになっていない。 モデル比較のために、一般的に採用されているモデルのセットが確立されている。 結果,モデル性能に有意な差が認められた。
  論文  参考訳（メタデータ） (2021-10-25T16:17:26Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Small Data, Big Decisions: Model Selection in the Small-Data Regime [11.817454285986225]
  トレーニングセットのサイズが桁違いに変化するため,一般化性能について検討する。 さらに、現代のニューラルネットワークアーキテクチャが与えられた共通のデータセットに対して、最小記述長を推定することができる。
  論文  参考訳（メタデータ） (2020-09-26T12:52:56Z)
• Critically Examining the Claimed Value of Convolutions over User-Item Embedding Maps for Recommender Systems [14.414055798999764]
  近年,推薦システムの領域におけるアルゴリズム研究は,行列因数分解技術からニューラルアプローチへと移行している。 文献で報告された主張利益は, 埋め込み相関をモデル化するCNNの能力によるものではない, という分析的考察と実証的評価を通して示す。
  論文  参考訳（メタデータ） (2020-07-23T10:03:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。