論文の概要: Is "my favorite new movie" my favorite movie? Probing the Understanding of Recursive Noun Phrases

• arxiv url: http://arxiv.org/abs/2112.08326v1
• Date: Wed, 15 Dec 2021 18:20:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-16 14:46:00.782482
• Title: Is "my favorite new movie" my favorite movie? Probing the Understanding of Recursive Noun Phrases
• Title（参考訳）: 私の好きな新作映画」は私の好きな映画ですか。 再帰名詞句の理解の探究
• Authors: Qing Lyu, Hua Zheng, Daoxin Li, Li Zhang, Marianna Apidianaki, Chris Callison-Burch
• Abstract要約: 再帰名詞句(NP)は興味深い意味を持つ。 人間には常識があるが、事前訓練された言語モデルにそのような知識があるかどうかは不明である。 本稿では,NPの理解を目標とした再帰的名詞フレーズチャレンジ(RNPC)を紹介する。
• 参考スコア（独自算出の注目度）: 21.092916005833764
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Recursive noun phrases (NPs) have interesting semantic properties. For example, "my favorite new movie" is not necessarily "my favorite movie", whereas "my new favorite movie" is. This is common sense to humans, yet it is unknown whether pre-trained language models have such knowledge. We introduce the Recursive Noun Phrase Challenge (RNPC), a challenge set targeting the understanding of recursive NPs. When evaluated on our dataset, state-of-the-art Transformer models only achieve around chance performance. Still, we show that such knowledge is learnable with appropriate data. We further probe the models for relevant linguistic features that can be learned from our tasks, including modifier semantic category and modifier scope. Finally, models trained on RNPC achieve strong zero-shot performance on an extrinsic Harm Detection task, showing the usefulness of the understanding of recursive NPs in downstream applications. All code and data will be released at https://github.com/veronica320/Recursive-NPs.
• Abstract（参考訳）: 再帰名詞句(NP)は興味深い意味を持つ。 例えば、"my favorite new movie" は必ずしも "my favorite movie" ではなく、"my new favorite movie" は "my favorite movie" である。 これは人間には常識であるが、事前訓練された言語モデルがそのような知識を持っているかどうかは不明である。 本稿では,再帰的名詞句読解法 (RNPC) の課題として,再帰的名詞句読解法 (Recursive Noun Phrase Challenge) を導入する。 我々のデータセットで評価すると、最先端のTransformerモデルは偶然のパフォーマンスしか達成できない。 しかし,このような知識は適切なデータを用いて学習可能であることを示す。 我々はさらに,修飾子意味カテゴリーや修飾子スコープを含むタスクから学習可能な関連言語特徴のモデルについても検討した。 最後に、RNPCでトレーニングされたモデルは、外部ハーム検出タスクにおいて強力なゼロショット性能を達成し、下流アプリケーションにおける再帰的NPの理解の有用性を示す。 すべてのコードとデータはhttps://github.com/veronica320/Recursive-NPsでリリースされる。

関連論文リスト

• Great Memory, Shallow Reasoning: Limits of $k$NN-LMs [71.73611113995143]
  検索とnext-word予測を統合した$k$NN-LMsは、言語モデリングにおいて強力な性能を示している。 この改良された情報リコール能力が、本当に下流の能力に変換されるかどうかを問う。
  論文  参考訳（メタデータ） (2024-08-21T17:59:05Z)
• Dictionary Learning Improves Patch-Free Circuit Discovery in Mechanistic Interpretability: A Case Study on Othello-GPT [59.245414547751636]
  本稿では,アクティベーションパッチに代わる回路発見フレームワークを提案する。 当社のフレームワークはアウト・オブ・ディストリビューション(out-of-distribution)に悩まされており、複雑さの観点からより効率的であることが証明されています。 我々はOthelloという名前の合成タスクで訓練された小さなトランスフォーマーを掘り下げ、その内部に人間に理解可能な微細な回路がいくつかある。
  論文  参考訳（メタデータ） (2024-02-19T15:04:53Z)
• Continuously Learning New Words in Automatic Speech Recognition [56.972851337263755]
  本稿では,新たな単語認識のための自己教師付き連続学習手法を提案する。 過去の研究から,メモリ拡張型自動音声認識モデルを用いた。 提案手法により,新たな単語の出現頻度が高くなると,新たな単語のパフォーマンスが向上することを示す。
  論文  参考訳（メタデータ） (2024-01-09T10:39:17Z)
• Movie101: A New Movie Understanding Benchmark [47.24519006577205]
  大規模な中国の映画ベンチマーク「Movie101」を構築した。 映画ナレーション評価のためのMNScore(Movie Narration Score)と呼ばれる新しい指標を提案する。 両タスクにおいて,提案手法は外部知識をうまく活用し,慎重に設計したベースラインよりも優れた性能を発揮する。
  論文  参考訳（メタデータ） (2023-05-20T08:43:51Z)
• NaQ: Leveraging Narrations as Queries to Supervise Episodic Memory [92.98552727430483]
  Narrations-as-Queries (NaQ)は、標準的なビデオテキストナレーションをビデオクエリのローカライゼーションモデルのためのトレーニングデータに変換するデータ拡張戦略である。 NaQが複数のトップモデルを大幅に改善(精度を2倍に) また、ゼロショットおよび少数ショットNLQの実行能力や、ロングテールオブジェクトカテゴリに関するクエリのパフォーマンス向上など、このアプローチのユニークな特性も示す。
  論文  参考訳（メタデータ） (2023-01-02T16:40:15Z)
• UNIKD: UNcertainty-filtered Incremental Knowledge Distillation for Neural Implicit Representation [48.49860868061573]
  最近の神経暗黙表現(NIR)は、3次元再構成と新しいビュー合成のタスクにおいて大きな成功を収めている。 それらは、異なるカメラビューからのシーンのイメージを、一度のトレーニングで利用できるようにする必要がある。 これは特に大規模なシーンと限られたデータストレージを持つシナリオでは高価である。 我々は、破滅的な問題を緩和するために、学生-教師の枠組みを設計する。
  論文  参考訳（メタデータ） (2022-12-21T11:43:20Z)
• TOIST: Task Oriented Instance Segmentation Transformer with Noun-Pronoun Distillation [6.065546855174586]
  現在の参照表現理解アルゴリズムは、名詞によって示されるオブジェクトを効果的に検出またはセグメント化することができるが、動詞の参照を理解する方法はまだ解明されていない。 本研究では, タスク指向検出の課題について検討し, 安らかに座るなど, 動詞によって示される行動に最も適する対象を見つけることを目的とした。 より詳細なローカライゼーションに向けて、タスク指向のインスタンスセグメンテーションに問題を拡張します。
  論文  参考訳（メタデータ） (2022-10-19T17:59:56Z)
• Graph Neural Networks for Natural Language Processing: A Survey [64.36633422999905]
  本稿では,自然言語処理のためのグラフニューラルネットワーク(GNN)について概観する。 我々は,グラフ構築,グラフ表現学習,グラフベースエンコーダ・デコーダモデルという3つの軸に沿って,NLP用GNNの既存の研究を組織する,NLP用GNNの新しい分類法を提案する。
  論文  参考訳（メタデータ） (2021-06-10T23:59:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。