論文の概要: Bridging between Cognitive Processing Signals and Linguistic Features via a Unified Attentional Network

• arxiv url: http://arxiv.org/abs/2112.08831v1
• Date: Thu, 16 Dec 2021 12:25:11 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-17 14:31:59.223480
• Title: Bridging between Cognitive Processing Signals and Linguistic Features via a Unified Attentional Network
• Title（参考訳）: 統一的注意ネットワークによる認知処理信号と言語特徴の橋渡し
• Authors: Yuqi Ren, Deyi Xiong
• Abstract要約: 本稿では,認知処理信号と言語的特徴との関連性を検討するためのデータ駆動手法を提案する。 我々は、埋め込み、注意、エンコーディング、予測層からなる統合された注意フレームワークを提案する。 提案するフレームワークは,単一の認知データセットを用いて,幅広い言語的特徴を検出するために利用できる。
• 参考スコア（独自算出の注目度）: 25.235060468310696
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Cognitive processing signals can be used to improve natural language processing (NLP) tasks. However, it is not clear how these signals correlate with linguistic information. Bridging between human language processing and linguistic features has been widely studied in neurolinguistics, usually via single-variable controlled experiments with highly-controlled stimuli. Such methods not only compromises the authenticity of natural reading, but also are time-consuming and expensive. In this paper, we propose a data-driven method to investigate the relationship between cognitive processing signals and linguistic features. Specifically, we present a unified attentional framework that is composed of embedding, attention, encoding and predicting layers to selectively map cognitive processing signals to linguistic features. We define the mapping procedure as a bridging task and develop 12 bridging tasks for lexical, syntactic and semantic features. The proposed framework only requires cognitive processing signals recorded under natural reading as inputs, and can be used to detect a wide range of linguistic features with a single cognitive dataset. Observations from experiment results resonate with previous neuroscience findings. In addition to this, our experiments also reveal a number of interesting findings, such as the correlation between contextual eye-tracking features and tense of sentence.
• Abstract（参考訳）: 認知処理信号は自然言語処理(NLP)タスクを改善するために使用できる。 しかし、これらの信号が言語情報とどのように関連しているかは明らかでない。 人間の言語処理と言語的特徴のブリッジは神経言語学において広く研究されており、通常は高度に制御された刺激を持つ単変量制御実験によって研究されている。 このような方法は自然読解の真正性を損なうだけでなく、時間と費用もかかる。 本稿では,認知処理信号と言語的特徴の関係を調べるためのデータ駆動手法を提案する。 具体的には,認知処理信号を言語的特徴に選択的にマッピングするために,埋め込み・注意・エンコーディング・予測層からなる統一的注意フレームワークを提案する。 マッピング手順をブリッジタスクとして定義し,語彙的,構文的,意味的特徴のブリッジタスク12を開発した。 提案手法は,自然読解時に記録された認知処理信号を入力としてのみ必要とし,単一の認知データセットを用いて幅広い言語特徴を検出できる。 実験結果からの観察は、これまでの神経科学の知見と共鳴する。 これに加えて, 文脈的視線追跡特徴と文のテンスの関係など, 興味深い発見が多数報告された。

関連論文リスト

• Explaining Interactions Between Text Spans [50.70253702800355]
  入力の異なる部分からのトークンのスパンに対する推論は、自然言語理解に不可欠である。 NLUタスク2つのタスク(NLIとFC)に対する人間間相互作用の説明データセットであるSpanExを紹介する。 次に,複数の微調整された大言語モデルの決定過程を,スパン間の相互接続の観点から検討する。
  論文  参考訳（メタデータ） (2023-10-20T13:52:37Z)
• Addressing the Blind Spots in Spoken Language Processing [4.626189039960495]
  人間のコミュニケーションを理解するには、非言語的要素を含むために、テキスト語や音声語を超越した、より包括的なアプローチが必要である、と我々は主張する。 本稿では,これらの非言語的手がかりをテキスト形式で書き起こす汎用的な自動ジェスチャーセグメンテーションと書き起こしモデルの開発を提案する。
  論文  参考訳（メタデータ） (2023-09-06T10:29:25Z)
• Communication Drives the Emergence of Language Universals in Neural Agents: Evidence from the Word-order/Case-marking Trade-off [3.631024220680066]
  ニューラルエージェント言語学習通信フレームワーク(NeLLCom)を提案する。 我々はエージェントに特定のバイアスをハードコーディングすることなく、新しいフレームワークでトレードオフを複製することに成功しました。
  論文  参考訳（メタデータ） (2023-01-30T17:22:33Z)
• Joint processing of linguistic properties in brains and language models [14.997785690790032]
  人間の脳と言語モデルによる言語情報の詳細な処理の対応について検討する。 特定の言語特性の除去は脳のアライメントを著しく低下させる。 これらの知見は、脳と言語モデルとの整合における特定の言語情報の役割の明確な証拠である。
  論文  参考訳（メタデータ） (2022-12-15T19:13:42Z)
• Emotion Recognition in Conversation using Probabilistic Soft Logic [17.62924003652853]
  会話における感情認識(英: emotion recognition in conversation、ERC)とは、2つ以上の発話を含む会話に焦点を当てた感情認識のサブフィールドである。 我々は,宣言的テンプレート言語である確率的ソフト論理(PSL)にアプローチを実装した。 PSLは、ニューラルモデルからPSLモデルへの結果の取り込みのための機能を提供する。 提案手法を最先端の純粋ニューラルネットワークERCシステムと比較した結果,約20%の改善が得られた。
  論文  参考訳（メタデータ） (2022-07-14T23:59:06Z)
• Deep Neural Convolutive Matrix Factorization for Articulatory Representation Decomposition [48.56414496900755]
  この研究は、コンボリューティブスパース行列分解のニューラル実装を用いて、調音データを解釈可能なジェスチャーとジェスチャースコアに分解する。 音素認識実験も実施され、ジェスチャースコアが実際に音韻情報のコード化に成功していることが示された。
  論文  参考訳（メタデータ） (2022-04-01T14:25:19Z)
• Perception Point: Identifying Critical Learning Periods in Speech for Bilingual Networks [58.24134321728942]
  ディープニューラルベース視覚唇読解モデルにおける認知的側面を比較し,識別する。 我々は、認知心理学におけるこれらの理論と独自のモデリングの間に強い相関関係を観察する。
  論文  参考訳（メタデータ） (2021-10-13T05:30:50Z)
• Preliminary study on using vector quantization latent spaces for TTS/VC systems with consistent performance [55.10864476206503]
  本稿では,潜在言語埋め込みをモデル化するための量子化ベクトルの利用について検討する。 トレーニングにおいて、潜伏空間上の異なるポリシーを強制することにより、潜伏言語埋め込みを得ることができる。 実験の結果,ベクトル量子化法で構築した音声クローニングシステムは,知覚的評価の点でわずかに劣化していることがわかった。
  論文  参考訳（メタデータ） (2021-06-25T07:51:35Z)
• CogAlign: Learning to Align Textual Neural Representations to Cognitive Language Processing Signals [60.921888445317705]
  自然言語処理モデルに認知言語処理信号を統合するためのCogAlignアプローチを提案する。 我々は、CogAlignが、パブリックデータセット上の最先端モデルよりも、複数の認知機能で大幅な改善を実現していることを示す。
  論文  参考訳（メタデータ） (2021-06-10T07:10:25Z)
• Low-Dimensional Structure in the Space of Language Representations is Reflected in Brain Responses [62.197912623223964]
  言語モデルと翻訳モデルは,単語の埋め込み,構文的・意味的タスク,将来的な単語埋め込みとの間を円滑に介在する低次元構造を示す。 この表現埋め込みは、各特徴空間が、fMRIを用いて記録された自然言語刺激に対する人間の脳反応にどれだけうまく対応しているかを予測することができる。 これは、埋め込みが脳の自然言語表現構造の一部を捉えていることを示唆している。
  論文  参考訳（メタデータ） (2021-06-09T22:59:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。