論文の概要: CogniFNN: A Fuzzy Neural Network Framework for Cognitive Word Embedding Evaluation

• arxiv url: http://arxiv.org/abs/2009.11485v2
• Date: Thu, 29 Jul 2021 05:34:32 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-15 04:04:56.764773
• Title: CogniFNN: A Fuzzy Neural Network Framework for Cognitive Word Embedding Evaluation
• Title（参考訳）: CogniFNN:認知語埋め込み評価のためのファジィニューラルネットワークフレームワーク
• Authors: Xinping Liu, Zehong Cao, Son Tran
• Abstract要約: 我々は、ファジィニューラルネットワークを用いて、英語単語埋め込みの評価のための非線形および非定常特性を抽出する最初の試みであるCogniFNNフレームワークを提案した。 脳波、fMRI、視線追跡の3つのモードで15の認知データセットを使用した。 近年の先駆的フレームワークと比較して,提案したCogniFNNでは,文脈非依存(GloVe)と文脈依存(BERT)の単語埋め込みの予測誤差が小さくなった。
• 参考スコア（独自算出の注目度）: 18.23390072160049
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Word embeddings can reflect the semantic representations, and the embedding qualities can be comprehensively evaluated with human natural reading-related cognitive data sources. In this paper, we proposed the CogniFNN framework, which is the first attempt at using fuzzy neural networks to extract non-linear and non-stationary characteristics for evaluations of English word embeddings against the corresponding cognitive datasets. In our experiment, we used 15 human cognitive datasets across three modalities: EEG, fMRI, and eye-tracking, and selected the mean square error and multiple hypotheses testing as metrics to evaluate our proposed CogniFNN framework. Compared to the recent pioneer framework, our proposed CogniFNN showed smaller prediction errors of both context-independent (GloVe) and context-sensitive (BERT) word embeddings, and achieved higher significant ratios with randomly generated word embeddings. Our findings suggested that the CogniFNN framework could provide a more accurate and comprehensive evaluation of cognitive word embeddings. It will potentially be beneficial to the further word embeddings evaluation on extrinsic natural language processing tasks.
• Abstract（参考訳）: 単語埋め込みは意味表現を反映することができ、その特徴は人間の自然読書関連認知データソースで包括的に評価することができる。 本稿では、ファジィニューラルネットワークを用いて、英語単語埋め込みの評価のための非線形および非定常特性を抽出する最初の試みであるCogniFNNフレームワークを提案する。 実験では、脳波、fmri、視線追跡の3つのモダリティにまたがる15の人間認知データセットを用いて、提案するcognifnnフレームワークを評価する指標として平均二乗誤差と多重仮説テストを選択した。 近年の先駆的フレームワークと比較して,提案したCogniFNNでは,文脈非依存(GloVe)と文脈依存(BERT)の単語埋め込みの予測誤差が小さくなり,ランダムに生成した単語埋め込みによる高い有意比が得られた。 以上の結果から,CogniFNNフレームワークは認知単語の埋め込みをより正確かつ包括的に評価できる可能性が示唆された。 これは、余分な自然言語処理タスクに対するさらなる単語埋め込み評価に有益である可能性がある。

関連論文リスト

• Precision, Stability, and Generalization: A Comprehensive Assessment of RNNs learnability capability for Classifying Counter and Dyck Languages [9.400009043451046]
  本研究では,構造化形式言語におけるリカレントニューラルネットワーク(RNN)の学習可能性について検討する。 伝統的に、1次(LSTM)と2次(O2RNN)のRNNは、これらのタスクに有効であると考えられてきた。
  論文  参考訳（メタデータ） (2024-10-04T03:22:49Z)
• Convolutional Neural Networks for Sentiment Analysis on Weibo Data: A Natural Language Processing Approach [0.228438857884398]
  本研究では,Weiboの119,988ツイートのデータセット上で,畳み込みニューラルネットワーク(CNN)を用いた感情分析の複雑な課題に対処する。 CNNに基づくモデルを用いて,特徴抽出に単語埋め込みを活用し,感情分類を行う訓練を行った。 このモデルは、テストセットで平均約0.73のマクロ平均F1スコアを達成し、正、中、負の感情でバランスの取れた性能を示した。
  論文  参考訳（メタデータ） (2023-07-13T03:02:56Z)
• Lexical semantics enhanced neural word embeddings [4.040491121427623]
  階層的適合は、IS-A階層に本質的に格納されている意味的類似性ニュアンスをモデル化するための新しいアプローチである。 その結果、後期核融合における意味的関係を持つ神経埋め込みを専門とする階層化の有効性が示された。
  論文  参考訳（メタデータ） (2022-10-03T08:10:23Z)
• Initial Study into Application of Feature Density and Linguistically-backed Embedding to Improve Machine Learning-based Cyberbullying Detection [54.83707803301847]
  この研究は、自動サイバーバブル検出に関するKaggleコンペティションで提供されたFormspringデータセットで実施された。 本研究は,サイバブリング検出におけるニューラルネットワークの有効性と分類器性能と特徴密度の相関性を確認した。
  論文  参考訳（メタデータ） (2022-06-04T03:17:15Z)
• Knowledge Enhanced Neural Networks for relational domains [83.9217787335878]
  我々は、ニューラルネットワークに事前論理的知識を注入するニューラルネットワークアーキテクチャであるKENNに焦点を当てる。 本稿では,関係データに対するKENNの拡張を提案する。
  論文  参考訳（メタデータ） (2022-05-31T13:00:34Z)
• A Survey On Neural Word Embeddings [0.4822598110892847]
  自然言語処理における意味の研究は、分布仮説に依存する。 概念の分散表現という革命的な考えは、人間の心の働きに近い。 ニューラルワード埋め込みは、すべてのNLPタスクを大幅に改善することで、NLPの分野全体を変革した。
  論文  参考訳（メタデータ） (2021-10-05T03:37:57Z)
• FF-NSL: Feed-Forward Neural-Symbolic Learner [70.978007919101]
  本稿では,Feed-Forward Neural-Symbolic Learner (FF-NSL) と呼ばれるニューラルシンボリック学習フレームワークを紹介する。 FF-NSLは、ラベル付き非構造化データから解釈可能な仮説を学習するために、Answer Setセマンティクスに基づく最先端のICPシステムとニューラルネットワークを統合する。
  論文  参考訳（メタデータ） (2021-06-24T15:38:34Z)
• CogAlign: Learning to Align Textual Neural Representations to Cognitive Language Processing Signals [60.921888445317705]
  自然言語処理モデルに認知言語処理信号を統合するためのCogAlignアプローチを提案する。 我々は、CogAlignが、パブリックデータセット上の最先端モデルよりも、複数の認知機能で大幅な改善を実現していることを示す。
  論文  参考訳（メタデータ） (2021-06-10T07:10:25Z)
• Neural Networks Enhancement with Logical Knowledge [83.9217787335878]
  関係データに対するKENNの拡張を提案する。 その結果、KENNは、存在関係データにおいても、基礎となるニューラルネットワークの性能を高めることができることがわかった。
  論文  参考訳（メタデータ） (2020-09-13T21:12:20Z)
• Neural Networks with Recurrent Generative Feedback [61.90658210112138]
  畳み込みニューラルネットワーク(CNN)でこの設計をインスタンス化する 実験では、標準ベンチマーク上の従来のフィードフォワードCNNに対して、CNN-Fは敵のロバスト性を大幅に改善した。
  論文  参考訳（メタデータ） (2020-07-17T19:32:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。