論文の概要: Have you tried Neural Topic Models? Comparative Analysis of Neural and
Non-Neural Topic Models with Application to COVID-19 Twitter Data
- arxiv url: http://arxiv.org/abs/2105.10165v1
- Date: Fri, 21 May 2021 07:24:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-25 03:32:00.964230
- Title: Have you tried Neural Topic Models? Comparative Analysis of Neural and
Non-Neural Topic Models with Application to COVID-19 Twitter Data
- Title（参考訳）: ニューラルトピックモデルを試したことがありますか?
神経および非神経話題モデルの比較分析とcovid-19twitterデータへの応用
- Authors: Andrew Bennett, Dipendra Misra, and Nga Than
- Abstract要約: 我々は、最先端のニューラルモデルと非ニューラルトピックモデルの比較研究を行う。
ニューラルトピックモデルは、標準評価基準において従来のトピックよりも優れていることを示す。
また,モード崩壊問題に対処するために,ニューラルトピックモデルの新しい正規化項を提案する。
- 参考スコア（独自算出の注目度）: 11.199249808462458
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Topic models are widely used in studying social phenomena. We conduct a
comparative study examining state-of-the-art neural versus non-neural topic
models, performing a rigorous quantitative and qualitative assessment on a
dataset of tweets about the COVID-19 pandemic. Our results show that not only
do neural topic models outperform their classical counterparts on standard
evaluation metrics, but they also produce more coherent topics, which are of
great benefit when studying complex social problems. We also propose a novel
regularization term for neural topic models, which is designed to address the
well-documented problem of mode collapse, and demonstrate its effectiveness.
- Abstract（参考訳）: 話題モデルは社会現象の研究に広く使われている。
我々は、最先端のニューラルモデルと非ニューラルモデルを比較し、新型コロナウイルスのパンデミックに関するツイートのデータセットに対して厳密な量的および質的な評価を行う。
以上の結果から,神経話題モデルが従来の標準評価指標よりも優れているだけでなく,複雑な社会問題を研究する上で非常に有益である,より一貫性のあるトピックも生み出すことが示された。
また,モード崩壊問題に対処し,その有効性を実証するために,ニューラルトピックモデルの新しい正規化項を提案する。
関連論文リスト
- Historia Magistra Vitae: Dynamic Topic Modeling of Roman Literature using Neural Embeddings [10.095706051685665]
従来の統計モデル(LDAとNMF)とBERTモデルを用いたトピックモデルの比較を行った。
定量的メトリクスは統計モデルを好むが、定性的評価は神経モデルからより良い洞察を得る。
論文 参考訳（メタデータ） (2024-06-27T05:38:49Z) - Improving the TENOR of Labeling: Re-evaluating Topic Models for Content
Analysis [5.757610495733924]
対話型タスクベース設定において,ニューラル,教師付き,古典的なトピックモデルの最初の評価を行う。
現在の自動メトリクスは、トピックモデリング機能の完全な図を提供していないことを示す。
論文 参考訳（メタデータ） (2024-01-29T17:54:04Z) - Do Neural Topic Models Really Need Dropout? Analysis of the Effect of
Dropout in Topic Modeling [0.6445605125467573]
ドロップアウトは、小さなデータセットでトレーニングされた大規模なフィードフォワードニューラルネットワークにおいて、過度に適合する問題を解決するために広く使用されている正規化トリックである。
我々は,3つの広く使用されているニューラルトピックモデルにおいて,エンコーダおよびVAEアーキテクチャのデコーダにおけるドロップアウトの結果を分析した。
論文 参考訳（メタデータ） (2023-03-28T13:45:39Z) - Neural Dynamic Focused Topic Model [2.9005223064604078]
ニューラル変動推論の最近の進歩を活用し、ダイナミックフォーカストピックモデルに代替的なニューラルアプローチを提案する。
本稿では,Bernoulli確率変数の列を利用してトピックの出現を追跡するトピック進化のためのニューラルモデルを開発する。
論文 参考訳（メタデータ） (2023-01-26T08:37:34Z) - Cross-Model Comparative Loss for Enhancing Neuronal Utility in Language
Understanding [82.46024259137823]
幅広いタスクに対するクロスモデル比較損失を提案する。
3つの異なるNLUタスクから14のデータセットに対する広範な実験により比較損失の普遍的有効性を示す。
論文 参考訳（メタデータ） (2023-01-10T03:04:27Z) - Are Neural Topic Models Broken? [81.15470302729638]
トピックモデルの自動評価と人的評価の関係について検討する。
ニューラルトピックモデルは、確立された古典的手法と比較して、両方の点においてより悪くなる。
論文 参考訳（メタデータ） (2022-10-28T14:38:50Z) - A Joint Learning Approach for Semi-supervised Neural Topic Modeling [25.104653662416023]
本稿では,最初の効果的な上流半教師付きニューラルトピックモデルであるラベル付きニューラルトピックモデル(LI-NTM)を紹介する。
LI-NTMは文書再構成ベンチマークにおいて既存のニューラルトピックモデルよりも優れていることがわかった。
論文 参考訳（メタデータ） (2022-04-07T04:42:17Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳（メタデータ） (2022-02-21T18:59:03Z) - Is Automated Topic Model Evaluation Broken?: The Incoherence of
Coherence [62.826466543958624]
トピックモデル評価における標準化のギャップと検証のギャップについて考察する。
これらの指標によると、最近のニューラルネットワークコンポーネントに依存したモデルは、古典的なトピックモデルを超えている。
我々は,話題評価と単語侵入という,最も広く受け入れられている2つの人間の判断タスクとともに,自動的コヒーレンスを用いる。
論文 参考訳（メタデータ） (2021-07-05T17:58:52Z) - Improving Neural Topic Models using Knowledge Distillation [84.66983329587073]
我々は,確率論的トピックモデルと事前学習されたトランスフォーマーの最適属性を組み合わせるために,知識蒸留を用いる。
我々のモジュラー手法は、どのニューラルトピックモデルでも簡単に適用でき、トピックの品質を向上させることができる。
論文 参考訳（メタデータ） (2020-10-05T22:49:16Z) - Rethinking Generalization of Neural Models: A Named Entity Recognition
Case Study [81.11161697133095]
NERタスクをテストベッドとして、異なる視点から既存モデルの一般化挙動を分析する。
詳細な分析による実験は、既存のニューラルNERモデルのボトルネックを診断する。
本論文の副産物として,最近のNER論文の包括的要約を含むプロジェクトをオープンソース化した。
論文 参考訳（メタデータ） (2020-01-12T04:33:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。