論文の概要: Modeling Dynamic Topics in Chain-Free Fashion by Evolution-Tracking Contrastive Learning and Unassociated Word Exclusion

• arxiv url: http://arxiv.org/abs/2405.17957v1
• Date: Tue, 28 May 2024 08:39:49 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-29 19:37:52.901080
• Title: Modeling Dynamic Topics in Chain-Free Fashion by Evolution-Tracking Contrastive Learning and Unassociated Word Exclusion
• Title（参考訳）: 進化追従型コントラスト学習と無関係語排除による鎖フリーファッションの動的トピックのモデル化
• Authors: Xiaobao Wu, Xinshuai Dong, Liangming Pan, Thong Nguyen, Anh Tuan Luu,
• Abstract要約: 動的トピックモデルは、シーケンシャルドキュメントにおけるトピックの進化を追跡する。 既存のモデルは反復的なトピックと無関係なトピックの問題に悩まされる。 本稿では,動的トピック間の類似性関係を構築するための,進化追跡型コントラスト学習手法を提案する。
• 参考スコア（独自算出の注目度）: 41.414205646228154
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dynamic topic models track the evolution of topics in sequential documents, which have derived various applications like trend analysis and opinion mining. However, existing models suffer from repetitive topic and unassociated topic issues, failing to reveal the evolution and hindering further applications. To address these issues, we break the tradition of simply chaining topics in existing work and propose a novel neural \modelfullname. We introduce a new evolution-tracking contrastive learning method that builds the similarity relations among dynamic topics. This not only tracks topic evolution but also maintains topic diversity, mitigating the repetitive topic issue. To avoid unassociated topics, we further present an unassociated word exclusion method that consistently excludes unassociated words from discovered topics. Extensive experiments demonstrate our model significantly outperforms state-of-the-art baselines, tracking topic evolution with high-quality topics, showing better performance on downstream tasks, and remaining robust to the hyperparameter for evolution intensities. Our code is available at https://github.com/bobxwu/CFDTM .
• Abstract（参考訳）: 動的トピックモデルは、トレンド分析や意見マイニングといった様々な応用を導出したシーケンシャルドキュメントにおけるトピックの進化をトラックする。 しかし、既存のモデルは反復的なトピックと無関係なトピックの問題に悩まされ、進化を明らかにすることができず、さらなる応用を妨げる。 これらの課題に対処するため、既存の作業において単にトピックを連鎖するという伝統を破り、新しいニューラルな「モデルフルネーム」を提案する。 本稿では,動的トピック間の類似性関係を構築するための,進化追跡型コントラスト学習手法を提案する。 これはトピックの進化を追跡するだけでなく、トピックの多様性も維持し、反復的なトピックの問題を軽減する。 さらに,無関係な話題を避けるために,発見された話題から無関係な単語を一貫して排除する非関連な単語排除手法を提案する。 大規模な実験により、我々のモデルは最先端のベースラインを著しく上回り、高品質なトピックによるトピックの進化を追跡し、下流タスクのパフォーマンスを向上し、進化強度のハイパーパラメータに頑健なままであることを示した。 私たちのコードはhttps://github.com/bobxwu/CFDTMで利用可能です。

関連論文リスト

• Iterative Improvement of an Additively Regularized Topic Model [0.0]
  本稿では,トピックモデルの反復的学習法を提案する。 いくつかの自然言語テキストの収集実験により、提案したITARモデルは、他の人気のあるトピックモデルよりも優れた性能を示した。
  論文  参考訳（メタデータ） (2024-08-11T18:22:12Z)
• Enhanced Short Text Modeling: Leveraging Large Language Models for Topic Refinement [7.6115889231452964]
  トピックリファインメント(Topic Refinement)と呼ばれる新しいアプローチを導入する。 このアプローチは、トピックの初期のモデリングに直接関係せず、採掘後にトピックを改善することに重点を置いています。 素早いエンジニアリングを駆使して、所与のトピック内での話題外単語を排除し、文脈的に関係のある単語だけが、よりセマンティックに適合した単語で保存または置換されることを保証する。
  論文  参考訳（メタデータ） (2024-03-26T13:50:34Z)
• TopicAdapt- An Inter-Corpora Topics Adaptation Approach [27.450275637652418]
  本稿では、関連するソースコーパスから関連するトピックを適応し、ソースコーパスに存在しないターゲットコーパスに新しいトピックを発見できるトピックモデルTopicAdaptを提案する。 多様なドメインからの複数のデータセットに対する実験は、最先端のトピックモデルに対して提案されたモデルの優位性を示している。
  論文  参考訳（メタデータ） (2023-10-08T02:56:44Z)
• Visual Chain of Thought: Bridging Logical Gaps with Multimodal Infillings [61.04460792203266]
  本稿では, 逐次データ内の論理的ギャップを埋めるために, 視覚言語による接地を促進させる, チェーン・オブ・シントを利用する新しい手法であるVCoTを紹介する。 本手法は,下流タスクの論理的ギャップを低減するために,一貫した情報と新しい情報を加える合成マルチモーダル埋め込みを生成するために視覚誘導を用いる。
  論文  参考訳（メタデータ） (2023-05-03T17:58:29Z)
• Neural Dynamic Focused Topic Model [2.9005223064604078]
  ニューラル変動推論の最近の進歩を活用し、ダイナミックフォーカストピックモデルに代替的なニューラルアプローチを提案する。 本稿では,Bernoulli確率変数の列を利用してトピックの出現を追跡するトピック進化のためのニューラルモデルを開発する。
  論文  参考訳（メタデータ） (2023-01-26T08:37:34Z)
• Topic Taxonomy Expansion via Hierarchy-Aware Topic Phrase Generation [58.3921103230647]
  TopicExpanというトピック分類拡張のための新しいフレームワークを提案する。 TopicExpanは、新しいトピックに属するトピック関連用語を直接生成する。 2つの実世界のテキストコーパスの実験結果から、TopicExpanは出力の質という点で他のベースライン手法よりも優れていた。
  論文  参考訳（メタデータ） (2022-10-18T22:38:49Z)
• Knowledge-Aware Bayesian Deep Topic Model [50.58975785318575]
  本稿では,事前知識を階層型トピックモデリングに組み込むベイズ生成モデルを提案する。 提案モデルでは,事前知識を効率的に統合し,階層的なトピック発見と文書表現の両面を改善する。
  論文  参考訳（メタデータ） (2022-09-20T09:16:05Z)
• Recurrent Coupled Topic Modeling over Sequential Documents [33.35324412209806]
  現在のトピックは、結合重みが対応するすべてのトピックから進化し、マルチトピック・スレッドの進化を形成することを示す。 進化するトピック間のマルチカップリングを解消する,新しいデータ拡張手法を用いた新しいソリューションを提案する。 後方フィルタアルゴリズムを備えた新しいギブスサンプリング器は、閉形式の潜時時間パラメータを効率的に学習する。
  論文  参考訳（メタデータ） (2021-06-23T08:58:13Z)
• Improving Neural Topic Models using Knowledge Distillation [84.66983329587073]
  我々は,確率論的トピックモデルと事前学習されたトランスフォーマーの最適属性を組み合わせるために,知識蒸留を用いる。 我々のモジュラー手法は、どのニューラルトピックモデルでも簡単に適用でき、トピックの品質を向上させることができる。
  論文  参考訳（メタデータ） (2020-10-05T22:49:16Z)
• Topic Adaptation and Prototype Encoding for Few-Shot Visual Storytelling [81.33107307509718]
  トピック間一般化の能力をモデル化するためのトピック適応型ストーリーテラを提案する。 また,アトピー内導出能力のモデル化を目的とした符号化手法の試作も提案する。 実験結果から,トピック適応とプロトタイプ符号化構造が相互に利益をもたらすことが明らかとなった。
  論文  参考訳（メタデータ） (2020-08-11T03:55:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。