論文の概要: TopicNet: Semantic Graph-Guided Topic Discovery
- arxiv url: http://arxiv.org/abs/2110.14286v1
- Date: Wed, 27 Oct 2021 09:07:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-29 00:37:14.817907
- Title: TopicNet: Semantic Graph-Guided Topic Discovery
- Title(参考訳): TopicNet: セマンティックグラフによるトピック発見
- Authors: Zhibin Duan, Yishi Xu, Bo Chen, Dongsheng Wang, Chaojie Wang, Mingyuan
Zhou
- Abstract要約: 既存の階層的なトピックモデルでは、教師なしの方法でテキストコーパスから意味論的意味のあるトピックを抽出することができる。
TopicNetを階層的なトピックモデルとして導入し、学習に影響を与えるための帰納的バイアスとして、事前構造知識を注入する。
- 参考スコア(独自算出の注目度): 51.71374479354178
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing deep hierarchical topic models are able to extract semantically
meaningful topics from a text corpus in an unsupervised manner and
automatically organize them into a topic hierarchy. However, it is unclear how
to incorporate prior beliefs such as knowledge graph to guide the learning of
the topic hierarchy. To address this issue, we introduce TopicNet as a deep
hierarchical topic model that can inject prior structural knowledge as an
inductive bias to influence learning. TopicNet represents each topic as a
Gaussian-distributed embedding vector, projects the topics of all layers into a
shared embedding space, and explores both the symmetric and asymmetric
similarities between Gaussian embedding vectors to incorporate prior semantic
hierarchies. With an auto-encoding variational inference network, the model
parameters are optimized by minimizing the evidence lower bound and a
regularization term via stochastic gradient descent. Experiments on widely used
benchmarks show that TopicNet outperforms related deep topic models on
discovering deeper interpretable topics and mining better
document~representations.
- Abstract(参考訳): 既存の深層的トピックモデルでは、テキストコーパスから意味的に意味のあるトピックを教師なしの方法で抽出し、自動的にトピック階層にまとめることができる。
しかし,トピック階層の学習を導くために,知識グラフなどの事前の信念をどのように組み込むかは定かではない。
この問題に対処するため,TopicNetを階層的なトピックモデルとして導入し,事前構造的知識を学習に影響を与える帰納的バイアスとして注入する。
TopicNetは、各トピックをガウス分布埋め込みベクトルとして表現し、すべてのレイヤのトピックを共有埋め込み空間に投影し、ガウス埋め込みベクトル間の対称的および非対称的類似性を調べて、先行的な意味階層を組み込む。
自動エンコード変分推論ネットワークでは、確率勾配勾配による証拠下限と正規化項の最小化によりモデルパラメータを最適化する。
広く使用されているベンチマークの実験によると、TopicNetは、深い解釈可能なトピックを発見し、より良いドキュメントをマイニングすることで、関連するディープトピックモデルを上回っている。
関連論文リスト
- Self-supervised Topic Taxonomy Discovery in the Box Embedding Space [23.942807248774514]
本稿では,単語やトピックをボックス埋め込み空間にマッピングする,Box Embedding-based Topic Model (BoxTM) を提案する。
BoxTMは、特定のトピック間の相関に基づいて、上位のトピックを明示的に推論する。
広範囲にわたる実験により、BoxTMで学んだトピック分類の質が検証された。
論文 参考訳(メタデータ) (2024-08-27T13:19:32Z) - KMF: Knowledge-Aware Multi-Faceted Representation Learning for Zero-Shot
Node Classification [75.95647590619929]
Zero-Shot Node Classification (ZNC)は、グラフデータ分析において、新しく重要なタスクである。
ラベルセマンティクスの豊かさを向上する知識認識型多面的フレームワーク(KMF)を提案する。
ノード情報集約によるプロトタイプドリフトの問題を軽減するために,新しい幾何学的制約を開発した。
論文 参考訳(メタデータ) (2023-08-15T02:38:08Z) - HyperMiner: Topic Taxonomy Mining with Hyperbolic Embedding [54.52651110749165]
本稿では,単語や話題を表現するために,メタボリック埋め込みを導入した新しいフレームワークを提案する。
双曲空間のツリー様性により、下層のセマンティック階層はより解釈可能なトピックをマイニングするためによりうまく利用することができる。
論文 参考訳(メタデータ) (2022-10-16T02:54:17Z) - Knowledge-Aware Bayesian Deep Topic Model [50.58975785318575]
本稿では,事前知識を階層型トピックモデリングに組み込むベイズ生成モデルを提案する。
提案モデルでは,事前知識を効率的に統合し,階層的なトピック発見と文書表現の両面を改善する。
論文 参考訳(メタデータ) (2022-09-20T09:16:05Z) - Sawtooth Factorial Topic Embeddings Guided Gamma Belief Network [49.458250193768826]
本稿では,文書の深部生成モデルであるGBNのソートゥース要素埋め込みについて述べる。
単語も話題も同じ次元の埋め込みベクトルとして表現される。
我々のモデルは、より深い解釈可能なトピックを抽出する他のニューラルネットワークモデルよりも優れています。
論文 参考訳(メタデータ) (2021-06-30T10:14:57Z) - Hierarchical Topic Mining via Joint Spherical Tree and Text Embedding [37.7780399311715]
階層的トピックマイニング(Hierarchical Topic Mining)は、ユーザーが関心のあるトピックを理解するのを助けるために、テキストコーパスから各カテゴリの代表語を抽出することを目的としている。
私たちのモデルは、JoSHと呼ばれ、高い効率と弱教師付き階層的テキスト分類タスクの恩恵を受ける、高品質な階層的トピックセットをマイニングしています。
論文 参考訳(メタデータ) (2020-07-18T23:30:47Z) - Deep Autoencoding Topic Model with Scalable Hybrid Bayesian Inference [55.35176938713946]
我々は、ガンマ分布の階層構造を用いて、その多確率層生成ネットワークを構築するディープ・オートエンコーディング・トピック・モデル(DATM)を開発した。
Weibull上向き変分エンコーダを提案する。このエンコーダは深層ニューラルネットワークを介して情報を上向きに伝播し,次いで下向き生成モデルを提案する。
大規模コーパス上での教師なしおよび教師なしの学習タスクにおいて,モデルの有効性とスケーラビリティを実証した。
論文 参考訳(メタデータ) (2020-06-15T22:22:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。