論文の概要: Sentence-Level Topic Modeling with Lexical and Contextual Evidence
- arxiv url: http://arxiv.org/abs/2610.23388v1
- Date: Fri, 16 Oct 2026 12:48:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.914197
- Title: Sentence-Level Topic Modeling with Lexical and Contextual Evidence
- Title（参考訳）: 語彙的・文脈的エビデンスを用いた文レベルトピックモデリング
- Abstract要約: 本稿では,語彙的および文脈的エビデンスを用いて,各文にトピックを割り当てるニューラルトピックモデルであるSentenceETMを紹介する。
実験により,SentenceETMは文レベルのトピック割り当てを最先端のアプローチよりも一貫して改善することが示された。
- 参考スコア（独自算出の注目度）: 9.41487883751588
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Topic modeling faces a fundamental granularity dilemma: probabilistic topic models assign topics at the word level, whereas transformer-based methods operate at the document level. The latter overlooks that real-world documents typically cover multiple topics, whereas the former relies on individual words, which rarely provide sufficient context to identify them. We introduce SentenceETM, a neural topic model that assigns a topic to each sentence by jointly using lexical and contextual evidence. Each topic is described both by a distribution over the vocabulary, defined through word embeddings, and by a Gaussian over sentence embeddings concentrated on a topic-specific low-dimensional subspace. The topic of a sentence generates both its words and its embedding and is marginalized exactly, so that its posterior combines the two sources of evidence. Document proportions are inferred with amortized variational inference, while the Gaussian parameters are re-estimated in closed form. Experiments show that SentenceETM consistently improves sentence-level topic assignment over state-of-the-art approaches, and a case study of a presidential debate shows how sentence-level topics reveal how candidates handle the same subjects.
- Abstract（参考訳）: 確率論的トピックモデルは単語レベルでトピックを割り当てるが、トランスフォーマーベースの手法は文書レベルで操作する。
後者は、現実の文書が典型的に複数のトピックをカバーしているのに対して、後者は個々の単語に依存しており、それらを特定するのに十分なコンテキストを提供することはめったにない。
本稿では,語彙的および文脈的エビデンスを用いて,各文にトピックを割り当てるニューラルトピックモデルであるSentenceETMを紹介する。
各トピックは、単語埋め込みによって定義された語彙上の分布と、トピック固有の低次元部分空間に集中した文埋め込みによって記述される。
文の話題は、その単語とその埋め込みの両方を生成し、その後部が2つの証拠源を組み合わすように、正確に辺縁化される。
文書の比率は償却変分推論で推定され、ガウスのパラメータは閉じた形で再推定される。
実験の結果,SentenceETMは最先端のアプローチよりも文レベルのトピックの割り当てを一貫して改善し,大統領討論会のケーススタディでは,候補者が同じ主題をどう扱うかを示す。
関連論文リスト
- vMF Sentence LDA: A Spherical Topic Model over Sentence Embeddings [3.6296402224183315]
我々は,各文を埋め込みとして観察し,von Mises-Fisher分布を用いて各トピックをモデル化するvMF文LDAを提案する。
語彙を多く共有する話題の中で,vSLDAの限界が最も重要であると評価した。
論文 参考訳（メタデータ） (2026-10-04T09:59:35Z) - CAST: Corpus-Aware Self-similarity Enhanced Topic modelling [16.562349140796115]
CAST: Corpus-Aware Self-similarity Enhanced Topic modelling, a novel topic modelling methodを紹介する。
機能的単語が候補話題語として振る舞うのを防ぐための効果的な指標として自己相似性を見出した。
提案手法は,生成したトピックの一貫性と多様性,およびノイズの多いデータを扱うトピックモデルの能力を大幅に向上させる。
論文 参考訳（メタデータ） (2024-10-19T15:27:11Z) - Explainable Topic-Enhanced Argument Mining from Heterogeneous Sources [33.62800469391487]
核エネルギーのような物議を醸す標的が与えられれば、議論の採鉱は異質な情報源から議論のテキストを識別することを目的としている。
現在のアプローチでは、ターゲット関連セマンティック情報を議論テキストに統合するより良い方法を模索している。
提案手法は, トピック・エンハンスな議論マイニング手法である。
論文 参考訳（メタデータ） (2023-07-22T17:26:55Z) - Topics in the Haystack: Extracting and Evaluating Topics beyond
Coherence [0.0]
本稿では,文と文書のテーマを深く理解する手法を提案する。
これにより、一般的な単語やネオロジズムを含む潜在トピックを検出することができる。
本稿では, 侵入者の単語の人間識別と相関係数を示し, 単語侵入作業において, ほぼ人間レベルの結果を得る。
論文 参考訳（メタデータ） (2023-03-30T12:24:25Z) - PropSegmEnt: A Large-Scale Corpus for Proposition-Level Segmentation and
Entailment Recognition [63.51569687229681]
文中の各命題の文的含意関係を個別に認識する必要性について論じる。
提案するPropSegmEntは45K以上の提案のコーパスであり, 専門家によるアノテートを行う。
我々のデータセット構造は、(1)文書内の文章を命題の集合に分割し、(2)異なるが、トポジカルに整合した文書に対して、各命題の含意関係を分類するタスクに類似している。
論文 参考訳（メタデータ） (2022-12-21T04:03:33Z) - HyperMiner: Topic Taxonomy Mining with Hyperbolic Embedding [54.52651110749165]
本稿では,単語や話題を表現するために,メタボリック埋め込みを導入した新しいフレームワークを提案する。
双曲空間のツリー様性により、下層のセマンティック階層はより解釈可能なトピックをマイニングするためによりうまく利用することができる。
論文 参考訳（メタデータ） (2022-10-16T02:54:17Z) - TopicNet: Semantic Graph-Guided Topic Discovery [51.71374479354178]
既存の階層的なトピックモデルでは、教師なしの方法でテキストコーパスから意味論的意味のあるトピックを抽出することができる。
TopicNetを階層的なトピックモデルとして導入し、学習に影響を与えるための帰納的バイアスとして、事前構造知識を注入する。
論文 参考訳（メタデータ） (2021-10-27T09:07:14Z) - Author Clustering and Topic Estimation for Short Texts [69.54017251622211]
同じ文書中の単語間の強い依存をモデル化することにより、遅延ディリクレ割当を拡張できる新しいモデルを提案する。
同時にユーザをクラスタ化し、ホック後のクラスタ推定の必要性を排除しています。
我々の手法は、短文で生じる問題に対する従来のアプローチよりも、-または----------- で機能する。
論文 参考訳（メタデータ） (2021-06-15T20:55:55Z) - Topic Scaling: A Joint Document Scaling -- Topic Model Approach To Learn
Time-Specific Topics [0.0]
本稿では,文書位置の尺度から時間に基づくトピックを学習する2段階アルゴリズムを実装し,シーケンシャルコーパスを研究する新しい手法を提案する。
最初の段階はWordfishを使用してドキュメントをランク付けし、関連するトピックを学ぶために依存変数として機能する文書の位置を推定します。
第二段階は、コーパス内のそれらの発生と一致するように文書スケール上の推論されたトピックをランク付けし、それらの進化を追跡します。
論文 参考訳（メタデータ） (2021-03-31T12:35:36Z) - Paragraph-level Commonsense Transformers with Recurrent Memory [77.4133779538797]
物語からコヒーレントなコモンセンス推論を生成するために,段落レベルの情報を含む談話認識モデルを訓練する。
以上の結果から,PARA-COMETは文レベルのベースライン,特にコヒーレントかつ新規な推論に優れていた。
論文 参考訳（メタデータ） (2020-10-04T05:24:12Z) - Topic-Aware Multi-turn Dialogue Modeling [91.52820664879432]
本稿では,トピック認識発話を教師なしでセグメント化して抽出する,多元対話モデリングのための新しいソリューションを提案する。
トピック・アウェア・モデリングは、新たに提案されたトピック・アウェア・セグメンテーション・アルゴリズムとトピック・アウェア・デュアル・アテンション・マッチング(TADAM)ネットワークによって実現されている。
論文 参考訳（メタデータ） (2020-09-26T08:43:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。