Fugu-MT 論文翻訳(概要): Short Text Clustering with Transformers

論文の概要: Short Text Clustering with Transformers

arxiv url: http://arxiv.org/abs/2102.00541v1
Date: Sun, 31 Jan 2021 21:31:11 GMT
ステータス: 処理完了
システム内更新日: 2021-02-03 05:35:53.903140
Title: Short Text Clustering with Transformers
Title（参考訳）: 変換器による短文クラスタリング
Authors: Leonid Pugachev, Mikhail Burtsev
Abstract要約: 本稿では,この課題に対処するために,トランスフォーマーからの文ベクトル表現をうまく適用できることを示す。反復分類によるクラスタリング向上アルゴリズムにより,初期クラスタリング性能が向上することが実証された。
参考スコア（独自算出の注目度）: 0.21756081703275998
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Recent techniques for the task of short text clustering often rely on word embeddings as a transfer learning component. This paper shows that sentence vector representations from Transformers in conjunction with different clustering methods can be successfully applied to address the task. Furthermore, we demonstrate that the algorithm of enhancement of clustering via iterative classification can further improve initial clustering performance with different classifiers, including those based on pre-trained Transformer language models.
Abstract（参考訳）: 最近の短いテキストクラスタリングのタスクのテクニックは、転置学習コンポーネントとして単語埋め込みに依存することが多い。本稿では,トランスフォーマーからの文ベクトル表現と異なるクラスタリング手法を併用して,タスクに対処できることを示す。さらに、反復分類によるクラスタリングの強化アルゴリズムは、事前訓練されたトランスフォーマー言語モデルを含む異なる分類器による初期クラスタリング性能をさらに向上させることができることを示した。

関連論文リスト

IDoFew: Intermediate Training Using Dual-Clustering in Language Models for Few Labels Text Classification [24.11420537250414]
変換器からの双方向表現(BERT)は、自然言語処理(NLP)やテキスト分類を含むテキストマイニングタスクにおいて非常に効果的である。いくつかのタスクは、制限付きラベル付きテキスト分類など、これらのモデルに依然として課題を生じさせる。擬似ラベルを確実にモデル化する2段階の中間クラスタリングを開発した。
論文参考訳（メタデータ） (2024-01-08T17:07:37Z)
Uncovering Prototypical Knowledge for Weakly Open-Vocabulary Semantic Segmentation [59.37587762543934]
本稿では,弱開語彙セマンティックセマンティックセグメンテーション(WOVSS)の問題点について検討する。既存の方法は、グループトークンの使用に関する粒度の矛盾に悩まされる。マルチモーダル正規化を組み込んだプロトタイプ誘導ネットワーク(PGSeg)を提案する。
論文参考訳（メタデータ） (2023-10-29T13:18:00Z)
T3L: Translate-and-Test Transfer Learning for Cross-Lingual Text Classification [50.675552118811]
言語間テキスト分類は通常、様々な言語で事前訓練された大規模多言語言語モデル(LM)に基づいて構築される。本稿では,古典的な「翻訳とテスト」パイプラインを再考し,翻訳と分類の段階を適切に分離することを提案する。
論文参考訳（メタデータ） (2023-06-08T07:33:22Z)
CEIL: A General Classification-Enhanced Iterative Learning Framework for Text Clustering [16.08402937918212]
短文クラスタリングのための新しい分類強化反復学習フレームワークを提案する。各イテレーションにおいて、まず最初に言語モデルを採用して、初期テキスト表現を検索する。厳密なデータフィルタリングと集約プロセスの後、クリーンなカテゴリラベルを持つサンプルが検索され、監督情報として機能する。最後に、表現能力が改善された更新言語モデルを使用して、次のイテレーションでクラスタリングを強化する。
論文参考訳（メタデータ） (2023-04-20T14:04:31Z)
Learning Context-aware Classifier for Semantic Segmentation [88.88198210948426]
本稿では,文脈認識型分類器の学習を通じて文脈ヒントを利用する。本手法はモデルに依存しないため,ジェネリックセグメンテーションモデルにも容易に適用できる。無視できる追加パラメータと+2%の推論時間だけで、小型モデルと大型モデルの両方で十分な性能向上が達成されている。
論文参考訳（メタデータ） (2023-03-21T07:00:35Z)
A Clustering Preserving Transformation for k-Means Algorithm Output [0.0]
ここでは、$k$-meansアルゴリズムから得られたクラスタセットの新たなクラスタリング保存変換を紹介する。 Kleinbergベースの一貫性変換は、クラスタ内のデータポイントが移動可能であり、クラスタ間のデータポイントがより近くなる可能性があるため、よりフレキシブルである。
論文参考訳（メタデータ） (2022-02-19T20:40:15Z)
On the rate of convergence of a classifier based on a Transformer encoder [55.41148606254641]
最適誤分類確率に対する分類器の誤分類確率の収束率を分析する。この分類器は,アポテリオリ確率が適切な階層的構成モデルを満たす場合,次元性の呪いを回避することができる。
論文参考訳（メタデータ） (2021-11-29T14:58:29Z)
Graph Contrastive Clustering [131.67881457114316]
本稿では,クラスタリングタスクに適用可能な新しいグラフコントラスト学習フレームワークを提案し,gcc(graph constrastive clustering)法を考案した。特に、グラフラプラシアンに基づくコントラスト損失は、より識別的かつクラスタリングフレンドリーな特徴を学ぶために提案されている。一方で、よりコンパクトなクラスタリング割り当てを学ぶために、グラフベースのコントラスト学習戦略が提案されている。
論文参考訳（メタデータ） (2021-04-03T15:32:49Z)
Event-Driven News Stream Clustering using Entity-Aware Contextual Embeddings [14.225334321146779]
本稿では,非パラメトリックストリーミングk-meansアルゴリズムの変種であるオンラインニュースストリームクラスタリング手法を提案する。我々のモデルはスパースと密集した文書表現の組み合わせを使用し、これらの複数の表現に沿って文書とクラスタの類似性を集約する。事前学習したトランスフォーマモデルにおいて,適切な微調整目標と外部知識を用いることにより,文脈埋め込みの有効性が大幅に向上することを示す。
論文参考訳（メタデータ） (2021-01-26T19:58:30Z)
Enhancement of Short Text Clustering by Iterative Classification [0.0]
反復分類は、外乱のないクラスターを得るために外乱除去を適用する。クラスタ分布に基づいて非アウトレーヤを用いて分類アルゴリズムを訓練する。これを何回か繰り返すことで、より改良されたテキストのクラスタリングが得られる。
論文参考訳（メタデータ） (2020-01-31T02:12:05Z)
Multi-level Head-wise Match and Aggregation in Transformer for Textual Sequence Matching [87.97265483696613]
そこで本研究では,複数のレベルにおける頭部のマッチング表現を学習することで,Transformerとのシーケンスペアマッチングを新たに提案する。実験の結果,提案手法は複数のタスクにおいて新しい最先端性能を実現することができることがわかった。
論文参考訳（メタデータ） (2020-01-20T20:02:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。