論文の概要: Enhancing Latent Space Clustering in Multi-filter Seq2Seq Model: A Reinforcement Learning Approach

• arxiv url: http://arxiv.org/abs/2109.12399v1
• Date: Sat, 25 Sep 2021 16:36:31 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-28 15:38:07.454701
• Title: Enhancing Latent Space Clustering in Multi-filter Seq2Seq Model: A Reinforcement Learning Approach
• Title（参考訳）: マルチフィルタseq2seqモデルにおける潜在空間クラスタリングの強化:強化学習アプローチ
• Authors: Yunhao Yang, Zhaokun Xue
• Abstract要約: クラスタリングアルゴリズムを用いて潜在空間表現を解析する潜時拡張型マルチフィルタセq2seqモデル (LMS2S) を設計する。 セマンティック解析と機械翻訳の実験により,クラスタリングの品質とモデルの性能の正の相関が示された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In sequence-to-sequence language processing tasks, sentences with heterogeneous semantics or grammatical structures may increase the difficulty of convergence while training the network. To resolve this problem, we introduce a model that concentrates the each of the heterogeneous features in the input-output sequences. Build upon the encoder-decoder architecture, we design a latent-enhanced multi-filter seq2seq model (LMS2S) that analyzes the latent space representations using a clustering algorithm. The representations are generated from an encoder and a latent space enhancer. A cluster classifier is applied to group the representations into clusters. A soft actor-critic reinforcement learning algorithm is applied to the cluster classifier to enhance the clustering quality by maximizing the Silhouette score. Then, multiple filters are trained by the features only from their corresponding clusters, the heterogeneity of the training data can be resolved accordingly. Our experiments on semantic parsing and machine translation demonstrate the positive correlation between the clustering quality and the model's performance, as well as show the enhancement our model has made with respect to the ordinary encoder-decoder model.
• Abstract（参考訳）: sequence-to-sequence言語処理タスクでは、異種意味論や文法構造を持つ文は、ネットワークのトレーニング中に収束の困難さを増大させる可能性がある。 この問題を解決するために,入力出力シーケンスにおける不均質な特徴をそれぞれ集中するモデルを提案する。 エンコーダ-デコーダアーキテクチャに基づいて,クラスタリングアルゴリズムを用いて潜在空間表現を分析するマルチフィルタseq2seqモデル(lms2s)を設計した。 表現はエンコーダと潜在空間エンハンサーから生成される。 クラスタ分類器は、表現をクラスタにグループ化する。 クラスタ分類器にソフトアクタ-クリティック強化学習アルゴリズムを適用し、シルエットスコアを最大化することによりクラスタリング品質を向上させる。 そして、複数のフィルタを対応するクラスタからのみ特徴によってトレーニングし、それに応じてトレーニングデータの均一性を解決できる。 セマンティクス解析と機械翻訳に関する実験は,クラスタリング品質とモデルの性能との正の相関を示すとともに,通常のエンコーダ・デコーダモデルに対するモデルによる拡張性を示す。

関連論文リスト

• Hierarchical Clustering for Conditional Diffusion in Image Generation [12.618079575423868]
  本稿では,階層クラスタ上で拡散モデルを用いて,高品質なクラスタ固有世代を得る,深層生成モデルであるTreeDiffusionを紹介する。 提案するパイプラインは,データの階層構造を学習するVAEベースのクラスタリングモデルと,クラスタ毎に現実的な画像を生成する条件拡散モデルである。
  論文  参考訳（メタデータ） (2024-10-22T11:35:36Z)
• Deep Double Self-Expressive Subspace Clustering [7.875193047472789]
  二重自己表現型サブスペースクラスタリングアルゴリズムを提案する。 提案アルゴリズムは最先端手法よりも優れたクラスタリングを実現することができる。
  論文  参考訳（メタデータ） (2023-06-20T15:10:35Z)
• Instance-Optimal Cluster Recovery in the Labeled Stochastic Block Model [79.46465138631592]
  観測されたラベルを用いてクラスタを復元する効率的なアルゴリズムを考案する。 本稿では,期待値と高い確率でこれらの下位境界との性能を一致させる最初のアルゴリズムであるIACを提案する。
  論文  参考訳（メタデータ） (2023-06-18T08:46:06Z)
• DeepCluE: Enhanced Image Clustering via Multi-layer Ensembles in Deep Neural Networks [53.88811980967342]
  本稿では,Ensembles (DeepCluE) を用いたDeep Clusteringを提案する。 ディープニューラルネットワークにおける複数のレイヤのパワーを活用することで、ディープクラスタリングとアンサンブルクラスタリングのギャップを埋める。 6つの画像データセットの実験結果から、最先端のディープクラスタリングアプローチに対するDeepCluEの利点が確認されている。
  論文  参考訳（メタデータ） (2022-06-01T09:51:38Z)
• Deep Attention-guided Graph Clustering with Dual Self-supervision [49.040136530379094]
  デュアル・セルフ・スーパービジョン(DAGC)を用いたディープアテンション誘導グラフクラスタリング法を提案する。 我々は,三重項Kulback-Leibler分散損失を持つソフトな自己スーパービジョン戦略と,擬似的な監督損失を持つハードな自己スーパービジョン戦略からなる二重自己スーパービジョンソリューションを開発する。 提案手法は6つのベンチマークデータセットにおける最先端の手法より一貫して優れている。
  論文  参考訳（メタデータ） (2021-11-10T06:53:03Z)
• Mixture Model Auto-Encoders: Deep Clustering through Dictionary Learning [72.9458277424712]
  Mixture Model Auto-Encoders (MixMate)は、生成モデルで推論を実行することでデータをクラスタリングする新しいアーキテクチャである。 最先端のディープクラスタリングアルゴリズムと比較して,MixMateは競争性能が高いことを示す。
  論文  参考訳（メタデータ） (2021-10-10T02:30:31Z)
• Attention-driven Graph Clustering Network [49.040136530379094]
  我々は、注意駆動グラフクラスタリングネットワーク(AGCN)という新しいディープクラスタリング手法を提案する。 AGCNは、ノード属性特徴とトポロジグラフ特徴を動的に融合するために、不均一な融合モジュールを利用する。 AGCNは、教師なしの方法で特徴学習とクラスタ割り当てを共同で行うことができる。
  論文  参考訳（メタデータ） (2021-08-12T02:30:38Z)
• Learning the Precise Feature for Cluster Assignment [39.320210567860485]
  表現学習とクラスタリングを1つのパイプラインに初めて統合するフレームワークを提案する。 提案フレームワークは,近年開発された生成モデルを用いて,本質的な特徴を学習する能力を活用している。 実験の結果,提案手法の性能は,最先端の手法よりも優れているか,少なくとも同等であることがわかった。
  論文  参考訳（メタデータ） (2021-06-11T04:08:54Z)
• Deep adaptive fuzzy clustering for evolutionary unsupervised representation learning [2.8028128734158164]
  大規模で複雑な画像のクラスタ割り当ては、パターン認識とコンピュータビジョンにおいて重要かつ困難な作業です。 反復最適化による新しい進化的教師なし学習表現モデルを提案する。 ファジィメンバシップを利用して深層クラスタ割り当ての明確な構造を表現するディープリコンストラクションモデルに対して,共同でファジィクラスタリングを行った。
  論文  参考訳（メタデータ） (2021-03-31T13:58:10Z)
• Joint Optimization of an Autoencoder for Clustering and Embedding [22.16059261437617]
  本稿では,自動エンコーダとクラスタリングを同時に学習する代替手法を提案する。 この単純なニューラルネットワークはクラスタリングモジュールと呼ばれ、ディープオートエンコーダに統合され、ディープクラスタリングモデルとなる。
  論文  参考訳（メタデータ） (2020-12-07T14:38:10Z)
• Dual Adversarial Auto-Encoders for Clustering [152.84443014554745]
  教師なしクラスタリングのためのDual-AAE(Dual-AAE)を提案する。 Dual-AAEの目的関数に対する変分推論を行うことで,一対のオートエンコーダをトレーニングすることで最適化可能な新たな再構成損失を導出する。 4つのベンチマーク実験により、Dual-AAEは最先端のクラスタリング手法よりも優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2020-08-23T13:16:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。