論文の概要: SCAT: Second Chance Autoencoder for Textual Data
- arxiv url: http://arxiv.org/abs/2005.06632v3
- Date: Tue, 8 Sep 2020 20:45:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-04 19:36:17.825480
- Title: SCAT: Second Chance Autoencoder for Textual Data
- Title(参考訳): SCAT: テキストデータのための第2のチャンスオートエンコーダ
- Authors: Somaieh Goudarzvand, Gharib Gharibi, Yugyung Lee
- Abstract要約: 我々は、第2チャンスオートエンコーダ(SCAT)というテキスト自動エンコーダに対するk-competitive Learningアプローチを提案する。
SCATは、勝者ニューロンとして$k$で最大かつ最小の正の活性化を選択し、学習プロセス中に敗者ニューロンの活性化値を取得する。
実験の結果,SCATはLDA,K-Sparse,NVCTM,KATEと比較して,分類,トピックモデリング,文書の可視化に優れていた。
- 参考スコア(独自算出の注目度): 4.591851728010268
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a k-competitive learning approach for textual autoencoders named
Second Chance Autoencoder (SCAT). SCAT selects the $k$ largest and smallest
positive activations as the winner neurons, which gain the activation values of
the loser neurons during the learning process, and thus focus on retrieving
well-representative features for topics. Our experiments show that SCAT
achieves outstanding performance in classification, topic modeling, and
document visualization compared to LDA, K-Sparse, NVCTM, and KATE.
- Abstract(参考訳): テキスト自動エンコーダのk-competitiveな学習手法としてSecond Chance Autoencoder(SCAT)を提案する。
scatは、勝者ニューロンとして最大かつ最小の正の活性化量k$を選択し、学習プロセス中に敗者ニューロンの活性化値を取得し、トピックに対するよく表現された特徴の検索に集中する。
実験の結果,SCATはLDA,K-Sparse,NVCTM,KATEと比較して,分類,トピックモデリング,文書の可視化に優れていた。
関連論文リスト
- Unveiling the Power of Sparse Neural Networks for Feature Selection [60.50319755984697]
スパースニューラルネットワーク(SNN)は、効率的な特徴選択のための強力なツールとして登場した。
動的スパーストレーニング(DST)アルゴリズムで訓練されたSNNは、平均して50%以上のメモリと55%以上のFLOPを削減できることを示す。
以上の結果から,DSTアルゴリズムで訓練したSNNによる特徴選択は,平均して50ドル以上のメモリと55%のFLOPを削減できることがわかった。
論文 参考訳(メタデータ) (2024-08-08T16:48:33Z) - In-Context Learning for Few-Shot Nested Named Entity Recognition [53.55310639969833]
数発のネストネストNERの設定に有効で革新的なICLフレームワークを導入する。
我々は、新しい実演選択機構であるEnDe retrieverを考案し、ICLプロンプトを改善する。
EnDe検索では,意味的類似性,境界類似性,ラベル類似性という3種類の表現学習を行うために,コントラスト学習を用いる。
論文 参考訳(メタデータ) (2024-02-02T06:57:53Z) - A Comparison of Temporal Encoders for Neuromorphic Keyword Spotting with
Few Neurons [0.11726720776908518]
SNNにおける時間的エンコーディングと特徴抽出のための2つの神経計算要素について検討した。
リソース効率の良いキーワードスポッティングアプリケーションは、これらのエンコーダを使用することで恩恵を受けることができるが、時間定数と重み付けを学習する手法をさらに研究する必要がある。
論文 参考訳(メタデータ) (2023-01-24T12:50:54Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z) - Automatically Discovering Novel Visual Categories with Self-supervised
Prototype Learning [68.63910949916209]
本稿では,大規模な画像収集において未知のカテゴリを識別することを目的とした,新しいカテゴリ発見(NCD)の課題に取り組む。
本稿では,プロトタイプ表現学習とプロトタイプ自己学習という,2つの主要な段階からなる適応型プロトタイプ学習手法を提案する。
本研究では,4つのベンチマークデータセットについて広範な実験を行い,提案手法の有効性とロバスト性を示す。
論文 参考訳(メタデータ) (2022-08-01T16:34:33Z) - DisCoDisCo at the DISRPT2021 Shared Task: A System for Discourse
Segmentation, Classification, and Connective Detection [4.371388370559826]
我々のシステムはDisCoDisCoと呼ばれ、コンテキスト化された単語の埋め込みを手作りの機能で強化する。
関係分類の結果は、新しい2021ベンチマークで強い性能を示している。
複数の事前学習されたトランスフォーマーベース言語モデルの部分評価は、Next Sentence Predictionタスクで事前学習されたモデルが関係分類に最適であることを示している。
論文 参考訳(メタデータ) (2021-09-20T18:11:05Z) - Scene Understanding for Autonomous Driving [0.0]
Detectron2で提示されたRetinaNet, Faster R-CNN, Mask R-CNNの異なる構成の挙動を検討する。
関心のあるデータセット上でこれらのモデルを微調整した後、パフォーマンスの大幅な改善を観察します。
文脈外のデータセットを用いて異常な状況下で推論を行い、興味深い結果を示す。
論文 参考訳(メタデータ) (2021-05-11T09:50:05Z) - A Two-Stage Approach to Device-Robust Acoustic Scene Classification [63.98724740606457]
デバイスロバスト性を改善するために,完全畳み込みニューラルネットワーク(CNN)に基づく2段階システムを提案する。
以上の結果から,提案したASCシステムにより,開発環境における最先端の精度が得られた。
クラスアクティベーションマッピングを用いたニューラルサリエンシ解析により、モデルによって学習されたパターンに関する新たな洞察が得られる。
論文 参考訳(メタデータ) (2020-11-03T03:27:18Z) - Attention Transfer Network for Aspect-level Sentiment Classification [30.704053194980528]
アスペクトレベルの感情分類(ASC)は、文中の特定の意見対象の感情極性を検出することを目的としている。
データ不足は、しばしば注意機構が、ターゲットの対応する感情語に焦点を合わせるのに失敗する。
本稿では、文書レベルの感情分類データセットから注意知識をうまく活用できる新しい注意伝達ネットワーク(ATN)を提案する。
論文 参考訳(メタデータ) (2020-10-23T04:26:33Z) - One-Shot Object Detection without Fine-Tuning [62.39210447209698]
本稿では,第1ステージのMatching-FCOSネットワークと第2ステージのStructure-Aware Relation Moduleからなる2段階モデルを提案する。
また,検出性能を効果的に向上する新たなトレーニング戦略を提案する。
提案手法は,複数のデータセット上で一貫した最先端のワンショット性能を上回る。
論文 参考訳(メタデータ) (2020-05-08T01:59:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。