論文の概要: Improving Event Representation via Simultaneous Weakly Supervised
Contrastive Learning and Clustering
- arxiv url: http://arxiv.org/abs/2203.07633v1
- Date: Tue, 15 Mar 2022 04:12:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-17 08:10:39.252962
- Title: Improving Event Representation via Simultaneous Weakly Supervised
Contrastive Learning and Clustering
- Title（参考訳）: 弱教師付きコントラスト学習とクラスタリングによるイベント表現の改善
- Authors: Jun Gao, Wei Wang, Changlong Yu, Huan Zhao, Wilfred Ng, Ruifeng Xu
- Abstract要約: 本稿では、イベント表現学習のためのコントラスト学習とクラスタリングフレームワークSWCCについて述べる。
モデルトレーニングでは、SWCCは弱い教師付きコントラスト学習とプロトタイプベースのクラスタリングを同時に実行することで表現を学習する。
- 参考スコア（独自算出の注目度）: 31.841780703374955
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Representations of events described in text are important for various tasks.
In this work, we present SWCC: a Simultaneous Weakly supervised Contrastive
learning and Clustering framework for event representation learning. SWCC
learns event representations by making better use of co-occurrence information
of events. Specifically, we introduce a weakly supervised contrastive learning
method that allows us to consider multiple positives and multiple negatives,
and a prototype-based clustering method that avoids semantically related events
being pulled apart. For model training, SWCC learns representations by
simultaneously performing weakly supervised contrastive learning and
prototype-based clustering. Experimental results show that SWCC outperforms
other baselines on Hard Similarity and Transitive Sentence Similarity tasks. In
addition, a thorough analysis of the prototype-based clustering method
demonstrates that the learned prototype vectors are able to implicitly capture
various relations between events.
- Abstract（参考訳）: テキストで記述されたイベントの表現は、様々なタスクにおいて重要である。
本稿では、イベント表現学習のための、弱い教師付きコントラスト学習およびクラスタリングフレームワークであるswccについて述べる。
SWCCはイベントの共起情報を利用してイベント表現を学習する。
具体的には,複数の正と複数の負を考慮できる弱教師付きコントラスト学習法と,意味的に関連した事象の引き離しを回避するプロトタイプベースのクラスタリング法を提案する。
モデルトレーニングでは、SWCCは弱い教師付きコントラスト学習とプロトタイプベースのクラスタリングを同時に実行することで表現を学習する。
実験結果から,SWCCはHard similarityおよびTransive Sentence similarityタスクにおいて,他のベースラインよりも優れていた。
さらに、プロトタイプベースのクラスタリング手法の徹底的な解析により、学習したプロトタイプベクトルがイベント間の様々な関係を暗黙的に捉えることができることを示した。
関連論文リスト
- Contrastive Learning Subspace for Text Clustering [4.065026352441705]
本稿では,SCL(Subspace Contrastive Learning)というテキストクラスタリング手法を提案する。
提案するSCLは,(1)仮想正のサンプルを構成する自己表現モジュール,(2)テキスト間のタスク固有のクラスタ関係を捉えるための識別サブ空間を学習するコントラスト学習モジュールの2つの主要モジュールから構成される。
実験結果から, 提案手法は複数のタスククラスタリングデータセットにおいて優れた結果を得ただけでなく, 正のサンプル構築における複雑性も低かった。
論文 参考訳（メタデータ） (2024-08-26T09:08:26Z) - In-context Contrastive Learning for Event Causality Identification [26.132189768472067]
事象因果同定は、2つの事象間の因果関係の存在を決定することを目的としている。
最近の素早い学習ベースのアプローチは、ECIタスクに有望な改善を示している。
本稿では,コントラスト学習を利用したインコンテキストコントラスト学習モデルを提案する。
論文 参考訳（メタデータ） (2024-05-17T03:32:15Z) - Consistency Enhancement-Based Deep Multiview Clustering via Contrastive Learning [16.142448870120027]
コントラスト学習(CCEC)による一貫した拡張型ディープMVC法を提案する。
具体的には、複数のビュー間の一貫性のある情報を保持するために、セマンティック接続ブロックを特徴表現に組み込む。
5つのデータセットで行った実験は、最先端(SOTA)手法と比較して、本手法の有効性と優位性を示した。
論文 参考訳（メタデータ） (2024-01-23T10:56:01Z) - Robust Representation Learning by Clustering with Bisimulation Metrics
for Visual Reinforcement Learning with Distractions [9.088460902782547]
Bisimulation Metrics (CBM) によるクラスタリングは、潜在空間における視覚的観察をグループ化することで、堅牢な表現を学習する。
CBMは,(1)実測距離を学習プロトタイプと測定することで観測をグループ化すること,(2)現在のクラスタ割り当てに従ってプロトタイプの集合を学習すること,の2つのステップを交互に行う。
実験により、CBMは一般的なビジュアルRLアルゴリズムのサンプル効率を大幅に改善することが示された。
論文 参考訳（メタデータ） (2023-02-12T13:27:34Z) - Adversarial Contrastive Learning by Permuting Cluster Assignments [0.8862707047517914]
本稿では、クラスタ割り当ての置換を組み込んだ対向的コントラストフレームワークであるSwARoを提案し、代表対向的なサンプルを生成する。
複数のベンチマークデータセットと様々なホワイトボックスやブラックボックス攻撃に対するSwARoの評価を行い、最先端のベースラインに対する一貫した改善を得た。
論文 参考訳（メタデータ） (2022-04-21T17:49:52Z) - Weak Augmentation Guided Relational Self-Supervised Learning [80.0680103295137]
本稿では、異なるインスタンス間の関係をモデル化して表現を学習する新しいリレーショナル自己教師型学習(ReSSL)フレームワークを提案する。
提案手法では,異なるインスタンス間でのペアワイズ類似度の分布を,テクトitrelationmetricとして高めている。
実験の結果,提案したReSSLは,ネットワークアーキテクチャの異なる最先端手法よりも大幅に優れていた。
論文 参考訳（メタデータ） (2022-03-16T16:14:19Z) - ACTIVE:Augmentation-Free Graph Contrastive Learning for Partial
Multi-View Clustering [52.491074276133325]
部分的マルチビュークラスタリングの問題を解決するために,拡張自由グラフコントラスト学習フレームワークを提案する。
提案手法は、インスタンスレベルのコントラスト学習と欠落データ推論をクラスタレベルに高め、個々の欠落データがクラスタリングに与える影響を効果的に軽減する。
論文 参考訳（メタデータ） (2022-03-01T02:32:25Z) - Learning Constraints and Descriptive Segmentation for Subevent Detection [74.48201657623218]
本稿では,サブイベント検出とEventSeg予測の依存関係をキャプチャする制約を学習し,強制するアプローチを提案する。
我々は制約学習にRectifier Networksを採用し、学習した制約をニューラルネットワークの損失関数の正規化項に変換する。
論文 参考訳（メタデータ） (2021-09-13T20:50:37Z) - ReSSL: Relational Self-Supervised Learning with Weak Augmentation [68.47096022526927]
自己教師付き学習は、データアノテーションなしで視覚表現を学ぶことに成功しました。
本稿では,異なるインスタンス間の関係をモデル化して表現を学習する新しいリレーショナルSSLパラダイムを提案する。
提案したReSSLは,性能とトレーニング効率の両面で,従来の最先端アルゴリズムよりも大幅に優れています。
論文 参考訳（メタデータ） (2021-07-20T06:53:07Z) - You Never Cluster Alone [150.94921340034688]
我々は、主流のコントラスト学習パラダイムをクラスタレベルのスキームに拡張し、同じクラスタに属するすべてのデータが統一された表現に寄与する。
分類変数の集合をクラスタ化代入信頼度として定義し、インスタンスレベルの学習トラックとクラスタレベルの学習トラックを関連付ける。
代入変数を再パラメータ化することで、TCCはエンドツーエンドでトレーニングされる。
論文 参考訳（メタデータ） (2021-06-03T14:59:59Z) - Graph Contrastive Clustering [131.67881457114316]
本稿では,クラスタリングタスクに適用可能な新しいグラフコントラスト学習フレームワークを提案し,gcc(graph constrastive clustering)法を考案した。
特に、グラフラプラシアンに基づくコントラスト損失は、より識別的かつクラスタリングフレンドリーな特徴を学ぶために提案されている。
一方で、よりコンパクトなクラスタリング割り当てを学ぶために、グラフベースのコントラスト学習戦略が提案されている。
論文 参考訳（メタデータ） (2021-04-03T15:32:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。