論文の概要: Semantic Frame Induction with Deep Metric Learning
- arxiv url: http://arxiv.org/abs/2304.14286v1
- Date: Thu, 27 Apr 2023 15:46:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-28 12:50:46.124518
- Title: Semantic Frame Induction with Deep Metric Learning
- Title(参考訳): Deep Metric Learningを用いた意味フレーム誘導
- Authors: Kosuke Yamada, Ryohei Sasano, Koichi Takeda
- Abstract要約: 本研究では,深層学習を用いて文脈的埋め込みモデルを微調整するモデルを提案する。
セマンティック・フレーム・インダクションを実行するために、微調整されたコンテキスト適応型埋め込みを適用した。
- 参考スコア(独自算出の注目度): 24.486546938073907
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent studies have demonstrated the usefulness of contextualized word
embeddings in unsupervised semantic frame induction. However, they have also
revealed that generic contextualized embeddings are not always consistent with
human intuitions about semantic frames, which causes unsatisfactory performance
for frame induction based on contextualized embeddings. In this paper, we
address supervised semantic frame induction, which assumes the existence of
frame-annotated data for a subset of predicates in a corpus and aims to build a
frame induction model that leverages the annotated data. We propose a model
that uses deep metric learning to fine-tune a contextualized embedding model,
and we apply the fine-tuned contextualized embeddings to perform semantic frame
induction. Our experiments on FrameNet show that fine-tuning with deep metric
learning considerably improves the clustering evaluation scores, namely, the
B-cubed F-score and Purity F-score, by about 8 points or more. We also
demonstrate that our approach is effective even when the number of training
instances is small.
- Abstract(参考訳): 最近の研究は、教師なしセマンティックフレーム誘導における文脈的単語埋め込みの有用性を実証している。
しかし、意味的フレームに関する人間の直観と必ずしも一致しないため、文脈的埋め込みに基づくフレーム誘導に不満足な性能が生じることも明らかにした。
本稿では,コーパス内の述語の部分集合に対するフレームアノテートデータの存在を仮定し,アノテートデータを活用したフレームインダクションモデルの構築を目指す,教師付きセマンティックフレームインダクションについて述べる。
本研究では,文脈適応型埋め込みモデルを微調整するために,深層学習を用いたモデルを提案し,その微調整型埋め込みを適用して意味的フレーム誘導を行う。
framenet を用いた実験では,深層メトリック学習による微調整により,b-cubed f-score と purity f-score のクラスタリング評価スコアが8点以上向上した。
また、トレーニングインスタンスの数が少なくても、このアプローチが効果的であることを示す。
関連論文リスト
- Manual Verbalizer Enrichment for Few-Shot Text Classification [1.860409237919611]
acrshortmaveは、クラスラベルの豊か化による動詞化のためのアプローチである。
本モデルでは, 資源を著しく減らしながら, 最先端の成果が得られている。
論文 参考訳(メタデータ) (2024-10-08T16:16:47Z) - Point Contrastive Prediction with Semantic Clustering for
Self-Supervised Learning on Point Cloud Videos [71.20376514273367]
本稿では,オブジェクト中心およびシーン中心のデータを対象とした一元的クラウドビデオ自己教師型学習フレームワークを提案する。
本手法は、広範囲の下流タスクにおいて教師付きタスクよりも優れる。
論文 参考訳(メタデータ) (2023-08-18T02:17:47Z) - Scalable Learning of Latent Language Structure With Logical Offline
Cycle Consistency [71.42261918225773]
概念的には、LOCCOは、トレーニング対象のセマンティクスを使用してラベルなしテキストのアノテーションを生成する、自己学習の一形態と見なすことができる。
追加ボーナスとして、LOCCOによって生成されたアノテーションは、神経テキスト生成モデルをトレーニングするために自明に再利用することができる。
論文 参考訳(メタデータ) (2023-05-31T16:47:20Z) - Interpretable Automatic Fine-grained Inconsistency Detection in Text
Summarization [56.94741578760294]
本研究の目的は, 要約中の事実誤りの微粒化を予測し, 微粒化不整合検出の課題を提案することである。
要約における現実的不整合の検査方法に触発され,解析可能な微粒不整合検出モデルであるFinGrainFactを提案する。
論文 参考訳(メタデータ) (2023-05-23T22:11:47Z) - Acquiring Frame Element Knowledge with Deep Metric Learning for Semantic
Frame Induction [24.486546938073907]
本稿では,ディープラーニングを意味的フレーム帰納タスクに適用する手法を提案する。
事前訓練された言語モデルは、フレーム要素の役割を区別するのに適するように微調整される。
FrameNetの実験結果から,本手法は既存手法よりも大幅に性能が向上することが示された。
論文 参考訳(メタデータ) (2023-05-23T11:02:28Z) - FineDiving: A Fine-grained Dataset for Procedure-aware Action Quality
Assessment [93.09267863425492]
競争力のあるスポーツビデオにおける行動の高レベル意味論と内部時間構造の両方を理解することが、予測を正確かつ解釈可能なものにする鍵である、と我々は主張する。
本研究では,多様なダイビングイベントに対して,アクションプロシージャに関する詳細なアノテーションを付加した,ファインディビングと呼ばれる詳細なデータセットを構築した。
論文 参考訳(メタデータ) (2022-04-07T17:59:32Z) - Convex Polytope Modelling for Unsupervised Derivation of Semantic
Structure for Data-efficient Natural Language Understanding [31.888489552069146]
Convex-Polytopic-Modelベースのフレームワークは、生のダイアログコーパスを利用して意味パターンを自動的に抽出する大きな可能性を示している。
このフレームワークは,コーパスのセマンティックフレーム関連機能を活用し,発話の基盤となるセマンティック構造を明らかにし,最小限の監視で最先端のNLUモデルの性能を向上させることができることを示す。
論文 参考訳(メタデータ) (2022-01-25T19:12:44Z) - Probing as Quantifying the Inductive Bias of Pre-trained Representations [99.93552997506438]
本稿では,特定のタスクに対する表現の帰納的バイアスを評価することを目的とした,探索のための新しいフレームワークを提案する。
トークン、アーク、文レベルの一連のタスクに我々のフレームワークを適用します。
論文 参考訳(メタデータ) (2021-10-15T22:01:16Z) - Comprehensive Studies for Arbitrary-shape Scene Text Detection [78.50639779134944]
ボトムアップに基づくシーンテキスト検出のための統合フレームワークを提案する。
統一されたフレームワークの下では、非コアモジュールの一貫性のある設定が保証されます。
包括的調査と精巧な分析により、以前のモデルの利点と欠点を明らかにしている。
論文 参考訳(メタデータ) (2021-07-25T13:18:55Z) - Learning structure-aware semantic segmentation with image-level
supervision [36.40302533324508]
CAMにおける失われた構造情報は、下流セマンティックセマンティックセグメンテーションにおけるその応用を制限すると論じる。
劣化予測をペナルティ化する補助意味境界検出モジュールを紹介します。
PASCAL-VOCデータセットの実験結果から,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2021-04-15T03:33:20Z) - BERT as a Teacher: Contextual Embeddings for Sequence-Level Reward [23.176481887478634]
単語を数えたり、比較したりした操作は、単語を埋め込んだり、埋め込みを比較したりすることができる。
BERT埋め込みの詳細な分析は、必要な依存関係をキャプチャするためにコンテキスト埋め込みを使用できることを実証的に示している。
我々は、無条件生成を強化学習問題とみなし、この挑戦的な環境では、報酬関数がn-gramの報酬よりも効果的な学習信号を提供することを示した。
論文 参考訳(メタデータ) (2020-03-05T16:06:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。