論文の概要: Temporal Word Meaning Disambiguation using TimeLMs
- arxiv url: http://arxiv.org/abs/2210.08207v1
- Date: Sat, 15 Oct 2022 06:34:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 18:06:19.084067
- Title: Temporal Word Meaning Disambiguation using TimeLMs
- Title(参考訳): TimeLMを用いた時間的単語意味の曖昧さ
- Authors: Mihir Godbole and Parth Dandavate and Aditya Kane
- Abstract要約: 大きな言語モデルは単語の埋め込みを使用し、しばしば静的であるため、この意味的変化には対応できない。
本稿では,EvoNLP共有タスクにおける単語感覚の曖昧化手法について検討する。
- 参考スコア(独自算出の注目度): 0.09176056742068812
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Meaning of words constantly changes given the events in modern civilization.
Large Language Models use word embeddings, which are often static and thus
cannot cope with this semantic change. Thus,it is important to resolve
ambiguity in word meanings. This paper is an effort in this direction, where we
explore methods for word sense disambiguation for the EvoNLP shared task. We
conduct rigorous ablations for two solutions to this problem. We see that an
approach using time-aware language models helps this task. Furthermore, we
explore possible future directions to this problem.
- Abstract(参考訳): 現代文明の出来事によって、言葉の意味は絶えず変化する。
大きな言語モデルは、しばしば静的であり、したがってこの意味変化に対応できない単語埋め込みを使用する。
したがって、単語の意味の曖昧さを解決することが重要である。
本稿では,evonlp共有タスクに対して,単語認識の曖昧さを解消するための手法を検討する。
この問題に対する2つの解決策を厳格に解決する。
タイムアウェアな言語モデルを用いたアプローチが、この課題に役立ちます。
さらに,この問題に対する今後の方向性についても検討する。
関連論文リスト
- Towards Resolving Word Ambiguity with Word Embeddings [0.4795582035438344]
トランスフォーマーモデルは、複雑なクエリに対する単語のあいまいさを扱うために示されているが、あいまいな単語の識別には使用できない。
本稿では,DBSCANクラスタリングを潜在空間に適用することにより,曖昧な単語を識別し,あいまいさのレベルを評価することができることを示す。
論文 参考訳(メタデータ) (2023-07-25T11:29:55Z) - Using meaning instead of words to track topics [0.76146285961466]
現在、既存のトピックトラッキング手法はすべて、単語使用量に合わせて語彙情報を使用している。
単語埋め込みを用いた意味に基づく新しい手法について検討する。
本結果から,トピックトラッキングに対する意味論的アプローチは語彙的アプローチと同等であるが,異なる誤りを犯すことが示唆された。
論文 参考訳(メタデータ) (2023-01-02T08:55:55Z) - WinoDict: Probing language models for in-context word acquisition [32.81587292382359]
推論中に新しい単語を学習するLarge Language Models(LLM)の能力を測定するために,新しい文脈内学習パラダイムを導入する。
ベンチマークの結果,元のWinogradタスクと比較してLLMの精度が大幅に低下していることが判明した。
論文 参考訳(メタデータ) (2022-09-25T05:30:13Z) - Weakly Supervised Temporal Adjacent Network for Language Grounding [96.09453060585497]
本稿では,時間的言語接地のための新しい教師付き時間的隣接ネットワーク(WSTAN)を提案する。
WSTANは、複数のインスタンス学習(MIL)パラダイムにおいて、時間的隣接ネットワークを活用することで、モーダル間のセマンティックアライメントを学習する。
MILブランチと補完ブランチの両方で、自己監督による意味的識別を強化するために、追加の自己識別損失が考案された。
論文 参考訳(メタデータ) (2021-06-30T15:42:08Z) - Do Context-Aware Translation Models Pay the Right Attention? [61.25804242929533]
コンテキスト対応機械翻訳モデルは文脈情報を活用するように設計されているが、しばしば失敗する。
本稿では,人間の翻訳者が曖昧な単語を解くために使用する文脈について述べる。
SCAT(Supporting Context for Ambiguous Translations)は、14K翻訳のコンテキストワードをサポートする新しい英仏データセットです。
SCATを用いて,支援語の位置的特徴と語彙的特徴をあいまいにするために使用される文脈を詳細に分析する。
論文 参考訳(メタデータ) (2021-05-14T17:32:24Z) - Fake it Till You Make it: Self-Supervised Semantic Shifts for
Monolingual Word Embedding Tasks [58.87961226278285]
語彙意味変化をモデル化するための自己教師付きアプローチを提案する。
本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。
3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
論文 参考訳(メタデータ) (2021-01-30T18:59:43Z) - Lexical semantic change for Ancient Greek and Latin [61.69697586178796]
歴史的文脈における単語の正しい意味の連想は、ダイアクロニック研究の中心的な課題である。
我々は、動的ベイズ混合モデルに基づくセマンティック変化に対する最近の計算的アプローチに基づいて構築する。
本研究では,動的ベイズ混合モデルと最先端埋め込みモデルとのセマンティックな変化を系統的に比較する。
論文 参考訳(メタデータ) (2021-01-22T12:04:08Z) - Speakers Fill Lexical Semantic Gaps with Context [65.08205006886591]
我々は単語の語彙的あいまいさを意味のエントロピーとして運用する。
単語のあいまいさの推定値と,WordNetにおける単語の同義語数との間には,有意な相関関係が認められた。
これは、あいまいさの存在下では、話者が文脈をより情報的にすることで補うことを示唆している。
論文 参考訳(メタデータ) (2020-10-05T17:19:10Z) - Word Sense Disambiguation for 158 Languages using Word Embeddings Only [80.79437083582643]
文脈における単語感覚の曖昧さは人間にとって容易であるが、自動的アプローチでは大きな課題である。
本稿では,学習前の標準単語埋め込みモデルを入力として,完全に学習した単語認識のインベントリを誘導する手法を提案する。
この手法を用いて、158の言語に対して、事前訓練されたfastText単語の埋め込みに基づいて、センスインベントリのコレクションを誘導する。
論文 参考訳(メタデータ) (2020-03-14T14:50:04Z) - Semantic Relatedness for Keyword Disambiguation: Exploiting Different
Embeddings [0.0]
本稿では,学習時に未知の外部インベントリ(オントロジー)によって提供される単語と感覚間の意味的関連性に基づくキーワードの曖昧さに対するアプローチを提案する。
実験の結果,特定のドメインをトレーニングすることなく,単語センスの曖昧さ (WSD) を適用した場合に,この手法が技術状況に匹敵する結果が得られることがわかった。
論文 参考訳(メタデータ) (2020-02-25T16:44:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。