論文の概要: Word Sense Disambiguation as a Game of Neurosymbolic Darts

• arxiv url: http://arxiv.org/abs/2307.16663v1
• Date: Tue, 25 Jul 2023 07:22:57 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-06 11:20:40.014274
• Title: Word Sense Disambiguation as a Game of Neurosymbolic Darts
• Title（参考訳）: ニューロシンボリックダーツゲームとしての単語感覚の曖昧さ
• Authors: Tiansi Dong, Rafet Sifa
• Abstract要約: 我々はF1スコアを90%以上押し上げる新しいニューロシンボリック手法を提案する。 我々の方法論の中核は、n次元空間におけるネストされた球の配置の観点から、ニューロシンボリックな感覚の埋め込みである。 われわれはTransformerを訓練し、文脈化された単語の埋め込みから、ダーツのゲームをするのと同じように、ボールの埋め込みへのマッピングを学習した。
• 参考スコア（独自算出の注目度）: 3.0572129477925727
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Word Sense Disambiguation (WSD) is one of the hardest tasks in natural language understanding and knowledge engineering. The glass ceiling of 80% F1 score is recently achieved through supervised deep-learning, enriched by a variety of knowledge graphs. Here, we propose a novel neurosymbolic methodology that is able to push the F1 score above 90%. The core of our methodology is a neurosymbolic sense embedding, in terms of a configuration of nested balls in n-dimensional space. The centre point of a ball well-preserves word embedding, which partially fix the locations of balls. Inclusion relations among balls precisely encode symbolic hypernym relations among senses, and enable simple logic deduction among sense embeddings, which cannot be realised before. We trained a Transformer to learn the mapping from a contextualized word embedding to its sense ball embedding, just like playing the game of darts (a game of shooting darts into a dartboard). A series of experiments are conducted by utilizing pre-training n-ball embeddings, which have the coverage of around 70% training data and 75% testing data in the benchmark WSD corpus. The F1 scores in experiments range from 90.1% to 100.0% in all six groups of test data-sets (each group has 4 testing data with different sizes of n-ball embeddings). Our novel neurosymbolic methodology has the potential to break the ceiling of deep-learning approaches for WSD. Limitations and extensions of our current works are listed.
• Abstract（参考訳）: Word Sense Disambiguation (WSD)は、自然言語の理解と知識工学において最も難しいタスクの1つである。 F1スコアの80%のガラス天井は、様々な知識グラフによって強化された教師付きディープラーニングによって最近達成されている。 本稿では、F1スコアを90%以上押し上げることができる新しいニューロシンボリック手法を提案する。 我々の方法論の核心は、n-次元空間におけるネスト球の配置という観点から、ニューロシンボリックな感覚埋め込みである。 ボールの中心点は単語埋め込みを保存し、ボールの位置を部分的に固定する。 ボール間の包含関係は感覚間のシンボリックハイパーニム関係を正確にエンコードし、以前に実現できない感覚埋め込み間の単純な論理推論を可能にする。 私たちは、ダーツゲーム(ダーツボードにダーツを撃ち込むゲーム)のように、コンテキスト化された単語埋め込みからセンスボール埋め込みへのマッピングを学ぶためにトランスフォーマーを訓練しました。 ベンチマークWSDコーパスに約70%のトレーニングデータと75%のテストデータを含む,事前学習したn-ball埋め込みを利用して,一連の実験を行う。 実験におけるf1のスコアは、6つのテストデータセットの90.1%から100.0%である(各グループは、nボール埋め込みのサイズが異なる4つのテストデータを持っている)。 我々の新しいニューロシンボリック手法は、WSDの深層学習アプローチの天井を破る可能性を秘めている。 現在の作品の限界と拡張がリストアップされている。

関連論文リスト

• Composing Diffusion Policies for Few-shot Learning of Movement Trajectories [1.2576113481317526]
  人間は、毎回スクラッチからスキルを引き出すことなく、様々な物理的なスキルの組み合わせを実行することができる。 本稿では,DSEと呼ばれる新しい合成手法を提案する。 我々は,前向きキネマティクスカーネル(MMD-FK)における最大平均差を30%以上削減できることを示す。
  論文  参考訳（メタデータ） (2024-10-22T23:57:37Z)
• Not Everything is All You Need: Toward Low-Redundant Optimization for Large Language Model Alignment [126.34547428473968]
  大規模言語モデル(LLM)は、複雑なタスクやシナリオにおいて、人間の好みに合わせるのに依然として苦労しています。 我々は、最も有用な教師付き信号を用いて、最も関連性の高いニューロンを最適化することに焦点を当てた、textbfALLOという低輝度アライメント手法を提案する。 10個のデータセットに対する実験結果から、ALLOの有効性が示された。
  論文  参考訳（メタデータ） (2024-06-18T13:34:40Z)
• UrduFake@FIRE2020: Shared Track on Fake News Identification in Urdu [62.6928395368204]
  本稿では、ウルドゥー語における偽ニュース検出に関するFIRE 2020における最初の共有タスクの概要について述べる。 目標は、900の注釈付きニュース記事と400のニュース記事からなるデータセットを使って偽ニュースを特定することである。 データセットには、 (i) Health、 (ii) Sports、 (iii) Showbiz、 (iv) Technology、 (v) Businessの5つのドメインのニュースが含まれている。
  論文  参考訳（メタデータ） (2022-07-25T03:46:51Z)
• Overview of the Shared Task on Fake News Detection in Urdu at FIRE 2020 [62.6928395368204]
  タスクはバイナリ分類タスクとして設定され、ゴールはリアルニュースとフェイクニュースを区別することである。 トレーニング用に900の注釈付きニュース記事とテスト用に400のニュース記事のデータセットを作成した。 6カ国(インド、中国、エジプト、ドイツ、パキスタン、イギリス)の42チームが登録された。
  論文  参考訳（メタデータ） (2022-07-25T03:41:32Z)
• Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
  Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。 本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。 NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-05-25T12:41:59Z)
• End-to-End Zero-Shot HOI Detection via Vision and Language Knowledge Distillation [86.41437210485932]
  我々は、ゼロショットHOI検出を前進させ、同時に見えないHOIと見えないHOIの両方を検出することを目指している。 本稿では,視覚言語による知識蒸留によるエンドツーエンドのゼロショットHOI検出フレームワークを提案する。 本手法は, 従来のSOTAを8.92%, 全体の10.18%で上回っている。
  論文  参考訳（メタデータ） (2022-04-01T07:27:19Z)
• Encoding priors in the brain: a reinforcement learning model for mouse decision making [1.14219428942199]
  我々は、画面の左右に格子が現れる国際脳実験室のタスクについて研究し、マウスは格子を中央に持ってくるために車輪を動かさなければならない。 我々はこれを強化学習タスクとしてモデル化し、フィードフォワードニューラルネットワークを用いて状態をアクションにマッピングし、ネットワークの重みを調整して報酬を最大化し、政策勾配を通じて学習する。 提案モデルでは,約10回の臨床試験において,ブロックスイッチ後のコントラストシフトに対する心理測定曲線が変化するという,主要な実験結果が再現される。
  論文  参考訳（メタデータ） (2021-12-10T20:16:36Z)
• Open Vocabulary Electroencephalography-To-Text Decoding and Zero-shot Sentiment Classification [78.120927891455]
  最先端のブレイン・トゥ・テキストシステムは、ニューラルネットワークを使用して脳信号から直接言語を復号することに成功した。 本稿では,自然読解課題における語彙的脳波(EEG)-テキスト列列列復号化とゼロショット文感性分類に問題を拡張する。 脳波-テキストデコーディングで40.1%のBLEU-1スコア、ゼロショット脳波に基づく3次感情分類で55.6%のF1スコアを達成し、教師付きベースラインを著しく上回る結果となった。
  論文  参考訳（メタデータ） (2021-12-05T21:57:22Z)
• Non-Parametric Few-Shot Learning for Word Sense Disambiguation [11.175893018731712]
  MetricWSDは、このデータアンバランス問題を緩和するための非パラメトリックな数ショット学習アプローチです。 MetricWSDは、ある単語の感覚間の距離を計算することを学ぶことで、高周波の単語から頻繁な単語に知識を伝達する。
  論文  参考訳（メタデータ） (2021-04-26T16:08:46Z)
• Can a Fruit Fly Learn Word Embeddings? [16.280120177501733]
  フルーツフライ脳は、神経科学で最も研究されたシステムの1つです。 ネットワークモチーフは単語の意味表現を学習し,静的および文脈依存の単語埋め込みを生成できることを示す。 また,fruit fly networkのモチーフはnlpの既存の手法に匹敵する性能を実現するだけでなく,計算資源のほんの一部しか使用できないことを示した。
  論文  参考訳（メタデータ） (2021-01-18T05:41:50Z)
• Voice@SRIB at SemEval-2020 Task 9 and 12: Stacked Ensembling method for Sentiment and Offensiveness detection in Social Media [2.9008108937701333]
  埋め込み、Sentimixのアンサンブルメソッド、OffensEvalタスクをトレーニングします。 我々は、マクロF1スコア、精度、精度、およびデータセットのリコールについて、我々のモデルを評価する。
  論文  参考訳（メタデータ） (2020-07-20T11:54:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。