Fugu-MT 論文翻訳(概要): MetaSRL++: A Uniform Scheme for Modelling Deeper Semantics

論文の概要: MetaSRL++: A Uniform Scheme for Modelling Deeper Semantics

arxiv url: http://arxiv.org/abs/2305.09534v1
Date: Tue, 16 May 2023 15:26:52 GMT
ステータス: 処理完了
システム内更新日: 2023-05-17 14:18:38.096242
Title: MetaSRL++: A Uniform Scheme for Modelling Deeper Semantics
Title（参考訳）: MetaSRL++: より深いセマンティックをモデル化するための統一的なスキーム
Authors: Fritz Hohl, Nianheng Wu, Martina Galetti, Remi van Trijp
Abstract要約: このようなスキームに到達するためには、共通のモデリングスキームも必要である。 MetaSRL++は、セマンティックグラフに基づく一様で言語に依存しないモデリングスキームである。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Despite enormous progress in Natural Language Processing (NLP), our field is still lacking a common deep semantic representation scheme. As a result, the problem of meaning and understanding is typically sidestepped through more simple, approximative methods. This paper argues that in order to arrive at such a scheme, we also need a common modelling scheme. It therefore introduces MetaSRL++, a uniform, language- and modality-independent modelling scheme based on Semantic Graphs, as a step towards a common representation scheme; as well as a method for defining the concepts and entities that are used in these graphs. Our output is twofold. First, we illustrate MetaSRL++ through concrete examples. Secondly, we discuss how it relates to existing work in the field.
Abstract（参考訳）: 自然言語処理(NLP)の進歩にもかかわらず、我々の分野には共通の深い意味表現スキームがない。結果として、意味と理解の問題は通常、より単純で近似的な方法によって回避される。本稿では、そのようなスキームに到達するためには、共通のモデリングスキームも必要であると主張する。そこで、共通表現スキームへのステップとして、セマンティックグラフに基づく一様で言語に依存しないモデリングスキームであるMetaSRL++と、これらのグラフで使用される概念と実体を定義する方法を紹介した。私たちの出力は2倍です。まず、具体的な例を通してMetaSRL++を説明します。第2に,この分野の既存業務との関連について考察する。

関連論文リスト

What Makes Two Language Models Think Alike? [6.244579327420724]
本稿では,メタラーニング符号化モデル(MLEM)に基づく新しい手法を提案する。 MLEMは、類似性と相違の原因となる特定の言語的特徴を特定することによって、透過的な比較を提供する。このアプローチは、音声や視覚などの他の領域や、人間の脳を含む他の神経系にも直接拡張できる。
論文参考訳（メタデータ） (2024-06-18T13:45:50Z)
The Geometry of Categorical and Hierarchical Concepts in Large Language Models [15.126806053878855]
線形表現仮説の形式化をベクトルとして(例:is_animal)特徴を表現するために拡張する方法を示す。形式化を用いて、概念の階層構造とそれらの表現の幾何学との関係を証明する。我々はこれらの理論結果をGemmaとLLaMA-3大言語モデルで検証し、WordNetのデータを用いて900以上の階層的な概念の表現を推定する。
論文参考訳（メタデータ） (2024-06-03T16:34:01Z)
On the Origins of Linear Representations in Large Language Models [51.88404605700344]
我々は,次のトークン予測の概念力学を定式化するために,単純な潜在変数モデルを導入する。実験により、潜在変数モデルと一致するデータから学習すると線形表現が現れることが示された。また、LLaMA-2大言語モデルを用いて、理論のいくつかの予測を検証した。
論文参考訳（メタデータ） (2024-03-06T17:17:36Z)
Meaning Representations from Trajectories in Autoregressive Models [106.63181745054571]
入力テキストを拡張可能なすべてのトラジェクトリの分布を考慮し,自己回帰言語モデルから意味表現を抽出する。この戦略はプロンプトフリーであり、微調整は必要とせず、事前訓練された自己回帰モデルにも適用できる。我々は,大規模なモデルから得られた表現が人間のアノテーションとよく一致し,意味的類似性タスクにおける他のゼロショットおよびプロンプトフリーメソッドよりも優れており,標準埋め込みが扱えないより複雑なエンタテインメントや包含タスクの解決に使用できることを実証的に示す。
論文参考訳（メタデータ） (2023-10-23T04:35:58Z)
Concept Algebra for (Score-Based) Text-Controlled Generative Models [27.725860408234478]
本稿では,テキスト誘導生成モデルにおける学習表現の構造について述べる。そのようなモデルの鍵となる性質は、異なる概念を非絡み合いの方法で構成できることである。ここでは、ある表現空間の部分空間として概念が符号化されるという考えに焦点を当てる。
論文参考訳（メタデータ） (2023-02-07T20:43:48Z)
Semantic Role Labeling Meets Definition Modeling: Using Natural Language to Describe Predicate-Argument Structures [104.32063681736349]
本稿では,離散ラベルの代わりに自然言語定義を用いて述語-代名詞構造を記述する手法を提案する。 PropBankスタイルおよびFrameNetスタイル、依存性ベースおよびスパンベースSRLに関する実験と分析は、解釈可能な出力を持つフレキシブルモデルが必ずしも性能を犠牲にしないことを示す。
論文参考訳（メタデータ） (2022-12-02T11:19:16Z)
Masked Part-Of-Speech Model: Does Modeling Long Context Help Unsupervised POS-tagging? [94.68962249604749]
フレキシブルな依存性モデリングを容易にするために,MPoSM(Masked Part-of-Speech Model)を提案する。 MPoSMは任意のタグ依存をモデル化し、マスクされたPOS再構成の目的を通じてPOS誘導を行うことができる。英語のPenn WSJデータセットと10の多様な言語を含むユニバーサルツリーバンクの競合的な結果を得た。
論文参考訳（メタデータ） (2022-06-30T01:43:05Z)
Few-Shot Semantic Parsing with Language Models Trained On Code [52.23355024995237]
Codexは同等のGPT-3モデルよりもセマンティックパーシングが優れていることがわかった。 GPT-3とは異なり、Codexは意味表現を直接ターゲットとする場合、おそらく意味解析で使われる意味表現がコードと似た構造になっているように、同じように機能する。
論文参考訳（メタデータ） (2021-12-16T08:34:06Z)
Definitions and Semantic Simulations Based on Object-Oriented Analysis and Modeling [0.0]
私たちは、モデリングのためにプログラミング言語で実装されたリッチなセマンティクスを使用するために、従来の方法を超えて行くことを提案しました。本稿では、まず、滝の構造的定義と心肺系の2つの例に対する実行可能なモデルの適用について論じる。
論文参考訳（メタデータ） (2019-12-31T05:59:02Z)
A Simple Joint Model for Improved Contextual Neural Lemmatization [60.802451210656805]
本稿では,20言語で最先端の成果を得られる,単純結合型ニューラルモデルを提案する。本論文では,トレーニングと復号化に加えて,本モデルについて述べる。
論文参考訳（メタデータ） (2019-04-04T02:03:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。