論文の概要: Vector Space Morphology with Linear Discriminative Learning
- arxiv url: http://arxiv.org/abs/2107.03950v1
- Date: Thu, 8 Jul 2021 16:22:50 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-09 15:19:48.394490
- Title: Vector Space Morphology with Linear Discriminative Learning
- Title(参考訳): 線形判別学習によるベクトル空間形態
- Authors: Yu-Ying Chuang, Mihi Kang, Xuefeng Luo, R. Harald Baayen
- Abstract要約: 本稿では,線形識別学習(LDL)を用いた語彙処理のモデル化の3つの事例について述べる。
ワード形式と意味の数値表現により、LDLは、形態的構造や屈折クラスについて知らされることなく、あるベクトル空間を他方にマッピングすることを学ぶ。
モデル化の結果,LDLは形態学的に複雑な単語の理解や生成に優れるだけでなく,人間の行動データに対して予測可能な定量的尺度を生成することがわかった。
- 参考スコア(独自算出の注目度): 1.2043574473965317
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper presents three case studies of modeling aspects of lexical
processing with Linear Discriminative Learning (LDL), the computational engine
of the Discriminative Lexicon model (Baayen et al., 2019). With numeric
representations of word forms and meanings, LDL learns to map one vector space
onto the other, without being informed about any morphological structure or
inflectional classes. The modeling results demonstrated that LDL not only
performs well for understanding and producing morphologically complex words,
but also generates quantitative measures that are predictive for human
behavioral data. LDL models are straightforward to implement with the JudiLing
package (Luo et al., 2021). Worked examples are provided for three modeling
challenges: producing and understanding Korean verb inflection, predicting
primed Dutch lexical decision latencies, and predicting the acoustic duration
of Mandarin words.
- Abstract(参考訳): 本稿では,線形識別学習(LDL)による語彙処理のモデル化を3つのケーススタディとして,識別的語彙モデル(Baayen et al., 2019)の計算エンジンについて述べる。
ワード形式と意味の数値表現により、LDLは、形態的構造や屈折クラスについて知らされることなく、あるベクトル空間を他方にマッピングすることを学ぶ。
モデル化の結果,LDLは形態学的に複雑な単語の理解や生成に優れるだけでなく,人間の行動データに対して予測可能な定量的尺度を生成することがわかった。
LDLモデルはJudiLingパッケージで簡単に実装できる(Luo et al., 2021)。
韓国語の動詞の屈折の生成と理解、オランダの初歩的な語彙決定の遅延の予測、マンダリン語の音響的持続時間予測の3つのモデル課題について検討した。
関連論文リスト
- Examining the Robustness of Large Language Models across Language Complexity [19.184633713069353]
大規模言語モデル(LLM)は、学生が学習を理解し評価するために生成したテキスト成果物を分析する。
本研究では,数学の問題解決において,学生の自己制御学習(SRL)を検出するLLMベースの学生モデルのロバスト性について検討した。
論文 参考訳(メタデータ) (2025-01-30T20:33:59Z) - Randomly Sampled Language Reasoning Problems Reveal Limits of LLMs [8.146860674148044]
我々は,データセットリコールのリスクを回避しつつ,モデルの言語理解能力の測定を試みる。
決定論的有限オートマトン(DFA)により認識される言語タスクの多種族をパラメータ化する。
3 状態 DFA の驚くほど単純な設定であっても、LLM は言語認識と合成の両タスクにおいてパラメータ化されていない ngram モデルより劣ることがわかった。
論文 参考訳(メタデータ) (2025-01-06T07:57:51Z) - Large Language Models as Neurolinguistic Subjects: Identifying Internal Representations for Form and Meaning [49.60849499134362]
本研究では,大言語モデル(LLM)の記号化(形式)および記号化(意味)に関する言語的理解について検討する。
伝統的な精神言語学的評価は、しばしばLSMの真の言語能力を誤って表現する統計バイアスを反映している。
ミニマルペアと診断プローブを組み合わせてモデル層間のアクティベーションパターンを解析する新しい手法を用いて,ニューロ言語学的アプローチを提案する。
論文 参考訳(メタデータ) (2024-11-12T04:16:44Z) - From Babbling to Fluency: Evaluating the Evolution of Language Models in Terms of Human Language Acquisition [6.617999710257379]
本稿では,LMの能力を評価するための3段階のフレームワークを提案する。
言語研究の手法を用いて, LMの生成能力を評価する。
論文 参考訳(メタデータ) (2024-10-17T06:31:49Z) - Large Language Models are Interpretable Learners [53.56735770834617]
本稿では,Large Language Models(LLM)とシンボルプログラムの組み合わせによって,表現性と解釈可能性のギャップを埋めることができることを示す。
自然言語プロンプトを持つ事前訓練されたLLMは、生の入力を自然言語の概念に変換することができる解釈可能な膨大なモジュールセットを提供する。
LSPが学んだ知識は自然言語の記述と記号規則の組み合わせであり、人間(解釈可能)や他のLLMに容易に転送できる。
論文 参考訳(メタデータ) (2024-06-25T02:18:15Z) - L2CEval: Evaluating Language-to-Code Generation Capabilities of Large
Language Models [102.00201523306986]
大規模言語モデル(LLM)の言語間コード生成能力を体系的に評価するL2CEvalを提案する。
モデルのサイズ、事前学習データ、命令チューニング、異なるプロンプトメソッドなど、それらのパフォーマンスに影響を与える可能性のある要因を分析する。
モデル性能の評価に加えて、モデルに対する信頼性校正を計測し、出力プログラムの人間による評価を行う。
論文 参考訳(メタデータ) (2023-09-29T17:57:00Z) - Interpreting Language Models with Contrastive Explanations [99.7035899290924]
言語モデルは、音声、数字、時制、意味論など、トークンを予測するための様々な特徴を考慮しなければならない。
既存の説明手法は、これらの特徴の証拠を1つの説明に分割するが、人間の理解には理解できない。
比較的な説明は、主要な文法現象の検証において、非対照的な説明よりも定量的に優れていることを示す。
論文 参考訳(メタデータ) (2022-02-21T18:32:24Z) - Modeling morphology with Linear Discriminative Learning: considerations
and design choices [1.3535770763481905]
本研究では,線形識別学習を用いて屈折形態をモデル化する際に生じる一連の方法論的問題に対処する。
形態の表現と意味がモデルパフォーマンスに与える影響について、どのように判断したかを説明する。
本稿では,文脈における単語の学習を近似するために,モデルをどのように設定するかについて議論する。
論文 参考訳(メタデータ) (2021-06-15T07:37:52Z) - Multi-timescale Representation Learning in LSTM Language Models [69.98840820213937]
言語モデルは、非常に短いから非常に長いまでの時間スケールで単語間の統計的依存関係を捉えなければならない。
我々は、長期記憶言語モデルにおけるメモリゲーティング機構が、パワーローの減衰を捉えることができるかの理論を導出した。
実験の結果,自然言語で学習したLSTM言語モデルは,この理論分布を近似することがわかった。
論文 参考訳(メタデータ) (2020-09-27T02:13:38Z) - Data Augmentation for Spoken Language Understanding via Pretrained
Language Models [113.56329266325902]
音声言語理解(SLU)モデルの訓練は、しばしばデータ不足の問題に直面している。
我々は,事前学習言語モデルを用いたデータ拡張手法を提案し,生成した発話の変動性と精度を向上した。
論文 参考訳(メタデータ) (2020-04-29T04:07:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。