論文の概要: Improving Lexical Difficulty Prediction with Context-Aligned Contrastive Learning and Ridge Ensembling
- arxiv url: http://arxiv.org/abs/2605.08950v1
- Date: Sat, 09 May 2026 13:43:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.986569
- Title: Improving Lexical Difficulty Prediction with Context-Aligned Contrastive Learning and Ridge Ensembling
- Title(参考訳): 文脈適応型コントラスト学習とリッジ組立による語彙難易度予測の改善
- Abstract要約: 語彙難易度予測は、言語学習と可読性評価の基本的な問題である。
既存のアプローチは、スカラーの監督を伴う回帰のみのトレーニングに依存している。
本稿では,リッジ回帰アンサンブルを2つの相補的目的と統合したコンテキストアラインなコントラスト回帰を提案する。
- 参考スコア(独自算出の注目度): 0.08007292130604839
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Lexical difficulty prediction is a fundamental problem in language learning and readability assessment, requiring models to estimate word difficulty across different first-language (L1) backgrounds. However, existing approaches rely on regression-only training with scalar supervision, which does not explicitly structure the representation space, limiting their ability to capture cross-lingual alignment and ordinal difficulty. To mitigate these issues, we propose Context-Aligned Contrastive Regression, which integrates Ridge regression ensemble with two complementary objectives, i.e., Cross-View Context and Ordinal Soft Contrastive Learning. Experiments on three L1 datasets show that (i) contrastive objectives improve cross-lingual representation alignment while preserving language-specific nuances, (ii) the learned representations capture the ordinal structure of lexical difficulty, and (iii) the ensemble effectively mitigates systematic biases of individual models, leading to more stable performance across difficulty levels.
- Abstract(参考訳): 語彙難易度予測は、言語学習と可読性評価の基本的な問題であり、異なる第1言語(L1)の背景における単語難易度をモデルで推定する必要がある。
しかし、既存のアプローチはスカラーの監督による回帰のみのトレーニングに依存しており、表象空間を明示的に構成せず、言語間のアライメントと順序の難易度を捉える能力を制限する。
これらの問題を緩和するため、我々はリッジ回帰アンサンブルを2つの補完的目的、すなわちクロスビューコンテキストと通常のソフトコントラスト学習に統合するコンテキスト適応型コントラスト回帰を提案する。
3つのL1データセットの実験は、それを示している。
一 言語固有のニュアンスを保ちながら、言語間表現アライメントを改善すること。
二 学習した表現が語彙難の順序構造を捉え、
3) アンサンブルは、個々のモデルの体系的バイアスを効果的に緩和し、難易度を越えてより安定したパフォーマンスをもたらす。
関連論文リスト
- Segment-Level Mandarin Chinese Speech-Based Cognitive Impairment Detection via an Autoencoder with Contrastive Learning [10.638074190961921]
音声は低コストで非侵襲的なデジタルバイオマーカーとして登場し、認知障害の検出にかなりの可能性がある。
音声に基づく認知障害検出のためのセグメントレベル表現学習フレームワークを開発した。
論文 参考訳(メタデータ) (2026-06-18T09:32:24Z) - On the Entity-Level Alignment in Crosslingual Consistency [62.33186691736433]
SubSubとSubInjは、主題の英語翻訳を言語間のプロンプトに統合し、実際のリコール精度と一貫性を大きく向上させた。
これらの介入はモデルの内部ピボット言語処理を通じて概念空間における実体表現のアライメントを強化する。
論文 参考訳(メタデータ) (2025-10-11T16:26:50Z) - Sigma: Semantically Informative Pre-training for Skeleton-based Sign Language Understanding [47.469519895247366]
事前学習は手話理解タスクにおける伝達可能な特徴の学習に有効であることが証明されている。
1)視覚的特徴と言語的文脈との深い相互作用を促進し,視覚的特徴と言語的文脈との深い相互作用を促進するサイン・アウェア・アーリー・フュージョン・メカニズム,2)異なるモダリティから異なるレベルの特徴のマッチングを共同で最大化し,詳細な詳細と高レベルのセマンティックな関係を効果的に把握する階層的アライメント学習戦略,3)コントラスト的学習,テキストマッチング,言語モデリングを組み合わせた統合事前学習フレームワークを提案する。
論文 参考訳(メタデータ) (2025-09-25T14:28:34Z) - Your Pretrained Model Tells the Difficulty Itself: A Self-Adaptive Curriculum Learning Paradigm for Natural Language Understanding [53.63482987410292]
本稿では,事前学習言語モデルにより予測される難易度に基づいて,微調整例を優先する自己適応型カリキュラム学習パラダイムを提案する。
本手法は,4つの自然言語理解(NLU)データセットを用いて,二項分類と多項分類の両方を対象とする手法について検討した。
論文 参考訳(メタデータ) (2025-07-13T19:36:17Z) - Enhancing Idiomatic Representation in Multiple Languages via an Adaptive Contrastive Triplet Loss [9.807885676930308]
本稿では, 単語の非対称的な寄与を取り入れた三重項損失を用いた慣用性モデルを提案する。
提案手法はSemEvalの課題に基づいて評価され,多くの指標において従来の手法よりも優れていた。
論文 参考訳(メタデータ) (2024-06-21T14:21:41Z) - Large Language Models can Contrastively Refine their Generation for Better Sentence Representation Learning [57.74233319453229]
大規模言語モデル(LLM)は画期的な技術として登場し、それらの非並列テキスト生成能力は、基本的な文表現学習タスクへの関心を喚起している。
コーパスを生成するためにLLMの処理を分解するマルチレベルコントラスト文表現学習フレームワークであるMultiCSRを提案する。
実験の結果,MultiCSRはより高度なLCMをChatGPTの性能を超えつつ,ChatGPTに適用することで最先端の成果を得られることがわかった。
論文 参考訳(メタデータ) (2023-10-17T03:21:43Z) - Simple Linguistic Inferences of Large Language Models (LLMs): Blind Spots and Blinds [59.71218039095155]
我々は,ほとんどの人間が自明に感じる単純な推論タスクにおいて,言語理解能力を評価する。
我々は, (i) 文法的に特定された含意, (ii) 不確実性のある明らかな副詞を持つ前提, (iii) 単調性含意を目標とする。
モデルはこれらの評価セットに対して中程度から低い性能を示す。
論文 参考訳(メタデータ) (2023-05-24T06:41:09Z) - A Multi-level Supervised Contrastive Learning Framework for Low-Resource
Natural Language Inference [54.678516076366506]
自然言語推論(NLI)は、自然言語理解において、ますます重要な課題である。
本稿では,低リソースな自然言語推論のためのマルチSCLという,マルチレベルの教師付きコントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-05-31T05:54:18Z) - Contrastive Learning of Sociopragmatic Meaning in Social Media [12.219025716422099]
本稿では,幅広い社会実践的タスクに伝達可能なタスク非依存表現を学習するための新しいフレームワークを提案する。
我々のフレームワークは、ドメイン内データとドメイン外データの両方において、他の対照的な学習フレームワークよりも優れています。
論文 参考訳(メタデータ) (2022-03-15T05:07:04Z) - Cross-lingual Spoken Language Understanding with Regularized
Representation Alignment [71.53159402053392]
外部リソースを使わずに言語間で単語レベルの表現と文レベルの表現を整列する正規化手法を提案する。
言語間言語理解タスクの実験により、我々のモデルは、数ショットとゼロショットの両方のシナリオにおいて、最先端の手法よりも優れていることが示された。
論文 参考訳(メタデータ) (2020-09-30T08:56:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。