論文の概要: STRUCTURALCOST: A controlled reading time dataset for modeling human sentence processing difficulty
- arxiv url: http://arxiv.org/abs/2610.08208v1
- Date: Tue, 06 Oct 2026 12:00:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.967976
- Title: STRUCTURALCOST: A controlled reading time dataset for modeling human sentence processing difficulty
- Title(参考訳): STRUCTURALCOST:人間の文処理困難をモデル化するための制御された読解時間データセット
- Abstract要約: STRUCTURALCOSTは、475人の参加者と40,800人の観測結果からなるデータセットであり、長距離の主観差分分解の処理コストを分離している。
我々は,NLP尺度で低パワーな心理言語学的発見を再現する。すなわち,主動詞の読解時間は,従属長とともに増加し,線形距離を超えた構文的埋め込みによって引き起こされる。
- 参考スコア(独自算出の注目度): 11.289952346396895
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce STRUCTURALCOST, a self-paced reading dataset of 475 participants and 40,800 observations isolating the processing cost of long-distance subject-verb dependency resolution. We replicate a low-powered psycholinguistic finding at NLP scale, namely that human reading times at the main verb increase with dependency length, driven by syntactic embedding beyond linear distance. Different language models -- spanning n-gram models, SSMs, and transformers -- partially mirror this graded difficulty profile, yet underestimate the integration cost humans incur, with a gap that persists across architectures and model sizes. This suggests these models capture the predictive component of human processing but not the full integration cost that working memory imposes. STRUCTURALCOST provides data needed to drive progress toward evaluating the cognitive plausibility of language models.
- Abstract(参考訳): 475人の参加者と40,800人の観察者からなるセルフペースの読書データセットであるSTRUCTURALCOSTを導入する。
我々は,NLP尺度で低パワーな心理言語学的発見を再現する。すなわち,主動詞の読解時間は,従属長とともに増加し,線形距離を超えた構文的埋め込みによって引き起こされる。
異なる言語モデル -- n-gramモデル、SSM、トランスフォーマー – は、この段階的な難易度プロファイルを部分的に反映しているが、統合コストは、アーキテクチャとモデルサイズにまたがるギャップを過小評価している。
これは、これらのモデルが人間の処理の予測的コンポーネントを捉えているが、ワーキングメモリが課す完全な統合コストではないことを示唆している。
STRUCTURALCOSTは、言語モデルの認知的妥当性を評価するのに必要なデータを提供する。
関連論文リスト
- Using LMs to Model the Effects of Context and Coreference during Sentence Comprehension [9.274803251626073]
言語モデル(LM)は人間の言語処理をモデル化するためのツールとしてよく用いられる。
近年の研究では、LMのコンテキストウィンドウを厳しく制限することは、人間の作業記憶の制約をシミュレートすることによって、人間の心理言語データに適合することを示唆している。
この厳密なメモリデカイアプローチは、談話構造のような長距離構造表現への人間の依存を見落としている可能性がある。
論文 参考訳(メタデータ) (2026-09-26T00:43:56Z) - Beyond Accuracy: Characterizing Code Comprehension Capabilities in (Large) Language Models [4.841487377596519]
本稿では,Large Language Modelsのコード理解性能が従来の人間中心のソフトウェアメトリクスと一致しているかを検討する。
コード理解をバイナリインプット・アウトプット整合性タスクとして再編成する診断フレームワークを導入する。
論文 参考訳(メタデータ) (2026-01-19T10:58:24Z) - SALAD: Improving Robustness and Generalization through Contrastive Learning with Structure-Aware and LLM-Driven Augmented Data [15.366930934639838]
モデルロバスト性と一般化を向上する新しいアプローチであるSALADを提案する。
提案手法は,コントラスト学習のための構造認識および非実効的拡張データを生成する。
本研究のアプローチは,感性分類,性行為検出,自然言語推論の3つのタスクを用いて検証する。
論文 参考訳(メタデータ) (2025-04-16T15:40:10Z) - In-Context Language Learning: Architectures and Algorithms [73.93205821154605]
我々は、文脈言語学習(ICLL)において、私たちが用語する新しいモデル問題群(英語版)のレンズを通してICLを研究する。
我々は,通常のICLLタスクにおいて,多種多様なニューラルシーケンスモデルを評価する。
論文 参考訳(メタデータ) (2024-01-23T18:59:21Z) - Split and Rephrase with Large Language Models [2.499907423888049]
Split and Rephrase (SPRP) タスクは、複雑な文を短い文法文の列に分割する。
タスク上の大きな言語モデルを評価し、主要なメトリクスに基づいて、技術の現状を大幅に改善できることを示します。
論文 参考訳(メタデータ) (2023-12-18T10:16:37Z) - Visual Grounding Helps Learn Word Meanings in Low-Data Regimes [47.7950860342515]
現代のニューラル言語モデル(LM)は、人間の文の生成と理解をモデル化するための強力なツールである。
しかし、これらの結果を得るためには、LMは明らかに非人間的な方法で訓練されなければならない。
より自然主義的に訓練されたモデルは、より人間らしい言語学習を示すのか?
本稿では,言語習得における重要なサブタスクである単語学習の文脈において,この問題を考察する。
論文 参考訳(メタデータ) (2023-10-20T03:33:36Z) - Bring Your Own Data! Self-Supervised Evaluation for Large Language
Models [52.15056231665816]
大規模言語モデル(LLM)の自己教師型評価のためのフレームワークを提案する。
閉書知識,毒性,長期文脈依存性を測定するための自己指導型評価戦略を実証する。
自己監督評価と人監督評価との間には強い相関関係が認められた。
論文 参考訳(メタデータ) (2023-06-23T17:59:09Z) - Unsupervised Paraphrasing with Pretrained Language Models [85.03373221588707]
教師なし環境で,事前学習した言語モデルを用いて高品質なパラフレーズを生成する訓練パイプラインを提案する。
提案手法は,タスク適応,自己スーパービジョン,動的ブロッキング(Dynamic Blocking)という新しい復号アルゴリズムから構成される。
提案手法は,Quora Question PairとParaNMTの両方のデータセット上で,最先端の性能を達成できることを示す。
論文 参考訳(メタデータ) (2020-10-24T11:55:28Z) - Neural Data-to-Text Generation via Jointly Learning the Segmentation and
Correspondence [48.765579605145454]
対象のテキストを断片単位に明示的に分割し,それらのデータ対応と整合させることを提案する。
結果として生じるアーキテクチャは、ニューラルアテンションモデルと同じ表現力を維持している。
E2EとWebNLGのベンチマークでは、提案モデルがニューラルアテンションよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2020-05-03T14:28:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。