論文の概要: Back to the Future: The Role of Past and Future Context Predictability in Incremental Language Production

• arxiv url: http://arxiv.org/abs/2511.07752v1
• Date: Wed, 12 Nov 2025 01:15:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-12 20:17:03.461905
• Title: Back to the Future: The Role of Past and Future Context Predictability in Incremental Language Production
• Title（参考訳）: 未来へ:インクリメンタル言語生産における過去と将来の文脈予測可能性の役割
• Authors: Shiva Upadhye, Richard Futrell,
• Abstract要約: 文脈予測可能性(Contextual predictability)は、オンライン言語生産における言葉の形態と選択の両方を形作る。 我々は,未来と過去の両方の文脈から予測可能性を統合する,情報理論の新たな原理的予測可能性尺度を導入する。 本研究は,話者が単語をエンコードし,選択する方法における過去と将来の文脈の機能的役割を解明するものである。
• 参考スコア（独自算出の注目度）: 3.179831861897336
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Contextual predictability shapes both the form and choice of words in online language production. The effects of the predictability of a word given its previous context are generally well-understood in both production and comprehension, but studies of naturalistic production have also revealed a poorly-understood backward predictability effect of a word given its future context, which may be related to future planning. Here, in two studies of naturalistic speech corpora, we investigate backward predictability effects using improved measures and more powerful language models, introducing a new principled and conceptually motivated information-theoretic predictability measure that integrates predictability from both the future and the past context. Our first study revisits classic predictability effects on word duration. Our second study investigates substitution errors within a generative framework that independently models the effects of lexical, contextual, and communicative factors on word choice, while predicting the actual words that surface as speech errors. We find that our proposed conceptually-motivated alternative to backward predictability yields qualitatively similar effects across both studies. Through a fine-grained analysis of substitution errors, we further show that different kinds of errors are suggestive of how speakers prioritize form, meaning, and context-based information during lexical planning. Together, these findings illuminate the functional roles of past and future context in how speakers encode and choose words, offering a bridge between contextual predictability effects and the mechanisms of sentence planning.
• Abstract（参考訳）: 文脈予測可能性(Contextual predictability)は、オンライン言語生産における言葉の形態と選択の両方を形作る。 それまでの文脈で与えられた単語の予測可能性の影響は、一般的には生産と理解の両方においてよく理解されているが、自然主義的生産の研究は、将来的な文脈で与えられた単語の後方予測可能性効果が十分に理解されていないことも明らかにしている。 本稿では, 自然言語コーパスの2つの研究において, 改良された測度とより強力な言語モデルを用いた後方予測可能性効果について検討し, 未来と過去の両方の文脈から予測可能性を統合する, 概念的・概念的に動機づけられた情報理論的予測可能性尺度を導入する。 最初の研究は、単語持続時間に対する古典的な予測可能性の影響を再考した。 第2報では,単語選択に対する語彙的,文脈的,コミュニケーション的要因の影響を独立にモデル化する生成フレームワーク内の置換誤りについて検討し,実際の単語を音声誤りとして予測する。 後向き予測可能性に対する概念的に動機づけられた代替案は、両研究の間で質的に類似した効果をもたらすことが判明した。 置換誤りのきめ細かい分析を通して、話者が語彙計画中にどのように形、意味、文脈に基づく情報を優先するかを示す様々な種類の誤りが示唆されることを示す。 これらとともに、話者が単語をエンコードし、選択する方法における過去と将来の文脈の機能的役割を解明し、文脈予測可能性効果と文計画のメカニズムを橋渡しする。

関連論文リスト

• Before the Outrage: Challenges and Advances in Predicting Online Antisocial Behavior [1.223779595809275]
  ソーシャルメディア上での反社会的行動は、プラットフォーム安全と社会福祉の課題を増大させている。 従来の研究は主に有害な内容の検出に重点を置いてきたが、予測的アプローチは将来の有害な行動を予測することを目的としている。 関心が高まりつつも、この分野は断片化され続けており、統一された分類学や既存の方法の明確な合成が欠如している。
  論文  参考訳（メタデータ） (2025-07-28T08:27:58Z)
• How Well Do Text Embedding Models Understand Syntax? [50.440590035493074]
  テキスト埋め込みモデルが幅広い構文的文脈にまたがって一般化する能力は、まだ解明されていない。 その結果,既存のテキスト埋め込みモデルは,これらの構文的理解課題に十分対応していないことが明らかとなった。 多様な構文シナリオにおけるテキスト埋め込みモデルの一般化能力を高めるための戦略を提案する。
  論文  参考訳（メタデータ） (2023-11-14T08:51:00Z)
• Improving Language Models Meaning Understanding and Consistency by Learning Conceptual Roles from Dictionary [65.268245109828]
  現代事前訓練言語モデル(PLM)の非人間的行動は、その信頼性を損なう主要な原因である。 驚くべき現象は、矛盾した結果を生み出す不整合予測の生成である。 本研究では,PLMの認知度を向上させることで,一貫性のない行動問題を緩和する実践的アプローチを提案する。
  論文  参考訳（メタデータ） (2023-10-24T06:15:15Z)
• Humans and language models diverge when predicting repeating text [52.03471802608112]
  我々は,人間とLMのパフォーマンスが分岐するシナリオを提示する。 人間とGPT-2 LMの予測はテキストスパンの最初のプレゼンテーションで強く一致しているが、メモリが役割を担い始めると、その性能は急速にバラバラになる。 このシナリオが,LMを人間の行動に近づける上で,今後の作業に拍車をかけることを期待しています。
  論文  参考訳（メタデータ） (2023-10-10T08:24:28Z)
• Explaining Hate Speech Classification with Model Agnostic Methods [0.9990687944474738]
  本研究の目的は、ヘイトスピーチ予測と、その決定を支援するためにシステムによって生成された説明とのギャップを埋めることである。 これは、まずテキストの分類を予測し、その後、ポストホック、モデル非依存、代理的解釈可能性アプローチを提供することによって達成されている。
  論文  参考訳（メタデータ） (2023-05-30T19:52:56Z)
• Naturalistic Causal Probing for Morpho-Syntax [76.83735391276547]
  スペインにおける実世界のデータに対する入力レベルの介入に対する自然主義的戦略を提案する。 提案手法を用いて,共同設立者から文章中の形態・症状の特徴を抽出する。 本研究では,事前学習したモデルから抽出した文脈化表現に対する性別と数字の因果効果を解析するために,本手法を適用した。
  論文  参考訳（メタデータ） (2022-05-14T11:47:58Z)
• Does referent predictability affect the choice of referential form? A computational approach using masked coreference resolution [10.73926355134268]
  本稿では,参照予測可能性の新しい計算量を用いた参照表現のダイナミクスについて検討する。 モデル出力と参照形式の関係に関する統計的分析は、予測可能性が参照の形式に影響を与えるという仮説を支持する。
  論文  参考訳（メタデータ） (2021-09-27T14:54:46Z)
• Evaluating Models of Robust Word Recognition with Serial Reproduction [8.17947290421835]
  広範囲確率的生成言語モデルと人間の言語的期待を捉える能力の比較を行った。 先行した言語的文脈の抽象表現を利用するこれらのモデルは、連続再生の過程で人々が行った変化を最もよく予測する。
  論文  参考訳（メタデータ） (2021-01-24T20:16:12Z)
• Adversarial Generative Grammars for Human Activity Prediction [141.43526239537502]
  将来予測のための逆生成文法モデルを提案する。 私たちの文法は、データ分散から生産ルールを学習できるように設計されています。 推論中に複数の生産ルールを選択することができると、予測される結果が異なる。
  論文  参考訳（メタデータ） (2020-08-11T17:47:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。