論文の概要: Narrative Lookahead in LLMs: Event-Level Decodability, Predictive Advantage, and Steering

• arxiv url: http://arxiv.org/abs/2610.18121v1
• Date: Tue, 13 Oct 2026 10:34:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 07:19:31.183229
• Title: Narrative Lookahead in LLMs: Event-Level Decodability, Predictive Advantage, and Steering
• Title（参考訳）: LLMにおけるナラティブ・ルックアヘッド: イベント・レベル・デオーダビリティ、予測的アドバンテージ、ステアリング
• Abstract要約: トークンや応答レベルの属性ではなく,健全で状態変化するイベントを通して,物語のルックアヘッドについて検討する。 オープンウェイト LLM で生成された2,000 ストーリーから,23,355 個の LLM アノテーション付きイベントを抽出した。 我々の事象レベルアプローチは、今後の物語展開の予測と、その後の出来事構成を再形成する介入とを結びつける。
• 参考スコア（独自算出の注目度）: 0.17008274193723405
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Do language models carry information about narrative events before writing them, and how far ahead? We examine narrative lookahead through salient, state-changing events rather than tokens or response-level attributes. We extract 23,355 LLM-annotated events from 2,000 stories generated by four open-weight LLMs, labeling them along three nonexclusive dimensions of change: within agents, between agents, and in the story world, with human validation on a subset. Event segmentation and plot-independent labels enable comparisons across stories at horizons measured in events rather than in tokens. At event ends, we probe hidden states for upcoming event types and compare predictions with text-only predictors using matched prefixes. Across four models, future event types are decodable above prevalence baselines for at least four subsequent events, but probes significantly outperform both primary text-only predictors only for the next event. In exploratory steering with OLMo-3.1-32B, a probe-derived direction shifts the proportion of the target event type in both intended directions at higher strengths. Our event-level approach links the prediction of future narrative developments to interventions that reshape subsequent event composition.
• Abstract（参考訳）: 言語モデルは、それを書く前に物語の出来事に関する情報を持ち、どれくらい先を行っているか? トークンや応答レベルの属性ではなく,健全で状態変化するイベントを通して,物語のルックアヘッドについて検討する。 オープンウェイトLLMが生成する2000のストーリーから23,355のLDM注釈付きイベントを抽出し,エージェント内,エージェント間,ストーリワールド内の3つの非排他的な変化の次元に沿ってラベル付けし,サブセット上で人間による検証を行う。 イベントセグメンテーションとプロット非依存ラベルは、トークンではなくイベントで測定された地平線におけるストーリー間の比較を可能にする。 イベント終了時に、今後のイベントタイプに関する隠された状態を探索し、マッチしたプレフィックスを使用したテキストのみの予測器と比較する。 4つのモデル全体で、将来のイベントタイプは、少なくとも4つの後続のイベントに対して、有病率ベースラインより上位にデオード可能であるが、プローブは、次のイベントでのみ、両方のプライマリテキストのみの予測器よりも大幅に優れる。 OLMo-3.1-32Bによる探索的なステアリングでは、プローブ由来の方向は、両方の目的とするイベントタイプの割合をより高い強度でシフトさせる。 我々の事象レベルアプローチは、今後の物語展開の予測と、その後の出来事構成を再形成する介入とを結びつける。

関連論文リスト

• Improving Event Definition Following For Zero-Shot Event Detection [66.27883872707523]
  ゼロショットイベント検出に対する既存のアプローチは通常、既知のイベントタイプをアノテートしたデータセット上でモデルをトレーニングする。 イベント定義に従うためのトレーニングモデルによるゼロショットイベント検出の改善を目指しています。
  論文  参考訳（メタデータ） (2024-03-05T01:46:50Z)
• Towards Event Extraction from Speech with Contextual Clues [61.164413398231254]
  本稿では,音声イベント抽出(SpeechEE)タスクを導入し,3つの合成トレーニングセットと1つの人為的テストセットを構築した。 テキストからのイベント抽出と比較して、SpeechEEは、主に連続的で単語境界を持たない複雑な音声信号のために、より大きな課題を提起する。 我々の手法はすべてのデータセットに大幅な改善をもたらし、最大10.7%のF1ゲインを達成する。
  論文  参考訳（メタデータ） (2024-01-27T11:07:19Z)
• Rich Event Modeling for Script Event Prediction [60.67635412135682]
  スクリプトイベント予測のためのリッチイベント予測(REP)フレームワークを提案する。 REPは、テキストからそのような情報を抽出するイベント抽出器を含む。 予測器の中核となるコンポーネントは、任意の数の引数を柔軟に扱う変換器ベースのイベントエンコーダである。
  論文  参考訳（メタデータ） (2022-12-16T05:17:59Z)
• A Generative Approach for Script Event Prediction via Contrastive Fine-tuning [35.87615178251874]
  Scriptイベント予測は、コンテキストが与えられた後続のイベントを予測することを目的としている。 近年の研究では,事前学習言語モデルと外部知識の導入により,事象相関推論の改善が試みられている。 本稿では,事前学習した言語モデルをイベント中心の事前学習目的で微調整する,新しい生成手法を提案する。
  論文  参考訳（メタデータ） (2022-12-07T07:32:47Z)
• PILED: An Identify-and-Localize Framework for Few-Shot Event Detection [79.66042333016478]
  本研究では,事前学習した言語モデルから事象関連知識を引き出すために,クローゼプロンプトを用いた。 型固有のパラメータの数を最小化し、新しい型に対するイベント検出タスクに迅速に適応できるようにします。
  論文  参考訳（メタデータ） (2022-02-15T18:01:39Z)
• Integrating Deep Event-Level and Script-Level Information for Script Event Prediction [60.67635412135681]
  本稿では,MCPredictorと呼ばれるTransformerベースのモデルを提案する。 The experimental results on the wide-useed New York Times corpus showed the effectiveness and superiority of the proposed model。
  論文  参考訳（メタデータ） (2021-09-24T07:37:32Z)
• Unsupervised Label-aware Event Trigger and Argument Classification [73.86358632937372]
  まず,利用可能なツール(srlなど)でイベントを識別し,それを事前に定義されたイベントタイプに自動マップする,教師なしイベント抽出パイプラインを提案する。 事前訓練された言語モデルを利用して、イベントトリガと引数の両方の事前定義された型を文脈的に表現します。 我々は、トリガーの83%と引数の54%を正しい型にマッピングし、以前のゼロショットアプローチのパフォーマンスをほぼ倍にしました。
  論文  参考訳（メタデータ） (2020-12-30T17:47:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。