論文の概要: Tracing How Language Models Integrate Temporal Anchors into Factual Recall

• arxiv url: http://arxiv.org/abs/2611.01945v1
• Date: Sun, 01 Nov 2026 14:26:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.511358
• Title: Tracing How Language Models Integrate Temporal Anchors into Factual Recall
• Title（参考訳）: 言語モデルがテンポラルアンカーをファクチュアルリコールにどのように統合するかの追跡
• Abstract要約: モデルが明示的な条件式であるアンカーを受信し、その下で有効なオブジェクトを選択する必要がある。 これは、アンカーが計算に入る場所、何が変わるか、その変更がどのように答えを選択するかという、シングルオブジェクトのリコールがしない質問を提起する。 これにより、単一の格納されたオブジェクトからコンテキスト依存の代替物を選択するまでの、事実上のリコールのメカニスティックな説明が再作成される。
• 参考スコア（独自算出の注目度）: 36.132604941647976
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Factual recall in language models is typically framed as retrieving a factual association: a subject--relation pair maps to a single object. However, many facts are context-dependent: the same pair maps to different objects depending on a condition such as time. We introduce anchored factual recall, in which the model receives an explicit conditioning expression, an anchor, and must select the object valid under it. This raises questions that single-object recall does not: where the anchor enters the computation, what it changes, and how that change selects the answer. Focusing on temporal anchors, we answer them with causal interventions on four open-weight models on English prompts and identify two routes. In a subject-mediated route, the anchor resolves the final subject-token representation to the queried year, and the relation redistributes the readout of this state across attention heads. In a direct route] the final position attends to the anchor, and upper-layer MLPs turn this signal into a preference for the time-appropriate object. The two routes are parallel channels: their contributions add up, most queries use both, and their balance depends on the query, e.g., on the relation, consistently across models. This reframes mechanistic accounts of factual recall from retrieving a single stored object to selecting among context-dependent alternatives.
• Abstract（参考訳）: 言語モデルにおけるファクチュアルリコールは、典型的にはファクチュアル・アソシエーション(ファクチュアル・アソシエーション)である:主語関係のペアが単一のオブジェクトにマップされる。 しかし、多くの事実は文脈に依存しており、同じペアは時間などの条件によって異なるオブジェクトにマップされる。 モデルが明示的な条件式であるアンカーを受信し、その下で有効なオブジェクトを選択する必要がある。 これは、アンカーが計算に入る場所、何が変わるか、その変更がどのように答えを選択するかという、シングルオブジェクトのリコールがしない質問を提起する。 時間的アンカーに着目して、英語のプロンプトで4つのオープンウェイトモデルに因果的介入を行い、2つのルートを特定する。 被写体媒介経路において、アンカーは、最終被写体表現をクエリされた年に分解し、その関係が注意頭を通してこの状態の読み出しを再分配する。 直接経路] 最終位置はアンカーに付随し、上位層MLPは、この信号を時間に適したオブジェクトの好みに変換する。 2つのルートは並列チャネルである – コントリビューションが加算され、ほとんどのクエリが両方が使用される。 これにより、単一の格納されたオブジェクトからコンテキスト依存の代替物を選択するまでの、事実上のリコールのメカニスティックな説明が再作成される。

関連論文リスト

• Rethinking Retrieval in the Long-Context Era: Training-Free Semantic Trees for Adaptive Context Construction [48.93999682633773]
  私たちのフレームワークは、セマンティックな抽象化を使用して、回答する元のテキストを保持しながら選択をガイドする、トレーニング不要のフレームワークです。 我々のQA-F1の平均値は3つのLongBenchタスクに対して1.72ポイント向上し、4モデル平均で評価されたベースラインを越え、回答コンテキストの長さを58.55%削減した。
  論文  参考訳（メタデータ） (2026-10-25T08:28:39Z)
• Factual Access States in Diffusion Language Models: From Mechanism to Knowledge Editing and Retrieval [31.37835690621508]
  これを事実上のアクセス状態と呼びます。 自己回帰モデル(AR)では、主観的位置は関係とは独立に属性を豊かにする。 マスク付き拡散言語モデルでは、状態は異なる方法で組み立てられる。
  論文  参考訳（メタデータ） (2026-10-20T03:45:45Z)
• From Retrieval to Reconstruction: Constructing Evolvable Cognitive Memory for Long-Term Dialogue [26.55659923054542]
  PEC$2$F(Person-Event-Concept-Claim-Fact)グラフスキーマに基づく認知メモリアーキテクチャであるCogMemを紹介する。 クレームノードは主観的ステートメントのソースとターゲットを保持し、FactノードとEventノードはセマンティックとエピソードの知識を表す。 LoCoMoとLongMemEvalの実験は、特にマルチホップ、時間、知識更新タスクにおいて、強いパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-10-08T06:21:45Z)
• Do LiDAR Language Models Really Understand Spatio-temporal Relationships? [62.56505727364142]
  ベンチマークと診断プロトコルであるLiDAR-Halluを150 nusのシーンで紹介する。 提案プロトコルは,固定回答と候補コンテンツ制御,クロスシーンペアを同一のプロンプトで組み合わせるが,参照応答は逆で,リレーショナルなリコールを行う。 記録された10万の応答の分析は、集合的空間精度によって隠された失敗を明らかにする。
  論文  参考訳（メタデータ） (2026-09-21T11:59:07Z)
• TRACE: State-Aware Query Processing over Temporal Evidence Graphs for Conversational Data [15.389000154441986]
  本稿では,時間的エビデンスグラフ上の問合せ処理フレームワークTRACEについて述べる。 TRACEは、イベント、セッション、トピックにまたがる階層的なグラフとして会話をモデル化する。 問合せ時に、TRACEは、ベクトルベースのノート検索とグラフ誘導エビデンス検索を組み合わせることで、妥当性を意識したサポートパスと、回答生成のためのハイブリッドコンテキストを生成する。
  論文  参考訳（メタデータ） (2026-07-01T02:28:47Z)
• Video Referring Expression Comprehension via Transformer with Content-conditioned Query [68.06199031102526]
  ビデオ参照表現(REC)は、検索された自然言語に基づいて対象物をビデオにローカライズすることを目的としている。 ビデオRECの最近の改良は、学習可能なクエリを持つTransformerベースの手法を用いてなされている。
  論文  参考訳（メタデータ） (2023-10-25T06:38:42Z)
• More than Classification: A Unified Framework for Event Temporal Relation Extraction [61.44799147458621]
  イベント時間関係抽出(ETRE)は通常、マルチラベル分類タスクとして定式化される。 イベントの開始点と終了点を使ってすべての関係を解釈できることを観察する。 本稿では,時間関係を時間点の論理的表現に変換するイベント時間関係抽出フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-28T02:09:08Z)
• Query Resolution for Conversational Search with Limited Supervision [63.131221660019776]
  本稿では,双方向トランスフォーマに基づくニューラルクエリ解決モデルQuReTeCを提案する。 我々はQuReTeCが最先端モデルより優れており、また、QuReTeCのトレーニングに必要な人為的なデータ量を大幅に削減するために、我々の遠隔監視手法が有効であることを示す。
  論文  参考訳（メタデータ） (2020-05-24T11:37:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。