論文の概要: Relation Before Entity: Deferred Commitment in Language Model Factual Recall

• arxiv url: http://arxiv.org/abs/2609.17537v1
• Date: Mon, 13 Jul 2026 22:34:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.54622
• Title: Relation Before Entity: Deferred Commitment in Language Model Factual Recall
• Title（参考訳）: エンティティ前のリレーション: 言語モデル Factual Recall におけるDeferred Commitment
• Abstract要約: 我々は、リコール中に、関係型情報(例えば、資本金)とエンティティ特化情報(例えば、フランスからパリ)が、最終トーケンポジションで因果的に活発になるかどうかを問う。 関係情報はエンティティ情報よりも先に生成制御される。
• 参考スコア（独自算出の注目度）: 4.79942825014286
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We ask whether relation-type information (e.g., capital-of) and entity-specific information (e.g., France to Paris) become causally active at the final-token position at the same depth during recall. Using four complementary causal diagnostics across four decoder-only models and eight prompt families, we find a robust temporal asymmetry: relation information becomes generation-controlling before entity information does. Relation onset precedes entity onset by 10-16 tested layers (31-44% of network depth) at threshold 0.4, with the ordering holding across all 16 model-threshold combinations for thresholds 0.2-0.5. Critically, entity information is not absent early: entity-token patching succeeds at 90-100% in early layers. Instead, entity commitment to generation is deferred: entity information is available at the entity-token position but becomes generation-controlling at the final token only after being routed there.
• Abstract（参考訳）: 我々は、リコール中の同じ深さで最終トーケン位置において、関係型情報(例えば、資本金)とエンティティ固有情報(例えば、フランス、パリ)が因果的に活発になるかどうかを問う。 4つのデコーダのみのモデルと8つのプロンプトファミリの4つの補完因果診断を用いて、関係情報がエンティティ情報よりも先に生成制御されるという頑健な時間的非対称性を見出した。 リレーショナル・オンセットは10-16層(ネットワーク深さの31-44%)をしきい値0.4で設定し、オーダリングはしきい値0.2-0.5の16モデル・閾値の組み合わせにまたがる。 重要な点として、エンティティ情報は早期に欠落していない。 エンティティ情報はエンティティトークンの位置で利用可能だが、そこにルーティングされた後にのみ、最終的なトークンで生成制御される。

関連論文リスト

• Symbolic Separation: Grounding Deep Agents in Knowledge Graphs for Trustworthy Operational Data Analytics [2.0731091158007318]
  Generative AIは、データセンターと産業用4.0インストールの巨大な数値テレメトリへの自然言語アクセスを約束する。 フロンティアモデルでさえ、現実世界のデータベースの質問の半分にしか答えない。 深層エージェントは、オントロジーに制約された仮想知識グラフを通してのみデータに作用する。
  論文  参考訳（メタデータ） (2026-09-15T12:38:43Z)
• Hidden APIs in Language Models: Discovering Reusable Causal Interfaces from Forked Futures [16.400856187081473]
  将来の操作はプレフィックス状態が形成された後にのみサンプリングされる。 これにより、研究者によって特定された潜伏ラベルを必要とせず、隠れた状態に対する経験的因果商が得られる。 結果は、試験された運転銀行内の経済的再利用可能な因果関係を支持する。
  論文  参考訳（メタデータ） (2026-07-30T03:10:24Z)
• Graph Feedback Controls Consensus and Clique Formation in Open-Weight Language-Model Populations [0.0]
  命名ゲームプロトコルを用いた1.1B-32BパラメータにまたがるオープンウェイトLM集団のコンベンション形成について検討した。 我々は、状態相似性グラフを構築し、サンプル-ラベル合意を潜在状態空間のコンセンサスから分離する。
  論文  参考訳（メタデータ） (2026-07-13T18:55:03Z)
• ACCORD: Action-Conditioned Contextual Grounding for Language Agents [69.73525608707764]
  ACCORD(Action-Conditioned Contextual Grounding)は、適応的なグラウンドのためのエージェントフレームワークである。 現状のエージェントは、しばしばそうすることができないことを示す。それらは、観察された特定の情報よりもむしろ仮定から行動し、収集した可能性のある情報を見落とし、既に返された証拠を組み込むことに失敗する。
  論文  参考訳（メタデータ） (2026-06-15T09:05:55Z)
• Ask Early, Ask Late, Ask Right: When Does Clarification Timing Matter for Long-Horizon Agents? [0.7199239000118145]
  本稿では,エージェントの軌道の制御点における接地真実の明確化を提供する強制注入フレームワークを提案する。 明確化の価値は、どの情報が欠落しているかに大きく依存している。 300のセッションを補完する研究により、現在のフロンティアモデルは経験的に最適なウィンドウ内では問わないことが明らかになった。
  論文  参考訳（メタデータ） (2026-05-08T16:08:03Z)
• Slot Machines: How LLMs Keep Track of Multiple Entities [2.0442903086711017]
  複数のエンティティがトークンの位置にまたがってどのように表現され、単一のトークンが複数のエンティティに対するバインディングを持てるかを検討する。 本研究では,「電流エンティリティ」と「一次エンティリティ」のスロットの機能的役割を分析し,それらが異なる目的を果たすことを明らかにする。
  論文  参考訳（メタデータ） (2026-04-22T23:00:49Z)
• TempEL: Linking Dynamically Evolving and Newly Emerging Entities [50.980331847622026]
  進化を続ける世界では、エンティティは時間とともに変化し、これまで存在していなかった、あるいは未知の、新しいエンティティが現れます。 本研究では,この進化シナリオが,十分に確立されたエンティティリンク(EL)タスクの性能に与える影響について検討する。 我々は,2013年から2022年までの英語ウィキペディアスナップショットからなるエンティティリンクデータセットであるTempELを紹介した。
  論文  参考訳（メタデータ） (2023-02-05T22:34:36Z)
• Grounded Keys-to-Text Generation: Towards Factual Open-Ended Generation [92.1582872870226]
  そこで我々は,新しい接地型キー・ツー・テキスト生成タスクを提案する。 タスクは、ガイドキーと接地パスのセットが与えられたエンティティに関する事実記述を生成することである。 近年のQAに基づく評価手法に着想を得て,生成した記述の事実的正当性を示す自動計量MAFEを提案する。
  論文  参考訳（メタデータ） (2022-12-04T23:59:41Z)
• Knowledge-Rich Self-Supervised Entity Linking [58.838404666183656]
  Knowledge-RIch Self-Supervision(KRISSBERT$)は400万のUMLSエンティティのためのユニバーサルエンティティリンカーである。 提案手法はゼロショット法と少数ショット法を仮定し,利用可能であればエンティティ記述やゴールドレファレンスラベルを簡単に組み込むことができる。 ラベル付き情報を一切使わずに400万のUMLSエンティティのためのユニバーサルエンティティリンカである$tt KRISSBERT$を生成する。
  論文  参考訳（メタデータ） (2021-12-15T05:05:12Z)
• MobIE: A German Dataset for Named Entity Recognition, Entity Linking and Relation Extraction in the Mobility Domain [76.21775236904185]
  データセットは3,232のソーシャルメディアテキストと91Kトークンによるトラフィックレポートで構成され、20.5Kアノテーション付きエンティティを含んでいる。 データセットのサブセットには,7つのモビリティ関連,n-ary関係型がアノテートされている。 私たちの知る限りでは、NER、EL、REのアノテーションを組み合わせた最初のドイツ語データセットです。
  論文  参考訳（メタデータ） (2021-08-16T08:21:50Z)
• Autoregressive Entity Retrieval [55.38027440347138]
  エンティティは、知識の表現と集約の方法の中心にあります。 クエリが与えられたエンティティを検索できることは、エンティティリンクやオープンドメインの質問応答のような知識集約的なタスクに基本となる。 本稿では,自己回帰方式でトークン・バイ・トークンを左から右に生成し,エンティティを検索する最初のシステムであるGENREを提案する。
  論文  参考訳（メタデータ） (2020-10-02T10:13:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。