論文の概要: Cognitive Map in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.25596v1
• Date: Mon, 19 Oct 2026 00:02:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 13:14:20.216246
• Title: Cognitive Map in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける認知地図
• Abstract要約: 動物は、新しい環境で柔軟な行動を支援するために認知地図を構築することが長年提案されてきた。 我々は、関係推論タスクと因果的「モザイク実験」を用いて、大きな言語モデルが類似表現を形成するかどうかを検証した。 本研究は,言語モデルが限られた情報で理由づけを行う方法を説明する認知地図に類似した内部組織を明らかにした。
• 参考スコア（独自算出の注目度）: 6.498094076867911
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: It has long been proposed that animals construct cognitive maps to support flexible behavior in novel environments. We tested whether large language models form similar representations using relational reasoning tasks and causal "mosaic experiments" that manipulate internal activations in open-weight language models. Models beyond the ten-billion-parameter scale successfully inferred unstated relationships between entities and generalized to synthetic entity names. Across model and task families, models generated abstract representations of relational structure and combined them additively with representations of entity identity, binding entities to roles within that structure. Models stored observed relationships as pairwise links that they composed retrospectively when queried, rather than prospectively positioning each entity in a global coordinate system. Binding was mediated by a sparse, distributed set of key--value pairs; by perturbing these pairs, we implanted "false memories" that altered model behavior in predictable ways. Overall, our findings reveal an internal organization analogous to a cognitive map that explains how language models reason with limited information.
• Abstract（参考訳）: 動物は、新しい環境で柔軟な行動を支援するために認知地図を構築することが長年提案されてきた。 我々は,大規模言語モデルが関係推論タスクと,オープンウェイト言語モデルの内部アクティベーションを操作する因果的「モザイク実験」を用いて類似表現を形成するかどうかを検証した。 10ビリオンパラメータスケールを超えるモデルは、エンティティ間の非統計関係を推論し、合成エンティティ名に一般化した。 モデルとタスクファミリ全体で、モデルが関係構造の抽象的な表現を生成し、それらを付加的にエンティティアイデンティティの表現と組み合わせ、その構造内の役割にエンティティを結合する。 モデルは、グローバルな座標系において各エンティティを前向きに配置するのではなく、クエリ時に振り返って構成したペアワイズリンクとして、観測された関係を格納した。 これらのペアを摂動させることで、モデル動作を予測可能な方法で変化させる「偽記憶」を埋め込んだ。 全体としては、言語モデルが限られた情報で理由づける理由を説明する認知地図に類似した内部組織を明らかにした。

関連論文リスト

• Relational Structural Causal Models [52.818153111470394]
  我々は、関係構造因果モデルを開発し、対象とその関係が変化する設定まで構造因果モデルを拡張した。 シミュレーションされた交通シーンにおいて,非関係性ベースラインよりも高い精度で再現可能なモデルであるリレーショナルニューラル因果モデルを提案する。
  論文  参考訳（メタデータ） (2026-06-12T18:54:06Z)
• Unsupervised Learning of Inter-Object Relationships via Group Homomorphism [3.8731899020772165]
  本研究では,グループ操作における階層的関係に基づく教師なし表現学習手法を提案する。 実験により,モデルが複数のオブジェクトを個別のスロットに分割できることを示す。 結果は、代数的幾何学的制約を導入することにより、物理的に解釈可能な「異方表現」が得られることを示唆している。
  論文  参考訳（メタデータ） (2026-04-22T07:17:00Z)
• Learning Human-Object Interaction as Groups [52.28258599873394]
  GroupHOIは、幾何学的近接性および意味的類似性の観点から文脈情報を伝播するフレームワークである。 これは、より困難な非言語間相互作用検出タスクにおいて、主要なパフォーマンスを示す。
  論文  参考訳（メタデータ） (2025-10-21T07:25:10Z)
• Corpus Considerations for Annotator Modeling and Scaling [9.263562546969695]
  一般的に使われているユーザトークンモデルは、より複雑なモデルよりも一貫して優れています。 以上の結果から,コーパス統計とアノテータモデリング性能の関係が明らかになった。
  論文  参考訳（メタデータ） (2024-04-02T22:27:24Z)
• Using Shapley interactions to understand how models use structure [9.93791871599425]
  我々は、Shapley Taylorインタラクション指標(STII)を用いて、言語モデルと音声モデルが内部的にどのように関係し、その入力を構造化するかを調べる。 モデル内の相互作用パターンを,構文構造,非構成的意味論,音声的協調という3つの基礎的言語構造に関連付ける。
  論文  参考訳（メタデータ） (2024-03-19T19:13:22Z)
• Discrete, compositional, and symbolic representations through attractor dynamics [51.20712945239422]
  我々は,思考の確率的言語(PLoT)に似た認知過程をモデル化するために,アトラクタダイナミクスを記号表現と統合した新しいニューラルシステムモデルを導入する。 我々のモデルは、連続表現空間を、事前定義されたプリミティブに頼るのではなく、教師なし学習を通じて、記号系の意味性と構成性の特徴を反映する、記号列に対応する引き付け状態を持つ離散盆地に分割する。 このアプローチは、認知操作の複雑な双対性を反映したより包括的なモデルを提供する、AIにおける表現力の証明された神経弁別可能な基質であるニューラルダイナミクスを通じて、シンボル処理とサブシンボル処理の両方を統合する統一的なフレームワークを確立する。
  論文  参考訳（メタデータ） (2023-10-03T05:40:56Z)
• Representing Knowledge by Spans: A Knowledge-Enhanced Model for Information Extraction [7.077412533545456]
  本稿では,エンティティとリレーションの両方の表現を同時に学習する事前学習モデルを提案する。 スパンをスパンモジュールで効率的に符号化することで、私たちのモデルはエンティティとそれらの関係を表現できますが、既存のモデルよりもパラメータが少なくなります。
  論文  参考訳（メタデータ） (2022-08-20T07:32:25Z)
• Sparse Relational Reasoning with Object-Centric Representations [78.83747601814669]
  対象中心表現の操作において,リレーショナルニューラルアーキテクチャによって学習されたソフトルールの構成可能性について検討する。 特に特徴量の増加は,いくつかのモデルの性能を向上し,より単純な関係をもたらすことが判明した。
  論文  参考訳（メタデータ） (2022-07-15T14:57:33Z)
• Unified Graph Structured Models for Video Understanding [93.72081456202672]
  リレーショナル・テンポラル関係を明示的にモデル化するメッセージパッシンググラフニューラルネットワークを提案する。 本手法は,シーン内の関連エンティティ間の関係をより効果的にモデル化できることを示す。
  論文  参考訳（メタデータ） (2021-03-29T14:37:35Z)
• Neural Production Systems [90.75211413357577]
  視覚環境は、異なるオブジェクトまたはエンティティから構成される。 イメージをエンティティに分割するために、ディープラーニング研究者は構造的誘導バイアスを提案した。 私たちは認知科学からインスピレーションを得て、一連のルールテンプレートからなる古典的なアプローチを復活させます。 このアーキテクチャは柔軟でダイナミックな制御フローを実現し、エンティティ固有およびルールベースの情報を分解するのに役立つ。
  論文  参考訳（メタデータ） (2021-03-02T18:53:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。