論文の概要: The Representational Geometry of Number

• arxiv url: http://arxiv.org/abs/2602.06843v1
• Date: Fri, 06 Feb 2026 16:35:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-09 22:18:26.483981
• Title: The Representational Geometry of Number
• Title（参考訳）: 数表現幾何学
• Authors: Zhimin Hu, Lanhao Niu, Sashank Varma,
• Abstract要約: 数値表現はタスク間の安定な関係構造を保っていることを示す。 タスク固有の表現は、分離可能な線形方向に沿ってエンコードされた等級のような低レベルな特徴を持つ、異なる部分空間に埋め込まれている。 このことは、タスク固有の変換が概念表現の共通基盤関係構造に適用されたときに、理解が生じることを示唆している。
• 参考スコア（独自算出の注目度）: 1.5994376682356057
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A central question in cognitive science is whether conceptual representations converge onto a shared manifold to support generalization, or diverge into orthogonal subspaces to minimize task interference. While prior work has discovered evidence for both, a mechanistic account of how these properties coexist and transform across tasks remains elusive. We propose that representational sharing lies not in the concepts themselves, but in the geometric relations between them. Using number concepts as a testbed and language models as high-dimensional computational substrates, we show that number representations preserve a stable relational structure across tasks. Task-specific representations are embedded in distinct subspaces, with low-level features like magnitude and parity encoded along separable linear directions. Crucially, we find that these subspaces are largely transformable into one another via linear mappings, indicating that representations share relational structure despite being located in distinct subspaces. Together, these results provide a mechanistic lens of how language models balance the shared structure of number representation with functional flexibility. It suggests that understanding arises when task-specific transformations are applied to a shared underlying relational structure of conceptual representations.
• Abstract（参考訳）: 認知科学における中心的な問題は、概念表現が一般化をサポートするために共有多様体に収束するか、あるいはタスク干渉を最小限に抑えるために直交部分空間に分岐するかである。 以前の研究で両者の証拠が発見されたが、これらの性質がどのように共存し、タスク間で変換されるかという力学的な説明は、いまだに解明されていない。 表現的共有は概念そのものではなく、それら間の幾何学的関係にあることを提案する。 数の概念をテストベッドとして、言語モデルを高次元計算基板として使用することにより、数表現がタスク間の安定な関係構造を保持することを示す。 タスク固有の表現は、分離可能な線形方向に沿ってエンコードされた等級やパリティのような低レベルの特徴を持つ異なる部分空間に埋め込まれる。 重要なことに、これらの部分空間は線型写像によって大きく変換可能であり、表現が異なる部分空間にあるにもかかわらず関係構造を共有することを示す。 これらの結果は、言語モデルが数表現の共有構造と機能的柔軟性のバランスをとる方法の力学レンズを提供する。 このことは、タスク固有の変換が概念表現の共通基盤関係構造に適用されたときに、理解が生じることを示唆している。

関連論文リスト

• Native Logical and Hierarchical Representations with Subspace Embeddings [25.274936769664098]
  線形部分空間として概念を埋め込むという新しいパラダイムを導入する。 交叉(接点)や線形和(接点)のような集合論的な操作を自然にサポートする 提案手法は,WordNet上での再構築とリンク予測の最先端化を実現する。
  論文  参考訳（メタデータ） (2025-08-21T18:29:17Z)
• The Origins of Representation Manifolds in Large Language Models [52.68554895844062]
  表現空間におけるコサイン類似性は、最短のオンマンフォールド経路を通して特徴の内在幾何学を符号化することができることを示す。 理論の臨界仮定と予測は、大きな言語モデルのテキスト埋め込みとトークンアクティベーションに基づいて検証される。
  論文  参考訳（メタデータ） (2025-05-23T13:31:22Z)
• Compositional Structures in Neural Embedding and Interaction Decompositions [101.40245125955306]
  ニューラルネットワークにおけるベクトル埋め込みにおける線形代数構造間の基本的な対応について述べる。 相互作用分解」の観点から構成構造の特徴づけを導入する。 モデルの表現の中にそのような構造が存在するためには、必要かつ十分な条件を確立する。
  論文  参考訳（メタデータ） (2024-07-12T02:39:50Z)
• Latent Functional Maps: a spectral framework for representation alignment [34.20582953800544]
  表現学習コミュニティに多目的フレームワークを導入し、(i)異なる空間を解釈可能な方法で比較し、その内在的類似性を測定すること、(ii)教師なしと弱教師付きの両方で対応性を見出すこと、(iii)異なる空間間の表現を効果的に伝達すること。 我々は, 縫合作業から検索作業, および複数のモダリティに至るまで, 様々なアプリケーションにおいて, フレームワークを検証し, 表現アライメントのためのスウィスアームナイフとして機能することを示す。
  論文  参考訳（メタデータ） (2024-06-20T10:43:28Z)
• Linear Spaces of Meanings: Compositional Structures in Vision-Language Models [110.00434385712786]
  事前学習された視覚言語モデル(VLM)からのデータ埋め込みにおける構成構造について検討する。 まず,幾何学的観点から構成構造を理解するための枠組みを提案する。 次に、これらの構造がVLM埋め込みの場合の確率論的に持つものを説明し、実際に発生する理由の直観を提供する。
  論文  参考訳（メタデータ） (2023-02-28T08:11:56Z)
• On Neural Architecture Inductive Biases for Relational Tasks [76.18938462270503]
  合成ネットワーク一般化(CoRelNet)と呼ばれる類似度分布スコアに基づく簡単なアーキテクチャを導入する。 単純なアーキテクチャの選択は、分布外一般化において既存のモデルより優れていることが分かる。
  論文  参考訳（メタデータ） (2022-06-09T16:24:01Z)
• Image Synthesis via Semantic Composition [74.68191130898805]
  本稿では,その意味的レイアウトに基づいて現実的なイメージを合成する新しい手法を提案する。 類似した外観を持つ物体に対して、類似した表現を共有するという仮説が立てられている。 本手法は, 空間的変化と関連表現の両方を生じる, 外観相関による領域間の依存関係を確立する。
  論文  参考訳（メタデータ） (2021-09-15T02:26:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。