論文の概要: Toward a Functional Geometric Algebra for Natural Language Semantics
- arxiv url: http://arxiv.org/abs/2604.25902v1
- Date: Tue, 28 Apr 2026 17:47:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-29 16:49:17.982481
- Title: Toward a Functional Geometric Algebra for Natural Language Semantics
- Title(参考訳): 自然言語セマンティックスのための機能的幾何学的代数を目指して
- Authors: James Pustejovsky,
- Abstract要約: 私は幾何学代数が意味表現の数学的に優れた基礎を提供すると論じる。
私は形式的基礎を開発し、GAが提供する3つのコア機能を特定し、線形代数は提供しない。
私は、現在のトランスフォーマーアーキテクチャですでに暗黙的にGAベースの操作を明示的かつ拡張できることを示します。
- 参考スコア(独自算出の注目度): 4.219950401172951
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Distributional and neural approaches to natural language semantics have been built almost exclusively on conventional linear algebra: vectors, matrices, tensors, and the operations that accompany them. These methods have achieved remarkable empirical success, yet they face persistent structural limitations in compositional semantics, type sensitivity, and interpretability. I argue in this paper that geometric algebra (GA) -- specifically, Clifford algebras -- provides a mathematically superior foundation for semantic representation, and that a Functional Geometric Algebra (FGA) framework extends GA toward a typed, compositional semantics capable of supporting inference, transformation, and interpretability while retaining full compatibility with distributional learning and modern neural architectures. I develop the formal foundations, identify three core capabilities that GA provides and linear algebra does not, present a detailed worked example illustrating operator-level semantic contrasts, and show how GA-based operations already implicit in current transformer architectures can be made explicit and extended. The central claim is not merely increased dimensionality but increased structural organization: GA expands an $n$-dimensional embedding space into a $2^n$ multivector algebra where base semantic concepts and their higher-order interactions are represented within a single, principled algebraic framework.
- Abstract(参考訳): 自然言語のセマンティクスに対する分布的およびニューラルなアプローチは、ベクトル、行列、テンソル、それに付随する演算など、ほとんど伝統的な線形代数に基づいて構築されている。
これらの手法は顕著な経験的成功を達成しているが、構成的意味論、型感度、解釈可能性の持続的な構造的制限に直面している。
この論文では、幾何学代数(特にクリフォード代数)が意味表現の数学的に優れた基礎を提供し、関数幾何学代数(FGA)フレームワークは、分散学習や現代のニューラルアーキテクチャとの完全な互換性を維持しつつ、推論、変換、解釈性をサポートすることができる、型付けされた構成的意味論へとGAを拡張していると論じます。
GAが提供し、線形代数が提供しない3つのコア機能を特定し、演算子レベルのセマンティックコントラストを示す詳細な例を示し、GAベースの操作が現在のトランスフォーマーアーキテクチャですでに暗黙的に行われ、拡張可能であることを示す。
GA は$n$次元の埋め込み空間を 2^n$ の多ベクトル代数に拡張し、基底的意味論の概念とその高次の相互作用は1つの原理化された代数的フレームワーク内で表現される。
関連論文リスト
- Grokking Finite-Dimensional Algebra [5.471648649900293]
グラッキングとは、長い記憶から、ニューラルネットワークのトレーニング中に観察される一般化への突然の移行を指す。
モデルが代数的要素の離散表現を学習しなければならないため、グラッキングが自然に現れることを示す。
論文 参考訳(メタデータ) (2026-02-23T05:55:52Z) - Multiary gradings [0.0]
本稿では,多元群による階調の概念を導入し,代数演算と階調群演算との互換性条件について検討する。
この理論は、高次パワーグレーディングの存在やアリティ整合性に関する非自明な制約など、二項体に存在しない根本的に新しい現象を明らかにしている。
論文 参考訳(メタデータ) (2026-01-16T19:44:27Z) - An Algebraic Representation Theorem for Linear GENEOs in Geometric Machine Learning [1.3425748364842416]
群同変非拡張作用素 (genEOs) は対称性を符号化する強力な作用素のクラスとして登場した。
異なる知覚対の間に作用する線形なgenEOに対する新しい表現定理を導入する。
また、線型genEOsの空間のコンパクト性と凸性も証明する。
論文 参考訳(メタデータ) (2026-01-07T13:21:44Z) - On Counts and Densities of Homogeneous Bent Functions: An Evolutionary Approach [60.00535100780336]
本稿では, 等質屈曲ブール関数の進化における進化的アルゴリズム(EA)の利用について検討する。
等質な曲がり関数の密度の概念を導入し、異なる変数数の2次および3次曲がり関数を見つけるアルゴリズム設計を容易にする。
論文 参考訳(メタデータ) (2025-11-16T15:33:40Z) - Why Neural Network Can Discover Symbolic Structures with Gradient-based Training: An Algebraic and Geometric Foundation for Neurosymbolic Reasoning [73.18052192964349]
我々は、連続的なニューラルネットワークトレーニングのダイナミックスから、離散的なシンボル構造が自然に現れるかを説明する理論的枠組みを開発する。
ニューラルパラメータを測度空間に上げ、ワッサーシュタイン勾配流としてモデル化することにより、幾何的制約の下では、パラメータ測度 $mu_t$ が2つの同時現象となることを示す。
論文 参考訳(メタデータ) (2025-06-26T22:40:30Z) - Directional Non-Commutative Monoidal Structures for Compositional Embeddings in Machine Learning [0.0]
指向性非可換モノイド作用素上に構築された合成埋め込みのための新しい構造を導入する。
我々の構成では、各軸 i に対して異なる合成演算子 circ_i を定義し、大域的な可換性を与えることなく、各軸に沿って連想結合を保証する。
すべての軸特異作用素は互いに可換であり、一貫した交叉軸合成を可能にする大域的交換法則を強制する。
論文 参考訳(メタデータ) (2025-05-21T13:27:14Z) - Algebras of actions in an agent's representations of the world [46.74201905814679]
我々は、対称性に基づく非交叉表現学習形式から対称性に基づく表現を再現するために、我々のフレームワークを使用する。
次に、簡単な強化学習シナリオで発生する特徴を持つ世界の変換の代数について研究する。
私たちが開発した計算手法を用いて、これらの世界の変換の代数を抽出し、それらの性質に応じてそれらを分類する。
論文 参考訳(メタデータ) (2023-10-02T18:24:51Z) - Learning Algebraic Representation for Systematic Generalization in
Abstract Reasoning [109.21780441933164]
推論における体系的一般化を改善するためのハイブリッドアプローチを提案する。
我々はRaven's Progressive Matrices (RPM) の抽象的空間時間課題に対する代数的表現を用いたプロトタイプを紹介する。
得られた代数的表現は同型によって復号化して解を生成することができることを示す。
論文 参考訳(メタデータ) (2021-11-25T09:56:30Z) - Learning Algebraic Recombination for Compositional Generalization [71.78771157219428]
合成一般化のための代数的組換え学習のためのエンドツーエンドニューラルモデルLeARを提案する。
主要な洞察は、意味解析タスクを潜在構文代数学と意味代数学の間の準同型としてモデル化することである。
2つの現実的・包括的構成一般化の実験は、我々のモデルの有効性を実証している。
論文 参考訳(メタデータ) (2021-07-14T07:23:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。