論文の概要: From the Transformer to a Formal Semantics of Coordinated Transformations

• arxiv url: http://arxiv.org/abs/2610.39735v1
• Date: Thu, 29 Oct 2026 10:00:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:10.073275
• Title: From the Transformer to a Formal Semantics of Coordinated Transformations
• Title（参考訳）: 変換器からコーディネート変換の形式的意味論へ
• Abstract要約: 我々はパラメータ化変換の座標系のクラスに対する形式的意味論を開発する。 我々はこれらのシステムの共通代数-意味核を、アーキテクチャ固有の機能組織と区別する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We develop a formal semantics for a general class of coordinated systems of parameterized transformations, taking the Transformer as a paradigmatic starting point but abstracting from its particular mathematical instantiation. Representational vectors receive both extensional reference and ordered intensional interpretations, while parameter structures acquire relative, second-level interpretations that determine how argument properties are preserved, replaced, or combined. This yields the notion of a transforming concept: a parameterized transformation whose numerical action is coordinated with a corresponding property-level map. We then distinguish the common algebraic-semantic core of these systems from their architecture-specific functional organization, allowing different mathematical instantiations and mechanical realizations of the same abstract system type. The framework is applied to attention heads and residual connections, providing semantic explanations that depend only on the shared algebraic-semantic core and their local functional organization and therefore generalize beyond the standard Transformer. These analyses also reveal the modularity of the framework: complex architectures can be decomposed into simpler semantically coordinated subsystems whose organization may recur across different abstract system types.
• Abstract（参考訳）: 我々は、パラメータ化変換の一般的なクラスに対する形式的意味論を開発し、Transformerをパラダイム的な出発点とするが、その特定の数学的インスタンス化から抽象化する。 表現ベクトルは拡張的参照と順序的インテンショナル解釈の両方を受け取り、パラメータ構造は相対的、第二レベルの解釈を取得し、引数の性質の保存、置換、組み合わせを決定する。 これは変換の概念、つまり、数値的な作用が対応する特性レベル写像と座標されるパラメータ化変換の概念をもたらす。 次に、これらのシステムの共通代数的セマンティックコアをアーキテクチャ固有の機能組織と区別し、同じ抽象系型の数学的インスタンス化と機械的実現を可能にする。 このフレームワークはアテンションヘッドと残差接続に適用され、共有代数-セマンティックコアとそれらの局所関数構造にのみ依存する意味的説明を提供し、したがって標準変換器を超えて一般化される。 これらの分析は、フレームワークのモジュラリティも明らかにしている: 複雑なアーキテクチャは、組織が異なる抽象システムタイプにまたがって再帰する、より単純な意味的に調整されたサブシステムに分解することができる。

関連論文リスト

• The Geometry of Meaning in Neural Manifolds [6.881690376987348]
  この論文は、意味対応は非互換なパラメータ化の下にある共有幾何学構造を明らかにする原始的原始的であることを示している。 この原則に基づいて、14のコントリビューションがゼロショットモデル縫合、クロスモーダル翻訳、ポリシー転送、アクティベーションステアリング、ニューラルデコーディングを横断する対応ベースのアライメントを探求している。
  論文  参考訳（メタデータ） (2026-10-22T08:56:55Z)
• Structure Transfer: an Inference-Based Calculus for the Transformation of Representations [20.889971883203113]
  主要な未解決問題は、表現変換と選択を駆動する表現システム技術をどのように考案するかである。 本稿では,多種多様RS間の表現変換を可能にする構造伝達という新しい計算法を提案する。
  論文  参考訳（メタデータ） (2025-09-03T12:07:23Z)
• Directional Non-Commutative Monoidal Structures with Interchange Law via Commutative Generators [0.0]
  一次元モノイド系を高次元に一般化する代数構造群を導入する。 本稿では,信号処理とデータ解析において,よく知られた線形変換を統一するフレームワークについて述べる。
  論文  参考訳（メタデータ） (2025-05-30T12:40:01Z)
• Learning Syntax Without Planting Trees: Understanding Hierarchical Generalization in Transformers [74.96551626420188]
  自然言語データに基づいて訓練されたトランスフォーマーは、その階層構造を学習し、目に見えない構文構造を持つ文に一般化することが示されている。 本研究では,変圧器モデルにおける帰納バイアスの発生源と,そのような一般化行動を引き起こす可能性のあるトレーニングについて検討する。
  論文  参考訳（メタデータ） (2024-04-25T07:10:29Z)
• Algebras of actions in an agent's representations of the world [46.74201905814679]
  我々は、対称性に基づく非交叉表現学習形式から対称性に基づく表現を再現するために、我々のフレームワークを使用する。 次に、簡単な強化学習シナリオで発生する特徴を持つ世界の変換の代数について研究する。 私たちが開発した計算手法を用いて、これらの世界の変換の代数を抽出し、それらの性質に応じてそれらを分類する。
  論文  参考訳（メタデータ） (2023-10-02T18:24:51Z)
• Representational Systems Theory: A Unified Approach to Encoding, Analysing and Transforming Representations [3.1252164619375473]
  表現システム理論(Representational Systems Theory)は、3つのコアの観点から様々な表現を符号化するように設計されている。 ある系における表現を別の系における表現に構造的に変換することができる。
  論文  参考訳（メタデータ） (2022-06-07T10:43:27Z)
• Frame Averaging for Equivariant Shape Space Learning [85.42901997467754]
  形状空間学習に対称性を組み込む自然な方法は、形状空間(エンコーダ)への写像と形状空間(デコーダ)からの写像が関連する対称性に同値であることを問うことである。 本稿では,2つのコントリビューションを導入することで,エンコーダとデコーダの等価性を組み込む枠組みを提案する。
  論文  参考訳（メタデータ） (2021-12-03T06:41:19Z)
• Unsupervised Distillation of Syntactic Information from Contextualized Word Representations [62.230491683411536]
  我々は,ニューラルネットワーク表現における意味論と構造学の非教師なしの絡み合いの課題に取り組む。 この目的のために、構造的に類似しているが意味的に異なる文群を自動的に生成する。 我々は、我々の変換クラスタベクトルが、語彙的意味論ではなく構造的特性によって空間に現れることを実証する。
  論文  参考訳（メタデータ） (2020-10-11T15:13:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。