論文の概要: Weaves, Wires, and Morphisms: Formalizing and Implementing the Algebra of Deep Learning
- arxiv url: http://arxiv.org/abs/2604.07242v1
- Date: Wed, 08 Apr 2026 16:07:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-09 17:30:51.625622
- Title: Weaves, Wires, and Morphisms: Formalizing and Implementing the Algebra of Deep Learning
- Title（参考訳）: ウィービング、ワイヤー、モルフィズム:ディープラーニングの代数の形式化と実装
- Authors: Vincent Abbott, Gioele Zardini,
- Abstract要約: アドホック表記、ダイアグラム、擬似コードは、非線形放送と個々のコンポーネントと合成モデルの関係をうまく扱えない。
本稿では,新しい軸列とアレイブロードキャストのカテゴリを通しての放送を形式化する,ディープラーニングモデルのための分類的枠組みを提案する。
- 参考スコア（独自算出の注目度）: 0.42970700836450487
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite deep learning models running well-defined mathematical functions, we lack a formal mathematical framework for describing model architectures. Ad-hoc notation, diagrams, and pseudocode poorly handle nonlinear broadcasting and the relationship between individual components and composed models. This paper introduces a categorical framework for deep learning models that formalizes broadcasting through the novel axis-stride and array-broadcasted categories. This allows the mathematical function underlying architectures to be precisely expressed and manipulated in a compositional manner. These mathematical definitions are translated into human manageable diagrams and machine manageable data structures. We provide a mirrored implementation in Python (pyncd) and TypeScript (tsncd) to show the universal aspect of our framework, along with features including algebraic construction, graph conversion, PyTorch compilation and diagram rendering. This lays the foundation for a systematic, formal approach to deep learning model design and analysis.
- Abstract（参考訳）: 明確に定義された数学的機能を実行する深層学習モデルにもかかわらず、モデルアーキテクチャを記述するための形式的な数学的枠組みは欠如している。
アドホック表記、ダイアグラム、擬似コードは、非線形放送と個々のコンポーネントと合成モデルの関係をうまく扱えない。
本稿では,新しい軸列とアレイブロードキャストのカテゴリを通しての放送を形式化するディープラーニングモデルの分類的枠組みを提案する。
これにより、基礎となるアーキテクチャの数学的関数を正確に表現し、構成的に操作することができる。
これらの数学的定義は、人間の管理可能な図やマシン管理可能なデータ構造に変換される。
Python(pyncd)とTypeScript(tsncd)でミラー化された実装を提供し、代数的構成、グラフ変換、PyTorchコンパイル、ダイアグラムレンダリングといった機能とともに、フレームワークの普遍的な側面を示しています。
このことは、ディープラーニングモデルの設計と分析に対する体系的で形式的なアプローチの基礎を築いた。
関連論文リスト
- Riemannian Geometry Speaks Louder Than Words: From Graph Foundation Model to Next-Generation Graph Intelligence [51.30336200738606]
グラフ基礎モデル(GFM)がグラフ学習に不可欠であるという強い合意がある。
LLM(Large Language Models)に類似した強力で汎用的なGFMを構築する方法については、かなりの意見の相違が続いている。
論文 参考訳（メタデータ） (2026-03-23T05:49:19Z) - Probabilistic Graphical Models: A Concise Tutorial [67.95025153592505]
確率的グラフィカルモデリングは、確率分布を用いて世界を記述する機械学習の分野である。
このチュートリアルは、このモデリングフレームワークのフォーマリズム、メソッド、および応用に関する簡潔な紹介を提供する。
論文 参考訳（メタデータ） (2025-07-23T01:36:44Z) - Scaling Laws and Representation Learning in Simple Hierarchical Languages: Transformers vs. Convolutional Architectures [49.19753720526998]
合成データセット上でのニューラルネットワーク性能に関する理論的スケーリング法則を導出する。
局所性と重み共有によって生成過程の構造が整った畳み込みネットワークは、性能の高速化を享受できることを示す。
この発見は、ニューラルネットワークのスケーリング法則に基づくアーキテクチャ上のバイアスを明らかにし、モデルアーキテクチャとデータの統計的性質の間の相互作用によって表現学習がどのように形成されるかを強調している。
論文 参考訳（メタデータ） (2025-05-11T17:44:14Z) - Thinking like a CHEMIST: Combined Heterogeneous Embedding Model Integrating Structure and Tokens [42.203344899915464]
本稿では,分子をサブ構造に分解し,これらの断片に対する記述子に基づく表現を計算する新しい手法を提案する。
このサブストラクタと記述子データを言語モデルの入力として使用し、また、この言語モデルとグラフベースのモデルを統合するバイモーダルアーキテクチャを提案する。
論文 参考訳（メタデータ） (2025-02-25T08:53:18Z) - DiagrammaticLearning: A Graphical Language for Compositional Training Regimes [39.26058251942536]
学習図は、コンポーネントモデルがトレーニングされたユニークな損失関数にコンパイルされる。
一般的な学習環境を学習ダイアグラムとして表現できることを示す。
論文 参考訳（メタデータ） (2025-01-02T19:44:36Z) - Connector 0.5: A unified framework for graph representation learning [5.398580049917152]
本稿では,浅層から最先端まで,様々なグラフ埋め込みモデルをカバーする新しいグラフ表現フレームワークを提案する。
我々は,グラフの構造的関係を表現するためのディープグラフ埋め込みモデルを提供する,効率的なオープンソースフレームワークを構築する計画である。
論文 参考訳（メタデータ） (2023-04-25T23:28:38Z) - OntoMath${}^{\mathbf{PRO}}$ 2.0 Ontology: Updates of the Formal Model [68.8204255655161]
主な関心は、Open Linked Dataクラウドにおける数学的ステートメントを表現するための形式モデルの開発である。
提案モデルは、自然言語の数学的テキストから数学的事実を抽出し、これらの事実をLinked Open Dataとして表現するアプリケーションを対象としている。
このモデルは OntoMath$mathrmPRO$ ontology of professional mathematics の新バージョンの開発に使用される。
論文 参考訳（メタデータ） (2023-03-17T20:29:17Z) - An Algebraic Framework for Stock & Flow Diagrams and Dynamical Systems
Using Category Theory [2.030738254233949]
この章では、基礎となる数学に焦点をあてるのではなく、StockFlow.jlの実装したソフトウェアによって作成されたコミュニケーション可能な病気の例を非公式に使用します。
まず、分類的ストック・フロー・ダイアグラムを特徴付け、ストック・フロー・ダイアグラムの構文とそれらのセマンティクスを明確に区別する。
カテゴリ理論を適用することで、これらのフレームワークはモジュール化された方法で小さな図から大きな図を作成することができる。
論文 参考訳（メタデータ） (2022-11-01T16:15:54Z) - Graph Kernel Neural Networks [53.91024360329517]
本稿では、グラフ上の内部積を計算するカーネル関数であるグラフカーネルを用いて、標準畳み込み演算子をグラフ領域に拡張することを提案する。
これにより、入力グラフの埋め込みを計算する必要のない完全に構造的なモデルを定義することができる。
私たちのアーキテクチャでは,任意の種類のグラフカーネルをプラグインすることが可能です。
論文 参考訳（メタデータ） (2021-12-14T14:48:08Z) - S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。
我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
論文 参考訳（メタデータ） (2020-07-13T17:44:30Z) - Non-Parametric Graph Learning for Bayesian Graph Neural Networks [35.88239188555398]
グラフ隣接行列の後方分布を構築するための新しい非パラメトリックグラフモデルを提案する。
このモデルの利点を,ノード分類,リンク予測,レコメンデーションという3つの異なる問題設定で示す。
論文 参考訳（メタデータ） (2020-06-23T21:10:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。