論文の概要: Category-Theoretical and Topos-Theoretical Frameworks in Machine Learning: A Survey

• arxiv url: http://arxiv.org/abs/2408.14014v1
• Date: Mon, 26 Aug 2024 04:39:33 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-27 15:02:44.419070
• Title: Category-Theoretical and Topos-Theoretical Frameworks in Machine Learning: A Survey
• Title（参考訳）: 機械学習におけるカテゴリー理論とトピック理論の枠組み:調査
• Authors: Yiyang Jia, Guohong Peng, Zheng Yang, Tianhao Chen,
• Abstract要約: カテゴリー理論に基づく機械学習を4つの主流視点から概観する。 最初の3つのトピックについて、主に過去5年間の調査をレビューし、以前の調査を更新し、拡張しました。 第4のトピックは、高次圏論、特にトポス理論を論じるもので、この論文で初めて調査される。
• 参考スコア（独自算出の注目度）: 4.686566164138397
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this survey, we provide an overview of category theory-derived machine learning from four mainstream perspectives: gradient-based learning, probability-based learning, invariance and equivalence-based learning, and topos-based learning. For the first three topics, we primarily review research in the past five years, updating and expanding on the previous survey by Shiebler et al.. The fourth topic, which delves into higher category theory, particularly topos theory, is surveyed for the first time in this paper. In certain machine learning methods, the compositionality of functors plays a vital role, prompting the development of specific categorical frameworks. However, when considering how the global properties of a network reflect in local structures and how geometric properties are expressed with logic, the topos structure becomes particularly significant and profound.
• Abstract（参考訳）: 本稿では、勾配に基づく学習、確率に基づく学習、不変性と等価性に基づく学習、およびトポスに基づく学習の4つの主要な視点から、カテゴリー理論に基づく機械学習の概要について述べる。 最初の3つのトピックについて、主に過去5年間の研究をレビューし、Shiebler氏らによる以前の調査を更新し、拡張しました。 第4のトピックは、高次圏論、特にトポス理論を論じるもので、この論文で初めて調査される。 特定の機械学習手法において、関手の構成性は重要な役割を担い、特定の分類的フレームワークの開発を促す。 しかし、ネットワークのグローバルな性質が局所構造をどのように反映し、幾何学的性質が論理でどのように表現されるかを考えると、トポス構造は特に重要かつ深遠なものとなる。

関連論文リスト

• Towards a Categorical Foundation of Deep Learning: A Survey [0.0]
  この論文は、機械学習を分類的に研究しようとする最近の研究をカバーしている。 数学と科学の言語フランスとして働く カテゴリー理論は 機械学習の分野に 統一的な構造を与えるかもしれない
  論文  参考訳（メタデータ） (2024-10-07T13:11:16Z)
• Foundations and Frontiers of Graph Learning Theory [81.39078977407719]
  グラフ学習の最近の進歩は、複雑な構造を持つデータを理解し分析する方法に革命をもたらした。 グラフニューラルネットワーク(GNN)、すなわちグラフ表現を学習するために設計されたニューラルネットワークアーキテクチャは、一般的なパラダイムとなっている。 本稿では,グラフ学習モデルに固有の近似と学習行動に関する理論的基礎とブレークスルーについて概説する。
  論文  参考訳（メタデータ） (2024-07-03T14:07:41Z)
• Token Space: A Category Theory Framework for AI Computations [0.0]
  本稿では,深層学習モデルの解釈可能性と有効性を高めるために設計された,新しい数学的構造であるToken Spaceフレームワークを紹介する。 Tokenレベルで分類構造を確立することにより、AI計算を理解可能な新しいレンズを提供する。
  論文  参考訳（メタデータ） (2024-04-11T15:56:06Z)
• Fundamental Components of Deep Learning: A category-theoretic approach [0.0]
  この論文は、カテゴリ理論の言語に基づく、ディープラーニングのための新しい数学的基礎を発展させている。 我々はまた、既存の多くのアプローチを体系化し、多くの既存の構成と概念を同じ傘の下に置きます。
  論文  参考訳（メタデータ） (2024-03-13T01:29:40Z)
• Position: Categorical Deep Learning is an Algebraic Theory of All Architectures [1.772996392520906]
  本稿では,ディープラーニングアーキテクチャの特定と研究のための汎用フレームワークの探求について述べる。 本稿では,これら2つのニューラルネットワーク設計の風味をエレガントに仮定する単一理論として,圏論を適用することを提案する。 この理論は、幾何学的深層学習によって引き起こされる制約と、ニューラルネットワークの多様な風景から引き出された多くのアーキテクチャの実装をいかに回復するかを示す。
  論文  参考訳（メタデータ） (2024-02-23T14:01:53Z)
• A Category-theoretical Meta-analysis of Definitions of Disentanglement [97.34033555407403]
  データの変化の要因を識別することは、機械学習の基本的な概念である。 本稿では,既存の乱れの定義をメタ分析する。
  論文  参考訳（メタデータ） (2023-05-11T15:24:20Z)
• Rank Diminishing in Deep Neural Networks [71.03777954670323]
  ニューラルネットワークのランクは、層をまたがる情報を測定する。 これは機械学習の幅広い領域にまたがる重要な構造条件の例である。 しかし、ニューラルネットワークでは、低ランク構造を生み出す固有のメカニズムはあいまいで不明瞭である。
  論文  参考訳（メタデータ） (2022-06-13T12:03:32Z)
• Geometric Deep Learning: Grids, Groups, Graphs, Geodesics, and Gauges [50.22269760171131]
  過去10年間、データサイエンスと機械学習の実験的な革命が、ディープラーニングの手法によって生まれた。 このテキストは、統一幾何学的原理によって事前に定義された規則性を公開することに関するものである。 CNN、RNN、GNN、Transformersなど、最も成功したニューラルネットワークアーキテクチャを研究するための一般的な数学的フレームワークを提供する。
  論文  参考訳（メタデータ） (2021-04-27T21:09:51Z)
• Recent advances in deep learning theory [104.01582662336256]
  本稿では,近年のディープラーニング理論の進歩をレビューし,整理する。 文献は,(1)深層学習の一般化可能性を分析する複雑性とキャパシティに基づくアプローチ,(2)勾配降下とその変種をモデル化するための微分方程式とその力学系,(3)動的システムの軌道を駆動する損失景観の幾何学的構造,(5)ネットワークアーキテクチャにおけるいくつかの特別な構造の理論的基礎,の6つのグループに分類される。
  論文  参考訳（メタデータ） (2020-12-20T14:16:41Z)
• A Survey on Concept Factorization: From Shallow to Deep Representation Learning [104.78577405792592]
  概念因子化(CF)は、機械学習とデータマイニングの分野で大きな関心を集めています。 まず、ルートCF法を再検討し、CFに基づく表現学習の進歩について検討する。 また、CFベースの手法の潜在的な適用領域についても紹介する。
  論文  参考訳（メタデータ） (2020-07-31T04:19:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。