論文の概要: Computing with Categories in Machine Learning

• arxiv url: http://arxiv.org/abs/2303.04156v1
• Date: Tue, 7 Mar 2023 17:26:18 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-09 16:22:49.714477
• Title: Computing with Categories in Machine Learning
• Title（参考訳）: 機械学習のカテゴリによるコンピューティング
• Authors: Eli Sennesh, Tom Xu, Yoshihiro Maruyama
• Abstract要約: 分類構造学習フレームワークとしてDisCoPyroを導入する。 DisCoPyroはカテゴリー構造と償却変分推論を組み合わせる。 我々は、DisCoPyroが最終的には人工知能の開発に寄与するのではないかと推測する。
• 参考スコア（独自算出の注目度）: 1.7679374058425343
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Category theory has been successfully applied in various domains of science, shedding light on universal principles unifying diverse phenomena and thereby enabling knowledge transfer between them. Applications to machine learning have been pursued recently, and yet there is still a gap between abstract mathematical foundations and concrete applications to machine learning tasks. In this paper we introduce DisCoPyro as a categorical structure learning framework, which combines categorical structures (such as symmetric monoidal categories and operads) with amortized variational inference, and can be applied, e.g., in program learning for variational autoencoders. We provide both mathematical foundations and concrete applications together with comparison of experimental performance with other models (e.g., neuro-symbolic models). We speculate that DisCoPyro could ultimately contribute to the development of artificial general intelligence.
• Abstract（参考訳）: カテゴリー理論は科学の様々な分野に適用され、多様な現象を統一する普遍原理に光を当て、それらの間の知識伝達を可能にする。 機械学習の応用は近年研究されているが、抽象数学的基礎と機械学習タスクへの具体的応用の間にはまだギャップがある。 本稿では,カテゴリ構造(対称モノイド圏やオペレーティングなど)と非モルト化変分推論を組み合わせた分類構造学習フレームワークとしてdiscopyroを導入し,例えば,変分オートエンコーダのためのプログラム学習に適用する。 他のモデル(例えばニューロシンボリックモデル)との比較とともに、数学的基礎と具体的な応用の両方を提供する。 我々は、DisCoPyroが最終的には人工知能の開発に寄与するのではないかと推測する。

関連論文リスト

• Towards a Categorical Foundation of Deep Learning: A Survey [0.0]
  この論文は、機械学習を分類的に研究しようとする最近の研究をカバーしている。 数学と科学の言語フランスとして働く カテゴリー理論は 機械学習の分野に 統一的な構造を与えるかもしれない
  論文  参考訳（メタデータ） (2024-10-07T13:11:16Z)
• Symmetry-Enriched Learning: A Category-Theoretic Framework for Robust Machine Learning Models [0.0]
  我々は,機械学習アルゴリズムにおける複雑な変換をモデル化するために,超対称性のカテゴリや関手表現を含む新しい数学的構成を導入する。 我々の貢献には、対称性に富んだ学習モデルの設計、カテゴリー対称性を利用した高度な最適化手法の開発、モデルロバスト性、一般化、収束に関する理論分析が含まれる。
  論文  参考訳（メタデータ） (2024-09-18T16:20:57Z)
• Understanding the differences in Foundation Models: Attention, State Space Models, and Recurrent Neural Networks [50.29356570858905]
  本稿では,これらすべてのアーキテクチャの共通表現に関する原則的な調査を可能にする動的システムフレームワーク(DSF)について紹介する。 ソフトマックスアテンションと他のモデルクラスとの原理的比較を行い、ソフトマックスアテンションを近似できる理論条件について議論する。 このことは、DSFが将来のより効率的でスケーラブルな基盤モデルの体系的な開発を導く可能性を示している。
  論文  参考訳（メタデータ） (2024-05-24T17:19:57Z)
• Token Space: A Category Theory Framework for AI Computations [0.0]
  本稿では,深層学習モデルの解釈可能性と有効性を高めるために設計された,新しい数学的構造であるToken Spaceフレームワークを紹介する。 Tokenレベルで分類構造を確立することにより、AI計算を理解可能な新しいレンズを提供する。
  論文  参考訳（メタデータ） (2024-04-11T15:56:06Z)
• Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
  我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。 新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。 我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
  論文  参考訳（メタデータ） (2024-02-20T15:23:24Z)
• A Review of Neuroscience-Inspired Machine Learning [58.72729525961739]
  バイオプルーシブル・クレジット・アサインメントは、事実上あらゆる学習条件と互換性があり、エネルギー効率が高い。 本稿では,人工ニューラルネットワークにおける信用代入の生体評価可能なルールをモデル化する,いくつかの重要なアルゴリズムについて検討する。 我々は,このようなアルゴリズムを実用アプリケーションでより有用にするためには,今後の課題に対処する必要があることを論じる。
  論文  参考訳（メタデータ） (2024-02-16T18:05:09Z)
• Foundations and Recent Trends in Multimodal Machine Learning: Principles, Challenges, and Open Questions [68.6358773622615]
  本稿では,マルチモーダル機械学習の計算的基礎と理論的基礎について概説する。 本稿では,表現,アライメント,推論,生成,伝達,定量化という,6つの技術課題の分類法を提案する。 最近の技術的成果は、この分類のレンズを通して示され、研究者は新しいアプローチの類似点と相違点を理解することができる。
  論文  参考訳（メタデータ） (2022-09-07T19:21:19Z)
• Symmetry Group Equivariant Architectures for Physics [52.784926970374556]
  機械学習の分野では、対称性に対する認識が目覚ましいパフォーマンスのブレークスルーを引き起こしている。 物理学のコミュニティと、より広い機械学習のコミュニティの両方に、理解すべきことがたくさんある、と私たちは主張する。
  論文  参考訳（メタデータ） (2022-03-11T18:27:04Z)
• Panoramic Learning with A Standardized Machine Learning Formalism [116.34627789412102]
  本稿では,多様なMLアルゴリズムの統一的な理解を提供する学習目的の標準化された方程式を提案する。 また、新しいMLソリューションのメカニック設計のガイダンスも提供し、すべての経験を持つパノラマ学習に向けた有望な手段として機能する。
  論文  参考訳（メタデータ） (2021-08-17T17:44:38Z)
• Category Theory in Machine Learning [1.6758573326215689]
  機械学習におけるカテゴリ理論の適用におけるモチベーション,目標,共通テーマについて述べる。 勾配に基づく学習、確率、同変学習について触れる。
  論文  参考訳（メタデータ） (2021-06-13T15:58:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。