論文の概要: Developing a Foundation of Vector Symbolic Architectures Using Category Theory

• arxiv url: http://arxiv.org/abs/2501.05368v1
• Date: Thu, 09 Jan 2025 16:49:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-10 14:00:15.592438
• Title: Developing a Foundation of Vector Symbolic Architectures Using Category Theory
• Title（参考訳）: カテゴリー理論を用いたベクトルシンボリックアーキテクチャの基礎構築
• Authors: Nolan P Shaw, P Michael Furlong, Britt Anderson, Jeff Orchard,
• Abstract要約: 本稿では,圏論をベクトル記号アーキテクチャに適用する試みについて述べる。 VSAは、ニューラル処理と人間が実行するシンボリック推論を統一する必要性から生まれた。 カテゴリー理論におけるVSAの基盤となることは、学習と認知の両方において、他の研究とより厳密なつながりをもたらすことを願っている。
• 参考スコア（独自算出の注目度）: 1.293702091862065
• License:
• Abstract: At the risk of overstating the case, connectionist approaches to machine learning, i.e. neural networks, are enjoying a small vogue right now. However, these methods require large volumes of data and produce models that are uninterpretable to humans. An alternative framework that is compatible with neural networks and gradient-based learning, but explicitly models compositionality, is Vector Symbolic Architectures (VSAs). VSAs are a family of algebras on high-dimensional vector representations. They arose in cognitive science from the need to unify neural processing and the kind of symbolic reasoning that humans perform. While machine learning methods have benefited from category theoretical analyses, VSAs have not yet received similar treatment. In this paper, we present a first attempt at applying category theory to VSAs. Specifically, we conduct a brief literature survey demonstrating the lacking intersection of these two topics, provide a list of desiderata for VSAs, and propose that VSAs may be understood as a (division) rig in a category enriched over a monoid in Met (the category of Lawvere metric spaces). This final contribution suggests that VSAs may be generalised beyond current implementations. It is our hope that grounding VSAs in category theory will lead to more rigorous connections with other research, both within and beyond, learning and cognition.
• Abstract（参考訳）: このケースを過大評価するリスクがある中で、コネクショナリストによる機械学習、すなわちニューラルネットワークへのアプローチは、現在、小さな声を楽しんでいる。 しかし、これらの手法は大量のデータを必要とし、人間には解釈できないモデルを生成する。 ニューラルネットワークや勾配に基づく学習と互換性があるが、構成性を明示的にモデル化する別のフレームワークは、ベクトルシンボルアーキテクチャ(VSAs)である。 VSAs は高次元ベクトル表現上の代数の族である。 彼らは認知科学において、ニューラル処理と人間が実行する象徴的推論を統一する必要性から生まれた。 機械学習手法はカテゴリー理論解析の恩恵を受けているが、VSAsは同様の治療を受けていない。 本稿では,カテゴリ理論をVSAに適用する試みについて述べる。 具体的には、これらの2つのトピックの交わりの欠如を実証する簡単な文献調査を行い、VSAsのデシラタのリストを提供し、また、VSAは、Met(Lawvere 計量空間の圏)のモノイドに富む圏における(分割)リグとして理解されるかもしれないことを示唆する。 この最後のコントリビューションは、VSAが現在の実装を超えて一般化される可能性があることを示唆している。 カテゴリー理論におけるVSAの基盤となることは、学習と認知の両方において、他の研究とより厳密なつながりをもたらすことを願っている。

関連論文リスト

• A Walsh Hadamard Derived Linear Vector Symbolic Architecture [83.27945465029167]
  シンボリックベクトルアーキテクチャ(VSAs)は、ニューロシンボリックAIを開発するためのアプローチである。 HLBは計算効率が良く、従来のVSAタスクで有効であるように設計されている。
  論文  参考訳（メタデータ） (2024-10-30T03:42:59Z)
• Towards a Categorical Foundation of Deep Learning: A Survey [0.0]
  この論文は、機械学習を分類的に研究しようとする最近の研究をカバーしている。 数学と科学の言語フランスとして働く カテゴリー理論は 機械学習の分野に 統一的な構造を与えるかもしれない
  論文  参考訳（メタデータ） (2024-10-07T13:11:16Z)
• Parametric Classification for Generalized Category Discovery: A Baseline Study [70.73212959385387]
  Generalized Category Discovery (GCD)は、ラベル付きサンプルから学習した知識を用いて、ラベルなしデータセットで新しいカテゴリを発見することを目的としている。 パラメトリック分類器の故障を調査し,高品質な監視が可能であった場合の過去の設計選択の有効性を検証し,信頼性の低い疑似ラベルを重要課題として同定する。 エントロピー正規化の利点を生かし、複数のGCDベンチマークにおける最先端性能を実現し、未知のクラス数に対して強いロバスト性を示す、単純で効果的なパラメトリック分類法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T18:47:11Z)
• Neural Dependencies Emerging from Learning Massive Categories [94.77992221690742]
  この研究は、大規模画像分類のために学んだニューラルネットワークに関する2つの驚くべき発見を示す。 1) 十分に訓練されたモデルが与えられた場合、いくつかのカテゴリで予測されたロジットは、他のいくつかのカテゴリの予測を線形に組み合わせることで直接得ることができる。 2) 神経依存は1つのモデルに留まらず、2つの独立した学習モデルの間にさえ存在する。
  論文  参考訳（メタデータ） (2022-11-21T09:42:15Z)
• Learning Primitive-aware Discriminative Representations for Few-shot Learning [28.17404445820028]
  少ないショットラーニングは、いくつかのラベル付き例で、新しいクラスを容易に認識できる分類器を学習することを目的としている。 プリミティブ・マイニング・アンド・リ共振ネットワーク(PMRN)を提案し,プリミティブ・アウェアな表現を学習する。 提案手法は,6つの標準ベンチマークの最先端結果を実現する。
  論文  参考訳（メタデータ） (2022-08-20T16:22:22Z)
• Large-Margin Representation Learning for Texture Classification [67.94823375350433]
  本稿では,テクスチャ分類のための小さなデータセット上で教師付きモデルをトレーニングするために,畳み込み層(CL)と大規模計量学習を組み合わせた新しいアプローチを提案する。 テクスチャと病理画像データセットの実験結果から,提案手法は同等のCNNと比較して計算コストが低く,収束が早く,競争精度が向上することが示された。
  論文  参考訳（メタデータ） (2022-06-17T04:07:45Z)
• Gradient-based Competitive Learning: Theory [1.6752712949948443]
  本稿では,勾配に基づく学習と競争的な学習を組み合わせることで,この分野の新たな視点を紹介する。 この理論は、ニューラルネットワークが入力行列の変換を直接研究することで、トポロジカル構造を学習できるという直感に基づいている。 提案手法は、トポロジカル学習タスクの広範な選択に一般化できるため、大きな可能性を秘めている。
  論文  参考訳（メタデータ） (2020-09-06T19:00:51Z)
• Symbiotic Adversarial Learning for Attribute-based Person Search [86.7506832053208]
  本稿では,共生学習の枠組みとして,共生学習の基盤に2つのGANを配置する。 具体的には、2種類の生成的敵ネットワークがトレーニングプロセスを通して協調的に学習する。
  論文  参考訳（メタデータ） (2020-07-19T07:24:45Z)
• Pairwise Supervision Can Provably Elicit a Decision Boundary [84.58020117487898]
  類似性学習は、パターンのペア間の関係を予測することによって有用な表現を引き出す問題である。 類似性学習は、決定境界を直接引き出すことによって二項分類を解くことができることを示す。
  論文  参考訳（メタデータ） (2020-06-11T05:35:16Z)
• Analyzing Knowledge Graph Embedding Methods from a Multi-Embedding Interaction Perspective [3.718476964451589]
  実世界の知識グラフは通常不完全であるため、この問題に対処するために知識グラフ埋め込み法が提案されている。 これらの方法は、実体と関係を意味空間に埋め込まれたベクトルとして表現し、それらの間のリンクを予測する。 四元数代数に基づく新しいマルチエンベディングモデルを提案し、人気のあるベンチマークを用いて有望な結果が得られることを示す。
  論文  参考訳（メタデータ） (2019-03-27T13:09:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。