論文の概要: Neural Network based Formation of Cognitive Maps of Semantic Spaces and
the Emergence of Abstract Concepts
- arxiv url: http://arxiv.org/abs/2210.16062v1
- Date: Fri, 28 Oct 2022 11:16:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-31 15:21:25.702045
- Title: Neural Network based Formation of Cognitive Maps of Semantic Spaces and
the Emergence of Abstract Concepts
- Title（参考訳）: ニューラルネットワークによる意味空間の認知地図の形成と抽象概念の創発
- Authors: Paul Stoewer, Achim Schilling, Andreas Maier, Patrick Krauss
- Abstract要約: 特徴ベクトルとして符号化された32種類の動物種に基づいて意味空間の認知マップを学習するニューラルネットワークを提案する。
ネットワークは、後継表現の原理に基づいて、約30%の精度で「アニマル空間」の認知マップを構築する。
微粒な認知地図では、動物ベクターは特徴空間に均等に分布している。対照的に、粗粒の地図では、動物ベクターは生物学的階級に応じて高度にクラスター化されている。
- 参考スコア（独自算出の注目度）: 7.909848251752742
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The hippocampal-entorhinal complex plays a major role in the organization of
memory and thought. The formation of and navigation in cognitive maps of
arbitrary mental spaces via place and grid cells can serve as a representation
of memories and experiences and their relations to each other. The multi-scale
successor representation is proposed to be the mathematical principle
underlying place and grid cell computations. Here, we present a neural network,
which learns a cognitive map of a semantic space based on 32 different animal
species encoded as feature vectors. The neural network successfully learns the
similarities between different animal species, and constructs a cognitive map
of 'animal space' based on the principle of successor representations with an
accuracy of around 30% which is near to the theoretical maximum regarding the
fact that all animal species have more than one possible successor, i.e.
nearest neighbor in feature space. Furthermore, a hierarchical structure, i.e.
different scales of cognitive maps, can be modeled based on multi-scale
successor representations. We find that, in fine-grained cognitive maps, the
animal vectors are evenly distributed in feature space. In contrast, in
coarse-grained maps, animal vectors are highly clustered according to their
biological class, i.e. amphibians, mammals and insects. This could be a
possible mechanism explaining the emergence of new abstract semantic concepts.
Finally, even completely new or incomplete input can be represented by
interpolation of the representations from the cognitive map with remarkable
high accuracy of up to 95%. We conclude that the successor representation can
serve as a weighted pointer to past memories and experiences, and may therefore
be a crucial building block for future machine learning to include prior
knowledge, and to derive context knowledge from novel input.
- Abstract（参考訳）: 海馬と脳の複合体は記憶と思考の組織化において重要な役割を果たしている。
場所と格子細胞による任意の精神空間の認知地図の作成とナビゲーションは、記憶と経験とその相互関係の表現として機能する。
マルチスケールの後継表現は、基礎となる数学的原理とグリッドセル計算である。
本稿では,特徴ベクトルとしてコード化された32種の動物に基づく意味空間の認知マップを学習するニューラルネットワークを提案する。
ニューラルネットワークは、異なる動物種間の類似性をうまく学習し、全ての動物種が1つ以上の後継を持つという事実、すなわち特徴空間の最も近い近傍を持つという事実に関して、理論上の最大に近い約30%の精度で後継表現の原理に基づく「動物空間」の認知マップを構築する。
さらに、階層構造、すなわち認知地図の異なるスケールは、マルチスケールの後継表現に基づいてモデル化することができる。
微粒な認知地図では、動物ベクターは特徴空間に均等に分布している。
対照的に、粗い粒度の地図では、動物ベクターは生物階級、すなわち両生類、哺乳類、昆虫によって高度にクラスター化されている。
これは新しい抽象意味概念の出現を説明するメカニズムになり得る。
最後に、完全に新しい、あるいは不完全な入力でさえ、95%の精度で認知地図からの表現の補間によって表現することができる。
我々は,後継表現が過去の記憶や経験の重み付きポインタとして機能し,将来の機械学習において,先行知識を取り入れ,新たな入力から文脈知識を導き出す上で重要な構成要素となることを結論付けた。
関連論文リスト
- Multi-Modal Cognitive Maps based on Neural Networks trained on Successor
Representations [3.4916237834391874]
認知地図(Cognitive map)は、脳が記憶を効率的に整理し、そこからコンテキストを取り出す方法に関する概念である。
そこで我々は,細胞動態と認知地図表現をモデル化可能な後続表現を用いたマルチモーダルニューラルネットワークを構築した。
ネットワークは、新しい入力とトレーニングデータベースの類似性を学習し、認知地図の表現を成功させる。
論文 参考訳（メタデータ） (2023-12-22T12:44:15Z) - A Recursive Bateson-Inspired Model for the Generation of Semantic Formal
Concepts from Spatial Sensory Data [77.34726150561087]
本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。
このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。
このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
論文 参考訳（メタデータ） (2023-07-16T15:59:13Z) - Conceptual Cognitive Maps Formation with Neural Successor Networks and
Word Embeddings [7.909848251752742]
本稿では,3つの概念の認知マップを構築するために,後継表現とニューラルネットワークと単語埋め込みを用いたモデルを提案する。
ネットワークは、2つの異なるスケールマップを順応的に学習し、関連する既存の表現に近接して新しい情報を配置する。
我々のモデルは、任意の入力にマルチモーダルコンテキスト情報を提供することで、現在のAIモデルを改善する可能性を示唆している。
論文 参考訳（メタデータ） (2023-07-04T09:11:01Z) - Language Knowledge-Assisted Representation Learning for Skeleton-Based
Action Recognition [71.35205097460124]
人間が他人の行動を理解して認識する方法は、複雑な神経科学の問題である。
LA-GCNは、大規模言語モデル(LLM)知識アシストを用いたグラフ畳み込みネットワークを提案する。
論文 参考訳（メタデータ） (2023-05-21T08:29:16Z) - Neural Network based Successor Representations of Space and Language [6.748976209131109]
本稿では,構造化知識のマルチスケールの後継表現をニューラルネットワークで学習する手法を提案する。
すべてのシナリオにおいて、ニューラルネットワークは、後続表現を構築することによって基盤構造を正しく学習し、近似する。
我々は、認知地図とニューラルネットワークに基づく構造化知識の継承表現が、人工知能への深層学習の短さを克服する有望な方法を提供すると結論付けた。
論文 参考訳（メタデータ） (2022-02-22T21:52:46Z) - How to build a cognitive map: insights from models of the hippocampal
formation [0.45880283710344055]
認知地図の概念は、これらの能力の主要な比喩の1つとして現れてきた。
そのような地図の学習と神経表現が 神経科学の中心になっている
論文 参考訳（メタデータ） (2022-02-03T16:49:37Z) - Emergence of Machine Language: Towards Symbolic Intelligence with Neural
Networks [73.94290462239061]
本稿では、ニューラルネットワークを用いてシンボルとコネクショナリズムの原理を組み合わせることで、離散表現を導出することを提案する。
対話型環境とタスクを設計することにより、機械が自発的で柔軟でセマンティックな言語を生成できることを実証した。
論文 参考訳（メタデータ） (2022-01-14T14:54:58Z) - Grounding Psychological Shape Space in Convolutional Neural Networks [0.0]
我々は畳み込みニューラルネットワークを用いて、知覚入力間の一般化可能なマッピングと、最近提案された形状領域の心理学的類似性空間を学習する。
この結果から,分類に基づくマルチタスク学習シナリオが最も優れた結果が得られるが,その性能は類似性空間の次元に比較的敏感であることが示唆された。
論文 参考訳（メタデータ） (2021-11-16T12:21:07Z) - Dynamic Inference with Neural Interpreters [72.90231306252007]
本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。
モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。
ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
論文 参考訳（メタデータ） (2021-10-12T23:22:45Z) - Can the brain use waves to solve planning problems? [62.997667081978825]
このような課題を解くニューラルネットワークモデルを提案する。
このモデルは、哺乳類の新皮質と海馬に関する幅広い実験的な発見と互換性がある。
論文 参考訳（メタデータ） (2021-10-11T11:07:05Z) - Transferring Dense Pose to Proximal Animal Classes [83.84439508978126]
より一般的な対象検出器やセグメンタなどと同様に、密集したポーズ認識に存在する知識を、他のクラスにおける密集したポーズ認識の問題に移すことが可能であることを示す。
我々は、人間と幾何学的に整合した新しい動物のためのDensePoseモデルを確立することでこれを行う。
また、クラスチンパンジーにDensePoseの方法でラベル付けされた2つのベンチマークデータセットを導入し、アプローチを評価するためにそれらを使用します。
論文 参考訳（メタデータ） (2020-02-28T21:43:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。