論文の概要: The Process of Categorical Clipping at the Core of the Genesis of Concepts in Synthetic Neural Cognition
- arxiv url: http://arxiv.org/abs/2502.15710v1
- Date: Tue, 21 Jan 2025 11:32:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-02 04:51:59.306774
- Title: The Process of Categorical Clipping at the Core of the Genesis of Concepts in Synthetic Neural Cognition
- Title(参考訳): 合成ニューラル認知における概念生成の核におけるカテゴリー的クリッピングの過程
- Authors: Michael Pichat, William Pogrund, Armanush Gasparian, Paloma Pichat, Samuel Demarchi, Michael Veillet-Guillem, Martin Corbet, Théo Dasilva,
- Abstract要約: 本稿では,人工知能の神経心理学分野において,言語モデルによる分類的セグメンテーションの過程について考察する。
このプロセスは、異なるニューラルネットワーク層にまたがって、入力されたテキストデータを解析し、必要なタスクを実行するための、新しい機能的分類次元の作成を含む。
この合成クリッピングの認知的特徴を探索的に検討する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: This article investigates, within the field of neuropsychology of artificial intelligence, the process of categorical segmentation performed by language models. This process involves, across different neural layers, the creation of new functional categorical dimensions to analyze the input textual data and perform the required tasks. Each neuron in a multilayer perceptron (MLP) network is associated with a specific category, generated by three factors carried by the neural aggregation function: categorical priming, categorical attention, and categorical phasing. At each new layer, these factors govern the formation of new categories derived from the categories of precursor neurons. Through a process of categorical clipping, these new categories are created by selectively extracting specific subdimensions from the preceding categories, constructing a distinction between a form and a categorical background. We explore several cognitive characteristics of this synthetic clipping in an exploratory manner: categorical reduction, categorical selectivity, separation of initial embedding dimensions, and segmentation of categorical zones.
- Abstract(参考訳): 本稿では,人工知能の神経心理学分野において,言語モデルによる分類的セグメンテーションの過程について考察する。
このプロセスは、異なるニューラルネットワーク層にまたがって、入力されたテキストデータを解析し、必要なタスクを実行するための、新しい機能的分類次元の作成を含む。
多層パーセプトロン(MLP)ネットワークの各ニューロンは、神経凝集機能によって引き起こされる3つの因子(カテゴリープライミング、カテゴリーアテンション、カテゴリーアテンション)によって生成される特定のカテゴリに関連付けられている。
それぞれの新しい層において、これらの因子は前駆ニューロンのカテゴリから派生した新しいカテゴリの形成を制御している。
分類的クリッピングのプロセスを通じて、これらの新しいカテゴリは、前述したカテゴリから特定のサブ次元を選択的に抽出し、形式と分類学的背景の区別を構築することによって作成される。
分類的縮小,カテゴリー選択性,初期埋め込み次元の分離,カテゴリー的ゾーンの分割など,この合成クリッピングの認知的特徴を探索的に検討する。
関連論文リスト
- Neuropsychology and Explainability of AI: A Distributional Approach to the Relationship Between Activation Similarity of Neural Categories in Synthetic Cognition [0.11235145048383502]
本稿では,人間の認知トークンの概念を応用した,人工ニューラルネットワークの説明可能性へのアプローチを提案する。
ニューロンが生成するカテゴリセグメントは、実際には入力ベクトル空間内のカテゴリサブ次元の重ね合わせの結果であることを示す。
論文 参考訳(メタデータ) (2024-10-23T05:27:09Z) - Information theoretic study of the neural geometry induced by category
learning [0.0]
我々は、カテゴリ学習によって引き起こされる表現の効率を評価するために、情報理論的アプローチをとる。
1つの主な結果は、カテゴリー学習が決定境界付近の神経空間の拡大を誘導することである。
論文 参考訳(メタデータ) (2023-11-27T10:16:22Z) - Multilayer Multiset Neuronal Networks -- MMNNs [55.2480439325792]
本研究は,2層以上の類似性ニューロンを組み込んだ多層神経回路網について述べる。
また,回避すべき画像領域に割り当てられる反プロトタイプ点の利用についても検討した。
論文 参考訳(メタデータ) (2023-08-28T12:55:13Z) - Understanding Imbalanced Semantic Segmentation Through Neural Collapse [81.89121711426951]
セマンティックセグメンテーションは自然に文脈的相関とクラス間の不均衡分布をもたらすことを示す。
機能中心にレギュレータを導入し、ネットワークが魅力ある構造に近い機能を学ぶことを奨励する。
我々の手法は、ScanNet200テストリーダーボードで1位にランクインし、新しい記録を樹立する。
論文 参考訳(メタデータ) (2023-01-03T13:51:51Z) - Automatically Discovering Novel Visual Categories with Self-supervised
Prototype Learning [68.63910949916209]
本稿では,大規模な画像収集において未知のカテゴリを識別することを目的とした,新しいカテゴリ発見(NCD)の課題に取り組む。
本稿では,プロトタイプ表現学習とプロトタイプ自己学習という,2つの主要な段階からなる適応型プロトタイプ学習手法を提案する。
本研究では,4つのベンチマークデータセットについて広範な実験を行い,提案手法の有効性とロバスト性を示す。
論文 参考訳(メタデータ) (2022-08-01T16:34:33Z) - Domain Adaptive Nuclei Instance Segmentation and Classification via
Category-aware Feature Alignment and Pseudo-labelling [65.40672505658213]
本稿では, UDA 核インスタンス分割と分類のための新しいディープニューラルネットワークである Category-Aware 機能アライメントと Pseudo-Labelling Network (CAPL-Net) を提案する。
我々のアプローチは、最先端のUDA手法よりも顕著なマージンで優れています。
論文 参考訳(メタデータ) (2022-07-04T07:05:06Z) - Self-Supervised Graph Representation Learning for Neuronal Morphologies [75.38832711445421]
ラベルのないデータセットから3次元神経形態の低次元表現を学習するためのデータ駆動型アプローチであるGraphDINOを提案する。
2つの異なる種と複数の脳領域において、この方法では、専門家による手動の特徴に基づく分類と同程度に形態学的細胞型クラスタリングが得られることを示す。
提案手法は,大規模データセットにおける新しい形態的特徴や細胞型の発見を可能にする可能性がある。
論文 参考訳(メタデータ) (2021-12-23T12:17:47Z) - Modeling Category-Selective Cortical Regions with Topographic
Variational Autoencoders [72.15087604017441]
カテゴリー選択性(英: Category-Selectivity)は、大脳皮質の特定の空間的局所化領域が特定の限られたカテゴリーからの刺激に対して頑健かつ選択的に反応する傾向にあるという観察を記述している。
新たに導入されたTopographic Variational Autoencoderを利用して、そのような局所化カテゴリ選択性の出現を教師なしでモデル化する。
本研究では,ヒト腹側頭皮質の観察に類似した,より抽象的なカテゴリのネストされた空間的階層が得られたことを示す予備的な結果を示す。
論文 参考訳(メタデータ) (2021-10-25T11:37:41Z) - Enhancing efficiency of object recognition in different categorization
levels by reinforcement learning in modular spiking neural networks [1.392250707100996]
本稿では,異なる分類レベルにおける物体認識のための計算モデルを提案する。
強化学習規則を備えたスパイクニューラルネットワークは、各分類レベルでモジュールとして使用される。
各分類レベルで必要な情報に基づいて、関連する帯域通過フィルタ画像を利用する。
論文 参考訳(メタデータ) (2021-02-10T12:33:20Z) - Categorical Perception: A Groundwork for Deep Learning [0.0]
ニューラルネットワークにおけるカテゴリー効果について検討する。
我々は、カテゴリ学習が自動的にカテゴリ認識を誘導する浅いニューラルネットワークと深いニューラルネットワークの両方を示す。
我々の分析の重要な成果は、ドロップアウト正規化手法の有効性の一貫性と統一性を提供することである。
論文 参考訳(メタデータ) (2020-12-10T09:41:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。