論文の概要: Deep learning in a bilateral brain with hemispheric specialization
- arxiv url: http://arxiv.org/abs/2209.06862v8
- Date: Fri, 15 Mar 2024 02:05:21 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-19 08:01:36.039171
- Title: Deep learning in a bilateral brain with hemispheric specialization
- Title(参考訳): 半球特殊化を伴う両側脳における深層学習
- Authors: Chandramouli Rajagopalan, David Rawlinson, Elkhonon Goldberg, Gideon Kowadlo,
- Abstract要約: 本研究では,両半球の相互作用が与えられたタスクにおいて良好に動作するかを検討する。
そこで本研究では,自然界で観測された横性化を模倣する人工ニューラルネットワークを提案する。
解析の結果,ヘミスフィアはネットワークヘッドによって利用される相補的特徴を表すことがわかった。
- 参考スコア(独自算出の注目度): 0.23301643766310376
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The brains of all bilaterally symmetric animals on Earth are divided into left and right hemispheres. The anatomy and functionality of the hemispheres have a large degree of overlap, but there are asymmetries and they specialise to possess different attributes. Other authors have used computational models to mimic hemispheric asymmetries with a focus on reproducing human data on semantic and visual processing tasks. We took a different approach and aimed to understand how dual hemispheres in a bilateral architecture interact to perform well in a given task. We propose a bilateral artificial neural network that imitates lateralisation observed in nature: that the left hemisphere specialises in specificity and the right in generality. We used different training objectives to achieve the desired specialisation and tested it on an image classification task with two different CNN backbones -- ResNet and VGG. Our analysis found that the hemispheres represent complementary features that are exploited by a network head which implements a type of weighted attention. The bilateral architecture outperformed a range of baselines of similar representational capacity that don't exploit differential specialisation, with the exception of a conventional ensemble of unilateral networks trained on a dual training objective for specifics and generalities. The results demonstrate the efficacy of bilateralism, contribute to the discussion of bilateralism in biological brains and the principle may serves as an inductive bias for new AI systems.
- Abstract(参考訳): 地球上の左右対称な動物の脳は、左右の半球に分けられる。
半球の解剖学と機能の重複は大きいが、非対称性があり、異なる属性を持つように特化している。
他の著者は、セマンティックおよび視覚処理タスクに関する人間のデータを再現することに焦点を当てた、半球の非対称性を模倣する計算モデルを使用している。
我々は異なるアプローチを採り、二元的アーキテクチャにおける二重半球がどのように相互作用し、与えられたタスクでうまく機能するかを理解することを目指していた。
本稿では,左半球が特異性や一般性に特化している,自然界の側方化を模倣した2次元人工ニューラルネットワークを提案する。
私たちは、望まれる特殊化を達成するために異なるトレーニング目標を使用して、ResNetとVGGという2つの異なるCNNバックボーンを持つイメージ分類タスクでそれをテストしました。
解析の結果、ヘミスフィアは、重み付けされた注意の型を実装したネットワークヘッドによって利用される相補的特徴を表すことがわかった。
両アーキテクチャは、差分特殊化を生かさない類似の表現能力のベースラインを、特殊性や一般性のための2つの訓練目標に基づいて訓練された一方的なネットワークの従来のアンサンブルを除いて上回った。
結果は、二元主義の有効性を実証し、生物学的脳における二元主義の議論に寄与し、この原則は、新しいAIシステムに対する帰納的バイアスとなる可能性がある。
関連論文リスト
- Dual Expert Distillation Network for Generalized Zero-Shot Learning [14.583852776117647]
ゼロショット学習は、ニュアンス付き1対1の視覚属性相関を通じて、常に顕著な進歩をもたらした。
既存の研究では、サンプル領域とサブ属性を整列して相関する一様写像関数を精製する。
本稿では,2人の専門家が粗くきめ細かな視覚属性モデリングを専門とするDEDN(Dual Expert Distillation Network)という,シンプルで効果的なアプローチを提案する。
論文 参考訳(メタデータ) (2024-04-25T05:59:42Z) - Left/Right Brain, human motor control and the implications for robotics [0.5530212768657544]
本研究は、運動タスクの制御システムとして、二元的ニューラルネットワークアーキテクチャを探求する。
我々は,異なるタスクで観察されるような,半球の特殊化の実現を目指していた。
両片側モデルと,片側モデル,片側モデル,片側モデル,片側モデルを比較した。
論文 参考訳(メタデータ) (2024-01-25T10:29:07Z) - A Dual-Stream Neural Network Explains the Functional Segregation of
Dorsal and Ventral Visual Pathways in Human Brains [8.24969449883056]
我々は人間の目と脳にインスパイアされたデュアルストリーム視覚モデルを開発する。
入力レベルでは、モデルは2つの相補的な視覚パターンをサンプリングする。
バックエンドでは、モデルが分離された入力パターンを畳み込みニューラルネットワークの2つのブランチを通して処理する。
論文 参考訳(メタデータ) (2023-10-20T22:47:40Z) - Deep Neural Networks Can Learn Generalizable Same-Different Visual
Relations [22.205838756057314]
我々は、ディープニューラルネットワークが、分布内と分布外の両方において、同じ微分関係を取得および一般化できるかどうかを検討する。
ある事前学習された変換器は、ほぼ完全な精度で分布外刺激に一般化する同じ微分関係を学習できる。
論文 参考訳(メタデータ) (2023-10-14T16:28:57Z) - Seeking Common Ground While Reserving Differences: Multiple Anatomy
Collaborative Framework for Undersampled MRI Reconstruction [49.16058553281751]
本稿では,解剖学的および解剖学的特化学習者による新しいMRI再構成フレームワークを提案する。
脳、膝、心臓のMRIデータセットの実験は、これらの学習者のうち3人が複数の解剖学的共同学習を通して再建性能を向上させることができることを示した。
論文 参考訳(メタデータ) (2022-06-15T08:19:07Z) - Prune and distill: similar reformatting of image information along rat
visual cortex and deep neural networks [61.60177890353585]
深部畳み込み神経ネットワーク(CNN)は、脳の機能的類似、視覚野の腹側流の優れたモデルを提供することが示されている。
ここでは、CNNまたは視覚野の内部表現で知られているいくつかの顕著な統計的パターンについて考察する。
我々は、CNNと視覚野が、オブジェクト表現の次元展開/縮小と画像情報の再構成と、同様の密接な関係を持っていることを示す。
論文 参考訳(メタデータ) (2022-05-27T08:06:40Z) - Functional2Structural: Cross-Modality Brain Networks Representation
Learning [55.24969686433101]
脳ネットワーク上のグラフマイニングは、臨床表現型および神経変性疾患のための新しいバイオマーカーの発見を促進する可能性がある。
本稿では,Deep Signed Brain Networks (DSBN) と呼ばれる新しいグラフ学習フレームワークを提案する。
臨床表現型および神経変性疾患予測の枠組みを,2つの独立した公開データセットを用いて検証した。
論文 参考訳(メタデータ) (2022-05-06T03:45:36Z) - On the Importance of Asymmetry for Siamese Representation Learning [53.86929387179092]
シームズネットワークは、2つの並列エンコーダと概念的に対称である。
ネットワーク内の2つのエンコーダを明確に区別することで,非対称性の重要性について検討する。
非対称設計による改善は、より長いトレーニングスケジュール、複数の他のフレームワーク、より新しいバックボーンに一般化されている。
論文 参考訳(メタデータ) (2022-04-01T17:57:24Z) - Dynamic Inference with Neural Interpreters [72.90231306252007]
本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。
モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。
ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
論文 参考訳(メタデータ) (2021-10-12T23:22:45Z) - Generalisation in Neural Networks Does not Require Feature Overlap [3.162825695928202]
畳み込みアーキテクチャは2つのよく知られた課題に適用することによって制限を回避することを示す。
テストセットのパフォーマンスは、トレーニングデータに存在しない機能に一般化する必要がある。
両課題における対称性の役割と一般化との関連について論じる。
論文 参考訳(メタデータ) (2021-07-04T09:23:49Z) - A neural anisotropic view of underspecification in deep learning [60.119023683371736]
ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。
深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
論文 参考訳(メタデータ) (2021-04-29T14:31:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。