論文の概要: Deep learning in a bilateral brain with hemispheric specialization
- arxiv url: http://arxiv.org/abs/2209.06862v9
- Date: Wed, 10 Jul 2024 12:20:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-11 22:39:21.008741
- Title: Deep learning in a bilateral brain with hemispheric specialization
- Title（参考訳）: 半球特殊化を伴う両側脳における深層学習
- Authors: Chandramouli Rajagopalan, David Rawlinson, Elkhonon Goldberg, Gideon Kowadlo,
- Abstract要約: そこで本研究では,自然界で観測された横性化を模倣する人工ニューラルネットワークを提案する。
分析の結果、ヘミスフィアは、重み付けされた注意のタイプを実装するネットワークヘッドによって利用される相補的特徴を表すことがわかった。
結果は、二元主義の有効性を示し、生物学的脳における二元主義の議論に寄与し、この原理は、新しいAIシステムに対する帰納的バイアスとなる可能性がある。
- 参考スコア（独自算出の注目度）: 0.23301643766310376
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The brains of all bilaterally symmetric animals on Earth are divided into left and right hemispheres. The anatomy and functionality of the hemispheres have a large degree of overlap, but there are asymmetries, and they specialise in possesses different attributes. Other authors have used computational models to mimic hemispheric asymmetries with a focus on reproducing human data on semantic and visual processing tasks. We took a different approach and aimed to understand how dual hemispheres in a bilateral architecture interact to perform well in a given task. We propose a bilateral artificial neural network that imitates lateralisation observed in nature: that the left hemisphere specialises in local features and the right in global features. We used different training objectives to achieve the desired specialisation and tested it on an image classification task with two different CNN backbones: ResNet and VGG. Our analysis found that the hemispheres represent complementary features that are exploited by a network head that implements a type of weighted attention. The bilateral architecture outperformed a range of baselines of similar representational capacity that do not exploit differential specialisation, with the exception of a conventional ensemble of unilateral networks trained on dual training objectives for local and global features. The results demonstrate the efficacy of bilateralism, contribute to the discussion of bilateralism in biological brains, and the principle may serve as an inductive bias for new AI systems.
- Abstract（参考訳）: 地球上の左右対称な動物の脳は、左右の半球に分けられる。
半球の解剖学と機能は非常に重複しているが、非対称性があり、それらは異なる属性を持つことを特化している。
他の著者は、セマンティックおよび視覚処理タスクに関する人間のデータを再現することに焦点を当てた、半球の非対称性を模倣する計算モデルを使用している。
我々は異なるアプローチを採り、二元的アーキテクチャにおける二重半球がどのように相互作用し、与えられたタスクでうまく機能するかを理解することを目指していた。
本稿では,左半球が局所的特徴と大域的特徴を専門とする,自然界の側方化を模倣する二元的人工ニューラルネットワークを提案する。
所望の特殊化を達成するために異なるトレーニング目標を使用して、ResNetとVGGの2つの異なるCNNバックボーンを用いた画像分類タスクでテストした。
分析の結果、ヘミスフィアは、重み付けされた注意のタイプを実装するネットワークヘッドによって利用される相補的特徴を表すことがわかった。
両アーキテクチャは、局所的特徴とグローバル的特徴の2つのトレーニング目標に基づいて訓練された一方的ネットワークの従来のアンサンブルを除いて、差分特殊化を生かさない類似の表現能力の基線よりも優れていた。
結果は、二元主義の有効性を実証し、生物学的脳における二元主義の議論に寄与し、この原理は、新しいAIシステムに対する帰納的バイアスとなる可能性がある。
関連論文リスト
- Dual Expert Distillation Network for Generalized Zero-Shot Learning [14.583852776117647]
ゼロショット学習は、ニュアンス付き1対1の視覚属性相関を通じて、常に顕著な進歩をもたらした。
既存の研究では、サンプル領域とサブ属性を整列して相関する一様写像関数を精製する。
本稿では,2人の専門家が粗くきめ細かな視覚属性モデリングを専門とするDEDN(Dual Expert Distillation Network)という,シンプルで効果的なアプローチを提案する。
論文 参考訳（メタデータ） (2024-04-25T05:59:42Z) - Left/Right Brain, human motor control and the implications for robotics [0.5062312533373298]
本研究は、運動タスクの制御システムとして、二元的ニューラルネットワークアーキテクチャを探求する。
我々は,異なるタスクで観察されるような,半球の特殊化の実現を目指していた。
論文 参考訳（メタデータ） (2024-01-25T10:29:07Z) - A Dual-Stream Neural Network Explains the Functional Segregation of
Dorsal and Ventral Visual Pathways in Human Brains [8.24969449883056]
我々は人間の目と脳にインスパイアされたデュアルストリーム視覚モデルを開発する。
入力レベルでは、モデルは2つの相補的な視覚パターンをサンプリングする。
バックエンドでは、モデルが分離された入力パターンを畳み込みニューラルネットワークの2つのブランチを通して処理する。
論文 参考訳（メタデータ） (2023-10-20T22:47:40Z) - GIVL: Improving Geographical Inclusivity of Vision-Language Models with
Pre-Training Methods [62.076647211744564]
我々は地理包摂型視覚・言語事前学習モデルであるGIVLを提案する。
1) 類似のカテゴリにおける概念は独自の知識と視覚的特徴を持ち、2) 類似の視覚的特徴を持つ概念は、全く異なるカテゴリに該当する可能性がある。
GIVLは、同様のスケールのデータを事前訓練した類似サイズのモデルと比較して、最先端のSOTA(State-of-the-art)を達成し、ジオディバースなV&Lタスクにおけるよりバランスの取れたパフォーマンスを実現している。
論文 参考訳（メタデータ） (2023-01-05T03:43:45Z) - Mine yOur owN Anatomy: Revisiting Medical Image Segmentation with Extremely Limited Labels [54.58539616385138]
我々は、Mine yOur owN Anatomy (MONA) と呼ばれる、新しい半教師付き2次元医用画像セグメンテーションフレームワークを紹介する。
まず、先行研究では、すべてのピクセルがモデルトレーニングに等しく重要であると論じており、我々はこの1つだけで意味のある解剖学的特徴を定義できないことを経験的に観察している。
第2に,医療画像を解剖学的特徴の集合に分解できるモデルを構築する。
論文 参考訳（メタデータ） (2022-09-27T15:50:31Z) - On the Importance of Asymmetry for Siamese Representation Learning [53.86929387179092]
シームズネットワークは、2つの並列エンコーダと概念的に対称である。
ネットワーク内の2つのエンコーダを明確に区別することで,非対称性の重要性について検討する。
非対称設計による改善は、より長いトレーニングスケジュール、複数の他のフレームワーク、より新しいバックボーンに一般化されている。
論文 参考訳（メタデータ） (2022-04-01T17:57:24Z) - Dynamic Inference with Neural Interpreters [72.90231306252007]
本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。
モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。
ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
論文 参考訳（メタデータ） (2021-10-12T23:22:45Z) - Kinship Verification Based on Cross-Generation Feature Interaction
Learning [53.62256887837659]
顔画像からの血縁検証は、コンピュータビジョンの応用において、新しいが挑戦的な技術として認識されている。
本稿では,頑健な親族関係検証のためのクロスジェネレーション・インタラクション・ラーニング(CFIL)フレームワークを提案する。
論文 参考訳（メタデータ） (2021-09-07T01:50:50Z) - Interpreting Face Inference Models using Hierarchical Network Dissection [10.852613235927958]
階層的ネットワーク分割(Hierarchical Network Dissection)は、顔中心推論モデルの内部表現を解釈するパイプラインである。
私たちのパイプラインは、オブジェクト中心およびシーン中心モデルの一般的な解釈可能性モデルであるNetwork Dissectionにインスパイアされています。
論文 参考訳（メタデータ） (2021-08-23T18:52:47Z) - Generalisation in Neural Networks Does not Require Feature Overlap [3.162825695928202]
畳み込みアーキテクチャは2つのよく知られた課題に適用することによって制限を回避することを示す。
テストセットのパフォーマンスは、トレーニングデータに存在しない機能に一般化する必要がある。
両課題における対称性の役割と一般化との関連について論じる。
論文 参考訳（メタデータ） (2021-07-04T09:23:49Z) - A neural anisotropic view of underspecification in deep learning [60.119023683371736]
ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。
深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
論文 参考訳（メタデータ） (2021-04-29T14:31:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。