論文の概要: Disentangling with Biological Constraints: A Theory of Functional Cell Types

• arxiv url: http://arxiv.org/abs/2210.01768v1
• Date: Fri, 30 Sep 2022 14:27:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-05 13:23:45.747682
• Title: Disentangling with Biological Constraints: A Theory of Functional Cell Types
• Title（参考訳）: 生物学的制約との相違:機能細胞型の理論
• Authors: James C.R. Whittington, Will Dorrell, Surya Ganguli, Timothy E.J. Behrens
• Abstract要約: この研究は、なぜ、いつ、どのように神経細胞が脳と機械の両方の要因を表現するのかを数学的に理解する。 これは、タスクがニューラル表現をどのように構成するかを理解するための第一歩である。
• 参考スコア（独自算出の注目度）: 20.929056085868613
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neurons in the brain are often finely tuned for specific task variables. Moreover, such disentangled representations are highly sought after in machine learning. Here we mathematically prove that simple biological constraints on neurons, namely nonnegativity and energy efficiency in both activity and weights, promote such sought after disentangled representations by enforcing neurons to become selective for single factors of task variation. We demonstrate these constraints lead to disentangling in a variety of tasks and architectures, including variational autoencoders. We also use this theory to explain why the brain partitions its cells into distinct cell types such as grid and object-vector cells, and also explain when the brain instead entangles representations in response to entangled task factors. Overall, this work provides a mathematical understanding of why, when, and how neurons represent factors in both brains and machines, and is a first step towards understanding of how task demands structure neural representations.
• Abstract（参考訳）: 脳内のニューロンは、特定のタスク変数に対して微調整されることが多い。 さらに、このような非絡み合った表現は、機械学習の後に強く求められている。 ここでは,ニューロンに対する単純な生物学的制約,すなわち,活動量と重みの両面での非負性性とエネルギー効率が,ニューロンを強制的に介在させ,タスク変動の単一要因に選択的に作用させることによって,絡み合った表現の追求を促進することを数学的に証明する。 これらの制約が,多種多様なタスクやアーキテクチャ,例えば変分オートエンコーダの混乱につながることを実証する。 また、この理論を用いて、なぜ脳がその細胞をグリッドやオブジェクトベクトル細胞のような異なる細胞タイプに分割するのかを説明し、また、脳が、絡み合ったタスクファクターに応答して表現を絡み合うのかを説明する。 全体として、この研究は、脳と機械の両方においてニューロンがなぜ、いつ、どのように因子を表すのかを数学的に理解し、タスクが神経表現をどのように構成するかを理解するための第一歩となる。

関連論文リスト

• Don't Cut Corners: Exact Conditions for Modularity in Biologically Inspired Representations [52.48094670415497]
  我々は、生物にインスパイアされた表現が、ソース変数(ソース)に関してモジュール化されるときの理論を開発する。 我々は、最適な生物学的にインスパイアされたリニアオートエンコーダのニューロンがモジュラー化されるかどうかを判断する情報源のサンプルに対して、必要かつ十分な条件を導出する。 我々の理論はどんなデータセットにも当てはまり、以前の研究で研究された統計的な独立性よりもはるかに長い。
  論文  参考訳（メタデータ） (2024-10-08T17:41:37Z)
• Brain-Inspired Machine Intelligence: A Survey of Neurobiologically-Plausible Credit Assignment [65.268245109828]
  本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。 我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。 本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
  論文  参考訳（メタデータ） (2023-12-01T05:20:57Z)
• A Goal-Driven Approach to Systems Neuroscience [2.6451153531057985]
  人間と動物は、動的環境において様々な興味深い行動を示す。 私たちの脳が、こうした行動を可能にするために、どのようにしてこの密集した感覚情報を積極的に再構築するかは不明です。 我々は、ニューラルサーキットの統一構造モデルと機能モデルを生み出すことを約束する新しい解釈可能性の定義を提供する。
  論文  参考訳（メタデータ） (2023-11-05T16:37:53Z)
• Single Biological Neurons as Temporally Precise Spatio-Temporal Pattern Recognizers [0.0]
  理論は、脳内の単一ニューロンは、時間的に非常に複雑な時間的パターン認識因子と見なされるべきという中心的な考え方に焦点を当てている。 第2章では、特定の時間的入力パターンに応答して、単一ニューロンが時間的に正確な出力パターンを生成できることを実証する。 第3章では、現実的な皮質ニューロンの識別可能な深部ネットワークを用いて、ニューロンの出力の影響を近似する。
  論文  参考訳（メタデータ） (2023-09-26T17:32:08Z)
• Neuronal Cell Type Classification using Deep Learning [3.3517146652431378]
  機械学習の最近の進歩は、ニューロンを分類する高度な能力を提供してきた。 本研究の目的は,脳の電気生理学的活動に基づいてニューロンを分類する,堅牢で説明可能なディープラーニングフレームワークを提供することである。
  論文  参考訳（メタデータ） (2023-06-01T10:28:49Z)
• Emergent Modularity in Pre-trained Transformers [127.08792763817496]
  モジュラリティの主な特徴は、ニューロンの機能的特殊化と機能に基づくニューロングループ化である。 事前学習中にモジュラリティがどのように出現するかを調べた結果,モジュール構造が早期に安定していることが判明した。 このことはトランスフォーマーがまずモジュラ構造を構築し、次にきめ細かいニューロン関数を学ぶことを示唆している。
  論文  参考訳（メタデータ） (2023-05-28T11:02:32Z)
• Constraints on the design of neuromorphic circuits set by the properties of neural population codes [61.15277741147157]
  脳内では、情報はコード化され、伝達され、行動を伝えるために使用される。 ニューロモルフィック回路は、脳内のニューロンの集団が使用するものと互換性のある方法で情報を符号化する必要がある。
  論文  参考訳（メタデータ） (2022-12-08T15:16:04Z)
• Logical Information Cells I [10.411800812671952]
  本研究では,単純な人工ネットワークにおける可視的不可視推論の自発的な評価について検討する。 まず、サルの自然ニューロンのDNNモデルを再現することから始める。 次に、述語論理を含む優先順位として、もう少し複雑なタスクについて研究する。
  論文  参考訳（メタデータ） (2021-08-10T15:31:26Z)
• Explanatory models in neuroscience: Part 2 -- constraint-based intelligibility [8.477619837043214]
  計算モデリングは神経科学においてますます重要な役割を担い、モデルがどのように説明するかという哲学的な疑問を浮き彫りにしている。 生物学的システムでは、これらの依存関係の多くは自然に「トップダウン」である NNモデルの構築に使用される最適化手法が,これらの依存関係のいくつかの重要な側面をいかに捉えているかを示す。
  論文  参考訳（メタデータ） (2021-04-03T22:14:01Z)
• The distribution of inhibitory neurons in the C. elegans connectome facilitates self-optimization of coordinated neural activity [78.15296214629433]
  線虫Caenorhabditis elegansの神経系は、昆虫のサイズが小さいにもかかわらず著しく複雑である。 一般的な課題は、システムレベルでの神経組織と神経活動の関係をよりよく理解することである。 我々は,各ニューロンの神経伝達物質同定を近似した,C. elegans Connectomeの抽象シミュレーションモデルを実装した。
  論文  参考訳（メタデータ） (2020-10-28T23:11:37Z)
• Compositional Explanations of Neurons [52.71742655312625]
  本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。 本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
  論文  参考訳（メタデータ） (2020-06-24T20:37:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。