論文の概要: Growing a Neural Network in Breadth, Depth, and Time

• arxiv url: http://arxiv.org/abs/2605.25174v1
• Date: Sun, 24 May 2026 17:11:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:18.941109
• Title: Growing a Neural Network in Breadth, Depth, and Time
• Title（参考訳）: ブレッドス、深さ、時間でニューラルネットワークを成長させる
• Authors: Eivinas Butkus, Kedar Garzón Gupta, Nikolaus Kriegeskorte,
• Abstract要約: 無限格子の有限部分集合として認識される再帰畳み込みニューラルネットワークにおいて、幅、深さ、時間の微分可能なコスト項を定義する。 3つのリソースはすべて、所定のレベルの精度を達成するために、相互に交換できることに気付きました。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Spatial and temporal resource constraints are critical for both biological and artificial intelligent systems. Here we define differentiable cost terms for breadth, depth, and time within a recurrent convolutional neural network conceived as a finite subset of an infinite lattice. We optimize these costs jointly with task errors via backpropagation. We set different pressures on breadth, depth, and time, which leads to diverse computational graphs emerging organically through training. We find that all three resources can be traded off against each other to achieve a given level of accuracy. Networks grow in all three dimensions with task complexity and spontaneously take more recurrent steps when inputs are occluded. Surprisingly, time used by the model correlates with human reaction times in an object recognition task. Our framework provides a normative account of how resource constraints shape neural architectures, connecting to questions about brain design in neuroscience, and may help illuminate the diversity of neural solutions found in nature.
• Abstract（参考訳）: 空間的資源制約と時間的資源制約は、生物学的および人工知能システムの両方にとって重要である。 ここでは、無限格子の有限部分集合として考え出された反復畳み込みニューラルネットワークにおいて、幅、深さ、時間の微分可能なコスト項を定義する。 バックプロパゲーションによるタスクエラーと共同でこれらのコストを最適化する。 私たちは、幅、深さ、時間に異なる圧力を設定し、トレーニングを通じて有機的に現れる多様な計算グラフを生み出します。 3つのリソースはすべて、所定のレベルの精度を達成するために、相互に交換できることに気付きました。 ネットワークは、タスクの複雑さを伴う3つの次元すべてで成長し、入力が無視されたときに、自発的により反復的なステップを取る。 驚くべきことに、モデルで使用される時間は、物体認識タスクにおける人間の反応時間と相関する。 私たちのフレームワークは、リソース制約が神経アーキテクチャをどのように形成するかを規範的に説明し、神経科学における脳設計に関する質問に接続し、自然界で見られるニューラルネットワークの多様性を照らすのに役立つかもしれない。

関連論文リスト

• Adapting to time: Why nature may have evolved a diverse set of neurons [5.024813922014977]
  我々は、異なるパラメータサブセットを一定に保ちながら、時間的複雑さの異なるタスクでニューラルネットワークを訓練した。 厳密なリソース制約の下で全てのテスト条件を解決するためには,遅延の適応が不可欠であることがわかった。
  論文  参考訳（メタデータ） (2024-04-22T16:38:38Z)
• ELiSe: Efficient Learning of Sequences in Structured Recurrent Networks [1.5931140598271163]
  局所的な常時オンおよび位相自由可塑性のみを用いて,効率的な学習シーケンスのモデルを構築した。 鳥の鳴き声学習のモックアップでELiSeの能力を実証し、パラメトリゼーションに関してその柔軟性を実証する。
  論文  参考訳（メタデータ） (2024-02-26T17:30:34Z)
• Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks [74.3099028063756]
  我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。 我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。 我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
  論文  参考訳（メタデータ） (2024-02-19T09:29:37Z)
• Addressing caveats of neural persistence with deep graph persistence [54.424983583720675]
  神経の持続性に影響を与える主な要因は,ネットワークの重みのばらつきと大きな重みの空間集中である。 単一層ではなく,ニューラルネットワーク全体へのニューラルネットワークの持続性に基づくフィルタリングの拡張を提案する。 これにより、ネットワーク内の永続的なパスを暗黙的に取り込み、分散に関連する問題を緩和するディープグラフの永続性測定が得られます。
  論文  参考訳（メタデータ） (2023-07-20T13:34:11Z)
• The Clock and the Pizza: Two Stories in Mechanistic Explanation of Neural Networks [59.26515696183751]
  ニューラルネットワークにおけるアルゴリズム発見は、時としてより複雑であることを示す。 単純な学習問題でさえ、驚くほど多様なソリューションを許容できることが示されています。
  論文  参考訳（メタデータ） (2023-06-30T17:59:13Z)
• Are Deep Neural Networks SMARTer than Second Graders? [85.60342335636341]
  6～8歳児を対象としたビジュオ言語パズルの解法において,ニューラルネットワークの抽象化,推論,一般化能力の評価を行った。 我々のデータセットは101のユニークなパズルで構成されており、各パズルは絵の質問で構成されており、それらの解には算術、代数学、空間推論を含むいくつかの基本的なスキルが混在している必要がある。 実験により、強力なディープモデルは教師付き設定でパズルに合理的な性能を与えるが、一般化のために解析するとランダムな精度よりは良くないことが明らかになった。
  論文  参考訳（メタデータ） (2022-12-20T04:33:32Z)
• Artificial Neural Variability for Deep Learning: On Overfitting, Noise Memorization, and Catastrophic Forgetting [135.0863818867184]
  人工ニューラルネットワーク(ANV)は、ニューラルネットワークが自然のニューラルネットワークからいくつかの利点を学ぶのに役立つ。 ANVは、トレーニングデータと学習モデルの間の相互情報の暗黙の正則化として機能する。 過度にフィットし、ノイズの記憶をラベル付けし、無視できるコストで破滅的な忘れを効果的に軽減することができる。
  論文  参考訳（メタデータ） (2020-11-12T06:06:33Z)
• A multi-agent model for growing spiking neural networks [0.0]
  このプロジェクトでは、学習メカニズムとして、スパイキングニューラルネットワークのニューロン間の接続を拡大するためのルールについて検討している。 シミュレーション環境での結果は、与えられたパラメータセットに対して、テストされた関数を再現するトポロジに到達可能であることを示した。 このプロジェクトはまた、モデルパラメーターに最適な値を得るために、遺伝的アルゴリズムのようなテクニックを使用するための扉を開く。
  論文  参考訳（メタデータ） (2020-09-21T15:11:29Z)
• A Deep 2-Dimensional Dynamical Spiking Neuronal Network for Temporal Encoding trained with STDP [10.982390333064536]
  哺乳動物の大脳皮質を模倣する動的・カオス的な活動を持つ大きな層状SNNは、時間的データから情報を符号化することができることを示す。 ネットワーク重みに固有のランダム性は、STDPによる自己組織化後に入力される時間データを符号化するグループを形成することができると主張している。 情報伝達の指標として,ネットワークエントロピーの観点からネットワークを解析する。
  論文  参考訳（メタデータ） (2020-09-01T17:12:18Z)
• Exploring weight initialization, diversity of solutions, and degradation in recurrent neural networks trained for temporal and decision-making tasks [0.0]
  リカレントニューラルネットワーク(Recurrent Neural Networks, RNN)は、脳機能と構造をモデル化するために頻繁に使用される。 本研究では,時間変化刺激による時間・流れ制御タスクを行うために,小型完全接続型RNNを訓練した。
  論文  参考訳（メタデータ） (2019-06-03T21:56:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。